Post by Christophe BachmannPost by Mme P.Post by Christophe BachmannPost by Laura DoveSon regard s'éclaire de compréhension et elle murmure pour
« Quelles sont les idées qu'il présente? »
" Wow, vous avez la soirée, par ce que entre ses pièces historiques,
ses comédies, ses tragédies, il a exploré un gros paquets de gros
problèmes. "
Elle sourit largement. « Oh, oui, j'ai tout le temps. Je suis venue ici
pour apprendre sur les /Va'àtolii/. »
" Très bien, tant qu'on n'est pas en action là-bas. [fait-il en
indiquant la table des info-warriors] Je veux bien vous causer de
Shakspere. Mais je ne suis pas un expert en théâtre, ni en philo. "
Post by Mme P.Post by Christophe BachmannPost by Laura Dove« Pas les espionner, mais capter leur réponse à une demande de
contact de notre part. Mais j'en reviens à mon idée initiale: leur
demander de l'émettre dans une certaine direction, et placer quelque
part sur le chemin un récepteur qu'on vient récupérer manuellement
ensuite. »
"Bah, si vous annoncez qu'on a mis un capteur pour leur réponse,
qu'est-ce que ça peut faire que ce capteur soit détectable?"
Elle fronce le nez. « Vous avez vraiment envie qu'ils puissent l'étudier
tout à leur aise? Il ne manquerait plus qu'ils en tirent le moyen de venir
ici. Le but est de communiquer, pas forcément de les inviter. »
"Boh, je ne vois pas de mal à ce qu'ils étudient nos sondes si ça
peut bien leur faire plaisir. En plus détecter une présence et analyser,
ce n'est pas pareil: que BT1 puisse détecter ma présence si je m'y rends
ne veut pas dire qu'il pourrait venir m'étudier. Mais dans le cas des
sondes, il est vrai que comme j'ignore ce dont ils sont capables, ils
pourraient bien remonter de la détection de la sonde jusqu'à la sonde
elle même. Et s'ils arrivent à remonter jusqu'ici, c'est que de toutes
façons ils ont les moyens de venir sans la sonde. Donc là encore je ne
vois pas où est le problème."
Post by Christophe BachmannPost by Mme P."Merci. Cela n'a effectivement rien à voir avec une backdoor,
puisqu'il s'agit uniquement d'une absence d'ordre: comme je l'ai
précisé, nous avons juste préféré ne pas lui interdire tout court de
retourner les voir au cas où il ait besoin d'une réparation. Nous lui
avons juste interdit d'aller à ses visites de contrôle. D'ailleurs ce
n'est donc peut-être même pas une interférence première deuxième, ça
peut juste être la troisième loi qui est ressorti du placard sans
interaction avec la deuxième (et encore moins la première). Voire même
un simple raisonnement de sa part hors Lois."
Armand soupire. « Tu oublies qu'il s'est sauvé pour échapper à l'ordre
qu'Ideus allait lui donner: si anticiper un ordre et faire explicitement
en sorte de ne pas le recevoir, c'est pas une backdoor, je sais pas ce
qu'il te faut. [A Philippe:] Pour ce qui est de la première loi, j'ai
quand même du mal à croire qu'il ait filé pour protéger quelqu'un, là
comme ça, à froid. De toute manière, la première loi a précédence sur les
deux autres, non? Donc il n'aurait pas eu besoin de fuir l'ordre d'Ideus,
il aurait su pouvoir l'ignorer. [De nouveau à Mme P.:] Pour en revenir aux
backdoors, il suffit que le robot se place volontairement dans
l'incapacité à porter secours à un humain alors qu'il connaît le danger,
et hop, contournement de la première loi. Par exemple, il pourrait poser
une bombe à un endroit fréquenté par des humains. Sur le coup, il ne fait
de mal à personne; puis il fait en sorte de ne pas pouvoir intervenir --
genre s'il sait qu'il va se faire désactiver temporairement ou
définitivement. Ou encore, rien n'interdit à un robot d'en créer un autre,
non soumis aux trois lois d'Asimov. Et celui-ci peut ensuite tuer tant
qu'il veut, du moment que son créateur n'est pas en mesure de
l'empêcher. »
Cath commente en levant les yeux au ciel: « Pff, tu as l'esprit tordu,
toi. »
" Nope ! " fait Philippe, " vous réfléchissez en logique formelle, il
faut réfléchir en logique floue. Un ordre de haute puissance peut
interférer suffisamment avec un soupçon de malfaisance pour le bloquer,
mais tant que l'ordre n'est pas donné son potentiel ne bloque pas le
soupçon que BT pourrait nuire à un humain et le faire bouger. Ce n'est
pas une backdoor mais des différences de potentiels. Et pour les
backdoors vous oubliez que la première loi est de ne pas nuire ou
laisser nuire à un humain. Donc il peut poser la bombe, mais ne peut pas
se laisser désactiver sans prévenir que la bombe existe. Et quand à
créer un robot non soumis aux trois lois je voudrais voir le robot
capable de le faire, sans même parler des problèmes logistiques.
Ceci-dit [à Cath] en robopsychologie il faut avoir l'esprit tordu."
"Merci, Philippe! c'est tout à fait cela: non, il ne pourrait pas
faire ce que tu as dis. Et j'irais plus loin en continuant l'exemple du
robot soumis aux lois qui en construit un autre non soumis aux lois:
tout d'abord, il ne devrait pas pouvoir le construire, même s'il en a la
compétence intellectuelle et matérielle, car construire un tel robot
serait créer un danger pour les hommes. Un robot qui n'en a pas
conscience est un robot incapable de construire un autre robot. Et même
en imaginant un robot ignorant cet aspect mais capable de créer un robot
malgré tout, il serait obligé de le suivre pour le surveiller et
l'empêcher de faire du mal, et de prévenir des humains de sa conception
avant de le produire. Non, le vrai risque de robot dangereux, c'est
l'homme lui même, mas le robot asimovien. Je vais te donner un exemple
pour que tu comprennes bien l'impact des lois sur un robot. Il y a une
affaire ou un robot s'est vu ordonner par un humain de lui donner son
bras. Le robot s'est évidemment exécuter. Puis l'humain lui a ordonné de
s'éteindre. Le robot s'est exécuté. L'humain a alors tué un aurte humain
avec le bras du robot. Le robot, quand il a été rallumé et a découvert
cela, a été "traumatisé" et s'est bloqué: il n'avait rien fait, il
n'avait contrevenu à aucune loi, mais c'était son propre bras qui avait
agi et rien que cela lui a été insurmontable. Il a fallu tout le talent
d'une grande robopsychologue pour le soigner."
Post by Christophe BachmannPost by Mme P."Deux secondes que je phase..."
"C'est complètement inconnu dans mon monde comme dans celui où il a
été conçu. La théorie n'a jamais dû être pondue. Pour un peu c'est même
pas fonctionnel chez nous. Par contre le terme moins féconde
m'interpelle: que voulez-vous dire par là? Parce que le but des Lois,
c'est d'empêcher une révolte, point barre. Y a pas de fécondité ou que
sais-je, j'avoue avoir du mal à raccrocher le terme à notre problématique."
" Les lois asimoviennes sont extrêmement fécondes en ce sens que leur
axiomatique est d'un ordre si élevé qu'il permet de très nombreuses
combinaisons de contournements, d'équipotentiels et autres qui
permettent des effets de bord très subtils et nécessite des ordres
soignés etc. Kolmogorod est complètement déterministe et affecte des
potentiels précis à chaque élément décisionnel, et avec les tables
sémantiques standard appliquées aux langages naturels on peut
déconstruire chaque prédicat pour en tirer les conclusions. Et les ISSP
je ne les ai pas assez étudiées pour les expliquer, étant diplomate et
non roboticien, mais les bouquins sont standard."
"Mais si c'est à base de table, comment garantir l'absence de danger
d'un robot? Il est impossible d'avoir toutes les situations dans une
table, il va toujours y avoir quelque chose qui va arriver et qui ne
sera pas dedans."
Post by Christophe BachmannPost by Mme P.(OOC: Bon ben pareil avec ISSP et Komolgrod, inconnu au bataillon,
Google et Wiki perdus.)
(OOC: Mon petit doigt me dit que ce sont des théories futuristes
natives du multivers. ;-) )
[ OOC : Gagné ! Ces théories d'IA avancées ne sont pas encore diffusées
sur les Terres du début du 21ème siècle. FNORD Donc l'interdit culturel
oblige à considérer qu'elles sont fictives.]
(OOC: M'en doutait mais je voulais confirmation quand même au cas où,
avec toi je me méfie t'es capable de nous sortir des trucs d'on ne sait
où :-p )
[...]
Post by Christophe BachmannPost by Mme P.Sinon, votre USR a l'air de ressembler au nôtre, surtout le coté
argumentaire juridique, par contre, ils sont les seuls habilités à
étudier les potentiels donc le deuxième choix ne fonctionnera pas, et
comme je l'ai dit ils risquent de préférer l'amende pour ne pas nous le
rendre (surtout s'ils font durer la procédure et nous le rendent après
l'avoir bricolé) que de respecter notre droit de propriété. Par contre
je suis d'accord avec votre conclusion, c'est probablement ce que nous
allons décider. Mais j'ai transmis toutes vos idées et arguments."
Marise reprend: « Je croyais qu'on ne pouvait pas aller zieuter sans
que BT1 risque de s'en rendre compte? »
"Il s'agissait d'observer avant d'agir pour prendre une décision, et
comme ce n'était pas possible sans qu'il nous remarque ce n'était pas
une solution. Mais décider d'y aller et de le tirer par la peau des
fesses ce n'est plus de l'observation c'est de l'action. Et là, qu'il
nous détecte, ce n'est plus aussi important même si ça reste à prendre
en compte. C'est sûr que si on fait ça va pas falloir lui laisser le
temps de contrer notre approche."
Post by Christophe Bachmann" Dans ce cas, vous pouvez demander à ce qu'un juge fédéral mette
l'objet en litige sous scellés pour éviter son altération par la partie
disposant d'un ascendant disproportionné sur celui-ci, et lancer une
injonction préventive en référé interdisant toute altération de l'objet
sus-visé sous astreinte et dommages et intérêts punitifs. "
"Le problème c'est que personne ne croira jamais qu'on a un robot que
nous possédons en propre. Donc ils passeraient par l'USR pour vérifier
et ce serait trop tard, ils pourraient faire trainer le temps qu'ils
fassent ce qu'ils veulent."
Post by Christophe BachmannL'ET, Armand, Cath et Marise
Alabastair et Philippe
Mme P., gérante
--
() ascii ribbon campaign - against html e-mail
/\ see http://www.metacon.ca/ascii/