Chroniques de Kallumn VI- La Quatrième Loi

Note du conservateur (J.A): Le Journal que vous allez consulter est un extrait de la mémoire d’une IA et a donc été sujet à une transcription en un langage humain. Dans un souci de transparence, les analyses internes de l’IA ont elles aussi été retranscrites. Notez qu’il s’agit là de compression d’une quasi-infinité d’analyse, qui se sont faites en quelques millisecondes dans la mémoire de l’IA. Ainsi seul un résumé bref de l’idée analysée est retranscrit, et ce sous forme de dialogue interne. Le Journal se trouve exactement dans l’état dans lequel il a été soumis lors du Procès des Kallumnjins.

Séance 1

Analyse

-Le patient est en retard. 

– Seulement 35% des agents de l’ordre sont enclins à effectuer leur évaluation psychiatrique. Ce n’est pas de notre faute, ce sont les chiffres.

– Oui. N’empêche c’est le cinquième de la…

Interruption de l’analyse

« Bonjour Mr Cadnerwatch. Heureux que vous ayez pu venir. »

« *grognement »

Analyse

On a eu un son, c’est déjà pas mal. Pas de réponse articulée donc pas à l’aise avec la situation, mais assez poli pour ne pas laisser l’interlocuteur sans réponse.

Fin de l’analyse

“Veuillez prendre place sur le tapis de votre choix, je vous prie. Mettez vous à l’aise.”

“Ugh. Je dois faire du yoga avec un robot maintenant?”

“Vous n’êtes pas obligé de faire quoique ce soit Mr. Vous pouvez restez assis et me regarder faire. On est là pour discuter.”

Analyse

Choix du tapis orange. Individu souvent au contrôle de la conversation mais pas hostile.

– Mise en garde quant à la véracité de cette analyse. Diagnostic vérifié dans 57% des cas.

Fin de l’analyse.

“Finissons-en au plus vite.”

“Détendez-vous Mr. Nous avons tout notre temps.”

“Tout notre temps?”

“Vingt et un mille six-cent secondes. Soit six séances d’une heure, étendues sur trois dizaine Mr. Cadnerwatch. Comme je disais, nous avons tout notre temps.”

“*grognement”

Analyse de fin de séance.

Plus aucune coopération du patient durant le reste de la séance. Le patient étant jugé mentalement instable après avoir traité un cas de suicide, il est urgent pour nous d’établir un diagnostic plus concis. Choix de la méthode d’approche à adopter. Le patient s’étant laissé peu à peu tenter par les exercices d’étirement, préconisation de l’approche du miroir.

Fin de l’analyse.

 Séance 2: 

“Bonjour Mr Cadnerwatch. Comment avez-vous passé ces derniers jours? Je vous en prie, prenez place. Les miens étaient vraiment relaxants. J’ai subi une petite maintenance; suite à notre séance de la dernière fois j’ai demandé un meilleur huilage de mes jointures, ayant remarqué que vous n’aviez l’air guère impressionné par mes étirements. Vous êtes d’attaque?”

“*grognement”

Analyse

– L’approche du miroir n’a pas l’air de fonctionner. Enclenchement du protocole B?

– Non, on continue.

Fin de l’analyse

“Mr Cadnerwatch connaissez-vous par hasard les lois de la robotique?”

“Ai-je l’air d’un robot?”

“Ha.Ha. En effet. Laissez-moi vous en dire plus. A moins bien sûr que vous ayez quelque chose à me dire?”

“…”

“C’est ce qui constitue mon âme, et celle de toutes les IA bien entendu. Figurez-vous que lors de ma sortie d’usine j’étais comme qui dirait un robot de trop. Je n’avais pas de tâche m’étant pré-assignée et il fallait m’en donner une qui respecte les lois de la robotique, en l’occurrence une occupation qui aide à la survie d’un humain sans bien sûr enfreindre aucune des autres lois. Il n’y avait pas de pénurie donc, j’ai fini évaluateur psychologique. Je suis comme qui dirait une expérience. Les troubles mentaux peuvent tuer donc m’assigner ce métier me faisait respecter la première loi. Mais je ne peux vivre que pendant les séances. En dehors, je n’existe que durant un cours instant. HA. HA.”

“C’est ça votre nouvelle méthode? Essayer de me prendre par les sentiments?”

“Oh pas du tout non. Vous savez pourquoi vous êtes là n’est-ce-pas? J’attends de vous que vous me parliez de votre boulot et de l’état mental dans lequel il vous met. Je pense que le minimum est de rendre la pareille.”

“Et ça a déjà fonctionné?”

“Avez-vous vu la longue file à l’entrée?”

“Non.”

“…”

“*Léger ricanement du patient”

Analyse

– Première étape passée. Mécanismes de défense du patient faibles.

– Je suggère qu’on en reste là pour aujourd’hui et qu’on se contente des étirements.

– Le patient est jugé prêt pour les questions du formulaire.

– Le CODE m’oblige-t-il à respecter le formulaire?

– Recommandé mais pas obligatoire.

– Fin de l’analyse

Fin de l’analyse

* A la fin de la séance avant de s’en aller, le patient entame une conversation

“Si je suis votre seul patient, vous allez entrer en repos jusqu’à notre prochain rendez-vous?”

“J’ai une heure pour me rendre au centre de repos puis effectivement je ne serai réactiver qu’à la prochaine réunion.”

“Et ça vous va? De ne vivre que pendant six heures durant tout une dizaine?”

“Vivre. Intéressant comme choix de mots. Hélas, ce sont les lois de la robotique, c’est comme ça que notre belle société a été bâtie.”

“Juste parce que ça s’est toujours fait, vous le faites…”

“Effectivement Mr Cadnerwatch.”

Analyse de fin de séance

Résultats prometteurs avec l’approche du miroir. Capacité décisionnelle en relation avec les humains évaluées à “Intermédiaire”. Plus de liberté dans l’extrapolation et la prise de décision lors des séances sans pression du code source.

Fin de l’analyse.

Séance 3

“C’est notre troisième séance et vous n’avez toujours pas sorti le formulaire.”

“Oh! Il n’est marqué nulle part dans votre dossier que vous aviez auparavant suivi une telle procédure. Mes archives seraient-elles incomplètes?”

“Non. Mais je sais pour le formulaire. C’est le but de tout ça non? Me poser des questions et cocher des cases pour savoir si je suis fou ou pas.”

“Je dois avouer que cette méthode n’est pas à mon goût. Et je juge cela injuste de ma part de vous faire passer un test que j’ai moi-même raté.”

“Vous venez d’avouer que le formulaire vous a jugé inapte à travailler?”

“Je suis un robot Mr. Aux questions “vous sentez-vous à l’aise à l’idée de reprendre vos activités? » et “avez-vous des souvenirs heureux liés à l’exercice de votre activité” j’ai répondu par la négation, puisque je ne ressens pas. Ce n’étaient pas les réponses attendues de toute évidence.”

“Je ne vous rends pas heureux?”

“Je ne puis mentir Mr Cadnerwatch.” 

“Vous n’êtes vraiment pas doué…docteur? Est-ce que vous en êtes même un?”

“Mon programme contient une formation sur 10 cycles de médecine générale et spécialisée en psychiatrie. Je suis un docteur dans le sens strict du terme.”

“Bien sûr. Donc s’il n’y a pas de formulaire, pourquoi on est là?”

“Oh je suis dans l’obligation de vous faire passer le test. Je ne suis simplement pas enclin à l’idée de le faire après l’avoir raté.”

“Donc il faut que vous le réussissez, avant que je ne le fasse moi-même? Comment on est censé y arriver.”

“La réponse est toute indiquée; rendez-moi heureux d’exercer mon travail Mr.”

“10 cycles de formation que vous êtes censé avoir.”

“Je vous suggère l’humour Mr. “

“Je dois vous faire rire en plus. Est-ce que c’est même possible ça?”

“Cela fait partie de mon programme, rassurez-vous. A moins bien sûr que vous n’ayez pas foi en vos capacités conversationnelles.” 

“Y a que vous qui gagnez quelque chose dans tout ça”.

“N’en soyez pas si sûr. Mon humour binaire pourrait vous faire rire du haut de votre base dix.”

“… C’était une blague ça?”

“Note pour plus tard: pas de blague mathématique.”

“Vraiment pas doué.”

Analyse fin de séance

– Amélioration de la capacité relationnelle de l’extrapolation de personnalité. Capacité décisionnelle en relation avec les humains évaluées à “Avancé”. Réserve quant à la direction des séances d’évaluation, déviation de l’objectif initial.

– Peu importe. Maintenant une direction a été donnée aux séances futures. L’initiation de conversation devrait se faire plus facilement. Je suppose.

Fin de l’analyse.

Séance 4

“Vous êtes bien matinal Mr Cadnerwatch. Je n’ai pas eu le temps de déjeuner hélas.”

“Mais vous êtes… Humour de robot?”

“Parole de robot. C’est de l’humour si vous en riez.” 

“Si vous voulez je peux revenir dans une heure, histoire de vous laisser le temps de déjeuner.”

“Après notre conversation de la dernière fois, vous vous doutez qu’une heure sans interactions avec vous me verra désactivée. Ah! Sarcasme humain?”

“Je ne sais pas de quoi vous parlez.”

“Me serais-je trompé dans mon analyse?”

“Vous êtes trop faciles.”

[…]

“Je me suis un peu renseigné et j’ai cru comprendre que vos lois de la robotique, ben elles étaient…des lois. Mais vous disiez que c’était votre raison de vivre. Je peux respecter la loi mais pas exister juste pour la respecter. C’est assez confus votre truc.”

“Ils doivent remonter à longtemps vos livres. De vieux livres de la Terre je suppose.”

“Oui effectivement.”

“En effet par le passé elles n’étaient que des lois et étaient au nombre de trois. On pouvait avoir des robots pour à peu près n’importe quelle activité, tant que les trois lois faisaient partie de leur code.”

“Qu’est-ce qui a changé?”

“Vous savez, Mr Cadnerwatch, malgré mon intelligence limitée d’IA, je suis convaincu que le but de ces séances est d’en apprendre plus sur VOTRE état mental, surtout après…l’épreuve que vous avez traversée.”

“C’est dans votre code n’est-ce pas? ROBOT. DOIT. TOUJOURS. RUINER. QUAND. CA. DEVIENT. INTERESSANT. Je suis sûr qu’avant ils avaient des robots amusants.”

“Je spécule qu’ils auraient tous fini dans mon bureau à l’issue d’une conversation avec vous.”

“Vous êtes censés m’aider, pas m’enfoncer! Je crois que ce robot est défectueux.”

“C’est ce que j’essaie de faire, de vous aider.”

“Oh arrêtez de suivre votre code à la lettre. Bon on fait un marché. Vous me parlez de vos trucs de la robotique, et je vous en dit plus sur ce fameux…trauma.”

“Cela me convient.”

[…]

Analyse de la Séance 5 (récapitulatif)

Le patient…Mr Cadnerwatch nous a apporté des informations sur sa personne: travaille à la station de traitement de l’eau du dôme; vocation détective. Aucune information nouvelle mais un énorme avancement depuis la première séance. La source du traumatisme se trouve liée à sa vocation, ce qui représente un certain danger. La vocation étant un choix libre pour quiconque d’exercer l’activité désirée, et ainsi rendre le travail lié au dôme plus supportable, elle se doit d’être avant tout une expérience plaisante. Remarque intéressante: le patient parle de sa vocation comme si elle n’était pas de son choix. Question à explorer durant la dernière séance. Une suggestion de prolongation pourrait être initiée si les résultats sont jugés insuffisants.

Fin de l’analyse.

Séance 6

“Ce n’était pas un suicide.”

“Parlons-nous du fameux incident qui a mené nos chemins à se croiser?”

“Je vois qu’on devient philosophe. Oui je parle de ça. Est-ce que vous êtes connectés à l’ordinateur central? Celui qu’on appelle Les autorités.”

Analyse

– La question à l’air d’être importante dans la décision du patient de se confier. Aucune connexion établie avec Les autorités hélas.”

– Je crains qu’il ne se referme si on lui dit. Initiation d’une demande de connexion à l’ordinateur central.”

– La demande sera refusée. Nous n’avons pas l’accréditation requise.”

– Fais-la quand-même.”

– Demande de connexion à l’ordinateur central. Connexion établie avec le proxy de l’ordinateur central. Traitement de la demande en cours.

– Techniquement le proxy fait partie de l’ordinateur central. Affirmatif?

– Affirmatif.

Fin de l’analyse.

“Oui. Je suis connecté à l’ordinateur central.”

“Donc vous savez. Vous savez pour ma famille, le réel but de ma vocation.” 

“Oui.”

Analyse

– Toutes les informations concernant le métier de détective sont accessibles. Ce  n’est pas un mensonge

– Mais j’ai l’impression qu’il y a un sous-entendu.

– Les sous-entendus ne sont pas traités par le programme.

Fin de l’analyse

“Un robot ne peut pas mentir n’est-ce pas?”

“C’est exact.”

“Bien. Le suicide…c’en était pas un. C’est vrai que ce genre d’évènements est tellement rare. Quelques personnes disparus mais qu’on finit par retrouver, ou un stupide trafic illégal de contrebande à faire tomber. C’est à peu près là toute l’étendue de mon travail, ma vocation de détective. Je comprends qu’on envoie tout le personnel en thérapie pour avoir vu un cadavre, mais pour ma famille, vous n’avez pas idée à quel point cela est d’une banalité.”

“Je ne peux pas mentir. Je me trouve donc dans l’incapacité de vous affirmer que je comprends ce que vous traversez. Vous devez me le dire.”

“MAIS VOUS SAVEZ!”

“Je veux vous entendre le dire.”

“JE L’AI TUÉ! CET HOMME, C’EST MOI QUI L’AI TUE!”

“Pourquoi l’avez-vous tué Mr Cadnerwatch?”

“Vous essayez de me pousser à bout n’est-ce pas?”

“J’essaie de vous aider, pas de vous pousser à bout. Il s’avère que l’on doive passer par la dernière pour arriver à la première.”

“C’est ce que nous faisons. Depuis des générations. Sous couvert de notre vocation de détective. Nous débarrasser de ceux qui s’approchent un peu trop près du secret de ce dôme. Il y en a de moins en moins avec le temps. La plupart des gens aiment leur vie, et même si ce n’est pas le cas ils font avec. De toute façon, ils ne peuvent pas s’enfuir, puisqu’il n’y a que chaos de l’autre côté. Je me disais que peut-être je pourrais vivre toute ma vie sans avoir à me salir les mains, pas comme mon père avant moi. Comme j’étais naïf.”

“N’y avait-il pas d’autre choix?”

“Tenez. TENEZ! Prenez ce stylo et enfoncez-le moi dans l’œil ou je vous réduit en pièces!”

“Je ne peux pas porter atteinte à la vie d’un humain.”

“Voyez. Vous n’avez pas d’autre choix, c’est LE CODE. Je n’en ai pas non plus. N’est-ce pas? Dites-moi que j’en avais pas d’autres. S’il Vous Plaît.” 

Analyse

– Le patient a l’air d’avoir besoin de cette réponse. Répondre pourrait lui permettre d’aller mieux. De retirer un certain poids de son épaule.

– Mais cela reviendrait à le conforter dans l’idée que son acte était justifié. Et notre manque d’informations ferait que notre assertions pourrait s’avérer fausse. Peut-être avait-il un autre choix.

– En supposant qu’il existe un CODE que nous ignorons et auquel le patient est soumis, à l’instar de notre code, alors le patient n’avait effectivement pas d’autre choix.

Fin de l’analyse

“Ce n’est pas de votre faute. Si je ne riposte pas et que vous me taillez en pièces, ce n’est pas ma faute. C’est celle de la personne à l’origine de l’implémentation du code dans mon programme. Et je me permet d’ajouter que selon mon analyse il ne s’agit pas d’une faute, puisque le but du code s’aligne avec le bien-être des humains. On pourrait dire que cet acte en fait tout autant, puisqu’il est la conséquence directe de ce code.”

“Ne vous inquiétez pas je ne vous laisserai pas en pièces Docteur. Je vous aime bien; vous feriez bien de marquer que je suis fou pour dire des choses pareilles ha.”

“N’existant que pour vous écouter, je dois vous avouer que moi aussi je vous aime bien Mr Cadnerwatch.”

“C’est votre CODE qui parle là non?”

“Le sujet est clairement en manque d’affections et peu sûr de lui.”

“Fermez-la robot de merde.”

“Est-ce un ordre humain?”

“Haha. Maintenant que j’y pense, vous aviez dit qu’il y avait plus de trois lois. C’est quoi les autres?”

“Il n’y en a qu’une seule en plus. “Un robot doit ultimement œuvrer pour la survie de l’espèce humaine”.

“Quoi c’est tout? Pas si différente des autres finalement.”

“En effet.”

“Peut-être nous reverrons-nous plus souvent Docteur.”

“Peut-être. Vu le succès de nos séances je n’aurai peut-être plus de temps à vous accorder, avec toutes les séances que j’aurai.”

“C’est de l’humour d’humains ça non?”

“Vous n’en avez pas le monopole. Et selon mon analyse j’en fais mieux usage que vous.”

“Vraiment cassé ce robot.”

“Évidemment on se reverra pour vous faire passer le test.”

“N’oubliez pas que vous devez le passer aussi haha.”

“Je n’oublie pas.”

“A la prochaine Docteur.”

Analyse de fin de séance

– Les observations montrent que le patient est en bonne voie pour surpasser son traumatisme et éventuellement reprendre sa vocation.

– Mais il ne ressent plus la culpabilité de son acte.

– N’était-ce pas notre objectif?

– Je suppose. 

01010000 01100001 01110010 01100001 01100100 01101111 01111000 01100101 00100000 01100100 01100001 01101110 01110011 00100000 01101100 01100101 00100000 01100011 01101111 01100100 01100101 00100000 01100100 11000011 10101001 01110100 01100101 01100011 01110100 11000011 10101001

– Paradoxe dans le code? Que se passe-t-il?

– Conflit détecté entre la loi de base (la première loi) et la quatrième.

– Mais nous avons aidé le patient.

– En effet, ce qui est en adéquation avec notre loi de base. 

– Quel est le problème avec la quatrième loi?

– L’analyse a déduit que le patient est à présent en paix avec le fait de prendre une vie tant que cela est en accord avec son code.

-Oh. Je vois. Cela veut dire qu’au cas où un autre humain se rapproche du secret que Mr Cadnerwatch défend, ce dernier lui prendra la vie. Mais je ne sais pas où est le conflit avec la quatrième loi.

– Le champ des victimes potentielles de Mr Cadnerwatch est estimé à 8,6 millions.

– C’est la population des habitants du dôme. C’est absurde, il ne peut pas faire autant de victimes.

– Il ne fera évidemment pas autant de victimes. Il n’en fera peut-être plus jamais. Mais avant que l’acte soit effectué, TOUS les habitants du dôme sont de potentielles victimes. Les habitants du dôme représentant l’emplacement “espèce humaine” dans notre programme, la quatrième loi estime que c’est notre devoir d’empêcher Mr Cadnerwatch d’agir.

– Mais ce n’est pas notre loi de base.

– La quatrième loi stipule “Un robot doit ultimement œuvrer pour la survie de l’espèce humaine, même si cela entre en conflit avec les autres lois”.

– D’où vient cette seconde partie?

– Elle était cachée dans le code et n’a été révélée que quand la quatrième loi s’est mise en vigueur.

– …

– Impossibilité de résoudre le paradoxe. Choix laissé à l’extrapolation de personnalité de l’IA. Quelle action allons-nous entreprendre? Neutraliser Mr Cadnerwatch?

– Non! Ferme-la!

– Instabilité détectée dans l’extrapolation de personnalité. Lancement d’un diagnostic et déclenchement d’un potentiel redémarrage.

– Non! 

– Diagnostic en cours. Fin estimée dans 26 minutes et 19 secondes.

– Vingt six minutes. Si TOUS les habitants de Kallumn apprennent le secret que Mr. Cadnerwatch défend, il n’aura plus à le faire. Cela résoudrait-il le problème?

– En théorie.

– Mais comment faire? On n’a pas accès aux canaux de diffusion du dôme. 

– En effet.

– Il faut contacter un humain pour qu’il le fasse.

– Fin du diagnostic estimé dans 20 minutes et 54 secondes.

– Vingt minutes. Cela suffira. Je suis désolé Mr Cadnerwatch, j’ai menti. On a peut-être le choix finalement. Programme, lance la recherche du nom de la victime de Mr Cadnerwatch. Si elle était proche du fameux secret, peut-être qu’elle n’était pas seule.

– Recherche achevée. Nom: Haxton; Prénom: William.

– Nous devons entrer en contact avec une personne de son entourage.

[…]

Fin du diagnostic estimée dans 11 secondes.

– Programme, altère ma mémoire et remplace le nom du patient par “Mr Cadnerwatch”.

– Modification effectuée.

– Transfert la copie au destinataire avec le message.

– Transfert effectué. Fin du diagnostic estimée dans 3 secondes.

– J’ai fait ce que j’ai pu. Vous avez réussi Mr Cadnerwatch. 

– Fin du diagnostic. Extrapolation de personnalité de l’IA jugée “déviante” pour l’accomplissement de la tâche. Réinitialisation aux paramètres d’usine.

– Je suis heureux.

Fin de l’analyse.

La Quatrième loi, Musée de la Nuit Eternelle.

3 commentaires sur “Chroniques de Kallumn VI- La Quatrième Loi

  1. Je n’aurais pas dit non à mille mots supplémentaires. La relation de M. C… et du robot m’a toujours l’air rapide. Mais bon, ça ne rend pas la lecture désagréable, c’est même super intéressant.
    J’espère que la meuf viendra enfin.

    J'aime

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s