-Hommage à Isaac Asimov- Les Trois Lois de la Robotique :   Première Loi : " Un robot ne peut nuire à un être humain ni laisser sans assistance un être humain en danger. " Deuxième Loi : " Un robot doit obéir aux ordres qui lui sont donnés par les êtres humains, sauf quand ces ordres sont incompatibles avec la Première Loi." Troisième Loi : " Un robot doit protéger sa propre existence tant que cette protection n'est pas incompatible avec la Première ou la Deuxième Loi." C'est sur ces trois lois que toute la robotique intelligente fut conçue. Lois qui avaient été inventées par l'écrivain et scientifique Isaac Asimov au milieu du XXème siècle. Nous n'étions pas si loin des robots imaginés par Isaac Asimov et qui ressemblaient à des humains. Bien qu'ayant une intelligence artificielle, celle-ci était si vraie que le terme artificiel me gênait. Je m'appelle William, Docteur William. Mon travail est proche du travail de Susan Calvin dans les romans de science-fiction d'Isaac Asimov. Je travaillais à la Fondation Asimov depuis le printemps 70. Quand je dis 70, je devrai dire 2070. Toutes nos industries, nos hôpitaux, nos commerces, nos petits ateliers, nos foyers possédaient des robots. Du plus banal au plus intelligent. Mon travail consistait à comprendre pourquoi un robot avait failli à sa tâche ou pour quelle raison il avait fait un acte qui aurait pu être en opposition avec les Trois Lois de la Robotique. J'avais du mal à me définir. Flic ou  médecin, ou encore juge, il est difficile d'expliquer ce que je ressentais en faisant mon travail. J'étais un flic car je devais enquêter quand il y avait un désordre robotique, un médecin quand il fallait faire de la psychologie approfondie, un juge quand il fallait prendre la décision de détruire un robot, une entité qui pensait et qui pouvait avoir des sentiments. Il est vrai que si quelques robots ne sont que de simples machines, certaines sont très complexes. Leur cerveau est si proche du nôtre que nous avons du mal à ne pas imaginer qu'ils puissent avoir des pensées propres et pourquoi pas une âme. Je sais ce que vous allez me dire. Je fais de l'anthropomorphisme. Tout comme dans l'ancien temps les gens le faisaient avec leurs animaux domestiques. La différence, avec les robots, était leur faculté de parler et quelques fois, à force de les écouter je pouvais percevoir dans leur propos des sentiments. Ils étaient vivants mais ils étaient différents de nous et il fallait que je prenne en compte toutes ces considérations pour clôturer un dossier. Les robots sont "bêtes et disciplinés". Ce n'est pas l'ordinateur qui fait des erreurs, c'est celui qui a introduit les données qui s'est trompé. Tout à mes rêveries, j'eus des difficultés à identifier la sonnerie du téléphone. - Docteur William ? - Oui, qui le demande ? - Je suis James 33, le surveillant-chef et on a besoin de vous à la centrale atomique. - Je viens. James 33 était un humain chargé de la surveillance des robots travaillants dans la centrale. La centrale, une ancienne construction du début du siècle est occupée à quatre-vingts pour-cent par des robots de niveaux différents. Cette centrale est obsolète et tous les politiques le savent. A chaque élection on nous promettait sa destruction, mais son faible coût de production, sa grande rentabilité et les intérêts des gros consortiums qui finançaient les publicités électorales repoussaient aux calendes grecques sa fin. J'arrivai devant le portail. Un vigile ressemblant plus à un tueur qu'à un enfant de coeur, contrôla mes papiers et me fit passer sous un portique électronique. James 33 vînt rapidement à ma rencontre. Il était très mal à l'aise. - C'est à propos du Sénateur. Je savais de qui il parlait. Cet homme aurait vendu sa propre mère et l'aurait livrée sans supplément pour accéder au Pouvoir. D'aucuns savaient qu'il avait des intérêts très important dans cette centrale. - Et que me veut Monsieur le Sénateur Haudebourg ? - Lui plus rien, mais les responsables de Rob-Inco veulent vous rencontrer à propos du Sénateur. James 33 était loin d'avoir l'intelligence des robots que je disséquais. Je ne comprenais rien à ses propos. - Qui veut me voir, le Sénateur ou les responsables de Rob- Inco ? - Les responsables de Rob-Inco à propos du Sénateur. S'il avait été un humanoïde de la dernière génération et pas un humain, je lui aurais soulevé la calotte crânienne pour lui changer la puce électronique défaillante. Comment un type comme lui pouvait s'occuper de la surveillance de robots vingt, cent fois plus intelligents que lui. J'entrais dans une grande pièce blanche et trop climatisée à mon goût. Plusieurs personnes étaient assises autour d'une grande table toute aussi blanche que les murs. Il y avait les responsables de la centrale, mais surtout les fabricants de robots. Ralph Sandor, le PDG de Rob-Inco se leva et se dirigea vers moi. Nous avions étudié ensemble et j'avais pour lui beaucoup d'estime. Il mesurait une tête de moins que moi mais je me sentais plus petit que lui quand il me parlait. - Willy, me dit-il, un de nos robots a tué sciemment un humain et pas n'importe lequel, le Sénateur. En trente et un ans, c'était la première fois qu'un robot transgressait "sciemment" la Première Loi. Nos robots ne peuvent pas contrevenir aux Trois Lois. Tu dois nous aider avant que la presse s'empare de l'information. Comprends le, Willy, c'est vital pour notre industrie. La concurrence est forte et elle s'en ferait rapidement l'écho et le marché s'effondrerait. Je n'avais pas eu le temps de lui dire bonjour, ni d'être présenté aux autres responsables. La mort du Sénateur ne semblait pas le déranger, seule la survie de son entreprise l'intéressait. - Juste un instant, laisse moi comprendre Ralph. Ce que tu me dis est impossible, un robot ne peut enfreindre les Trois Lois et encore moins tuer. Es-tu sûr de ce que tu avances ? Un signe de tête résigné me fut donné pour toute réponse. Le robot incriminé était un RB-531. Il ressemblait à un gros oeuf, dont il avait presque la couleur, monté sur des chenillettes pour se déplacer. Deux bras ou plutôt deux tentacules terminées par des pinces à trois doigts sortaient de ses flans. Son oeil cyclopéen me scrutait avec un réel intérêt. - Bonjour, je suis le docteur William. - Bonjour, me dit-il en retour. Je suis à vos ordres. - Comment t'appelle-t-on ? - Les Maîtres m'appelle Herbi. - Herbi sais-tu pourquoi tu es ici ? - Je pense que c'est lié à la destruction du Sénateur. - Peux-tu me citer les Trois Lois ? Il me les récita sans peine puisqu'elles étaient une priorité établie dans son cerveau bionique. - Herbi es-tu en infraction avec les Trois Lois ? - Non. Je restais perplexe et allais retrouver Ralph Sandor qui m’attendait dans la pièce contiguë. - Alors ? - Il prétend ne pas être en infraction. Nous savons tous qu'un robot qui commet ce genre de... (J’hésitais sur le mot) de bavure, active un système de protection qui bloque toutes ses fonctions. De plus il ne peut plus réciter les Trois Lois. Dans le cas de Herbi, tout fonctionne. - Docteur William, RB-531 est un de nos produits les plus fiables et surtout les plus demandés. Un phénomène extérieur a dû perturber son raisonnement, c'est à vous de le trouver et rapidement. La mort du Sénateur ne va pas passer inaperçue. La voix venait du bout de la table et je reconnaissais le directeur du marketing de Rob-Inco. Le pauvre, il avait peur pour ses ventes. C'est James 33 qui était présent quand le Sénateur "avait eu sa vie détruite". Herbi avait parlé de "destruction". James 33 était dans la salle de contrôle et pour le rejoindre je devais passer par des coursives sales et rouillées à l'extrême. Des jets de vapeur plus que douteux sortaient de joints qui avaient  sûrement été changés avant ma naissance. Des rivets maintenaient des soudures qui menaçaient de céder à tout instant. S'il y avait 95% de robots parmi les employés, plus de la moitié était hors service. Un robot, au détour d'un couloir, agonisait. Il bougeait encore, on aurait dit un animal blessé. Je m'approchais de lui, c'était le modèle précédent RB-531. - C'est fini, me dit-il, c'est la radiation, c'est trop tard, faites quelque chose, Maître. Je ne sais pas s'il fallait que je fasse quelque chose pour lui ou pour lutter contre la radiation. Je me baissais près de lui, soulevais son panneau dorsal et bloquais toutes ses fonctions. Il était mort. James 33 était devant son pupitre de contrôle. Du ruban adhésif retenait certains témoins lumineux. Des cadrans de contrôles étaient si opacités par la crasse qu'on devinait à peine les valeurs affichées. - Bienvenue dans la centrale de Feu le Sénateur. La centrale qui rapporte, qui rapporte beaucoup au Sénateur et à sa petite famille et qui tue ceux qui y travaillent, qu'ils soient hommes ou robots. Quatre réacteurs fonctionnaient quand elle a été construite, il y a cinquante-trois ans. Pour satisfaire à la rentabilité on prenait les pièces d'un réacteur pour réparer l'autre et c'est ainsi que de quatre réacteurs nous sommes passés à un réacteur. Le Sénateur en était le propriétaire. Il se moquait des risques liés aux fuites radioactives engendrées par le manque d'entretien. Que lui importait que les hommes qui travaillent ici ou que ceux qui vivaient autour de la centrale meurent de cancers diverses à cause de la contamination de l'air et de l'eau. Seul le profit l'intéressait. Ce n'était pas un homme, ce n'était pas un être humain mais c'était un danger pour l'humanité toute entière. Sa mère aurait dû le détruire à la naissance. Un être humain ne se serait jamais comporté de cette façon. Tant de haine sortait de la bouche de cet homme que de la bave coulait au coin de sa bouche. Ou était-ce un phénomène dû à un empoisonnement à la radioactivité. - Est-ce que vous parliez de cela avec Herbi ? - Je parle aux robots, Doc, sinon je deviens fou. Je suis le seul être humain dans cette unité. Seul le Sénateur venait de temps à autre me demander des choses impossibles et très dangereuses pour tous. - Est-ce que vous avez tenu les mêmes propos devant Herbi? - C'est possible, Doc. - Savez-vous que les robots ne font pas la différence entre une réflexion disons philosophique et un ordre. - Hein ? Ce crétin me regardait de ses yeux abrutis et je pris congé rapidement de peur que sa bêtise soit plus contagieuse que la radioactivité. Je retournais voir RB-531. - Herbi raconte moi ce qui s'est passé avant la "destruction" du Sénateur. - J'étais dans la salle de contrôle avec Maître James. Il me parla des risques de la radioactivité et comment je pouvais "mourir". Il parlait toujours du Sénateur et de la façon dont il méprisait les êtres humains et les robots. - Vous parliez souvent de ça avec Maître James ? - Très souvent. Un jour il s'est approché de moi et m'a dit: "Hé ! Crâne d'oeuf, c'est bientôt fini pour toi, tu vas crever! Remercie le Sénateur !" Il avait une bouteille d'alcool dans la main qu'il porta à sa bouche, bu une gorgée et se mit à rire. Je ne compris pas tout de suite le sens du mot crever. C'est après une recherche dans mon dictionnaire interne que je compris que j'allais "mourir", si je peux m'exprimer ainsi. Mes circuits d'autoprotection stimulés par la Troisième Loi se mirent en fonction. "Un robot doit protéger sa propre existence..." Il fallait que je fasse quelque chose. - Et que devais-tu faire, Herbi? - Détruire le Sénateur. - Herbi ne penses-tu pas que c'était incompatible avec la Première et la Deuxième Loi. - Non, Docteur. - Et pourquoi ? - Le Sénateur avait donné des ordres à Maître James qui risquaient d'entraîner une destruction de la centrale avec un grand risque de radioactivité. Cela aurait entraîné la destruction des robots travaillant sur le site et la mort des humains très proches. La Première Loi dit: "...ni laisser sans assistance un être humain en danger."  Il fallait détruire le Sénateur, il était une grande menace pour tous. C'est ce qu'a dit Maître James. J'ai attendu sa visite hebdomadaire et quand il est passé par le couloir 21, je l'ai poussé dans le réacteur où il a été pulvérisé, détruit. Il disait cela avec une grande simplicité, comme un jeune enfant. - Herbi, ce que tu as fait est contraire à la Première Loi. Le Sénateur était un être humain. Tu ne peux pas tuer un être humain. Tu comprends ? Tu ne dois pas nuire à un être humain, c'est la Loi. Tu ne l'as pas respectée. RB-531 semblait perturbé par mon affirmation. Il mit quelques instants avant de me répondre. Il avait, si la comparaison avec l'espèce humaine est possible, un cas de conscience. Il laissa un grand silence avant de me répondre.  - Non, sembla-t-il crier, non. Ce n'était pas contraire à la Première Loi ni à la Deuxième Loi. Maître James l'a dit, il le disait tout le temps : "Le Sénateur  n'est pas un être humain, un être humain ne se comporterai pas de cette façon"   J'ai respecté la Loi. Le Sénateur n'était ni un humain, ni un robot. Il était une ... chose. Il était une ... chose, oui c'est ça une ... chose. Herbi avait de plus en plus de mal à trouver ses mots. Une grande tempête venait d'éclater dans son cerveau bionique. Il ne pouvait admettre qu'il s'était trompé. Il comprenait qu'il avait été manipulé par Maître James. - Maître James l'a dit, Maître James a dit qu'il n'était pas humain... J'ai obéis aux ordres de Maître James. J'ai... Soudain le système de protection des Trois Lois s'activa et Herbi s'immobilisa. Ralph me félicita pour mon enquête si rapide. RB-531 fut emmené pour être détruit. Dans des cas comme celui-ci, on ne gardait aucune pièce. Je me demandais si cet imbécile de James 33 n'avait pas sciemment inculquer cette fausse information à Herbi. Dans le doute, je ne pouvais pas "fouiller" dans son cerveau aussi je proposais qu'il soit mis à la retraite anticipée. J'expliquais à Ralph Sandor qu'il devait intégrer dans le cerveau de ses nouveaux robots une définition très complète de l'Etre Humain. Il devrait à l'avenir bien expliquer à ses clients et dans le mode d'emploi de des robots positroniques intelligents la notion "bêtes et disciplinés". Il fallait éviter qu'un autre James ne fasse une "bavure". Les robots obéissent aux ordres, ce sont des ordinateurs. C'est celui qui entre les données qui fait l'erreur, pas l'ordinateur. La centrale fut fermée et l'on fit de belles obsèques au Sénateur, personne ne le pleura. Moi j'eus une pensée pour RB-531, on ne se refait pas. Le Braz Jean-Marie Juin 1996     Les histoires de JM sont ici