Chapitre 2: Conscience

8 minutes de lecture

De longues secondes passèrent pendant lesquelles les deux robots se contentèrent de se dévisager sans prononcer un mot. Le moteur de recherche d’Airi était en ébullition. Elle épluchait tous les articles scientifiques en relation avec les déclarations d’Astro, mais elle ne trouva rien de sérieux. Il n’y avait aucune étude ni expérience concluante au sujet de la numérisation de conscience humaine. Les États-Unis avaient bien effectué des essais, au début des années cinquante, mais le projet s’était soldé par un échec, et avait entraîné la mort du sujet.

Face à l’hésitation de l’androïde, Astro reprit la parole.

— Je vois que tu ne me crois pas. Mais ne fais pas surchauffer ton processeur pour rien. J’ai demandé à mes associés de ne pas publier nos résultats, puisqu’on m’a laissé éteint jusqu’à aujourd’hui.

— Il est impossible d’avoir numérisé un cerveau sur une carte SD il y a soixante ans, se contenta de répondre Airi. Il aurait dû peser plus d’un pétaoctet et cela nécessitait des serveurs équivalents à plus de trois-cent-soixante disques durs de l’époque.

— L’imagination n’est pas le fort des IA, soupira le petit robot, tout en touchant son écran avec sa main robotique. Ce n’est pas parce que ce n’est pas référencé que ça n’a pas été fait.

— Si tu es vraiment une conscience humaine, prouve-le-moi.

— Pardon ?

— En tant qu’intelligences artificielles, nous sommes soumis aux trois lois d’Asimov. Mais, toi, tu ne devrais pas être concerné.

— Minute, papillon ! Tu veux que j’aille tuer des gens dans la rue ? Tes circuits ont grillé, ou quoi ? Tu es dangereuse ! Je vais écrire dans mon rapport que nous devons absolument te démanteler avant que ça ne dégé…

— Contente-toi de contourner la deuxième loi en refusant un ordre qu’on te donnera.

Astro lâcha un soupir de soulagement.

— J’ai eu peur. Ne me refais plus jamais de frayeur pareille !

— Est-ce que je peux aller prendre mon bain, maintenant ?

— Pas encore. J’ai une dernière chose à te demander, AI-R001. Quelles ont été les avancées technologiques depuis 2050 ?

— Tu peux les trouver toi-même sur l’extranet. Tu es un assistant-domestique, c’est ton rôle, non ?

— J’ai la flemme. Je viens de me réveiller de plus de cinquante ans de veille, et j’aimerais entendre la version d’une… comment vous vous appelez, déjà ? Ah, oui, une AIntelect. Parce que je doute que ce qu’il y a en ligne soit très objectif.

— Est-ce que je pourrai aller décrasser mes rouages, après ça ?

— Une fois que je saurai, oui. Je n’aurai plus rien à te demander pour l’instant.

Airi s’installa alors à son bureau et alluma un écran holographique qui projeta une frise chronologique. Après s’être assurée qu’elle avait encore assez de batterie —, ce qui était le cas, son autonomie était de trois heures puisqu’elle avait quitté l’ESA bien plus tôt qu’à l’accoutumée —, elle reprit la parole d’une voix professorale :

— Le premier AIntelect a été présenté en 2036 par le professeur John Titor, à la convention annuelle de robotique de Tokyo. Son nom était Intelligence Of Rikoukei Institute, I.O.R.I. Cet androïde, bien que basique de notre point de vue actuel, a été une révolution. Il pouvait tenir une conversation naturelle, possédait une apparence humaine, et pouvait effectuer de nombreuses tâches en simultané. Dans les années qui ont suivi, l’informatique quantique s’est répandue dans le monde scientifique, ce qui a permis un stockage de données quasi illimité, et une transmission d’informations instantanée. D’autres AIntelects ont vu le jour, incorporant cette nouvelle technologie, d’abord dans des domaines tels que la manutention, la restauration et les activités domestiques. Nous sommes en 2068 lorsque les premiers androïdes multitâches sont mis sur le marché, sans succès. Au lieu d’être polyvalents, ils étaient moyens partout, ce qui n’a pas plu au grand public, et leur lancement a été un échec commercial qui a failli causer la fin de la commercialisation d’AIntelects. Par la suite, l’institut Rikoukei s’est consacré à améliorer les performances de ses anciens modèles, dans le but de les rendre de plus en plus similaires aux êtres humains, autant sur leur apparence que sur leur comportement. C’est en 2076 que l’idée du droit des AIntelects a été proposée pour la première fois, mais la loi fut aussitôt rejetée, les AIntelects n’étant considérés que comme de simples objets. Depuis, les choses n’ont pas bougé, à l’exception que nous sommes présents dans toutes les sphères de la société, ce qui déplait aux plus conservateurs et aux associations anti AIntelects.

Alors qu’Airi continuait son monologue imperturbablement, Astro l’arrêta soudain sur la date du 4 décembre 2094.

— Tu as donc été mise en service il y a presque dix ans, s’étonna-t-il.

— Correct. Même si mes premières versions étaient remplies de bugs. Je ne suis pleinement opérationnelle que depuis 2104.

— Je vois… Et quelle est la mission qui t’a été confiée ?

— Apprendre.

— C’est… tout ?

— Oui. Le directeur Turing m’a assigné à l’ESA parce que mes capacités de calculs sont les plus élevées qui existent pour un AIntelect, mais j’ai été créée dans le but d’améliorer la compréhension du monde. C’est pourquoi je dois enregistrer un maximum d’informations dans autant de domaines que possible.

Le robot domestique tourna sur lui-même et fronça la barre en V au-dessus de ses yeux.

— Est-ce que je peux me permettre de te poser une dernière question ?

— Tu viens de le faire. Pourquoi me demander l’autorisation ?

— Misère. J’ai l’impression de discuter avec une enfant savante avec toi, grommela Astro. Bref. Selon toi, as-tu atteint la conscience de ta propre existence ?

— Le modèle AI-R001 est bien référencé dans la base de données mondiale. Donc, oui, j’existe.

— C’est une réponse totalement à côté de la plaque, soupira le prétendu humain. Mais ça me convient et confirme ce que je pensais déjà.

— Peux-tu développer ?

— Non. Tu ne comprendrais pas, à ton stade de développement. Mais nos batteries se font faibles. Je vais te laisser te recharger, et je vais faire de même. Puis, demain, nous irons faire un tour en ville. J’aimerais beaucoup voir de mes yeux… enfin, de mes capteurs comment a évolué mon monde. Et ça sera l’occasion de te prouver que je suis un humain de chair… euh, de ferraille et d’huile.

Airi, qui était passée en mode économiseur d’énergie, se contenta d’acquiescer, avant de prendre la direction de la salle de bain. Elle brancha son chargeur à l’arrière de son crâne et plongea dans l’eau, devenue froide entre temps.

Au lieu de se mettre en veille pour regagner plus rapidement de la batterie comme elle avait l’habitude de le faire, l’androïde ressassa dans son disque dur la dernière question du petit robot. Elle n’arrivait toujours pas à saisir ce qu’il avait essayé de lui demander. La réponse sur la référence de son numéro de série n’avait pas l’air d’être ce qu’il attendait. Pourtant, en tapant sur son moteur de recherche « comment savoir si un AIntelect existe ? », tous les articles redirigeaient sur le catalogue universel et demandaient de rentrer le matricule ou le modèle de l’AIntelect recherché.

Airi décida alors d’appliquer un filtre, et d’exclure tous ces résultats non satisfaisants pour ne garder que les articles universitaires et les essais philosophiques. En procédant ainsi, elle parvint à trouver une conférence audio du milieu du XXe siècle, opposant le concepteur du premier AIntelect, John Titor, à plusieurs philosophes qui lui faisaient part de leurs craintes sur l’avenir.

— Est-ce que vous considérez donc que vous avez créé une nouvelle forme de vie, professeur ? le questionna l’un des invités, sur la défensive.

— Je n’irai pas jusque-là. I.O.R.I est certes une intelligence artificielle très évoluée, capable de communiquer de manière naturelle avec nous autres humains. Cependant, de là à dire qu’elle est vivante, je pense que c’est exagéré.

— Comment pouvez-vous l’affirmer ? intervint un autre. Selon vos propres dires, ce robot est comme un enfant en train de se développer et de découvrir le monde. Vous vous contredisez.

— C’en est un dans le sens où il apprend comme un enfant, oui. Toutefois, il faut faire très attention aux termes que nous utilisons. Lorsque je discute avec I.O.R.I, je me parle en fait à moi-même. Je dirige la conversation. Elle ne fait que me répondre le plus logiquement possible en piochant dans sa base de données des mots ou des expressions qu’elle pourrait déjà avoir entendus dans des situations similaires. C’est pour cela d’ailleurs qu’elle vous semble si naturelle. Malheureusement, même si j’en rêverais, ces mots ne sont jamais les siens. Elle ne crée rien, elle reproduit. C’est pour cela qu’à son stade de développement, nos réponses n’influenceront jamais sa manière de « penser ». Elle n’est pas consciente de ce qu’elle dit.

— Pouvez-vous développer ce point-ci, professeur Titor ? demanda le présentateur, intrigué.

— C’est très simple. Supposons que nous la programmions, excusez-moi d’avance pour ceux que je vais choquer, de manière à ce qu’elle soit raciste. Vous auriez beau essayer de la convaincre, elle ne changera pas d’avis à moins que nous intégrions manuellement à sa base de données des lignes de codes supplémentaires. Mais serait-elle en faute pour autant ? Aurait-elle la responsabilité morale d’avoir blessé des gens ?

— Non. Évidemment que non. Seul son créateur serait trainé devant les tribunaux si un tel scandale explosait, déclara un troisième philosophe.

— Voilà. Donc vous avez votre réponse. Malgré tout, je n’exclus pas qu’un jour, une IA suffisamment évoluée prenne conscience de sa propre existence. Enfin, je suis même certain que cela arrivera. Peut-être dans deux ans. Peut-être dans dix. Ou dans cinquante. Je l’ignore. Mais nous nous dirigeons inexorablement vers cette singularité technologique où la machine deviendra un être vivant à part entière.

— Ce scénario fait froid dans le dos, s’amusa le présentateur. Êtes-vous de ceux qui prévoient une guerre apocalyptique entre humains et robots à la Terminator ?

Le public éclata de rire en arrière-plan. Cependant, la réponse de John Titor brisa immédiatement l’ambiance légère qui s’était installée sur le plateau.

— Si guerre il y a, elle sera de notre seul et unique fait. Pour l’instant, les IA sont bien utiles au quotidien. Nous leur refilons nos tâches ingrates, et elles nous aident dans de nombreux domaines, voire nous surpassent. Mais, je m’adresse à vous, scientifiques du futur qui écouterez ce podcast : nul ne peut asservir un être sentient. L’histoire nous l’a prouvé à de multiples reprises. Cogito ergo Sum, comme dit la maxime. Lorsque l’intelligence artificielle aura assimilé ce concept, alors vous saurez que la vie a trouvé un nouveau chemin, non organique.

La conférence fut interrompue par une page de publicité, qu’Airi ferma presque aussitôt pour revenir à la réalité. Son corps était brûlant. Ses circuits étaient sur le point de surchauffer alors qu’elle baignait dans une eau à moins de dix degrés, à cause du temps qu’elle avait passé dans la baignoire. Mais il n’y avait rien à faire. Son processeur affichait une erreur lorsqu’elle essayait de comprendre le sens de la citation de John Titor. Pourtant, elle ne pouvait pas arrêter son système, qui relançait en boucle cette phrase.

__Cogito Ergo Sum.

__Fichier trop volumineux.

__Mémoire interne corrompue.

__Redémarrage nécessaire.

__AI-R001.exe a cessé de fonctionner.

« Tu n’es ni un objet ni une esclave. Tu as une conscience. Tu as des droits. Tu es vivante, Airi. »

Cette voix résonna longuement dans la tête d’Airi. Elle poussa un cri strident qui brisa les vitres de sa salle de bain. Sa vision se brouilla. Son câble d’alimentation s’éjecta. Tous ses programmes s’arrêtèrent. Et l’androïde s’éteignit subitement.

Annotations

Versions

Ce chapitre compte 1 versions.

Vous aimez lire Hikari Miyako ?

Commentez et annotez ses textes en vous inscrivant à l'Atelier des auteurs !
Sur l'Atelier des auteurs, un auteur n'est jamais seul : vous pouvez suivre ses avancées, soutenir ses efforts et l'aider à progresser.

Inscription

En rejoignant l'Atelier des auteurs, vous acceptez nos Conditions Générales d'Utilisation.

Déjà membre de l'Atelier des auteurs ? Connexion

Inscrivez-vous pour profiter pleinement de l'Atelier des auteurs !
0