Westworld, pourquoi fantasmons nous des robots doués de conscience ?

par | 8 janvier 2017 | Blog, Éthique, Manipulation, Robots, Télévision

La dernière série télévisée de HBO, WestWorld, va probablement faire flamber encore un peu plus l’imaginaire de nos contemporains autour des robots. Elle prend en effet pour théâtre un parc de robots humanoïdes exactement semblables à des humains. Et comme on dit qu’il ne manque que la parole aux animaux pour qu’ils nous ressemblent tout à fait, certains des roboticiens qui les ont fabriqués ne sont pas loin de penser qu’il ne leur manque que la conscience. Certains de ces robots vont l’acquérir seuls au fil des épisodes, tandis que d’autres y parviennent guidés par leurs créateurs fascinés. Bref, toute la question de cette série tourne autour de la capacité d’émancipation des robots : acquérir une conscience, une volonté, un libre arbitre, et finalement un destin.

Réalité et imaginaire des robots

Il existe donc un fossé abyssal entre la manière dont les roboticiens conçoivent aujourd’hui leurs machines, à savoir comme des outils sophistiqués, et la façon dont ceux-ci sont présentés dans les œuvres de science-fiction, c’est-à-dire comme des créatures vouées tôt ou tard à acquérir ce qui fait le propre de l’homme, à savoir la conscience réflexive. À partir de ce constat, deux attitudes sont possibles. La première est de vouloir remettre nos concitoyens sur le « chemin de la réalité » en leur rappelant que les robots sont seulement des machines un peu plus compliquées que les autres, certes aussi éloignées d’un grille-pain que celui-ci l’est d’un silex taillé, mais ne méritant pas plus de divagations. La seconde attitude consiste à penser que ces mythes ont une fonction. S’ils n’en avaient pas, ils n’auraient jamais été inventés ! 
De façon générale, les mythes sont des outils qui permettent à l’homme de construire des représentations psychiques à la fois personnelles et partagées, autour de problèmes qui lui semblent le dépasser : la souffrance, la culpabilité, l’inceste… Ils participent ainsi au processus par lequel l’homme cherche à apprivoiser à la fois ce qu’il observe et ce qu’il ressent. Longtemps les mythes ont fait intervenir les dieux, ils s’en sont aujourd’hui affranchis. Et comme nous sommes de plus en plus dépendants de diverses machines, il est inévitable que les mythes en témoignent. Mais cela ne répond pas à la question : pourquoi la mythologie privilégiée autour des robots concerne-t-elle son devenir humain ?

Apprivoiser les robots en leur imaginant un cœur

Il y a trente ans, le roboticien Masahiro Mori a montré que le robot d’apparence humanoïde suscite un sentiment d’inquiétante étrangeté, et il l’a rapporté à sa ressemblance à la fois troublante et imparfaite avec l’être humain. Aujourd’hui, nous constatons que le robot ne déroute pas seulement nos repères dans nos relations à nos semblables, mais aussi ceux qui organisent nos relations aux objets et aux images. Le robot est en effet un objet, mais différent de tous les autres : il parle, prend des initiatives et plaisante ! Le robot a aussi une apparence qui le fait ressembler à ceux que nous avons vus dans les films, mais tout se passe comme s’il était sorti du cadre de l’image pour marcher dans la même pièce que nous ! Or c’est justement par le cadre que notre culture occidentale, qui a valorisé et encouragé les images, a tenté de maîtriser les risques de confusion entre réalité et fiction dont elles sont porteuses. Enfin, le robot humanoïde, voire androïde, c’est-à-dire doté d’une apparence semblable à la nôtre, nous inspire des sentiments humains, et pourtant son constructeur nous donne le droit de le débrancher comme une simple machine ! 
Rien d’étonnant donc si le robot suscite chez nous un sentiment d’inquiétante étrangeté ! Le problème est que celui-ci risque de compliquer singulièrement l’introduction des robots dans nos sociétés alors que leur développement est présenté comme une priorité par toutes les économies développées. Des informaticiens travaillent donc sur les moyens de nous rendre ces machines familières pour que nous puissions les côtoyer au bureau et à la maison sans inquiétude, voire avec gratitude. Mais parallèlement aux efforts menés dans les laboratoires, les imaginations, elles aussi, travaillent…

Avec l’autonomie, la machine change de registre imaginaire

Au-delà du seuil technologique de la machine autonome, l’être humain ne peut plus penser l’outil seulement comme un outil, parce qu’il échappe à son contrôle pour passer sous celui de son constructeur. C’est la révolution des algorithmes. Que j’achète un marteau ou une voiture, dans les deux cas je suis son propriétaire et je les contrôle totalement. Mais si j’achète un robot, je ne sais pas comment son fabricant l’a programmé, et je ne sais pas non plus si un hacker ne va pas un jour le retourner contre moi. L’homme a besoin de croire que les machines autonomes aient un jour une conscience, une volonté et un libre arbitre pour pouvoir penser les apprivoiser. Le mythe du robot doué d’une conscience est en cela un peu l’équivalent de la prostituée au grand cœur : plus l’homme accepte de se mettre en situation de vulnérabilité, plus il a besoin de penser que la créature entre les mains de laquelle il s’en remet a « un cœur ». L’idée que l’on puisse un jour donner une conscience aux robots obéit à cette logique : nous permettre de ne plus être effrayé par le robot comme une machine qui serait appelée à « réaliser un programme » sans état d’âme, ni pitié, ni empathie. Nous imaginons une conscience aux robots pour tenter de ré enchanter le monde de la robotique placée aujourd’hui sous le signe du robot « réalisant le programme que ses constructeurs ont conçu pour lui ». Le robot « libre » peut être méchant, mais parce qu’il est « libre », on peut rêver de le faire changer d’avis. Des déportées ont raconté qu’elles étaient rassurées de voir leurs tortionnaires nouer des liaisons amoureuses avec leurs homologues masculins ; cela les rassurait sur le fait que ces femmes, qui leur paraissaient insensibles et « robotisées », étaient toujours des êtres humains, et qu’elles pouvaient, peut-être, en s’y prenant bien, les attendrir. Cela a aidé ces déportées à vivre.
Le problème, avec les robots, est évidemment bien différent, mais il repose sur la même logique. Les imaginer avoir une conscience nous permet de penser pouvoir les influencer même si ne connaissons pas leurs programmes. Bien sûr, cela risque en même temps de nous faire sous-estimer le pouvoir des programmeurs d’entretenir cette illusion, et donc nous de rendre plus vulnérables encore aux manipulations de toutes sortes. Mais si nous voulons combattre efficacement la funeste tendance à imaginer une liberté aux robots, nous devons d’abord ne pas nous tromper sur sa cause. Ce fantasme ne relève pas d’une mauvaise appréciation de la réalité des robots. Il témoigne au contraire d’une excellente appréciation du risque que le robot, préprogrammée et sans cesse reprogrammée à distance par ses concepteurs, échappe totalement à son utilisateur. 
Le fantasme d’un robot « libre » cherche à opposer au cauchemar du robot sous contrôle de son fabricant une vision qui n’est pas forcément plus rassurante, mais qui rend à l’homme sa part de liberté.