Scarlett Johansson, l’éthique et le robot

par | 4 mai 2014 | Actualités, Blog, Culture, Éthique, Robots

Les robots seront bientôt aussi nombreux autour de nous que nos écrans. Sommes nous préparés à y faire face ? Quelques œuvres de fiction récentes posent cette question, comme les séries Real Humans et Black Mirror, ou le film Her de Spike Jonze. Elles réfléchissent notamment à la façon dont nous sommes enclins à attribuer une personnalité et des émotions à un robot. Une question qui, loin de concerner seulement notre vie privée, interroge la société dans laquelle nous désirons vivre.

Robots esclaves et robots de connivence

Les robots travaillent 24 h / 24, ne font jamais grève, n’ont ni congés payés, ni RTT, ni retraite, et surtout, ils sont faciles à reprogrammer pour de nouvelles tâches. Bref, il est inévitable qu’ils trouvent rapidement leur place dans les entreprises, avec des problèmes humains dont Real Humans se fait l’écho. Mais, parallèlement, les robots de connivence, comme celui que nous montre le film de Spike Jonze, remplaceront bientôt nos actuels smartphones dans nos poches. Ils seront d’abord mis à contribution pour prendre en relais notre mémoire et nous informer en temps réel sur notre état de santé, mais leur connivence grandissante avec leur possesseur leur donnera très vite beaucoup plus de pouvoirs. Leur capacité de persuasion sera d’autant plus grande qu’ils auront accès, à tout instant, à bien plus d’informations sur leur propriétaire et sur ses proches qu’aucun humain n’en a jamais eu sur personne. Ajoutez à un tel logiciel la voix de l’actrice Scarlett Johansson, comme dans le film de Spike Jonze, et vous commencez à comprendre le danger. La voix, comme l’avait bien compris Freud en inventant le dispositif psychanalytique dans lequel les partenaires ne se voient pas, est une formidable invitation à fantasmer… Les oreilles rivées à une voix comme certains le sont déjà à un écran, quelques uns risquent bien de ne plus faire confiance qu’à leur compagnon informatique, et cela pourrait concerner aussi la direction des entreprises…

Le jour où le PDG n’écoutera que son robot

Déjà, des robots sont capables de réaliser seuls des transactions bancaires à des vitesses de l’ordre de la nanoseconde, sans plus de référence à l’humain : le robot programmé pour faire gagner toujours plus à son propriétaire ne prend jamais en compte aucune autre réalité. Pourtant, c’est encore un collaborateur humain qui présente à l’équipe les prévisions que des robots ont établies et les moyens qu’ils ont codifiés pour y parvenir, comme par exemple lorsqu’il s’agit de savoir si on peut espérer que certains objectifs soient atteints selon un rythme de croissance fixé en prenant en compte un grand nombre de paramètres. Mais demain, le collaborateur humain ne sera-t-il pas remplacé par la voix suave et complice d’un logiciel ? Bien sûr, ou du moins il faut l’espérer, aucun conseil d’administration ne sera assez fou pour donner à un robot la liberté d’engager une entreprise dans des choix stratégiques. Mais la façon dont les jeux vidéo d’aujourd’hui nous imposent à notre insu des logiques de résolution de problème en nous cachant qu’il puisse en exister d’autres sont bien peu de chose par rapport à ce que seront demain ces logiciels qu’on nommera de « conversation » ou « d’aide à la décision ». Ceux qui désirent contrôler le monde l’ont bien compris : il doivent commencer par contrôler les logiciels de compagnie qui se développeront sur le modèle de celui qui est mis en scène dans Her. En 2013, Google a racheté huit entreprises spécialisées en robotique. Certaines fabriquent des robots humanoïdes susceptibles de remplacer l’homme dans diverses tâches, mais d’autres conçoivent des programmes qui seront bientôt capables de tenir de vraies conversations avec nous, en se guidant sur nos mimiques et nos intonations et en anticipant nos attentes. N’attendons pas qu’il soit trop tard pour en comprendre le danger.
A l’ère de l’automatisation généralisée dans laquelle nous entrons, nous devons nous garder de la tentation de vouloir trouver chez un robot le partenaire idéal que la vie nous refuse, qu’il s’agisse d’un employé servile, comme dans Real Humans, ou d’un ami qui nous veut du bien, comme dans Her. Dans les deux cas, la catastrophe serait au rendez vous. Par une réaction animiste vis-à-vis de robots conçus à l’image de l’homme dans un cas ; et par la mise sous tutelle de nos esprits par des logiciels aussi persuasifs qu’intelligents dans l’autre. Il est en effet inévitable que le concepteur du robot de connivence finisse par contrôler le monde intérieur de son utilisateur en lui imposant à son insu des catégories de pensée.

Une indispensable charte d’éthique

Une charte d’éthique autour des robots se doit de poursuivre deux préoccupations. D’abord placer l’humain au centre de ses préoccupation : il est moins important aujourd’hui de réfléchir aux moyens de donner une conscience toujours plus grande aux robots que de réfléchir aux modalités limitées de conscience dont pourraient être dotés les robots de façon à permettre à l’homme de développer toutes les formes de sa propre conscience du monde et de lui-même. La seconde préoccupation qui doit guider une charte d’éthique concerne le collectif : plutôt que de concevoir des machines qui deviennent des conseillers personnels de chacun, il convient afin d’encourager des machines qui ne soient des interfaces de communication de chacun avec lui-même que pour favoriser la communication de chacun avec tous les autres. Bref, nous devons réfléchir à ce que nous pouvons faire ensemble, avec les robots, que nous ne pouvons faire ni chacun séparément, ni tous ensemble sans robots.
Il serait en effet dangereux de penser qu’il existerait une logique interne au développement technologique qui conduise inévitablement à la création de robots conformes à nos attentes. Bien entendu, lorsque des robots seront là, ils nous apparaîtront comme le résultat du seul choix qui était possible. Mais, comme l’a bien montré Andrew Feenberg, cette illusion est constitutive de toutes les innovations technologiques. C’est pourquoi nous ne devons pas attendre qu’une première génération de robots nous soit proposée pour nous emparer du problème. Ce n’est pas un monde où les robots décident à notre place que nous devons craindre, mais un monde où nous soyons tentés de nous ranger à l’avis de robots fort bien renseignés, et où nous nous trouvions finalement obéir aux logiques imposées par ceux qui les ont conçus.