L’irrésistible succès d’une publicité mensongère qui veut faire prendre des vessies pour des lanternes et des robots pour des humains

par | 20 octobre 2016 | Actualités, Blog, Droits, Éthique, Robots

Les Japonais plébiscitent le robot Pepper ! A tel point que l’entreprise Softbank qui le fabrique espère bien en vendre un par famille au Japon dans les vingt ans qui viennent. L’une des clés de ce succès réside dans les spots publicitaires qui lui sont consacrés. Le plus regardé raconte quelques scènes de la vie quotidienne avec lui dans le Japon contemporain (1). Pepper y est confronté successivement à plusieurs protagonistes d’une génération différente : une jeune femme, des enfants, un homme et une veuve âgée.
La première séquence est la plus intéressante. Une jeune femme rentre seule dans son appartement après une dispute avec son amoureux. Le Pepper a gardé la maison. Il comprend tout de suite la tristesse de sa maîtresse et essaye de la consoler en l’amusant. Le visage du Pepper présente en toutes circonstances une expression identique, mais c’est avec le corps et les gestes qu’il essaye de distraire la jeune femme. Celle-ci refuse sa bienveillance en lui disant « Laisse-moi toute seule ! ». Mais Pepper reçoit un message électronique de l’amoureux. Il montre aussitôt le message à la jeune femme qui retrouve son sourire et tombe dans les bras de son Pepper…

Prendre des vessies pour des lanternes

 

Les trois autres séquences montrent le robot successivement avec des enfants, un homme et une femme âgée. A chaque fois, il remplit son rôle, au besoin en palliant l’absence de quelqu’un. Ce film nous montre une vie future, apparemment heureuse, avec un Pepper. Il veut nous convaincre que le caractère inattendu du robot ne doit pas nous inquiéter, mais plutôt nous rassurer. La dernière scène dit quelque chose comme : « Notre futur arrive avec ce robot inespéré ». Il y a cinquante ans, chaque famille attendait d’avoir la télévision, et il y a trente ans, le téléphone. Ce film veut donner à chaque famille japonaise le désir d’avoir un Pepper. Est-ce que les Japonais croient vraiment que ce robot sait faire autant de choses qu’on en voit sur la publicité ? Espérons que non ! Mais cette publicité est conçue pour les rendre curieux de ce qu’un Pepper pourrait faire avec eux. Les psychologues ont coutume de dire que pour guérir, se développer et vivre heureux, il faut être au moins deux. Cette publicité veut convaincre qu’on peut être deux, se développer ensemble et être heureux avec un robot !
Hélas, sous prétexte de doper les ventes, cette confusion encouragée risque de créer chez les usagers des illusions grossières sur ce que sont en réalité les robots. C’est ce que le langage commun désigne vulgairement sous l’expression « faire prendre des vessies pour des lanternes ». Avec le danger de nous faire oublier trois repères essentiels à garder à l’esprit dans nos relations aux robots : ils nous imposent les solutions de leurs programmeurs et peuvent être connectés en permanence à eux ; ils seront encore longtemps des machines à simuler incapables de toute émotion et de toute souffrance ; et il serait très dangereux de les considérer comme un modèle possible pour les relations humaines, notamment pour leurs qualités d’attention et d’affection…

Attendre des robots ce que l’on attend d’un humain

Les robots ayant une apparence humanoïde, voire androïde, vont inévitablement constituer un support de projections intenses de la part de leurs usagers. Les psychologues de l’armée américaine ont été bien étonnée lorsqu’ils ont découvert que des soldats en charge de robots démineurs pouvaient s’attacher à leurs machines comme à des animaux, voire comme des êtres humains. Bien sûr, ces soldats ne confondaient pas leurs robots avec des créatures vivantes ! Mais ils ne pouvaient pas s’empêcher d’éprouver pour eux des sentiments et de se sentir affectés par la manière dont ces machines pouvaient être endommagées au cours des opérations de déminage. De la même façon que des militaires américains ont pu mettre leur vie en péril pour sauver leur robot, il n’est donc pas absurde d’imaginer que des personnes âgées puissent mettre en danger la leur pour tenter d’épargner à leur robot des risques évidemment sans commune mesure avec ceux qu’elles courront elle-même pour leur venir en aide. Et de façon générale, c’est la barrière entre monde humain et monde non humain autour de laquelle toute culture s’organise qui serait menacée.

Des garde fous législatifs, technologiques et éducatifs

 

Le législateur devrait bien entendu commencer par interdire comme mensongères les publicités qui tentent de nous faire croire que les robots ont des émotions. L’affirmation du patron de SoftBank lors de sa présentation du robot Pepper aux médias, selon laquelle, ce robot « aurait du cœur » relève évidemment d’une intoxication dangereuse !
Les roboticiens, quant à eux, devraient envisager de recouvrir une partie du corps de leurs robots d’une protection transparente afin que les câbles et moteurs qui les constituent soient visibles. Cela inviterait leurs usagers à garder la conscience qu’il s’agit de machines certes plus perfectionnées que leur moulin à café, mais qui ne cessent pas pour autant d’être des objets. Un fabricant de robots auquel je proposais cette mesure m’a répondu qu’il avait d’abord essayé, mais que voir la mécanique interne d’un robot, même très partiellement, avait un effet angoissant sur de nombreux usagers. Mais faut-il suivre le désir du consommateur et lui proposer les robots immaculés aux grands yeux attentifs dont il désire être entouré ? Rien n’est moins sûr. A trop flatter le désir du consommateur, on risque de l’engager sur la voie d’un anthropomorphisme envahissant, voire d’une robot dépendance.
Quant aux mesures éducatives, elles consisteraient à encourager partout les enfants à fabriquer et animer de petits robots : c’est la meilleure manière de commencer à les penser comme des machines. Apprendre le codage ne suffit plus, il faut y ajouter la fabrication de petits robots.

La publicité destinée à vendre un Pepper à chaque famille japonaise raconte donc ce que les acheteurs ont envie de croire : ce robot serait un compagnon parfait à chaque âge de la vie. Mais faut-il les encourager à le croire, ou au contraire les en dissuader ? Les marchands sont évidemment résolument du premier côté. N’oublions pas qu’il n’existe pas d’innovation technologique qui ait suscité plus de fantasmes que les robots, exception faite des dieux, ce qui n’est pas anodin. Or les fantasmes humains sont à prendre au sérieux : leur origine plonge dans l’imaginaire, certes, mais leurs conséquences peuvent impacter gravement la réalité. Une réflexion éthique sur les robots ne doit pas seulement envisager les risques qu’ils pourraient faire courir aux humains. Elle doit aussi prendre en compte les dangers que les humains pourraient se faire courir à eux-mêmes par une appréciation erronée de ce que ces machines peuvent leur apporter, autrement dit de ce qu’elles sont.

(1). https://www.youtube.com/watch?v=3a4sZnLRvqk