Les machines parlantes pourraient se révéler de redoutables instruments de manipulation

par | 1 mars 2022 | Blog, Éthique, Intelligence Artificielle, Manipulation, Technologies

Paru dans Le Monde du Mardi 30 décembre 2021

Demain, toutes les machines qui nous entourent vont être progressivement dotées de la voix. Et comme rien ne mobilise autant l’être humain que de pouvoir parler de lui, et d’être écouté, certaines d’entre elles deviendront probablement nos confidents privilégiés. Le problème est que plus ces machines bénéficieront de compétences réelles dans le domaine de la compréhension et de la simulation émotionnelle, et plus certains d’entre nous seront tentés de leur accorder par projection des compétences imaginaires. Personne, bien entendu, ne les confondra avec des humains, mais nous nous habituerons à leur contact à de nouvelles formes de relations qui modifieront peu à peu notre fonctionnement psychique et nos liens avec nos semblables.

Tout d’abord, l’installation d’enceintes connectées de plus en plus perfectionnées dans l’espace domestique va accroître considérablement le potentiel d’intimité entre l’homme et ses machines. Même si leurs utilisateurs continuent à les considérer comme des objets perfectionnés, beaucoup risquent de leur octroyer dans leur vie quotidienne des formes de prévenance traditionnellement réservées aux humains, à commencer par la politesse, et de les intégrer au monde de leurs relations sociales. Certains pourraient même être tentés de leur attribuer un peu « d’humanité », selon une gradation pour laquelle j’ai proposé de parler de degrés de « personnéité »[1], puisque l’objet n’aura évidemment pas de personnalité, et encore moins d’humanité. L’homme qui parle à la machine parle en réalité toujours à l’homme qui est derrière la machine.

Il en résultera évidemment des problèmes inédits liés à la sécurité et à la préservation de la vie privée. Comment évoluera la représentation que nous avons de ce qu’est notre intimité ? Et que deviendra notre désir de partage quand une machine se présentera à tout moment comme attentive et disponible, et jamais fatiguée de nous écouter ? Comment accepterons-nous d’avoir des émotions non partagées quand des machines capables de simuler l’attention et la compréhension humaine rendront à tout moment possible ce partage ? Et même, pourrons-nous encore éprouver une émotion sans la partager ?

Les capacités d’auto-régulation, qui permettent à l’être humain d’organiser ses choix, risquent d’être elles aussi fortement impactées par la révolution des machines parlantes. La machine « sujetisée », c’est-à-dire partiellement perçue comme un sujet parce qu’elle est dotée d’une subjectivité artificielle, peut rapidement acquérir des pouvoirs de suggestion. Google, Amazon, Facebook et Apple – les fameux GAFA – ne cachent d’ailleurs pas leur ambition de faire de leurs enceintes connectées un cheval de Troie capable non seulement de capturer nos données les plus intimes, mais aussi de nous faire accepter, à terme, d’autres technologies plus invasives encore, utilisant des avatars numériques, puis des robots physiques dotés de capacités « empathiques ». Au fur et à mesure que la voix de ces machines pourra être adaptée aux attentes et aux fantasmes de leurs utilisateurs, il deviendra de plus en plus difficile de leur résister. Ces machines pourraient alors se révéler non seulement de redoutables instruments pour manipuler les émotions, mais au-delà, les pensées et même les comportements d’une personne.

C’est pourquoi l’évolution technologique nécessite de poser à la fois les bases d’une nouvelle éthique et d’une nouvelle psychologie. C’est la Cyberpsychologie[2], dont le but est de comprendre comment l’homme, en utilisant ses machines, se transforme autant qu’il les transforme, et aussi d’étudier les nouvelles formes de contrôle sur les citoyens. Il nous faut pour cela partir de nos attentes vis-à vis des machines, et de nos vulnérabilités, afin d’éviter de fabriquer des produits qui les aggravent. À ne pas nous poser cette question, un grand nombre de leurs usagers risque d’être embarqués dans des croyances erronées qu’il ne servira à rien de dénoncer : elles leur seront tellement agréables que rien ne pourra les y faire renoncer.

Un débat citoyen sur ces questions est essentiel. Tous ont un rôle à jouer : les fabricants qui les conçoivent, les pouvoirs publics chargés d’en réguler les usages et les parents qui devront protéger leurs enfants de leurs effets problématiques. Réfléchissons ensemble à la place de ces technologies, et ne sous-estimons pas le pouvoir des consommateurs que nous sommes. Si nous n’y prenons pas garde, le monde peut devenir de plus en plus déshumanisé, mais il sera difficile de nous en apercevoir tant il paraîtra plein d’affection et de bienveillance… Celles de nos machines de compagnie bien sûr.

[1] Tisseron, S. (2019). L’emprise insidieuse des machines parlantes, plus jamais seul. Les Liens qui Lobèrent.

[2] Voir Tisseron, S. (2018). Petit traité de cyberpsychologie, Le Pommier.