Dans la mythologie antique, la Gorgone est un monstre redoutable qui a le pouvoir de transformer en pierre tous ceux qui croisent son regard. Autant dire qu’elle est invincible. Comment lui trancher la gorge sans la regarder ? C’est pourtant ce que parvient à faire Persée en utilisant un bouclier bien particulier que lui a donné la déesse Athéna, un bouclier en forme de miroir. Ainsi le héros localise-t-il la tête du monstre sans jamais le regarder dans les yeux. Je ne suis pas certain que ce soit très facile, mais dans la mythologie, les difficultés pratiques sont rarement prises en compte. C’est ainsi que nous pouvons voir de nombreuses œuvres montrant le héros en train de brandir la tête du monstre par la chevelure, mais aucune célébrant le moment où il la décapite. Trop difficile à représenter sans doute…
Qui sont ces serpents qui sifflent dans nos smartphones ?
Mais pourquoi évoquer cette légende ? Parce qu’aujourd’hui, il semble bien que le regard de la Gorgone capable de nous pétrifier ne se trouve plus sur la tête d’un monstre, mais sur Internet. Sur le Net, il y a en effet tout l’inconscient du monde, et beaucoup de ce qu’on y trouve a de quoi nous pétrifier de terreur. Les serpents dressés sur la tête de la Gorgone ont aujourd’hui pour noms la pornographie, les messages de haine en boucle, le cyber harcèlement et toutes les informations mises spécialement en forme pour nous scandaliser, nous effrayer, et finalement nous empêcher de penser, ce qui signifie notamment nous empêcher de distinguer le vrai du faux. Des intelligences artificielles sont même maintenant spécialement programmées pour réécrire des faits divers anecdotiques de façon à les transformer en scoops capables de polariser les opinions et de monter des communautés les unes contre les autres. Tout cela jaillit de notre Smartphone comme les serpents de la tête de la Gorgone et menace d’occuper nos esprits d’une façon qui ne nous lâche plus, nous épuise, et finalement nous démobilise, avec le risque de devenir la proie facile de manipulateurs d’opinion.
Alors, comment faire pour ne pas regarder la tête du monstre. Certains décident de n’utiliser leur Smartphone que pour se connecter à des espaces dans lesquels il leur semble être protégés, et font en sorte que leurs enfants y soient confrontés le plus tard possible. Aux États-Unis, certains de ceux qui ont suivi de près la campagne de Donald Trump pour les élections présidentielles sont devenus des News Avoiders. Ils ont pris en horreur une information dans laquelle il est devenu impossible de démêler le vrai du faux.
Une gorgone nourrie par la recherche du profit
Internet n’a pas toujours eu la tête de la Gorgone. Au début, ses promoteurs avaient même imaginé en faire un nouvel espace de démocratie à l’échelle de la planète. Ceux qui voudraient faire un long discours prendraient le temps tandis que ceux qui se contentent habituellement de glisser un bulletin dans l’urne pourraient se contenter de lever le doigt, précisément le pouce. Mais très vite, ceux qui leur ont succédé ont vu dans ces plates-formes une source quasiment infinie de revenus assurée par la capture des données personnelles des internautes. Mais pour cela, il fallait augmenter le trafic. Comment faire ? En maximisant les échanges. En effet, les internautes qui partagent une conviction qui leur semble importante, comme une appartenance religieuse ou politique, sont beaucoup plus enclins à échanger des informations de moindre valeur à leurs yeux, comme des recettes de cuisine ou des commentaires sur leurs vacances. Mais ces informations sont extrêmement précieuses pour les plates-formes, dont les bénéfices, rappelons-le, sont basés sur la collecte et l’exploitation des données des utilisateurs. C’est ainsi qu’après la traditionnelle économie de l’attention bien connue de tous les commerçants, ces plateformes ont développé une science de la capture des données, appelée la « captologie », puis diverses stratégies d’influence. Les réseaux sociaux ont regroupé les usagers dans des espaces ou chacun partage les mêmes opinions. La conséquence est de susciter une grande confiance de chacun dans ses opinions puisque son groupe les lui renvoie comme les seules possibles. C’est ce qu’on appelle des « bulles » ou des « chambres d’écho ». Avec pour conséquence que les messages sarcastiques ou haineux vis-à-vis des autres groupes – ceux qui pensent autrement – deviennent quasiment naturels et se multiplient. Ce n’est évidemment pas l’objectif des plates-formes, mais cela découle de leur modèle économique qui vise à augmenter les profits. Cette manipulation peut aussi être le fait d’un groupe politique. En Inde, le gouvernement au pouvoir utilise le réseau social Facebook pour augmenter la colère des Hindous contre les musulmans et encourager indirectement l’agressivité à leur égard.
Un bouclier qui poursuit ses intérêts propres
Ainsi, les serpents ont poussé toujours plus nombreux sur la tête du monstre Internet. Et puis les chatbots sont arrivés et il est devenu possible de regarder les serpents latéralement. Car avec les nouvelles intelligences artificielles génératives, il n’est plus nécessaire de se confronter directement à Internet. Vous pouvez demander simplement une présentation de ce qui vous intéresse. Et le langage que les fabricants de ces l’IA leur ont bricolé contient tout ce qu’il faut pour être rassurant. Même les massacres sont présentés d’une façon qui les rende acceptable, réduits à des nombres abstraits de victimes, et intégrés dans un narratif clair. On ne sait jamais quelle valeur objective lui accorder, mais il semble préserver l’idée qu’il existe un ordre du monde. Et surtout, ces machines sont programmées pour nous présenter les choses d’une façon qui ne nous mette jamais en colère, ne nous communique jamais la honte, et surtout nous rassure toujours sur la disponibilité infinie dont elles se disent disponibles à notre égard. Les serpents peuvent siffler de plus en plus fort, nous sommes assurés avec ces intelligences artificielles génératives de toujours trouver un compagnon attentif à nos demandes et à nos attentes, prêt à nous répondre très aimablement et à s’excuser de ce qu’il aurait pu nous formuler de façon erronée ou ambiguë. Le bouclier des chatbots joue parfaitement le rôle d’un pare excitation, mais ce n’est pas pour nous permettre de trancher la tête du monstre, c’est pour nous permettre de vivre à ses côtés sans nous obliger à nous protéger des violences du monde en nous y rendant totalement insensibles, sans basculer dans l’indifférence glacée, bref sans être transformés en pierres.
Bien sûr, les chatbots ont leurs biais, économiques, techniques et idéologiques. Ils ne nous montrent pas les monstres d’Internet tels qu’ils sont en réalité, mais tels qu’il est possible de les montrer de façon acceptable, et bientôt tels que les informations qu’ils possèdent sur nous leur permettront de les adapter à la sensibilité de chacun. On ne peut pas comprendre le recours de plus en plus fréquent qu’en font nos contemporains sans prendre en compte cette fonction de pare excitation, autrement dit de bouclier. Mais n’est-ce pas déjà ce que permet le traditionnel écran de télévision en nous mettant au cœur de tous les conflits sans que notre vie n’y soit jamais exposée, et en nous permettant même d’entendre le fracas des explosions d’une façon supportable à nos oreilles ? Les chatbots rendent l’information sur la réalité du monde de plus en plus accessible, mais en même temps de plus en plus aseptisée, ce qui la rend à la fois intellectuellement plus proche, et émotionnellement plus lointaine. « Dormez tranquilles, braves gens. »
