L’une des premières critiques adressées à ChatGPT a été que cette intelligence générative se contente de couper-coller des informations rentrées dans sa base de données. La machine étant totalement dépendante pour ses réponses de cette base de données, la responsabilité des programmeurs y est évidemment fondamentale. Une IA nourrie avec une base de données américaine ne donnera évidemment pas les mêmes résultats que le même système alimenté par une base de données chinoise ou indienne. Même si les cultures occidentales ont développé une politique de traduction importante des œuvres de pays non occidentaux, celles-ci sont trop lacunaires pour donner une idée exacte de la façon dont ces cultures peuvent se représenter le monde. Mais quel rapport avec l’humain ?
Système 1 et système 2
Daniel Kahneman a considérablement clarifié notre compréhension du fonctionnement mental en nous montrant que l’être humain ne gère pas son environnement avec un seul mode de raisonnement, mais avec deux, à la fois opposés et complémentaires. Le premier est le « système 1 », intuitif, basé sur les expériences passées qui ont montré leur pertinence. Le second est le « système 2 », basé sur l’analyse de la situation et le raisonnement. Il est beaucoup plus rigoureux que le précédent, mais il nécessite du temps et un engagement mental plus important.
Dans la plupart des situations de la vie courante, qui sont largement répétitives, le système 1 est parfaitement suffisant. Le problème est qu’il est bourré de ce qu’il est convenu d’appeler des « biais cognitifs », c’est-à-dire des erreurs de jugement. Ceux-ci sont ont deux origines. Tout d’abord, il s’agit de la croyance évidemment erronée que les solutions qui ont fonctionnée par le passé vont forcément nous permettre de résoudre nos difficultés présentes. Mais cette croyance peut coûter la vie. C’est ce qui s’est passé lors des inondations catastrophiques de Cannes en 2015. Des automobilistes ont pensé que ces inondations étaient semblables à celles qu’ils avaient connues les années précédentes et ils ont tenté d’aller récupérer leur voiture dans les parkings souterrains. Le problème est que les eaux sont montées beaucoup plus vite et plus haut que d’habitude et certains de ces automobilistes sont morts noyés.
La seconde origine de nos biais cognitifs concerne la façon dont nos organes des sens et l’organisation de notre cerveau peuvent nous tromper totalement sur la réalité du monde. Rappelons à ce sujet le quiproquo engendré par l’annonce faite au début de la pandémie de Covid 21 sur le risque d’une progression géométrique des personnes infectées. Dans une telle progression, le nombre de morts peut doubler chaque jour. Mais l’esprit humain est incapable de se représenter une telle progression, et la plupart des citoyens ont interprété cette annonce sur le modèle d’une progression arithmétique, qui est beaucoup plus lente. L’augmentation rapide du nombre de morts a alors entraîné ces mêmes citoyens à déclarer que soit les experts s’étaient trompés, soit ils avaient sciemment trompé la population sur les conséquences de la pandémie.
Mais il semble que l’être humain ait un troisième mode de fonctionnement qui ne doit rien ni à ses expériences passées, ni aux limites de ses capacités cérébrales.
Le système zéro
Nous proposons d’appeler « système zéro » la propension de l’être humain a fonctionner en coupant-collant des informations qu’il a pu entendre ou lire. Cette tendance à la répétition joue un rôle considérable dans le développement du jeune enfant. S’il devait en effet passer au crible d’une compréhension fine tout ce qu’il entend (ce dont il serait d’ailleurs bien incapable !), ses apprentissages linguistiques seraient considérablement ralentis. Nous connaissons tous les enfants qui répètent ce que disent leurs parents. Mais nous sommes en général moins attentifs à la façon dont nos amis, et nous-mêmes, pouvons répéter, lors de conversations informelles, des bribes d’information et de commentaires que nous avons entendus ou lus dans les médias.
C’est ce qui nous permet d’avoir toujours une opinion, même si elle ne consiste qu’à adhérer à l’opinion du journaliste, de la chaîne radio ou de télévision, ou encore du journal auquel nous attribuons en général notre confiance. C’est d’ailleurs pourquoi les conversations des personnes qui s’informent aux mêmes sources peuvent provoquer un certain malaise. Au moment où chacun, à tour de rôle, prend la parole pour évoquer quelque chose que ses interlocuteurs n’ont pas encore abordé, il risque en effet de s’entendre dire : « Ah oui, je l’ai lu (ou entendu) moi aussi. » Et du coup, comme dans ce que les théoriciens des réseaux sociaux appellent une « bulle », ou encore une « chambre d’écho », tous découvrent qu’ils se réfèrent à la même interprétation que chacun ne fait que répéter. Le plus souvent, cette saine lucidité n’est hélas pas au rendez-vous. La réaction de chacun est plutôt : « Ah oui, vous le pensez-vous aussi ? je suis bien heureux de découvrir que nous sommes d’accord. » Ce n’est pas la surprise de découvrir que l’on s’informe aux mêmes sources qui prévaut, mais la jubilation d’être entre personnes de distinction capables de se fabriquer une opinion vraie dans un monde d’informations contradictoires.
Cette forme d’interaction nourrit évidemment la sociabilité. Car le plus souvent, la diversité des engagements professionnels des uns et des autres, leur disponibilité différente à consulter les médias d’information, les échanges qu’ils ont avec d’autres protagonistes, et surtout les différences d’âge qui s’accompagnent en général du fait de se nourrir à des sources d’information différente, tout cela a pour conséquence qu’après un dîner entre amis dans lequel chacun n’a fait que se livrer à cet exercice de psittacisme convivial, il est possible de se séparer en se disant que « la soirée était très réussie ». Lorsque j’étais en khâgne au lycée du parc, nous aimions dire : « le khâgneux n’a pas d’opinion, mais il les défend avec beaucoup d’énergie. » J’ai beaucoup vieilli depuis, et je crois que ce que nous disions à ce moment là n’était pas seulement valables pour les khâgneux, mais pour chacun tout au long de la vie.
Morale et propagande : les deux sources du système zéro
Le système zéro, qui consiste à répéter ce que nos parents nous ont répété, ce que nos amis nous disent, ou ce qu’un pouvoir politique en place nous commande de penser, présente de ce fait même une certaine labilité. Car toutes ces opinions ne sont pas forcément congruentes. Elles le sont hélas dans deux séries de circonstances qui portent alors leur ombre sur la capacité de penser : la propagande et la morale.
Commençons par la propagande. Son objectif est de créer des modèles contraignants de prêt-à-penser. Ce qui se passe actuellement en Russie autour de la guerre en Ukraine en est un exemple terrifiant. Un grand nombre de citoyens russes sont privés de toute forme d’information objective sur la situation de telle façon que, de quelque côté qu’ils se retournent, ils n’ont affaire qu’au même discours de propagande. Ceux qui prétendent le contester se retrouvent en prison, et le président Poutine vient d’annoncer que ceux qui diffusent, comme dit le gouvernement russe, « des fausses nouvelles sur la guerre en Ukraine », n’encourent pas seulement des peines de prison, mais risquent de voir également tous leurs biens confisqués. Rares sont ceux qui continueront à avoir le courage de tenir un autre discours que le discours officiel et, à défaut d’entendre autre chose, La plupart finiront par croire qu’ils pensent juste. Quant aux autres, il leur sera de plus en plus difficile de penser qu’ils ont raison si tout leur entourage pense autrement. Rappelons-nous des travaux de Christopher Lasch : beaucoup de personnes invitées à donner leur avis sur une épreuve très simple sont prêtes à se ranger à l’avis de la majorité des participants, en réalité des complices de l’examinateur engagés pour donner une réponse fausse.
Le rôle joué par la morale est encore plus problématique. D’ailleurs, celle-ci n’est pas loin d’être une forme de propagande communiquée aux éléments les plus jeunes d’un groupe par les adultes et les seniors qui en font partie. L’objectif de la morale n’est pas, comme on pourrait le croire, d’inculquer à l’enfant des comportements qui lui permettent de comprendre l’importance de se réinventer sans cesse, d’être chaque jour plus vivant et plus attentif aux autres et à lui-même, et à braver l’adversité en semant l’espoir. Cela, c’est une morale parmi d’autres. Chaque groupe social à sa morale et elle contribue hélas souvent à ces biais cognitifs que nous évoquions précédemment. Car la particularité de la morale est justement de n’être pas construite sur une expérience personnelle, mais sur la confiance dans les règles et les usages que les générations précédentes ont bâtis. Or, justement parce qu’elles ont été bâties dans un monde différent, ces règles peuvent être inadaptées au monde présent. Autrement dit, la morale peut devenir un obstacle à une compréhension de la réalité et un frein à l’innovation. Pendant très longtemps, ce rôle problématique a été caché par le fait que le monde évoluait extrêmement lentement. Ce qui avait été valable pour les générations précédentes l’était encore en grande partie pour les générations actuelles. Mais le monde a changé et les horizons politiques, technologiques et médicaux n’ont plus rien de commun avec ce qu’ils étaient il y a à peine 50 ans. Du coup, il est compréhensible que les personnes âgées tiennent à une morale du siècle dernier. Elle les rassure en les maintenant dans l’illusion que les changements en cours doivent être le plus possible limités et contenus. En revanche, il est beaucoup plus discutable que ces personnes s’accordent le droit d’inculquer leur morale aux nouvelles générations. Leur communiquer des valeurs serait bien préférable. Encore faudrait-il que les parents et les pédagogues sachent quelles valeurs ils tiennent à communiquer. Or c’est bien le problème : tant de gens se sont habitués à faire du coupé-collé des préceptes moraux de leurs parents, puis de porte-parole désignés sans leur demander leur avis, qu’ils ne sont pas préparés à penser les valeurs de demain. Alors ils répètent la morale du passé, et se rendent incapables de comprendre les évolutions du monde, et pire encore d’y accompagner leurs enfants. Ils sont en système zéro.