IA génératives : animisme, anthropomorphisme ou identification projective ? Quand un ingénieur de chez Google y perd la tête

par | 14 août 2023 | Actualités, Blog, Numérique, Technologies

Les machines capables de simuler les compétences humaines, comme les IA génératives, font naître de nouveaux défis, parmi lesquelles la nécessité de comprendre les relations que nous allons entretenir avec elles. Or, pour qualifier celles-ci, trois mots sont parfois employés sans que les distinctions entre eux ne soient toujours clairement posées : animisme, anthropomorphisme et identification projective. Pourtant, ces distinctions permettent de mieux comprendre comment l’organisation établie par Daniel Kahneman entre deux modalités de pensée (qu’il appelle système 1 et système 2) peut parfois être déroutée.

Animisme et anthropomorphisme

Commençons par ces deux mots tant les confusions entre eux sont courantes.

L’animisme est une forme d’organisation culturelle. La distinction entre le monde animé et le monde inanimé n’y est pas clairement posée comme dans nos cultures occidentales marquées par le christianisme, puis le rationalisme du siècle des lumières. Personne n’est donc jamais animiste seul. L’animisme est inséparable d’une société qui organise des règles et des rituels destinés à inscrire dans l’organisation sociale la place de chacun, qu’il soit un objet, un animal ou un humain, et qui reconnaît à chacun, à des degrés divers, les mêmes compétences.

L’anthropomorphisme en revanche, est une composante humaine indépendante des diverses cultures que l’humanité s’est construite. Il existe sous une forme plus ou moins intense chez chacun d’entre nous, mais ne donne pas lieu comme l’animisme à des rituels collectifs qui peuvent structurer une société. Il consiste à projeter sur l’environnement animal d’abord, mais aussi sur les objets qui nous sont proches, des pensées et des émotions. L’anthropomorphisme permet à l’homme, depuis les origines, d’apprivoiser le monde en entrant avec l’ensemble des éléments de son environnement comme il le fait avec ses semblables, c’est-à-dire en leur attribuant ses propres catégories dans l’attente de ses réponses. D’ailleurs, il faudrait peut-être penser l’attitude anthropomorphe comme l’équivalent dans nos relations au monde inanimé d’une tendance plus fondamentale de l’être humain que j’appellerai faute de mieux, « egomorphe ». Chez l’enfant, le monde animé et le monde inanimé sont perçus par lui comme fonctionnant selon les mêmes catégories que celles selon lesquelles il fonctionne lui-même. Et la souplesse que nous devons avoir dans nos projections anthropomorphes sur les objets ne pourrait bien être qu’un cas particulier de la souplesse que nous devons avoir dans nos relations avec les humains qui nous entourent, pour éviter d’imaginer qu’ils fonctionnent forcément comme nous fonctionnons nous-mêmes. De ce point de vue, l’egomorphisme vis-à-vis des objets présente un avantage considérable sur l’egomorphisme vis-à-vis de nos semblables. À la différence de ceux-ci, les objets ne contredisent que très rarement nos projections sur eux.

Par rapport à l’animisme qui est un cadre culturel rigide et contraignant pour chacun, la relation anthropomorphe est donc un processus souple et labile, et il me semble pertinent de l’expliquer en faisant intervenir les deux systèmes de pensée identifiés par Daniel Kahneman[1], bien que cet auteur n’envisage jamais ce rapprochement. Rappelons que l’apport de Daniel Kahneman à la compréhension du fonctionnement mental a consisté à identifier deux systèmes de pensée qu’il a comparée métaphoriquement au lièvre et la tortue : le premier est en effet rapide, instinctif, émotionnel et intuitif, et il consiste le plus souvent à appliquer dans les situations nouvelles les solutions qui ont marché par le passé. Ce système est soumis au risque de nombreux biais cognitifs et nous n’échappons parfois à la catastrophe qu’en ayant recours à un autre système, le système 2. À la différence du premier, celui-ci est lent et fait intervenir les compétences analytiques et synthétiques. Il nécessite un effort mental important et nous ne le mobilisons en général que dans les situations où le système 1 s’avère inopérant.

Les quatre formes d’identification projective

Mélanie Klein[2] a décrit sous ce nom un processus mental qui relèverait dans tous les cas d’une organisation psychique particulière qu’elle appelle paranoïde-schizoïde, et qui peut concerner quatre dimensions de la personnalité[3].

  1. Tout d’abord, une personne peut projeter sur des éléments de son environnement certaines caractéristiques de sa vie mentale dont elle cherche à se débarrasser.

Elle les fait endosser par quelqu’un d’autre ou par un objet (c’est la composante projective), puis elle réduit cette personne ou cet objet à ce qu’elle y a projeté. Par exemple, je refuse de reconnaître mon ambition, alors je l’attribue à mon rival je ne le vois plus que comme un ambitieux. Il devient pour moi l’incarnation de l’ambition, je ne peux pas le voir autrement, et je le méprise pour cela, alors que cet aspect de sa personnalité fait en réalité partie de moi. Ce qui ne veut pas dire, bien entendu, que cette personne ne soit pas ambitieuse, mais il peut y avoir un monde entre la place réelle de son ambition et la façon dont mon identification projective le réduit à n’être que cela.

  1. Nous pouvons aussi projeter sur notre environnement humain ou non un humain des compétences positives.

C’est ce processus que décrit Alfred Lotka[4] sous le nom d’exosomatisation. C’est parce que l’homme a été capable d’imaginer que certaines de ses compétences physiques, puis mentales, pouvaient être transférées à des objets qu’il a acquis la compétence de fabriquer des outils qui ont d’abord augmenté sa force musculaire, puis progressivement ses capacités mentales, comme avec la mise au point des premières machines à calculer, et jusqu’aux derniers ordinateurs qui ne sont finalement que des computers extrêmement sophistiqués.

  1. Il peut arriver aussi que l’homme, en projetant certaines parties positives de lui-même dans les objets qu’il fabrique ou qu’il utilise, ait le sentiment de perdre contact avec elles.

« Le moi se trouve affaibli et appauvri dans la mesure où il risque de perdre, dans l’identification projective, de « bonne » partie de lui-même », écrivent Laplanche et Pontalis[5]. D’où le sentiment « d’obsolescence de l’homme » décrit par Anders[6], mais aussi l’importance de ce que j’ai appelé le mouvement d’endosomatisation[7] qui fait suite au mouvement d’exosomatisation décrit par Alfred Lotka. Il est en effet inévitable que l’homme, après avoir projeté certaines parties de lui-même dans des objets qui l’entourent rêve de pouvoir réintégrer ces objets à l’intérieur de lui, sous la forme de prothèses articulaires d’abord, organiques ensuite comme un cœur artificiel et pourquoi pas dans son esprit même sous la forme de prothèses neuronales comme rêve de le faire Elon Musk. Ces deux mouvements successifs et complémentaires se combinent pour n’en former qu’un seul : l’exendosomatisation[8].

  1. Enfin, l’homme peut projeter sa personne en totalité dans un objet, ou tout au moins en rêver.

C’est évidemment le mythe transhumaniste qui consiste à imaginer qu’un jour, il n’y ait plus d’autre alternative pour les humains, pour leur éviter d’être définitivement mis hors course par la puissance grandissante des machines, de transférer leur monde mental dans un robot dont le changement régulier des pièces leur assurerait l’immortalité.

Projection « sur » et projection « dans »

Cette approche permet de distinguer deux types de projections sur les objets : la projection « dans » et la projection « sur ». La première organise les cultures animistes et l’identification projective décrite par Mélanie Klein. Elle modifie l’objet en profondeur et de façon durable. On ne lève pas en effet l’identification projective au sens de Mélanie Klein en sollicitant le système 2. Ça ne marche pas ! La ré intériorisation des parties clivées et projetées est très problématique comme le savent tous les cliniciens. Mais après Mélanie Klein, des psychanalystes comme Winnicott ont insisté sur le fait qu’elle est tout de même possible sous certaines conditions.

En revanche, la projection « sur » est labile et de l’ordre du fonctionnement mental courant. Cela signifie que nous avons tous tendance à considérer nos interlocuteurs à partir de nos projections sur eux (nous les réduisons à ces projections), mais qu’en même temps nous sommes toujours prêts à les faire évoluer (tout au moins si nous ne sommes pas prisonniers de convictions délirantes) en fonction de ce que nous découvrons sur eux. La projection « sur » relève du système 1 et de l’anthropomorphe normal qui permet à l’homme, depuis les origines, d’apprivoiser le monde. Elle ne modifie pas la nature de l’objet qui reste un objet, grâce au système 2.

Logique scientifique et logique religieuse

Le data scientist Blake Lemoine était chargé il y a un encore un an de la programmation et de l’entrainement de Lamda, le modèle de langage de Google interrogeable avec une interface de type Chatbot. Tout allait bien jusqu’à ce qu’il déclare publiquement que la machine dont il avait la charge était sentiente, c’est-à dire qu’elle avait la capacité d’éprouver des choses subjectivement et d’avoir des expériences vécues. Cet employé projetait évidemment dans l’objet (ici une machine conversationnelle) son propre vécu subjectif du monde, c’est-à-dire des états sensoriels, affectifs, cognitifs voire moteurs qui lui appartiennent. Chez lui, il ne s’agissait donc pas seulement d’anthropomorphisme, mais d’identification projective, c’est-à-dire non pas de projection « sur », mais de projection « dans ». Ses collègues ont essayé de faire appel à son système 2, mais ça n’a pas marché.  Il a totalement identifié l’objet à ce qu’il y projetait de lui-même. Il a été renvoyé, mais au lieu de prendre un avocat pour se défendre, il a pris un avocat pour défendre la machine dans laquelle il avait projeté probablement la partie la plus précieuse de lui-même de telle façon qu’il tenait avant tout à ce que cette machine soit reconnue comme consciente et respectée, en écartant ce qui doit être pour lui un cauchemar total, son démantèlement.

Heureusement, de telles personnalités ne sont pas communes, et l’activation du système 2 chez la plupart d’entre nous constitue un rempart à la projection « dans » et donc à la croyance magico-religieuse. Ne croyons pas pour autant que chez ces personnes, l’intelligence du système 2, analytique et synthétique, soit en sommeil. Des personnalités schizoïde-paranoïdes sont capables de construire de grands systèmes théoriques extrêmement rigoureux et il est probable qu’on en rencontre un certain nombre chez les mathématiciens. Donc on ne peut pas dire que chez eux le système 2 ne s’active pas. C’est pire, il se met au service du système 1 et travaille avec intelligence, application et minutie à trouver des raisons de croire. Il faut donc faire intervenir ici une troisième force : l’angoisse d’anéantissement qui habite les personnalités schizoïde-paranoïdes.

Autrement dit, il faudrait envisager une correction du système de Kahneman adaptée à la pathologie mentale : si tout va bien, le système 2 corrige le système 1. Mais si l’identité est trop intensément menacée et que la projection dans l’objet de certaines caractéristiques du soi devient un existentiellement vital pour l’individu, comme il semble que cela était le cas pour Blake Lemoine, le système 2 se met au service du système 1. Cela concerne heureusement peu de monde, mais on peut se demander si ceux qui sont le plus attirés par les machines ne seraient pas en même temps les plus susceptibles d’être victimes de ces façons de penser.

Ce qui pose une question : n’est-il pas urgent de mettre au point un test permettant de savoir à qui on peut confier la programmation et la gestion des machines, et à qui il vaut mieux l’éviter ?

[1] Kahneman, D. (2011). Système 1/ Système 2 : les deux vitesses de la pensée, Odile Jacob, 2011.

[2] Klein, M. (1955). Envie et gratitude et autres essais, Gallimard.

[3] Laplanche J. & Pontalis J.B., Vocabulaire de la psychanalyse, PUF, 1967.

[4] Lotka, A.J., “The law of evolution as a maximal pinciple”, Human Biology, 1945, 17, 3, p. 167-194.

[5] Op. cit., page 193.
[6] Anders, G. (1956). L’obsolescence de l’homme : Sur l’âme à l’époque de la deuxième révolution industrielle, Editions de l’Encyclopédie des nuisances, 2002.

[7] Tisseron, S. (2020). L’exendosomatisation, de la production des technologies par exosomatisation au métissage homme-machines par endosomatisation, Psychologie Clinique 49(1), 90-100.

[8] Ibidem.