Un monde merveilleux

Un monde merveilleux de Giulio Callegari

Imaginez un monde dans lequel un robot vous apporte le petit déjeuner, fait la vaisselle à votre place, descend vos poubelles et promène votre chien, toujours d’humeur égale, et pour cause, puisqu’il n’en n’a pas. Ce monde vous paraîtrait probablement assez vite légitime et ordinaire, sauf à avoir un esprit anarchiste et rebelle. C’est justement le cas de Blanche Gardin dans le film de Giulio Callegari¹. Elle y joue le rôle d’une mère de famille, nommée Max, qui tient dans le même mépris la société qui l’oblige à travailler, les robots qu’elle fabrique et les autorités chargées de faire respecter ses lois. Alors, elle élève sa fille (Laly Mercier) en l’initiant à une forme de vol facile, rentable, et à ses yeux éthique : le vol de robots, qu’elle vend à un intermédiaire véreux qui en écoule les pièces détachées.

Imitation

Le film commence avec le vol rocambolesque du robot de compagnie d’une vieille dame en hôpital gériatrique. Pour une fois, le revendeur n’en veut pas. C’est un vieux modèle, un « T-0 » (Théo), alors que le T5 est déjà en vente. Max se retrouve obligée de le garder. Pour que le lecteur comprenne la suite, disons quelques mots de la machine. T-0 est un robot qu’on appelle « humanoïde ». Il a un tronc, deux jambes, deux bras et une sorte de tête qui lui donne une similitude fonctionnelle avec les êtres humains. Il est capable d’accomplir les mêmes gestes que nous, comme de courir, danser ou ramper, même si, en pratique, on attend surtout de cette machines qu’elles porte des paquets, passe l’aspirateur et conduise notre voiture. En tous cas, elles n’a pas de visage capable d’évoquer une identité humaine, à la différence des robots dits « androïdes », dont le visage imite très précisément celui d’un humain grâce à un revêtement de plastique reproduisant l’aspect et le toucher de la peau humaine, voire à une vraie peau !

Afin qu’elles nous soient utiles, ces machines sont programmées pour apprendre en imitant les comportements qu’elles observent chez leur propriétaire. Dans Un monde merveilleux, le T-0, qui suit Max dans le supermarché, vole comme elle, ce qui a pour conséquence d’alerter le service de sécurité et de la faire arrêter. En effet, ce robot apprend plus vite à voler qu’à masquer ses vols, tout simplement parce qu’il ne perçoit pas le comportement de sa propriétaire comme un vol. L’apprentissage du robot est bridé par le programme que lui a implémenté son fabricant : un T-0 ne peut accomplir aucun acte délictueux qu’il est capable d’identifier comme tel.

L’honnêteté du robot contrarie donc les plans de Max, qui est arrêtée tandis que sa fille est confiée à une famille d’accueil. Afin de la récupérer, Max s’évade du commissariat où elle était interrogée, rejoint T-O dans sa voiture et le reste du film met en scène leur cavale.

Données personnelles

Pour éviter d’être repérée, Max jette son Smartphone par la fenêtre. Mais le robot lui aussi est géolocalisé ! Si vous avez un jour un robot à vos côtés, sachez qu’il le sera lui aussi, et qu’il transmettra vos conversations, exactement comme le fait déjà l’enceinte connectée Alexa². Ces machines seront en effet connectées, en permanence ou en différé, et communiqueront l’ensemble de nos paroles, faits et gestes à un serveur central. Ces informations permettront d’adapter le comportement de la machine à nos attentes et à nos habitudes, mais aussi de vérifier que notre utilisation est conforme aux préconisations du fabricant et – last, but not least – d’exploiter nos données personnelles, exactement comme le font aujourd’hui les fournisseurs des réseaux sociaux qui nous envoient des publicités ciblées en fonction de nos échanges avec nos amis. Le problème est que l’attachement que nous sommes capables de développer vis-à-vis de ces machines risque de nous faire oublier le poids des programmeurs qui sont derrière elles, au moment de leur conception, mais aussi dans le traitement des données personnelles que nous leur livrons au fil de nos échanges. Et certains d’entre nous pourraient préférer leur compagnie, programmée pour nous être agréable en tout, à celle des humains, souvent peu disponibles à nos attentes³.

En principe, nous sommes capables de prendre du recul par rapport à ce risque. Comme l’a montré Daniel Kahneman⁴, l’être humain est en effet doté de deux systèmes de raisonnement : le premier est intuitif et consiste à penser le monde selon catégories subjectives et en fonction de nos expériences, qui peuvent ne pas coïncider avec les situations nouvelles qui se présentent à nous. Ce système risque donc d’induire beaucoup d’erreurs, mais il est souvent bien utile pour gérer la plus grande partie des situations qui se présentent à nous. Le second système, en revanche, est lent et réflexif. C’est la juxtaposition de ces deux systèmes qui nous permet par exemple d’insulter notre ordinateur s’il tombe en panne, en lui parlant comme s’il était un humain, mais de ne pas nous excuser auprès de lui ensuite, parce que nous savons bien qu’il ne l’est pas. Pourtant, avec les machines parlantes, la prise de recul s’avère plus difficile. Et même une personne aussi critique vis-à-vis des robots de compagnie que Max peut se laisser entraîner…

Attachement

Au fur et à mesure de ses interactions avec le T-0, Max s’attache de plus en plus à lui. Après un accident qui l’a en partie démantelé, elle tente de le sauver et de lui rendre ses capacités. Cette tendance de l’être humain à s’attacher aux objets qui l’entourent, et notamment à ceux qui simulent des compétences humaines, est bien connue sous le nom d’anthropomorphisme⁵. Chez notre héroïne, cela est d’autant plus compréhensible qu’après le placement de sa fille, elle est seule, sans compagnon et sans amis vers lesquels se retourner pour l’aider. La machine vient donc occuper une place vacante dans sa vie. Mais en même temps, son comportement pendant le film ne laisse guère de doute : elle est si constamment provocatrice qu’il semble bien difficile à un humain de partager sa vie. Autrement dit, seul un robot peut la supporter ! Or, cette disponibilité de la machine peut avoir en retour un effet pervers : elle n’invite pas Max à envisager de changer. Telle est sans doute la leçon la plus réaliste du film : ceux qui pensent que leur caractère « est ce qu’il est » et que, si leurs proches ne les supportent pas, ils n’en sont pas responsables, trouveront dans les robots de compagnie le partenaire idéal pour ne pas évoluer.

Le problème n’est d’ailleurs pas spécifique aux robots de compagnie. Et c’est même probablement la principale difficulté que nous allons devoir affronter avec les intelligences artificielles. Ces machines s’adapteront si bien à chacun d’entre nous, à nos goûts, à nos possibilités cognitives et à nos attentes affectives, que nous risquons de développer avec elles, dans les loisirs comme au travail, une relation qui nous fera oublier les vertus du débat et de la controverse. C’est pourquoi, de la même façon que, partout où il y a un écran, il est important de développer des liens de proximité affective et sociale, nous allons devoir développer partout autour de l’IA des communautés de partage d’expériences et d’entraide.

1 Sortie en France le 7 mai 2025.