Intelligence artificielle : standardisation et uniformisation | Phantas-IA #5 | ARTE

Anne Aurel, artiste numérique, raconte l'histoire d'une femme appelée la tisseuse d'ombre qui porte des blessures invisibles. Un miroir savant nommé I scrutait son visage pour lire son âme, détectant les sourcils foncés, les lèvres tremblantes, les pupilles dilatées, un sourire, une addiction, une larme, un danger, un silence, une maladie.

Anne s'inspire de Théodore Géricault et de sa série des Monomanes, tableaux de malades mentaux peints en 1820. Le tableau "Monomane du jeu" au Louvre représente une femme qui n'a pas l'air bien, créé après le traumatisant projet du Radeau de la Méduse.

Au début du 19e siècle, la psychiatrie change le statut du malade, passant de la prise en charge du clergé à celle de la science. Étienne Jean-Gorget à la Salpêtrière a invité Géricault à peindre des portraits de malades mentaux, début possible de l'art-thérapie.

Anne utilise l'IA pour créer un avatar contemporain de la monomane du jeu, compilant des témoignages de forums spécialisés sur l'addiction au jeu pour générer une histoire fictive et un portrait photoréaliste personnalisé.

Monique, 66 ans retraitée, a commencé le jeu d'argent en ligne après le décès de son mari pour combler la solitude. Ce qui a commencé comme un divertissement sur les paris sportifs s'est transformé en obsession des machines à sous en ligne, tournant instantanément sans attendre les résultats.

• Les soirées puis les journées entières deviennent une seule obsession • Elle se couche à l'aube après avoir cliqué frénétiquement toute la nuit • Elle perd des centaines d'euros en quelques minutes • Elle accumule des dettes massives qu'elle ne peut faire face

Elle se décrit comme étant en transe, hypnotisée, avec un vide qui ne se comble jamais. Ses enfants ne se doutaient de rien au début. Même après tous les problèmes, l'attirance du jeu ne s'estompe jamais complètement.

Malgré de nombreuses tentatives sur différents générateurs vidéo, il est impossible d'atteindre le degré d'expressivité et d'émotion de l'original de Géricault. L'IA échoue à produire la singularité d'un regard authentique.

L'addiction au jeu est aujourd'hui une préoccupation majeure du corps médical. Il y a une grosse croissance de ce phénomène parce qu'il y a de plus en plus de gens qui ont accès aux jeux et que certains jeux sont encore plus addictifs que d'autres.

• Les opérateurs et plateformes utilisent des big data et des algorithmes • Ils détectent les joueurs malades qui leur apportent le plus de chiffres d'affaires • Le ciblage et l'observation des comportements sont utilisés pour créer des joueurs captifs • Les joueurs sont retenus le plus longtemps possible

La solitude qui émane de la toile originale de Géricault guide la mise en scène de Monique. Des casinos en ligne aux applis de paris sportif, le capitalisme numérique capte la pulsion ludique pour la transformer en dépendance rentable.

Monique est la voix de notre époque où la compulsion n'est plus marginale mais centrale et économiquement structurante. L'obsession et l'isolement demeurent au cœur du système.

Il y a plusieurs expérimentations et projets visent à utiliser des chatbots ou de l'IA pour aider au diagnostic, au soutien psychologique ou au suivi thérapeutique. Cela répond à une société où beaucoup de personnes souffrent d'isolement, notamment les personnes âgées.

Un chatbot peut donner l'illusion de contrer l'isolement, mais cela n'a pas le même poids que d'avoir de vraies relations sociales avec des soignants ou d'autres personnes dans des groupes de parole. En créant l'illusion d'une discussion, on peut même renforcer l'isolement social.

Un autre humain qui nous comprenne, c'est à l'origine du geste de Géricault. Ses visages à la dérive, il les observe à égalité avec empathie. Ce qui fait que la Monomane résiste au temps, c'est qu'il n'en a pas fait une caricature mais une personne réelle gardant son mystère.

Au 19e siècle, la psychiatrie marque un tournant dans le statut du malade considéré comme un être en souffrance. La représentation du fou change dans la peinture et la médecine, privilégiant l'empathie plutôt que la catégorisation.

Fuyant son reflet, la tisseuse suit un fil rouge jusqu'à la fabrique des doubles où vivent des créatures semblables : des visages moyens, des gestes moyens, des histoires moyennes. Aucun ne brille de sa propre lumière car la différence est avalée, lissée et clonée.

La disseuse comprend que la singularité est une menace. Elle confie à son cœur son grain, son nombre, son irréductible différence. Elle serre contre elle son grain de folie, son ombre rebelle, ce qui la rendait irréductible.

Le mot singularité signifie quelque chose comme une exception qui n'est pas répétable. Elle s'oppose traditionnellement à la standardisation ou l'uniformisation et désigne les différences, la diversité et les bifurcations possibles, les évolutions possibles, les transformations possibles.

Ce qui rend singuliers les humains, c'est d'avoir une vie, une mémoire, des désirs et des attentes intrinsèquement singuliers. On se différencie les uns des autres au niveau individuel mais aussi au niveau collectif par ces singularités.

Les intelligences artificielles génératives ne génèrent rien de nouveau. Elles calculent des moyennes sur des quantités massives de données. Ce sont des calculs statistiques ou probabilistes qui renforcent toujours ce qui est le plus probable.

• Dans tous les champs culturels (science, art, philosophie, cuisine, sport), les singularités sont les germes de la nouveauté • Les écarts par rapport à la norme, les originalités et les improbabilités produisent du nouveau • Einstein et Picasso sont des personnes et des pratiques très singulières • C'est à partir d'expressions singulières et exceptionnelles que du nouveau se produit

Le problème est l'industrialisation et la massification de contenus probabilistes et automatisés. Ces contenus vont bientôt devenir dominants sur internet et les IA génératives vont s'entraîner sur des contenus déjà générés automatiquement, effectuant des calculs de probabilité sur des contenus générés par d'autres calculs probabilistes.

Si les IA génératives ont pu être pertinentes et performantes, c'est parce qu'elles ont été entraînées sur des contenus générés par les humains. On ne sait pas vers quel type de contenu symbolique nous nous dirigeons si ces machines commencent à s'entraîner sur des contenus déjà générés par des calculs statistiques et probabilistes.

Grâce au fil brodé à son cœur, la tisseuse s'échappe de la fabrique des doubles. Son chemin s'achève sur un rivage hanté où les vagues rejettent des silhouettes sans nom. Elle sait que sans mémoire, il n'y a pas de justice.

La tisseuse plante son fil dans le sable et point par point produit une tapisserie vivante. Chaque point fixe une histoire, une cicatrice, une singularité. La tapisserie se met à briller d'une lumière douce.

La mémoire des vivants s'étend tel un drapeau contre l'oubli des machines. Cette création manuelle et singulière s'oppose à l'automatisation et à l'uniformisation.

Par la tapisserie, la tisseuse réclaim chaque histoire, chaque singularité contre les forces de standardisation. Elle affirme que la mémoire, les cicatrices et les différences sont ce qui nous rend vivants et dignes d'existence.

Silvia traverse quotidiennement la frontière entre Como en Italie et la Suisse pour le travail. À l'été 2016, elle a témoigné de quelque chose qu'elle ne peut oublier : la station de Como était devenue un camp de réfugiés avec des centaines de migrants accampés sur les binaires de la station comme en temps de guerre.

Elle cherche partout ces images mais ne parvient pas à les trouver, comme si elles n'avaient jamais existé. Elle se demande comment naît un souvenir, comment il se radique dans la mémoire et comment le restaurer.

• Une file interminabile de corps allongés dans des sacs de couchage sur les binaires de Como San Giovanni • Des binaires normalement affollés de touristes venus voir les merveilles du lac de Côme • Deux adolescents sur le train face à elle avec le terreur dans les yeux • Elle sait déjà comment finira leur voyage avant même qu'ils le sachent

La violence de la frontière se manifeste par l'effacement. Elle assiste immobile à la rimozione de ces personnes et du monde de sa réalité. C'est une suspension où elle attend un possible qui ne vient jamais.

Silvia trouve quelqu'un qui était à la station de Como en 2016 et qui a photographié ces moments. Mais en 2018, elle découvre que leurs souvenirs ne coincident pas intégralement : les images ne sont pas les mêmes, même s'ils ont tous deux vu les mêmes scènes dans les mêmes lieux.

Elle perd toute trace des images en noir et blanc. Elle doit chercher ses images ailleurs et s'approche du miroir obscur de l'IA, espérant qu'il peut l'aider à ressusciter des images que la mémoire officielle ne conserve pas.

• Montre-moi les images pendant que j'arrive en train à la station de Como San Giovanni • Montre-moi les gardes de frontière passant entre les wagons et controlant les documents • Montre-moi les réfugiés accampés sur les binaires en conditions précaires • Montre-moi les touristes et les frontaliers passant à côté incurieux

L'intelligence artificielle lui restitue seulement des images déshumanisantes, distortes et incorrectes qui la troublent tandis qu'elle tente de s'approcher d'une réalité si délicate. Dans le flux de scénarios générés, elle ne reconnait que quelques fragments de ce qu'elle a vu.

Silvia rencontre des chercheurs en études médiatiques et de surveillance qui étudient le fonctionnement de l'IA. Elle espère qu'ils peuvent l'aider à comprendre ou lui montrer comment chercher les images correctes dans cette technologie complexe.

Depuis plus de 10 ans, quand on parle d'IA, on parle des biais et de la discrimination qu'elle produit inévitablement. L'IA n'est pas produite sur un autre planète : c'est un miroir de la réalité dans laquelle elle a été construite.

• Si la réalité est raciste, l'IA se mouvra dans ces paramètres racistes • Si la réalité est suprematiste, l'IA les repliquera • Si la réalité est patriarcale, l'IA les perpetuera • L'IA reproduit ces paramètres dans tous ses outputs

L'IA ne fait que compter sur base statistique. Même quand elle interprète, crée des textes ou des images ex novo, elle le fait toujours sur base statistique en donnant une réponse statistiquement probable à ce qu'on lui a demandé. Elle ne connaît rien, ne peut rien apprendre, elle peut seulement rassembler de manière purement quantitative.

Silvia est toujours sur le train au confine entre Como et Chiasso. Elle n'a pu retrouver ses images et peut seulement ranimer sa mémoire à travers les paroles. Ce train prosegue sans fermata jusqu'à Chiasso.

Assise sur le train regardant par la fenêtre, elle reconnait et revit : une file interminabile de corps dans les sacs de couchage, les deux adolescents face à elle avec le terreur dans les yeux. Elle sait comment finira leur voyage.

• Elle ne sait pas quoi faire face à cette situation • Elle les voit pris par un bras par les gardes • Silencieusement, violemment retirés du train • Elle assiste immobile à leur removal du train et du monde

Plutôt que de confier sa mémoire aux machines, Silvia choisit de la préserver à travers la narration orale et écrite. C'est un acte de résistance contre l'effacement et l'oubli, contre la réduction statistique de l'IA.

On dit que la tisseuse d'ombre tisse encore au bord des miroirs, des fabriques et des rivages. Elle rappelle qu'on ne guérit pas en effaçant les visages, qu'on n'invente pas en clonant les différences.

On ne se souvient pas en confiant nos mémoires aux machines. La tisseuse affirme que c'est une erreur fondamentale de nous fier aux technologies pour préserver ce qui nous rend humains.

Ce sont nos ombres et nos singularités qui font de nous des êtres humains. Pas notre capacité à être standardisés, uniformisés ou calculables statistiquement.

La tisseuse d'ombre représente l'affirmation que chaque personne, chaque histoire, chaque cicatrice a une valeur irréductible que les systèmes d'IA ne peuvent ni compter, ni comprendre, ni préserver.