L'IA menace-t-elle la démocratie ? | L'Europe dans l’œil du cyclone avec Hugo Micheron | ARTE

Les groupes djihadistes ont déjà commencé à utiliser des modèles d'IA génératives sur les réseaux sociaux. Les spécialistes avertissent qu'il faut se préparer à des manipulations massives à la portée de tous.

Hugo Micheron est docteur en sciences politiques et maître de conférence à Science Po, où il développe un programme consacré à l'intelligence artificielle, à l'information et à la démocratie. Son livre 'La colère et l'oubli' sur le djihadisme européen a reçu de nombreux prix.

L'IA générative représente un défi majeur pour les démocraties. La puissance du message véhiculé par la machine pour être plus efficace que n'importe quel propagandiste rend cette technologie particulièrement dangereuse.

L'Europe se trouve dans l'œil du cyclone face à cette révolution technologique et ses implications pour la démocratie.

La révolution de l'IA, notamment celle de l'IA générative, est une technologie neutre qui dépend de ce que les utilisateurs en font. ChatGPT en est l'application par excellence.

• Selon Mustapha Suleiman, cofondateur de DeepMind chez Google, on peut prendre les sermons d'un prédicateur djihadiste comme Anwar al-Awlaki et les mettre dans un modèle d'IA générative • L'IA peut générer de la propagande sur mesure et créer des deepfakes du prédicateur défunt • Cela permet des interactions face à face avec un avatar qui peut apprendre des données personnelles et produire un discours de propagande adapté

On passe d'une propagande massive à l'aveugle (comme celle de Daesh sur les réseaux sociaux) à des frappes chirurgicales d'idées personnalisées adressées directement à l'individu.

La puissance du message véhiculé par la machine est plus efficace que celle de n'importe quel propagandiste à tous les niveaux.

La révolution de l'IA est l'équivalent d'Internet plus les réseaux sociaux au carré, avec une accélération considérable du progrès technologique et une massification quasi immédiate puisque ces produits sont accessibles à n'importe qui.

On n'a même pas besoin de savoir bien parler à la machine ou d'être un bon ingénieur. On pourrait presque être analphabète et parler à la machine qui exécutera des commandes pour vous.

Les chercheurs de Science Po ont déjà repéré des petits usages sur les réseaux sociaux de modèles LLM par des groupes djihadistes. Pour l'instant, ce sont des modèles peu sophistiqués et peu complexes, mais il s'agit de contenu produit automatiquement par des robots et de nature djihadiste.

Les groupes djihadistes ont toujours mobilisé les derniers outils technologiques pour servir leur propagande. Pour eux, la propagande représente 50% du combat, et la diffusion des idées est presque plus importante que de prendre les armes.

• Années 80: cassettes vidéo et audio, magazines et livres échangés sous le manteau en Afghanistan • Années 90: matériel retrouvé dans les rues de Londres • Avec les réseaux sociaux: les groupes djihadistes se sont organisés massivement • Utilisation précoce d'images de synthèse inspirées de Hollywood

Les groupes djihadistes ont toujours montré une volonté de se saisir des derniers outils technologiques pour pouvoir toucher un public.

Avec l'arrivée de l'IA générative, c'est la même logique mais à une échelle beaucoup plus large.

Comment encadrer cette utilisation? Il faut d'abord se saisir soi-même de ces outils pour comprendre comment ils fonctionnent. La question technologique ne peut plus être décorrélée de la question politique en Europe.

• Apocalyptique: croyance que la fin du monde est proche • Messianique: conviction qu'un groupe d'individus ou un individu viendra sauver un groupe de personnes élues • Utopique: adhésion à un idéal qui doit être mis en place pour créer un monde parfait

Le terme millénarisme vient du christianisme au 4e siècle, où des groupes croyaient que l'apocalypse allait arriver et que le Christ redescendrait sur terre pour juger les vivants et les morts, puis régner mille ans (un Millennium) en période de félicité.

Les idéologies politiques du 20e siècle, notamment le nazisme et le communisme, contenaient des traits millénaristes très développés, bien que tous les nazis et communistes ne soient pas millénaristes.

Les groupes millénaristes tendent à développer des méthodes extrêmement violentes contre ceux qui ne pensent pas comme eux, justifiées par l'idée que tuer ces personnes est non seulement souhaitable mais valorisé par Dieu.

Daesh a établi ce qu'il appelait le califat de la fin des temps. Leur propagande était extrêmement millénariste, affirmant que si vous ne veniez pas en Syrie rejoindre Daesh, vous alliez basculer en enfer dans une fin des temps imminente.

Daesh se présentait comme les sauveurs avec Abou Bakr al-Baghdadi comme calife restaurateur d'un état parfait. Ils prétendaient mettre en place les lois les plus justes que l'humanité n'ait jamais conçues, les lois imposées par Dieu.

Daesh présentait son projet comme l'accomplissement de la prophétie coranique et le début de la diffusion de l'islam aux quatre coins du monde.

Rejoindre Daesh n'était pas simplement rejoindre un groupe terroriste mais être du bon côté d'une division cosmique entre les élus et les condamnés destinés à brûler en enfer.

Les grandes périodes de fièvre millénariste se sont presque toujours produites dans des périodes d'innovation, de rupture et de révolution technologique.

• La massification de l'accès au savoir a produit la Renaissance et les Lumières philosophiques • Elle a aussi provoqué de la désinformation de masse, de la propagande et des appels à la fin du monde • Cela a justifié l'émergence des guerres de religion en France

• Production de masse et progrès technologique ont enrichi le continent • Ont créé des masses politiques se traduisant par la stabilisation des démocraties • Ont aussi produit des idéologies millénaristes majeures: communisme évoluant en bolchévisme et crimes staliniens, nazisme et fascisme

Lors des transformations technologiques, les cadres structurant la pensée sont déstabilisés, créant une perte de repères. L'adhésion à des croyances millénaristes offre une réassurance en fixant le futur de manière certaine.

QAnon est un groupe de l'aile américaine proche des réseaux trumpistes représentant une masse significative de l'électorat pro-Trump américain. Il possède des traits millénaristes frappants.

• Attente du retour de Monsieur Q, un individu dont l'identité est censée être cachée (certains pensent que c'est Trump) • Conviction que Q se tient dans l'ombre prêt à surgir pour révéler les mensonges empêchant les États-Unis de redevenir une grande nation

Pendant l'assaut du Capitol le 6 janvier 2021, des groupes QAnon ont considéré le discours d'adieu de Trump comme le feu vert lancé par Q pour sauver la démocratie, les poussant à prendre d'assaut le Capitole.

Les idées produites par QAnon se diffusent vers d'autres groupes et transforment la vision du débat politique américain et de la démocratie elle-même.

Depuis 1989 (création du World Wide Web), le monde a connu internet, la massification d'internet, les réseaux sociaux (web 2.0), et aujourd'hui la révolution de l'IA.

Étant donné que le monde a connu des grandes poussées de fièvre millénaristes parallèlement au progrès technologique, on doit se demander si aujourd'hui nous ne vivons pas une nouvelle grande fièvre millénariste, ce qui se produit probablement sans être visible.

Les mouvements comme QAnon montrent des traits millénaristes très développés et produisent des effets politiques concrets qui transforment le débat démocratique.

La question est de savoir si les démocraties peuvent absorber autant de transformation technologique rapide sans basculer vers des idéologies extrêmistes.

La guerre en Ukraine crée un débat public violent en ligne. La guerre grave à Gaza produit énormément de contenu en ligne instrumentalisé par divers acteurs dont les djihadistes. Ces éléments ensemble créent un environnement où l'idée même du passage à la violence est banalisée.

Sur les 200-250 dernières années, l'histoire des démocraties européennes montre qu'elles ont toujours triomphé, mais au prix énorme de guerres mondiales, révolutions et situations de semi-guerre civile.

La question est de savoir si les démocraties européennes, à l'heure du retour de la guerre en Ukraine et des transformations technologiques, peuvent répondre à cet enjeu sans attendre des guerres mondiales.

L'Europe en tant qu'entité politique n'est pas prête, les leaders ne sont pas prêts, les citoyens européens ne sont pas prêts et peut-être même n'ont pas conscience des enjeux et des défis auxquels ils sont confrontés.

Pour la Russie, faire la guerre en Ukraine c'est soit investir massivement dans la lutte militaire sur le front ukrainien, soit affaiblir politiquement les démocraties occidentales et européennes en diffusant des discours de division.

• Utilisation de resssentiments existants localement déjà exprimés sur les réseaux sociaux • Amplification massive via des usines à troll et des méthodes de botting • Création d'une montée virtuelle de sujets qui deviennent dominants dans l'espace informationnel

Rendre les clivages politiques totalement massifs pour neutraliser l'action politique, soit en mettant la moitié du pays contre vous, soit en créant des manifestations massives.

Le retrait français du Sahel s'est produit suite à des mouvements politiques sur les réseaux sociaux et des manifestations. Les usines de désinformation russes n'ont pas créé le sentiment antifançais, ils ont amplifié un ressentiment préexistant avec des résultats politiques concrets.

L'arrivée de l'IA générative dans ce contexte risque de créer une situation où les faits ne comptent plus. Seule compte la perception des faits et l'idée qu'on s'en fait.

Dans la controverse sur le bombardement de l'hôpital Al-Shifa à Gaza, peu importe que ce soit une frappe israélienne délibérée ou une roquette du Jihad islamique. Sur les réseaux sociaux, les gens avaient choisi leur version et c'était ça qui comptait.

À partir d'une certaine polarisation, les faits deviennent totalement secondaires par rapport à l'objectif politique. Le debunking et le fact-checking deviennent inefficaces face à la vitesse de propagation.

Le fact-checking est intéressant mais la désinformation va tellement vite qu'avant de débunker quoi que ce soit, le message a déjà mis le feu au baril. Il faut des systèmes de détection automatique basés sur l'IA.

L'Europe est le premier espace numérique au monde où les Européens utilisent massivement les réseaux sociaux comme nouvel espace public. Pourtant, l'Europe n'a pas de souveraineté algorithmique sur ces réseaux sociaux dominés par des acteurs américains (Google, Facebook), chinois (TikTok) ou russes (Telegram).

L'Europe exporte des ingénieurs partout dans le monde, retrouvés chez Facebook et Google, mais n'a pas créé de réseau social européen souverain. L'Europe a raté la révolution précédente.

• La révolution de l'IA offre une nouvelle chance de créer un écosystème technologique européen souverain • Mistral AI, un groupe français, est le ChatGPT français construit en moins de 2 ans avec une dynamique extrêmement intéressante • Cela montre qu'il est possible de créer des outils européens compétitifs

Il faut non seulement créer des outils technologiques permettant de contrôler l'espace numérique, mais aussi 'opposer aux ingénieurs du chaos des ingénieurs de la démocratie' en investissant politiquement et techniquement dans ce nouvel espace public.

La presse et l'Agence France Presse étaient jusqu'à présent une autorité et une institution donnant le la sur la vérification des informations.

La presse se retrouve reléguée par la puissance des narratifs sur les réseaux sociaux qui produisent des réalités alternatives concurrentes.

L'IA peut aider à régler les problèmes qu'elle génère elle-même via des systèmes de détection automatique, mais cela ne se fait pas seul et demande que des gens se posent les bonnes questions.

C'est un énorme enjeu pour les institutions de presse d'adapter leurs fonctions et d'autorité informationnelle à cette nouvelle réalité des réseaux sociaux et de l'IA générative.

Nous sommes dans la première guerre mondiale informationnelle.

On ne peut pas seulement construire des digues ou construire une ligne Maginot. À un moment donné, il faut aussi montrer qu'on est capable d'attaquer.

Des acteurs comme la Chine et la Russie montrent déjà cette capacité offensive. Si l'Europe ne montre pas qu'elle est capable d'attaquer, elle ne pourra jamais établir un rapport de force équilibré.

La Russie répond déjà à ce besoin d'action offensive en matière de guerre informationnelle.

La révolution technologique de l'IA pose des défis existentiels aux démocraties européennes en période d'instabilité géopolitique majeure.

• 2024 est l'année des élections mondiales avec la moitié de la planète appelée aux urnes • Elections européennes le 9 juin, élections américaines à l'automne • Enjeux colossaux incluant potentiellement le sort de l'Ukraine • Outils technologiques permettant à de petits groupes d'avoir des effets considérables sur les opinions publiques

Il faut que les hommes et femmes politiques comprennent ce qui se joue. L'Europe en tant qu'entité politique doit s'adapter très vite. Les leaders et citoyens doivent prendre conscience des enjeux et défis.

La France et l'Europe ont une tradition forte de démocratie et de stabilité institutionnelle depuis la Seconde Guerre mondiale. Cette base doit servir de fondation pour construire une réponse démocratique innovante aux défis de l'IA.