Claude dévoile l’IA « Mythos » et inquiète le monde entier

Anthropic a développé un nouveau modèle d'IA appelé Mythos qu'elle a choisi de ne pas rendre public en raison de sa puissance et des risques qu'il pose.

Mythos peut repérer et déceler des failles informatiques dans la sécurité des programmes. Avant même son lancement officiel, il aurait découvert des milliers de vulnérabilités dont les concepteurs n'avaient pas connaissance.

Cet outil peut permettre de repérer des failles de sécurité et de les corriger avant qu'elles ne soient exploitées par des malveillants.

Des hackers pourraient utiliser ce même outil pour repérer des failles et s'introduire dans les systèmes avant que ces failles ne soient corrigées.

L'AISI, l'un des principaux organismes mondiaux de sécurité en matière d'IA encadré par le Royaume-Uni, a confirmé que Mythos représente une avancée majeure en terme de menace pour la cybersécurité.

• Fondation Linux • Amazon, Apple, Google, Microsoft, Nvidia • Banque JP Morgan

Anthropic cherche à aider ces entreprises à repérer et à corriger leurs failles de sécurité.

Il s'agit quasiment exclusivement d'entreprises états-uniennes privées, ce qui crée un avantage stratégique pour elles mais laisse exposées les autres entreprises et le secteur public.

L'Europe et le reste du monde pourraient bientôt voir leurs failles informatiques exposées à des hackers sans pouvoir s'en protéger.

Le Monde compare la situation au fait qu'Anthropic aurait découvert des souches dormantes d'un virus partout dans le monde mais n'aide que ses proches à se vacciner.

Anthropic a annoncé enquêter sur un accès non autorisé à Mythos, soulevant des craintes que des hackers puissent s'en saisir avant d'autres entreprises.

• L'Union européenne demande des informations sur les risques • Aux États-Unis, le ministre de l'économie et le président de la banque centrale ont convoqué des représentants de Wall Street pour évaluer l'exposition du système financier

Le PDG d'Anthropic avait fixé des lignes rouges concernant l'utilisation de son IA, notamment l'interdiction dans la surveillance de masse et les armes létales autonomes.

L'administration Trump a classé Anthropic comme un risque pour la sécurité nationale, dissuadant les administrations états-uniennes d'utiliser leurs services.

Selon Axios et Tech Crunch, la NSA contourne ces règles et utilise déjà largement Mythos malgré les interdictions.

Il y a depuis quelques jours une forme d'apaisement et de discussion entre Anthropic et l'administration Trump concernant ces tensions.

Ces développements ont relancé des débats de longue date sur la cybersécurité et la nécessité de mesures plus restrictives dans le domaine de l'IA.

Joshua Bengio, lauréat du prix Turing en 2018, affirme qu'il faut davantage de contrôle et d'encadrement légal de l'IA.

Hugo Décrypte a précédemment interviewé Joshua Bengio longuement sur sa chaîne YouTube et en podcast, traitant de ces risques et de la régulation de l'IA.

Le sujet soulève des questions fondamentales sur la façon de gouverner les technologies d'IA puissantes et potentiellement dangereuses.