OpenAI et Anthropic anticipent une crise majeure provoquée par l’IA

Des dirigeants d’OpenAI, d’Anthropic et d’autres entreprises technologiques simulent en privé leur réponse à une catastrophe provoquée ou amplifiée par l’intelligence artificielle. Ces exercices portent notamment sur une cyberattaque contre les banques, Internet ou les réseaux d’énergie, mais aucun incident de cette ampleur n’a eu lieu.

Les entreprises simulent plusieurs scénarios de catastrophe IA

Ces exercices anticiperaient d’abord les conséquences politiques et sociales d’une attaque majeure. Les participants chercheraient à déterminer comment contenir l’incident, informer rapidement le gouvernement et répondre aux demandes de suspension des systèmes concernés.

L’existence de ces préparatifs repose principalement sur un reportage d’Axios fondé sur des sources internes anonymes. OpenAI confirme organiser des exercices, sans reconnaître l’existence d’un programme commun formel avec Anthropic ou d’un calendrier annonçant une catastrophe.

Les principaux scénarios évoqués comprennent :

• Une cyberattaque capable de perturber les banques ou les paiements ;
• Une interruption massive de l’accès à Internet ;
• Une attaque contre les réseaux d’électricité ou d’approvisionnement en eau ;
• L’utilisation criminelle de modèles disponibles en téléchargement ;
• La perte de contrôle d’un système expérimental doté d’une forte autonomie ;
• Une réaction politique conduisant à des restrictions rapides sur l’IA.

OpenAI affirme mener « des exercices de préparation au cours desquels les équipes discutent et travaillent sur différents scénarios potentiels ». L’entreprise précise cependant que ces événements « ne sont pas considérés comme inévitables ». Anthropic n’a pas commenté ces informations.

Le risque cyber devient plus concret pour OpenAI

La préparation ne répond pas uniquement à des menaces théoriques. Les modèles récents progressent dans la recherche de vulnérabilités, la programmation autonome et l’exécution de plusieurs étapes sans intervention humaine constante.

OpenAI a ainsi classé Astra au niveau « critique » pour ses capacités en cybersécurité. Selon ses évaluations internes, ce modèle peut, avec les bons outils et accès, découvrir des failles inconnues puis concevoir des méthodes pour les exploiter dans des systèmes fortement protégés.

Cette classification ne signifie pas qu’Astra a mené une attaque réelle. Elle indique que ses capacités franchissent un seuil qui impose des protections renforcées avant son déploiement. OpenAI dit avoir retardé certaines phases de développement afin de tester ces mesures.

La même technologie peut aider les défenseurs à détecter et corriger plus rapidement des vulnérabilités. Le risque vient de son caractère dual : les compétences utiles à la cybersécurité défensive peuvent aussi réduire le temps, le coût et l’expertise nécessaires pour lancer une attaque.

Certains responsables du secteur cités anonymement estiment qu’un incident grave pourrait survenir dans les six à douze prochains mois. Cette appréciation reste une anticipation individuelle, pas une prévision confirmée par OpenAI ou Anthropic.

Préparer aussi la réaction du Congrès américain

Les simulations porteraient également sur les premières heures suivant un incident. Les entreprises voudraient pouvoir présenter rapidement aux élus la cause de l’attaque, grâce à des données on-chain, le rôle exact du modèle et les mesures nécessaires pour contenir les dommages.

Cette préparation répond à une difficulté politique. Après une catastrophe, le Congrès pourrait être poussé à agir avant même que les responsabilités techniques soient entièrement établies. Une interdiction générale, une suspension de certains modèles ou de nouvelles obligations de contrôle pourraient alors être proposées.

Les entreprises cherchent donc à préparer des documents, des interlocuteurs et des procédures d’escalade. Elles veulent aussi éviter qu’une utilisation criminelle d’un modèle tiers soit automatiquement attribuée au développeur ou assimilée à une perte de contrôle interne.

Cette démarche comporte un conflit d’intérêts évident. Les entreprises qui développent les systèmes concernés veulent aussi influencer les règles adoptées après un éventuel accident lié à l’IA. Leur préparation peut améliorer la réponse, mais elle ne remplace pas une enquête indépendante ni un contrôle public.

La réponse aux incidents reste largement volontaire

Le Frontier Model Forum réunit notamment Anthropic, Amazon, Google DeepMind, Meta, Microsoft et OpenAI. Ses membres ont signé en 2025 un accord volontaire pour échanger des informations sur les vulnérabilités, les menaces et les capacités susceptibles de provoquer des dommages graves.

Le Forum distingue trois mécanismes. Le partage d’informations intervient avant une crise. Le signalement d’incident lié à l’IA avertit une autorité après un événement défini. La réponse opérationnelle vise ensuite à contenir les dommages et à rétablir les systèmes.

Ces dispositifs restent encore en construction. Anthropic applique sa propre Responsible Scaling Policy, tandis qu’OpenAI utilise un cadre de préparation couvrant les risques cyber, biologiques, chimiques, de manipulation et de perte de contrôle.

Ces politiques internes peuvent imposer des évaluations, des retards de lancement ou des protections supplémentaires. Elles restent cependant en partie volontaires et varient d’une entreprise à l’autre. Les exercices rapportés ne démontrent donc pas qu’OpenAI et Anthropic attendent une catastrophe précise. Ils montrent plutôt que les laboratoires considèrent désormais une crise majeure comme suffisamment plausible pour préparer leur réponse technique, politique et médiatique.