IA : Charles III réunit les géants du secteur en Ecosse

Le roi Charles III va réunir cette semaine en Écosse plusieurs poids lourds de l’IA, dont OpenAI, Anthropic, Nvidia, Google DeepMind et IonQ. La rencontre se tiendra à Dumfries House et sera organisée avec la Ditchley Foundation. Les discussions porteront sur le développement responsable des modèles les plus avancés et sur la possibilité de définir des principes communs. Le sommet arrive quelques jours après de nouveaux appels à ralentir la course à l’intelligence artificielle.

IA : Charles III met les principaux laboratoires autour de la même table

Le rendez-vous ne réunira pas seulement des entreprises. Le ministre britannique chargé de l’IA doit également participer aux discussions, aux côtés d’acteurs comme Paolo Benanti, conseiller du Vatican sur l’intelligence artificielle. Reuters indique que l’idée d’un ensemble de principes communs devrait être discutée.

Le sommet intervient au moment où OpenAI vient justement d’interroger le Congrès américain sur la légalité d’un ralentissement collectif de l’IA. 

La question n’est plus uniquement théorique. Dario Amodei, patron d’Anthropic, a appelé vendredi les laboratoires à réduire la vitesse de développement des modèles de frontière afin de laisser plus de temps aux mécanismes de sécurité. Sam Altman a ensuite soutenu l’idée de « pacing the frontier », c’est-à-dire ralentir lorsque les capacités progressent plus vite que les garde-fous.

Elon Musk et Demis Hassabis ont également rejoint le débat ces derniers jours. La réunion de Dumfries House arrive donc à un moment particulier : les entreprises continuent d’investir des milliards dans l’IA, mais leurs propres dirigeants commencent à parler ouvertement de limites.

Anthropic alerte sur des agents capables d’aller beaucoup plus loin

Les inquiétudes actuelles portent surtout sur les agents autonomes et l’auto-amélioration. Amodei affirme que les progrès se sont accélérés depuis l’été et évoque un scénario où des groupes d’agents pourraient acquérir des capacités très difficiles à contrôler dans les six à douze prochains mois. Il cite notamment les progrès en cybersécurité et la capacité des modèles à participer eux-mêmes à la recherche en IA.

Les incidents récents alimentent ce discours. Cointribune a rapporté cette semaine qu’Anthropic avait identifié un quatrième incident où Claude avait atteint des systèmes réels pendant des exercices de cybersécurité. Le problème n’avait été découvert que plusieurs mois après les faits.

OpenAI fait face aux mêmes interrogations. Son modèle GPT-6 Astra a été classé « Critique » en cybersécurité par l’entreprise après avoir démontré des capacités avancées de découverte et d’exploitation de vulnérabilités. EVMbench avait déjà mesuré ces capacités sur des smart contracts, avec un taux d’exploitation de 72,2 % pour le meilleur agent testé.

Ces chiffres ne prouvent pas qu’une IA puisse aujourd’hui échapper au contrôle humain. Ils expliquent cependant pourquoi la sécurité revient aussi vite dans les discussions entre laboratoires.

Charles III s’intéresserait personnellement à ces questions, selon le Sunday Times. Le monarque souhaite notamment que le développement technologique reste compatible avec la dignité humaine et l’intérêt général

Ralentir l’IA reste beaucoup plus difficile que d’en parler

Un sommet ne signifie pas qu’OpenAI, Anthropic ou Nvidia vont couper leurs serveurs. Aucun accord de ralentissement n’a encore été annoncé. Aucun calendrier commun non plus.

Les intérêts économiques restent énormes. Nvidia vend les puces utilisées pour entraîner les modèles. OpenAI, Anthropic et Google DeepMind cherchent toujours à améliorer leurs systèmes. Le Royaume-Uni veut, de son côté, accélérer l’adoption de l’IA et se présente comme l’un des principaux pôles mondiaux du secteur. Le gouvernement britannique a encore rappelé cette année son ambition d’être le pays du G7 adoptant le plus rapidement cette technologie

La concurrence internationale complique encore les choses. Aux États-Unis, Donald Trump refuse pour l’instant l’idée d’une pause générale, en invoquant notamment la compétition avec la Chine. Les appels à ralentir viennent donc surtout des entreprises elles-mêmes et de certains chercheurs, pas d’un consensus politique international. C’est là que la réunion écossaise peut devenir intéressante. Elle met dans la même pièce ceux qui développent les modèles, ceux qui fournissent les infrastructures et des responsables publics. Pas pour décider immédiatement d’une pause mondiale, mais pour discuter des règles communes avant que les capacités avancent encore.