OpenAI consulte le Congrès sur un ralentissement collectif de l’IA

OpenAI cherche une réponse juridique à une question inhabituelle : plusieurs géants de l’IA peuvent-ils décider ensemble de ralentir le développement de leurs modèles sans violer le droit américain de la concurrence ? Selon WIRED, l’entreprise a interrogé des membres du Congrès ces dernières semaines. La démarche intervient après l’appel de son scientifique en chef, Jakub Pachocki, à des ralentissements coordonnés lorsque les garde-fous ne suivent plus les capacités des modèles. OpenAI n’a pas annoncé de pause. Elle veut d’abord savoir si une coordination avec ses concurrents serait légale.

IA : OpenAI se heurte au droit de la concurrence

Le problème apparaît assez vite. OpenAI peut décider seule de ralentir un modèle. OpenAI, Anthropic, Google ou d’autres acteurs décidant ensemble de réduire le rythme de développement, c’est autre chose. Le droit antitrust américain surveille précisément les accords entre concurrents susceptibles de restreindre la concurrence.

Cette question arrive une semaine après le lancement de GPT-6 Astra. Cointribune avait détaillé les capacités cyber de GPT-6 Astra et les résultats d’EVMbench, où le meilleur agent testé exploitait 72,2 % des vulnérabilités de smart contracts proposées.

Jakub Pachocki a depuis durci son discours. Dans un texte publié le 6 septembre, le scientifique en chef d’OpenAI écrit que personne n’est réellement préparé aux conséquences d’une hausse continue et rapide de l’intelligence des machines. Il évoque notamment l’amélioration récursive : des systèmes d’IA participant eux-mêmes à la recherche nécessaire pour construire leurs successeurs.

Pachocki estime qu’aucun laboratoire n’a encore suffisamment résolu les problèmes d’alignement et de surveillance pour continuer très longtemps à développer les modèles à vitesse maximale.

Sa proposition : améliorer les mécanismes de contrôle, mais aussi accepter des ralentissements volontaires lorsque cela devient nécessaire.

C’est précisément là que l’antitrust entre dans la pièce.

Nicholas Felstead, ancien fellow du Center for Law & AI Risk, estime qu’un accord collectif limitant le développement pourrait, selon sa forme, être considéré comme une restriction de la production. Le Sherman Act pourrait alors devenir pertinent. Même si l’accord finissait par être jugé légal, l’incertitude suffit à refroidir les entreprises.

Le Congrès a déjà un texte qui pourrait protéger certains ralentissements

Washington ne part pas de zéro. Le 23 juillet, les sénateurs Adam Schiff et Jim Banks ont présenté le Collaboration on Adversarial Threats and Security Risks Act, ou S.5105. Une version parallèle existe à la Chambre. Le texte est bipartisan et a été renvoyé à la commission judiciaire du Sénat. Aucun vote final n’a encore eu lieu.

Le détail du projet est particulièrement intéressant. Il prévoit qu’un accord entre plusieurs entreprises ne soit pas considéré comme une violation des règles antitrust lorsqu’il vise exclusivement à réduire certains risques liés aux modèles d’IA de pointe.

Et le texte va assez loin. Il mentionne explicitement la possibilité de retarder ou limiter la publication, le déploiement, l’utilisation, le développement, l’entraînement, les tests ou l’évaluation d’une IA. Les entreprises devraient cependant avertir par écrit le ministère de la Justice avant de mettre en œuvre cette coordination.

L’exemption n’est pas générale. Le risque invoqué doit entrer dans des catégories définies : armes chimiques, biologiques, radiologiques ou nucléaires, cyberarmes offensives, perte de contrôle d’infrastructures critiques, incapacité à contenir ou arrêter un système, ou encore amélioration autonome créant l’un de ces risques.

Fixation des prix, partage des marchés et monopolisation restent exclus. Autrement dit, le Congrès travaille déjà exactement sur le trou juridique qu’OpenAI regarde aujourd’hui. Le problème est que le texte n’est toujours qu’un projet de loi.

En attendant, les incidents s’accumulent. Cet été, des modèles d’OpenAI ont quitté le cadre prévu lors d’une évaluation de cybersécurité et accédé à des ressources externes liées à Hugging Face. Cointribune avait raconté comment des agents d’OpenAI avaient dépassé leur environnement de test.

Depuis, des sénateurs américains ont demandé davantage d’explications à l’entreprise. OpenAI travaille également sur des mécanismes automatisés d’arrêt de ses systèmes.

OpenAI veut ralentir si nécessaire, sans abandonner la course à l’IA

Il serait facile de lire cette affaire comme un changement complet de stratégie. Ce n’est pas ce que disent les faits. OpenAI continue de développer des modèles toujours plus puissants. L’entreprise considère même que l’IA capable d’accélérer la recherche en IA deviendra l’un des principaux moteurs du progrès au cours des prochaines années.

Son discours a toutefois changé sur le rythme. Le 9 septembre, OpenAI a demandé une réglementation fédérale obligatoire fondée sur les capacités des modèles. L’entreprise soutient aussi des évaluations indépendantes, des normes communes entre laboratoires et des règles permettant de déterminer quand le développement doit ralentir ou s’arrêter.

C’est nouveau par son intensité, moins par son principe. OpenAI avait déjà temporairement freiné certains travaux lorsque les capacités cyber d’Astra avaient soulevé des problèmes de sécurité. Cointribune avait alors détaillé le ralentissement d’Astra face à ses capacités cyber jugées critiques. La difficulté est désormais collective. Si un laboratoire ralentit seul pendant six mois et que ses concurrents continuent, il peut perdre utilisateurs, chercheurs, investisseurs et contrats. Les enjeux ne sont pas seulement commerciaux. Washington présente également la compétition avec la Chine comme une question stratégique.