IA: OpenAI consulta al Congreso sobre una posible desaceleración colectiva

OpenAI busca una respuesta jurídica a una pregunta inusual: ¿pueden varios gigantes de la IA decidir conjuntamente ralentizar el desarrollo de sus modelos sin violar la ley estadounidense de competencia? Según WIRED, la empresa ha entrevistado a miembros del Congreso en las últimas semanas. La iniciativa surge tras el llamado de su científico jefe, Jakub Pachocki, a desaceleraciones coordinadas cuando las salvaguardas ya no siguen las capacidades de los modelos. OpenAI no ha anunciado una pausa. Quiere primero saber si una coordinación con sus competidores sería legal.

IA: OpenAI se enfrenta a la ley de competencia

El problema surge bastante rápido. OpenAI puede decidir sola ralentizar un modelo. OpenAI, Anthropic, Google u otros actores decidiendo juntos reducir el ritmo de desarrollo, es otra cosa. La ley antimonopolio estadounidense supervisa precisamente los acuerdos entre competidores susceptibles de restringir la competencia.

Esta cuestión llega una semana después del lanzamiento de GPT-6 Astra. Cointribune había detallado las capacidades cibernéticas de GPT-6 Astra y los resultados de EVMbench, donde el mejor agente probado explotaba el 72,2% de las vulnerabilidades de contratos inteligentes propuestas.

Desde entonces, Jakub Pachocki ha endurecido su discurso. En un texto publicado el 6 de septiembre, el científico jefe de OpenAI escribe que nadie está realmente preparado para las consecuencias de un aumento continuo y rápido de la inteligencia de las máquinas. Menciona especialmente la mejora recursiva: sistemas de IA que participan ellos mismos en la investigación necesaria para construir a sus sucesores.

Pachocki estima que ningún laboratorio ha resuelto aún suficientemente los problemas de alineamiento y supervisión para continuar mucho tiempo desarrollando los modelos a velocidad máxima.

Su propuesta: mejorar los mecanismos de control, pero también aceptar ralentizaciones voluntarias cuando sea necesario.

Es precisamente ahí donde entra en juego la ley antimonopolio.

Nicholas Felstead, ex investigador del Center for Law & AI Risk, considera que un acuerdo colectivo limitando el desarrollo podría, según su forma, ser considerado como una restricción de la producción. El Sherman Act podría entonces volverse relevante. Aunque el acuerdo acabara siendo considerado legal, la incertidumbre basta para desalentar a las empresas.

El Congreso ya tiene un texto que podría proteger ciertas desaceleraciones

Washington no parte de cero. El 23 de julio, los senadores Adam Schiff y Jim Banks presentaron el Collaboration on Adversarial Threats and Security Risks Act, o S.5105. Existe una versión paralela en la Cámara. El texto es bipartidista y fue enviado a la comisión judicial del Senado. No ha habido aún votación final.

El detalle del proyecto es particularmente interesante. Establece que un acuerdo entre varias empresas no sea considerado una violación de las reglas antimonopolio cuando se dirija exclusivamente a reducir ciertos riesgos relacionados con los modelos de IA avanzada.

Y el texto va bastante lejos. Menciona explícitamente la posibilidad de retrasar o limitar la publicación, el despliegue, el uso, el desarrollo, el entrenamiento, las pruebas o la evaluación de una IA. Sin embargo, las empresas deberían avisar por escrito al Departamento de Justicia antes de implementar esta coordinación.

La exención no es general. El riesgo invocado debe entrar en categorías definidas: armas químicas, biológicas, radiológicas o nucleares, ciberarmas ofensivas, pérdida de control de infraestructuras críticas, incapacidad para contener o detener un sistema, o mejora autónoma que cree uno de estos riesgos.

Fijación de precios, reparto de mercados y monopolización siguen siendo excluidos. Dicho de otro modo, el Congreso ya trabaja exactamente sobre el vacío jurídico que observa hoy OpenAI. El problema es que el texto sigue siendo solo un proyecto de ley.

Mientras tanto, los incidentes se acumulan. Este verano, modelos de OpenAI salieron del marco previsto durante una evaluación de ciberseguridad y accedieron a recursos externos relacionados con Hugging Face. Cointribune había contado cómo agentes de OpenAI superaron su entorno de prueba.

Desde entonces, senadores estadounidenses han pedido más explicaciones a la empresa. OpenAI también trabaja en mecanismos automáticos para detener sus sistemas.

OpenAI quiere desacelerar si es necesario, sin abandonar la carrera por la IA

Sería fácil leer este asunto como un cambio completo de estrategia. No es lo que dicen los hechos. OpenAI sigue desarrollando modelos cada vez más potentes. La empresa considera incluso que la IA capaz de acelerar la investigación en IA será uno de los principales motores del progreso en los próximos años.

Su discurso, sin embargo, ha cambiado respecto al ritmo. El 9 de septiembre, OpenAI pidió una regulación federal obligatoria basada en las capacidades de los modelos. La empresa también apoya evaluaciones independientes, normas comunes entre laboratorios y reglas para determinar cuándo el desarrollo debe desacelerar o detenerse.

Es nuevo por su intensidad, menos por su principio. OpenAI ya había frenado temporalmente ciertos trabajos cuando las capacidades cibernéticas de Astra plantearon problemas de seguridad. Cointribune entonces detalló la desaceleración de Astra ante sus capacidades cibernéticas consideradas críticas. La dificultad ahora es colectiva. Si un laboratorio desacelera solo durante seis meses y sus competidores continúan, puede perder usuarios, investigadores, inversores y contratos. Los desafíos no son solo comerciales. Washington también presenta la competencia con China como una cuestión estratégica.