OpenAI y Anthropic se preparan ante una posible catástrofe provocada por la IA
Líderes de OpenAI, Anthropic y otras empresas tecnológicas simulan en privado su respuesta a una catástrofe provocada o amplificada por la inteligencia artificial. Estos ejercicios se centran especialmente en un ciberataque contra bancos, Internet o redes de energía, pero no ha ocurrido ningún incidente de tal magnitud.
En breve
- OpenAI y Anthropic anticipan una crisis mayor ligada a la IA a través de simulaciones de catástrofes potenciales.
- Los escenarios considerados incluyen ciberataques contra bancos, Internet e infraestructuras esenciales.
- Los avances de la IA en ciberseguridad aumentan las inquietudes ante las capacidades ofensivas de los modelos avanzados.
- Las empresas preparan su respuesta política para manejar las reacciones del gobierno y del Congreso estadounidense.
- La gestión de incidentes todavía se basa en gran medida en compromisos voluntarios, a pesar de los esfuerzos de coordinación del sector.
Las empresas simulan varios escenarios de catástrofe de IA
Estos ejercicios anticiparían primero las consecuencias políticas y sociales de un ataque mayor. Los participantes buscarían determinar cómo contener el incidente, informar rápidamente al gobierno y responder a las solicitudes de suspensión de los sistemas afectados.
La existencia de estos preparativos se basa principalmente en un reportaje de Axios basado en fuentes internas anónimas. OpenAI confirma organizar ejercicios, sin reconocer la existencia de un programa común formal con Anthropic ni un calendario que anuncie una catástrofe.
Los principales escenarios mencionados incluyen :
- Un ciberataque capaz de perturbar bancos o pagos ;
- Una interrupción masiva del acceso a Internet ;
- Un ataque contra redes de electricidad o suministro de agua ;
- El uso criminal de modelos disponibles para descarga ;
- La pérdida de control de un sistema experimental con alta autonomía ;
- Una reacción política que conduzca a restricciones rápidas sobre la IA.
OpenAI afirma realizar «ejercicios de preparación durante los cuales los equipos discuten y trabajan sobre diferentes escenarios potenciales». Sin embargo, la empresa aclara que estos eventos «no son considerados inevitables». Anthropic no ha comentado esta información.
El riesgo cibernético se vuelve más concreto para OpenAI
La preparación no responde solo a amenazas teóricas. Los modelos recientes avanzan en la búsqueda de vulnerabilidades, programación autónoma y ejecución de varios pasos sin intervención humana constante.
OpenAI clasificó a Astra en el nivel «crítico» por sus capacidades en ciberseguridad. Según sus evaluaciones internas, este modelo puede, con las herramientas y accesos adecuados, descubrir fallos desconocidos y diseñar métodos para explotarlos en sistemas fuertemente protegidos.
Esta clasificación no significa que Astra haya realizado un ataque real. Indica que sus capacidades cruzan un umbral que exige protecciones reforzadas antes de su despliegue. OpenAI ha retrasado algunas fases de desarrollo para probar estas medidas.
La misma tecnología puede ayudar a los defensores a detectar y corregir vulnerabilidades más rápidamente. El riesgo proviene de su naturaleza dual: las habilidades útiles para la ciberseguridad defensiva también pueden reducir el tiempo, costo y experiencia necesarios para lanzar un ataque.
Algunos responsables del sector citados anónimamente consideran que un incidente grave podría ocurrir en los próximos seis a doce meses. Esta valoración es una anticipación individual, no una predicción confirmada por OpenAI o Anthropic.
Preparar también la reacción del Congreso estadounidense
Las simulaciones también abordarían las primeras horas tras un incidente. Las empresas querrían poder presentar rápidamente a los legisladores la causa del ataque, a través de datos on-chain, el rol exacto del modelo y las medidas necesarias para contener los daños.
Esta preparación responde a una dificultad política. Tras una catástrofe, el Congreso podría verse presionado a actuar antes de que se establezcan plenamente las responsabilidades técnicas. Podrían proponerse prohibiciones generales, suspensiones de ciertos modelos o nuevas obligaciones de control.
Por tanto, las empresas buscan preparar documentos, interlocutores y procedimientos de escalada. También quieren evitar que un uso criminal de un modelo de terceros se atribuya automáticamente al desarrollador o se asimile a una pérdida de control interna.
Este enfoque presenta un conflicto de intereses evidente. Las empresas que desarrollan los sistemas afectados también desean influir en las normas adoptadas tras un posible accidente ligado a la IA. Su preparación puede mejorar la respuesta, pero no sustituye una investigación independiente ni un control público.
La respuesta a los incidentes sigue siendo mayormente voluntaria
El Frontier Model Forum reúne especialmente a Anthropic, Amazon, Google DeepMind, Meta, Microsoft y OpenAI. Sus miembros firmaron en 2025 un acuerdo voluntario para intercambiar información sobre vulnerabilidades, amenazas y capacidades que podrían causar daños graves.
El Foro distingue tres mecanismos. El intercambio de información ocurre antes de una crisis. La notificación de incidente relacionado con IA avisa a una autoridad tras un evento definido. La respuesta operativa busca contener los daños y restaurar los sistemas.
Estos dispositivos están aún en desarrollo. Anthropic aplica su propia Responsible Scaling Policy, mientras OpenAI usa un marco de preparación que cubre riesgos cibernéticos, biológicos, químicos, de manipulación y pérdida de control.
Estas políticas internas pueden imponer evaluaciones, retrasos en el lanzamiento o protecciones adicionales. Sin embargo, siguen siendo en parte voluntarias y varían entre empresas. Los ejercicios reportados no demuestran que OpenAI y Anthropic esperen una catástrofe específica. Más bien muestran que los laboratorios consideran ahora una crisis mayor suficientemente plausible para preparar su respuesta técnica, política y mediática.
¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.
Diplômé de Sciences Po Toulouse et titulaire d'une certification consultant blockchain délivrée par Alyra, j'ai rejoint l'aventure Cointribune en 2019. Convaincu du potentiel de la blockchain pour transformer de nombreux secteurs de l'économie, j'ai pris l'engagement de sensibiliser et d'informer le grand public sur cet écosystème en constante évolution. Mon objectif est de permettre à chacun de mieux comprendre la blockchain et de saisir les opportunités qu'elle offre. Je m'efforce chaque jour de fournir une analyse objective de l'actualité, de décrypter les tendances du marché, de relayer les dernières innovations technologiques et de mettre en perspective les enjeux économiques et sociétaux de cette révolution en marche.
Las ideas y opiniones expresadas en este artículo pertenecen al autor y no deben tomarse como consejo de inversión. Haz tu propia investigación antes de tomar cualquier decisión de inversión.