San Francisco : 200 manifestantes llaman a OpenAI, Anthropic y DeepMind a suspender sus modelos

Los debates en torno a la inteligencia artificial continúan tomando más fuerza a medida que los modelos más avanzados ganan potencia. San Francisco nuevamente sirvió como punto de encuentro para militantes que desean frenar esta evolución. Su movilización no se limitó solo a cuestiones de seguridad de los sistemas de IA. Los participantes también discutieron las consecuencias económicas, sociales y ambientales de esta tecnología, mientras pedían a las principales empresas del sector que suspendieran temporalmente el desarrollo de nuevos modelos punteros.

Una nueva manifestación en San Francisco apunta a los líderes de la inteligencia artificial

Manifestantes recorrieron San Francisco entre las oficinas de OpenAI, de Anthropic y de Google DeepMind para exigir una pausa en el desarrollo de los modelos de inteligencia artificial más avanzados. El evento, organizado por el movimiento Stop the AI Race, se inscribe en la continuidad de una primera movilización organizada en marzo. Los organizadores desean que las empresas interrumpan el entrenamiento de nuevos modelos mientras mantienen los sistemas ya disponibles para el público. También piden que los esfuerzos de investigación se concentren más en la seguridad y la alineación de la inteligencia artificial.

Esta movilización fue coordinada por Michaël Trazzi, ex investigador en inteligencia artificial. Según él, los objetivos del movimiento han evolucionado en los últimos meses. En una declaración atribuida a Decrypt, explica que inicialmente buscaba convencer directamente a los dirigentes de grandes empresas tecnológicas.

A principios de año, me enfocaba menos en el impacto político y más en persuadir a los CEOs. Con mis numerosos artículos en blogs y mis intercambios con uno de ellos, creo haber revisado mi posición y ahora estoy más dispuesto a escuchar. También creo que las manifestaciones son útiles para mostrar que la población se preocupa por el problema.

Michaël Trazzi, ex investigador en inteligencia artificial. Fuente: Decrypt.

Ahora, considera que las manifestaciones también permiten mostrar que estas preocupaciones son compartidas por una parte de la población.

Las reivindicaciones ya sobrepasan solo cuestiones relacionadas con los riesgos técnicos de la IA. Los participantes también destacaron las preocupaciones sobre la pérdida de empleos, el impacto ambiental de las infraestructuras necesarias para el desarrollo de los modelos así como el aumento del costo de la vivienda en San Francisco. Finalmente, denunciaron la influencia creciente de las grandes empresas tecnológicas sobre las decisiones económicas y políticas.

Un movimiento que amplia progresivamente sus apoyos

Los organizadores indican que su campaña continúa mediante manifestaciones y acciones de sensibilización. Tras la movilización de marzo, que ya reunió a unas 200 personas, el colectivo afirma haber recibido el apoyo de nuevas organizaciones. Esta dinámica anima a los responsables del movimiento a continuar sus acciones en los próximos meses.

Michaël Trazzi destacó especialmente el apoyo mostrado por el National Union of Healthcare Workers, que difundió la manifestación en sus redes sociales. También resaltó la rápida movilización de varios grupos de la región de San Francisco, entre ellos AI Action, que participaron en la organización del evento. Finalmente agradeció a QuitGPT por su ayuda logística durante la preparación de esta nueva marcha.

Me sorprendió gratamente el apoyo del NUHW, que difundió la manifestación en sus redes sociales, pero también la rapidez con la que otros grupos de la región de la bahía de San Francisco, como AI Action, se movilizaron para colaborar con nosotros. También estoy muy agradecido a QuitGPT por su ayuda en la organización de este evento.

Michaël Trazzi, ex investigador en inteligencia artificial. Fuente: Decrypt.

Los manifestantes ahora piden una pausa internacional en el desarrollo de los sistemas de inteligencia artificial de punta. Paralelamente, invitan a los responsables políticos a reforzar las normas de vigilancia aplicables a los modelos avanzados. Su objetivo sigue siendo establecer garantías más sólidas antes de toda nueva aceleración en la investigación en este campo.

OpenAI, Anthropic y Google DeepMind no respondieron inmediatamente las solicitudes de comentarios realizadas tras la manifestación. Por lo tanto, las empresas no han reaccionado públicamente a las demandas formuladas durante esta movilización organizada en San Francisco.

Las inquietudes sobre la IA siguen en el centro de los debates

Esta nueva manifestación ocurre mientras las cuestiones relacionadas con la seguridad de la inteligencia artificial continúan teniendo un lugar importante en el debate público. Varios eventos recientes han alimentado estas discusiones sobre los riesgos potenciales asociados con los sistemas más avanzados.

En mayo, OpenAI anunció el agregado de nuevas funciones de seguridad a ChatGPT. Estas herramientas buscan detectar mejor las situaciones que implican riesgos de autolesión o violencia durante las conversaciones. Esta evolución ocurrió mientras la empresa enfrentaba demandas e investigaciones sobre la gestión de ciertas interacciones consideradas peligrosas.

Al mes siguiente, la administración Trump pidió a Anthropic suspender el acceso a sus modelos Claude Fable 5 y Claude Mythos 5 por riesgos potenciales relacionados con la ciberseguridad. Más recientemente, un primer grupo independiente de expertos científicos de las Naciones Unidas dedicado a la inteligencia artificial estimó que los investigadores no pueden descartar la hipótesis de daños catastróficos. Según este grupo, el desarrollo de esta tecnología progresa actualmente más rápido que los conocimientos científicos disponibles y que los mecanismos de control gubernamentales. Estos diversos elementos alimentan las demandas expresadas durante la manifestación organizada en San Francisco.

Los organizadores planean continuar con sus acciones para defender una pausa internacional en el desarrollo de los modelos de inteligencia artificial más avanzados. Las próximas iniciativas también deberían seguir llamando la atención de los legisladores sobre la puesta en marcha de un marco de vigilancia más estricto. La evolución de este movimiento dependerá ahora de la respuesta de las empresas involucradas y de las autoridades públicas frente a las demandas formuladas durante las concentraciones en San Francisco.