Bill Gates alerta de un riesgo de la IA con 1.000 millones de muertos
Bill Gates piensa que la inteligencia artificial ahora tiene suficiente poder para desencadenar eventos que podrían causar hasta mil millones de muertos. De hecho, en un extracto de una entrevista concedida al programa estadounidense « Meet the Press », el cofundador de Microsoft invoca esencialmente el peligro que podría representar el uso de los modelos más avanzados por parte de actores malintencionados. Pide una intervención rápida de los poderes públicos porque considera que la autorregulación de las empresas tecnológicas es insuficiente.
En breve
- Bill Gates considera que la IA puede provocar catástrofes mayores si se utiliza con fines malintencionados.
- Menciona un escenario extremo que podría causar hasta mil millones de muertos.
- Juzga que la autorregulación de las empresas tecnológicas es insuficiente.
- Llama a los gobiernos a imponer reglas de seguridad y controles externos.
- Considera que los Estados están mal preparados para los riesgos asociados a los modelos más avanzados.
Bill Gates reclama salvaguardas impuestas por ley
Preguntado sobre la posibilidad de que la IA sea una amenaza para la existencia misma de la humanidad, Bill Gates no indicó que una catástrofe sea inevitable. Más bien destacó un escenario extremo que esta tecnología haría posible si fuera desviada con fines destructivos.
En el extracto difundido el 25 de septiembre por NBC News, él precisó :
La IA ciertamente es lo suficientemente poderosa como para desencadenar eventos que causen mil millones de muertos.
Desde entonces, también subrayó que la humanidad nunca había conocido un arma tan peligrosa como la combinación entre individuos malintencionados y las herramientas de IA más avanzadas.
Su intervención destaca cuatro mensajes principales :
- Los mil millones de muertos corresponden a un escenario potencial, no a una predicción cuantificada ;
- La principal amenaza mencionada se basa en el uso malintencionado de la IA ;
- Las empresas no pueden definir solas las reglas que regulan sus modelos ;
- Los gobiernos deben organizar la vigilancia y la aplicación de las medidas de seguridad.
« Nadie piensa que la autorregulación sea suficiente », añadió Bill Gates. Según él, los responsables políticos y las fuerzas del orden deben participar en la definición de los dispositivos de control, seguimiento y prevención aplicables a los sistemas más potentes.
La entrevista completa debe emitirse el domingo 27 de septiembre. Las declaraciones disponibles no precisan el mecanismo exacto que podría provocar un balance tan grave. Sin embargo, remiten a los riesgos regularmente asociados con los ciberataques, las armas biológicas y los sistemas autónomos que escapan al control de sus operadores.
Gobiernos considerados insuficientemente preparados
Esta declaración prolonga un endurecimiento reciente del discurso de Bill Gates. El 15 de septiembre, él afirmaba ya que ningún gobierno está suficientemente preparado para las transformaciones que la inteligencia artificial impondrá a la sociedad. Sus preocupaciones también abarcan la supresión de empleos, los ataques informáticos y la dependencia de compañeros virtuales.
El exdirigente de Microsoft no solicita, sin embargo, el cese total del desarrollo de la IA. Más bien desea que los modelos más avanzados estén sujetos a obligaciones de seguridad, controles externos y mecanismos que permitan identificar rápidamente los usos peligrosos.
Esta posición coincide parcialmente con la de Dario Amodei. El líder de Anthropic ha llamado a los laboratorios a ralentizar voluntariamente algunos desarrollos y a establecer normas comunes. Para Gates, una coordinación entre empresas seguiría siendo insuficiente sin intervención legislativa.
La elaboración de un marco común se enfrenta a numerosos obstáculos, según datos on-chain. Estados Unidos y China consideran la IA como un desafío económico y estratégico. Esta visión incita a cada país a privilegiar la velocidad de innovación. Una regulación internacional podría también suponer un acuerdo sobre los modelos implicados, las pruebas obligatorias y la responsabilidad de las empresas en caso de incidente.
La IA sigue siendo también una herramienta para la salud y el desarrollo
A pesar de su advertencia, Bill Gates continúa destacando los usos beneficiosos de la inteligencia artificial. Cree que esta tecnología mejoraría la atención médica, la educación y la agricultura, principalmente en regiones donde los especialistas y las infraestructuras son insuficientes.
Así, la Fundación Gates planea invertir al menos mil millones de dólares durante dos años para ampliar el acceso a soluciones de IA en estos ámbitos. También trabaja con empresas como Anthropic, Google y OpenAI para una mejor representación de lenguas poco presentes en los datos de entrenamiento.
Esta estrategia ilustra el doble mensaje de Bill Gates. La IA podría convertirse en un poderoso instrumento para reducir las desigualdades, pero también agravar los riesgos existentes si su desarrollo permanece sin control. Por lo tanto, el debate ya no solo trata sobre las capacidades de los futuros modelos. Ahora se refiere a las reglas a establecer antes de que su poder supere al de los dispositivos encargados de vigilarlos.
¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.
Diplômé de Sciences Po Toulouse et titulaire d'une certification consultant blockchain délivrée par Alyra, j'ai rejoint l'aventure Cointribune en 2019. Convaincu du potentiel de la blockchain pour transformer de nombreux secteurs de l'économie, j'ai pris l'engagement de sensibiliser et d'informer le grand public sur cet écosystème en constante évolution. Mon objectif est de permettre à chacun de mieux comprendre la blockchain et de saisir les opportunités qu'elle offre. Je m'efforce chaque jour de fournir une analyse objective de l'actualité, de décrypter les tendances du marché, de relayer les dernières innovations technologiques et de mettre en perspective les enjeux économiques et sociétaux de cette révolution en marche.
Las ideas y opiniones expresadas en este artículo pertenecen al autor y no deben tomarse como consejo de inversión. Haz tu propia investigación antes de tomar cualquier decisión de inversión.