Bill Gates cita cenário de IA capaz de causar 1 bilhão de mortes

Bill Gates pensa que a inteligência artificial agora detém um poder suficiente para desencadear eventos que podem levar a até um bilhão de mortes. De fato, em um trecho de uma entrevista concedida ao programa americano “Meet the Press“, o cofundador da Microsoft invoca essencialmente o perigo que o uso dos modelos mais avançados por atores maliciosos poderia representar. Ele pede uma intervenção rápida das autoridades públicas, pois considera a autorregulação das empresas de tecnologia insuficiente.

Bill Gates exige salvaguardas impostas por lei

Questionado sobre a possibilidade de a IA ser uma ameaça para a própria existência da humanidade, Bill Gates não indicou que uma catástrofe fosse inevitável. Ele destacou um cenário extremo que essa tecnologia tornaria possível se fosse desviada para fins destrutivos.

Ele esclareceu no trecho divulgado em 25 de setembro pela NBC News :

A IA certamente é poderosa o suficiente para desencadear eventos que causem um bilhão de mortes.

Desde então, ele também destacou que a humanidade nunca conheceu uma arma tão perigosa quanto a combinação entre indivíduos mal-intencionados e as ferramentas de IA mais avançadas.

Sua intervenção destaca quatro mensagens principais :

• O bilhão de mortes corresponde a um cenário potencial, não a uma previsão numérica ;
• A principal ameaça mencionada baseia-se no uso mal-intencionado da IA ;
• As empresas não podem definir sozinhas as regras que regem seus modelos ;
• Os governos devem organizar a vigilância e a aplicação das medidas de segurança.

“Ninguém pensa que a autorregulação seja suficiente”, acrescentou Bill Gates. Segundo ele, os responsáveis políticos e as forças de segurança devem participar da definição dos dispositivos de controle, monitoramento e prevenção aplicáveis aos sistemas mais poderosos.

A entrevista completa deve ser transmitida no domingo, 27 de setembro. As declarações disponíveis não especificam o mecanismo exato que poderia levar a um número tão alto. Elas remetem entretanto aos riscos regularmente associados a ciberataques, armas biológicas e sistemas autônomos que escapam ao controle de seus operadores.

Governos considerados insuficientemente preparados

Essa declaração prolonga um endurecimento recente do discurso de Bill Gates. Em 15 de setembro, ele afirmava já que nenhum governo estava suficientemente preparado para as transformações que a inteligência artificial imporá à sociedade. Suas preocupações também abrangem cortes de empregos, ataques informáticos e dependência de assistentes virtuais.

O ex-líder da Microsoft não pede, contudo, a paralisação completa do desenvolvimento da IA. Ele deseja que os modelos mais avançados sejam submetidos a obrigações de segurança, controles externos e mecanismos que permitam identificar rapidamente os usos perigosos.

Essa posição se alinha parcialmente com a de Dario Amodei. O dirigente da Anthropic chamou os laboratórios a desacelerar voluntariamente certos desenvolvimentos e estabelecer normas comuns. Para Gates, uma coordenação entre empresas ainda seria insuficiente sem intervenção legislativa.

A elaboração de um quadro comum enfrenta muitos obstáculos, segundo dados on-chain. Os Estados Unidos e a China consideram a IA como uma questão econômica e estratégica. Essa visão incentiva cada país a privilegiar a velocidade da inovação. Uma regulação internacional também poderia supor um acordo sobre os modelos envolvidos, os testes obrigatórios e a responsabilidade das empresas em caso de incidentes.

A IA também continua sendo uma ferramenta de saúde e desenvolvimento

Apesar de seu alerta, Bill Gates continua valorizando os usos benéficos da inteligência artificial. Ele acredita que essa tecnologia melhoraria os cuidados, a educação e a agricultura, principalmente nas regiões onde especialistas e infraestruturas permanecem insuficientes.

Assim, a Gates Foundation planeja investir pelo menos um bilhão de dólares em dois anos para ampliar o acesso a soluções de IA nessas áreas. Ela também trabalha com empresas como Anthropic, Google e OpenAI para uma melhor representação das línguas pouco presentes nos dados de treinamento.

Essa estratégia ilustra a mensagem dupla de Bill Gates. A IA poderia se tornar um instrumento poderoso para reduzir desigualdades, mas também exacerbar os riscos existentes se seu desenvolvimento ficar sem controle. O debate não trata mais apenas das capacidades dos futuros modelos. Agora, diz respeito às regras a serem estabelecidas antes que seu poder ultrapasse o dos dispositivos responsáveis pela sua vigilância.