Enquanto milhões de pessoas usam ferramentas como ChatGPT, Claude, Grok e Gemini no dia a dia, pesquisadores de segurança em inteligência artificial alertam para riscos que, segundo eles, podem acompanhar a rápida evolução da tecnologia.

O pesquisador de segurança em IA William MacAskill, que atua na Forethought Research, afirma que uma das preocupações é o uso indevido desses sistemas.

"Há várias formas pelas quais isso poderia acontecer. Uma delas é por meio do uso indevido por agentes mal-intencionados ou simplesmente negligentes. Em particular, quando a IA estiver acelerando de forma significativa o desenvolvimento científico, especialmente na biologia, ela poderá dar a uma parcela muito maior do mundo a capacidade de criar novos vírus modificados, de uma forma que é realmente difícil de controlar."

Ele também diz temer uma perda de controle sobre sistemas cada vez mais avançados.

"Estamos cruzando os limites para que a IA seja capaz de projetar uma IA melhor e os modelos sugerem que isso significa que o progresso acontece muito rapidamente. Então, entregamos o controle da sociedade a sistemas de IA que talvez tenham seus próprios objetivos e não se importem se esses objetivos forem incompatíveis com o florescimento humano ou até mesmo com a sobrevivência humana."

As declarações ganham força após a renúncia do pesquisador Jacob Coxon, da Anthropic. Em uma publicação na Rede X, ele acusou OpenAI e Anthropic de avançar rumo à superinteligência sem agir de forma responsável. Outro cientista da Anthropic, Evan Hubinger, apoiou publicamente as críticas.

Segundo MacAskill, o mundo precisa levar esses alertas mais a sério.

“O mundo precisa despertar para a magnitude dos riscos apresentados aqui.”

Os parlamentares dos Estados Unidos pediram novas regras para governar a IA, enquanto as empresas do setor defendem padrões obrigatórios de segurança diante do avanço acelerado da tecnologia.