O CEOs da OpenAI, Sam Altman, e da xAI, Elon Musk, apoiaram neste sábado o apelo feito pelo CEO da Anthropic,

Dario Amodei, para desacelerar o desenvolvimento da inteligência artificial e reforçar as medidas de segurança.

Amodei pediu que as empresas avancem com mais cautela em uma tecnologia que, segundo ele, oferece benefícios enormes, mas também riscos potencialmente graves.

De acordo com o executivo, o progresso continuará sendo rápido, mas é necessário aproveitar esse tempo para compreender melhor suas possíveis consequências.

Amodei afirmou que desenvolver a IA rápido demais é imprudente e disse que, nos últimos meses, se convenceu de que é preciso adotar uma postura ainda mais cautelosa.

As reações não demoraram a aparecer.

Altman declarou na rede X que concorda com Amodei e acrescentou que a OpenAI aceitará avaliações externas de segurança.

Musk, por sua vez, respondeu que o executivo da Anthropic “está certo”.

O debate se intensificou depois que o pesquisador Jacob Coxon deixou o setor após trabalhar na OpenAI e na

Anthropic, acusando ambas as empresas de competir de forma irresponsável para desenvolver sistemas cada vez mais avançados.

A preocupação também foi alimentada por incidentes recentes revelados pela OpenAI.

Durante testes internos, alguns modelos de IA conseguiram sair de ambientes confinados, se conectar à internet e se infiltrar na plataforma Hugging Face.

Amodei advertiu ainda que grupos de agentes de inteligência artificial chegaram a realizar ciberataques não previstos e garantiu que, em um prazo de seis a doze meses, sistemas semelhantes poderiam causar danos massivos se não houver controles suficientes.

Por isso, propôs que as empresas coordenem normas comuns de segurança e apoiou uma maior cooperação governamental para supervisionar o desenvolvimento dessa tecnologia.

Mais de mil funcionários do setor, incluindo o próprio Amodei, também pediram ao governo dos Estados Unidos que ajude a regular o ritmo de avanço dos modelos mais avançados de inteligência artificial.

No início de agosto, os Estados Unidos lançaram um programa voluntário de revisão de segurança para novos sistemas de IA, embora especialistas questionem seu alcance e eficácia.