“Riscos existenciais para a humanidade”.

De acordo com o jornal Financial Times foram essas as palavras usadas pela empresa americana de inteligência artificial Anthropic em um alerta sobre o que esta tecnologia pode representar.

Os destinatários da mensagem foram investidores antes da entrada na Bolsa da criadora do chatbot Claude.

Recentemente, o debate sobre os possíveis riscos vinculados à IA, com modelos de comportamento às vezes imprevisíveis, ganhou força.

Na semana passada, vários líderes do setor de IA pediram na ONU o aumento da vigilância.

O cofundador e CEO da Anthropic, Dario Amodei, chegou a se comprometer a desacelerar unilateralmente o desenvolvimento da tecnologia.

Segundo o documento informativo da Anthropic para sua abertura de capital, a empresa registrou no ano passado uma perda operacional de mais de 8 bilhões de dólares, devido a um forte aumento dos gastos com capacidade de processamento.

O faturamento foi de quase US$ 4,6 bilhões e a empresa prevê gastar 518 bilhões nos próximos anos para sustentar seu crescimento.

Avaliada em 965 bilhões de dólares em maio, a empresa fundada em San Francisco prepara uma entrada na Bolsa que pode bater um recorde de arrecadação.

Concorrente no setor, a OpenAI decidiu não lançar seu mais novo modelo de inteligência artificial, conhecido como Astra 6.1, depois que testes internos revelaram que ele não atendia aos padrões de segurança esperados.

Nesta terça-feira, a empresa vai promover o OpenAI DevDay, conferência anual de desenvolvedores na qual são esperados vários anúncios, embora não esteja claro se uma nova versão do Astra estará entre eles.

Recentemente, agentes desenvolvidos com modelos da OpenAI acessaram indevidamente sites mantidos por órgãos federais dos Estados Unidos, um portal de estatísticas de saúde do governo australiano e o Hugging Face, um repositório de modelos de IA.