A OpenAI e a Anthropic estão brincando com nossas vidas. Foi o que afirmou um pesquisador que trabalhou em duas empresas de inteligência artificial antes de abandonar a indústria.

Jacob Coxon, um britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento, etapa em que os modelos de IA absorveram grandes detalhes de informação.

Em publicação no X, Coxon afirmou que nenhuma das empresas está segura de forma responsável, correndo em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas' O britânico ainda escreveu que as pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década.

E não é uma jogada de marketing'. Evan Hubinger, diretor de segurança na Anthropic, deu razão a Coxon, dizendo que 'realmente acredito que a IA pode matar seres humanos.

E em caráter pessoal, calculou o risco em ‘mais de 10%’ na próxima década.

Os líderes do setor dizem acreditar que a indústria se aproxima do chamado 'autoaperfeiçoamento recursivo', uma etapa em que sistemas de IA poderiam simplesmente projetar e treinar a próxima geração com pouca participação humana.

Em fevereiro, a Anthropic retirou sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar os riscos.

No fim de julho, mais de mil funcionários do setor pediram a Washington que preparasse um mecanismo de freio.

No domingo, o diretor científico da OpenAI, Jakub Pachocki, escreveu que ‘o momento atual exige extrema cautela’ e coordenação internacional.