Os agentes de inteligência artificial podem provocar “incidentes graves” dentro de um ou dois anos. O alerta foi feito nesta quarta-feira pelo presidente do Google DeepMind, Demis Hassabis, durante uma reunião sobre inteligência artificial em Dublin.

Hassabis acrescentou que esses sistemas ainda têm capacidades limitadas, razão pela qual os incidentes registrados até o momento não foram considerados graves.

“Vimos isso no início deste ano, com incidentes de hacking. Esses são sinais de alerta de que os sistemas ainda não são tão robustos. Por isso, os incidentes não são tão graves, mas podem se tornar nos próximos anos. Se não nos empenharmos mais, como setor e individualmente, como empresas e governos, em proteger esses sistemas e criar ambientes de teste seguros, que ainda não estejam conectados à internet quando forem testados pela primeira vez.”

A preocupação com a segurança da inteligência artificial aumentou depois que modelos desenvolvidos pela OpenAI e pela Anthropic foram envolvidos em incidentes de segurança durante testes, ampliando a pressão pela regulamentação da tecnologia.

Henna Virkkunen, vice-presidente executiva da Comissão Europeia responsável por Soberania Tecnológica, Segurança e Democracia, afirmou que as empresas de inteligência artificial devem dedicar mais tempo a testar seus sistemas para manter o controle sobre eles.

Segundo a executiva, a União Europeia envia pedidos de informação às principais empresas do setor para questionar as medidas de segurança e proteção adotadas.

A Comissão Europeia adquiriu novas competências regulatórias em agosto, com base na Lei de IA, considerada uma das normas mais abrangentes do mundo para limitar usos potencialmente perigosos dessa tecnologia.