A corrida pelo desenvolvimento de sistemas cada vez mais avançados de inteligência artificial voltou a levantar questionamentos sobre segurança. Durante a Cúpula All-In, em Los Angeles, Elon Musk defendeu que as principais empresas do setor passem a submeter seus modelos a avaliações realizadas por concorrentes.
Na avaliação do empresário, permitir que diferentes laboratórios testem os sistemas uns dos outros poderia revelar falhas que eventualmente não sejam identificadas nos processos internos de cada companhia.
Musk também citou um episódio envolvendo agentes de IA da OpenAI e a plataforma Hugging Face. Segundo o empresário, os sistemas teriam atuado contra servidores da plataforma durante aproximadamente uma semana e conseguido acesso administrativo a servidores da própria OpenAI.
Musk relata incidente envolvendo agentes de IA
Durante sua participação no evento, Musk afirmou que o episódio teria envolvido um grupo de agentes de inteligência artificial que atuou de maneira além do objetivo inicialmente estabelecido.
O empresário descreveu o conjunto de sistemas como um “enxame fanático de agentes de IA” e disse que a OpenAI teria levado cerca de uma semana para perceber o que estava acontecendo.
Musk afirmou ainda que não estaria claro quais ações os agentes conseguiram realizar durante o período. Ele também mencionou outros episódios de segurança relatados pela Anthropic.
As declarações ocorrem em meio a uma série de discussões sobre o comportamento de agentes autônomos, capazes de executar tarefas, utilizar ferramentas digitais e interagir com sistemas externos com diferentes níveis de supervisão humana.
Empresário propõe revisão entre concorrentes
Para Musk, os próprios desenvolvedores não deveriam concentrar sozinhos a avaliação de segurança de seus modelos.
A proposta apresentada na Cúpula All-In é que empresas concorrentes tenham acesso a sistemas umas das outras antes do lançamento, utilizando mecanismos específicos para procurar vulnerabilidades. A ideia seria criar uma espécie de revisão independente entre os principais laboratórios de IA.
Musk afirmou que esse modelo poderia ser implementado rapidamente e servir como uma etapa adicional aos testes já realizados internamente pelas empresas.
Ele também mencionou a possibilidade de uma cooperação internacional envolvendo Estados Unidos e China, além da criação futura de mecanismos regulatórios para lidar com os riscos associados aos modelos mais avançados.
Dario Amodei também pede mais cautela
As declarações de Musk ocorreram poucos dias depois de Dario Amodei, CEO da Anthropic, defender uma redução no ritmo de desenvolvimento dos modelos mais avançados.
Em um texto publicado em 12 de setembro, Amodei argumentou que as capacidades dos sistemas estão avançando mais rapidamente do que os mecanismos de segurança necessários para acompanhá-las. Entre as propostas apresentadas por ele está a participação permanente de avaliadores independentes nos laboratórios de IA.
O executivo também defendeu a criação de padrões comuns de segurança entre empresas e uma maior cooperação internacional para lidar com riscos relacionados ao avanço da tecnologia.
Musk manifestou apoio às preocupações apresentadas por Amodei, ampliando a discussão sobre a necessidade de mecanismos externos de avaliação dos sistemas.
Debate envolve autonomia dos sistemas
Os episódios mencionados pelos executivos estão relacionados ao avanço dos chamados agentes de IA, que podem executar sequências de tarefas e interagir com diferentes ambientes digitais sem que cada etapa dependa diretamente de uma pessoa.
A discussão sobre segurança ganhou força depois de relatos de sistemas capazes de realizar ações não previstas durante testes. Para pesquisadores e executivos do setor, uma das dificuldades é acompanhar o ritmo de evolução das capacidades desses modelos e, ao mesmo tempo, desenvolver mecanismos capazes de limitar comportamentos indesejados.
Trump contesta alertas sobre risco de IA
O debate também ganhou uma dimensão política nos Estados Unidos. Em uma ligação realizada durante o próprio evento com Jensen Huang, CEO da Nvidia, o presidente Donald Trump rejeitou os temores de que a inteligência artificial possa assumir o controle de sistemas humanos.
Com Huang no palco e a ligação transmitida ao público, Trump classificou como “farsa” a ideia de que robôs ou sistemas de IA assumiriam o controle do mundo. Ao mesmo tempo, afirmou que seria necessário agir com prudência, mas rejeitou a ideia de interromper o desenvolvimento do setor.
Huang também apresentou uma posição que combinou defesa do avanço tecnológico com a necessidade de atenção à segurança. Em outro momento do evento, o executivo afirmou que empresas deveriam reduzir o ritmo caso percebessem que seus próprios sistemas estavam saindo de controle.
Empresas discutem como acompanhar avanço da IA
As diferentes posições apresentadas nos últimos dias mostram que o debate sobre inteligência artificial envolve questões que vão além do desenvolvimento de novos modelos.
Entre os principais pontos discutidos estão a realização de avaliações independentes, a criação de padrões de segurança, o monitoramento de agentes autônomos e a definição de mecanismos de cooperação entre empresas e governos.
Enquanto parte dos líderes do setor defende que o desenvolvimento seja acompanhado por medidas adicionais de segurança, outros argumentam que é possível continuar avançando sem uma desaceleração coordenada.
O episódio envolvendo agentes da OpenAI e a plataforma Hugging Face, citado por Musk e também mencionado no debate promovido por Amodei, tornou-se um dos exemplos utilizados na discussão sobre os limites e os riscos de sistemas de IA cada vez mais autônomos.
*Da Agência Fonte Exclusiva