O avanço da inteligência artificial generativa trouxe benefícios para áreas como ciência, educação e saúde, mas também criou novos desafios relacionados ao uso indevido dessas ferramentas.
Entre as principais preocupações de especialistas está a possibilidade de sistemas avançados serem explorados para obter informações que possam facilitar ameaças biológicas.
De acordo com informações reunidas pelo The Wall Street Journal, empresas do setor identificaram um aumento de consultas envolvendo agentes biológicos e toxinas. O cenário vem sendo acompanhado por pesquisadores que estudam a relação entre inteligência artificial, terrorismo e segurança.
A OpenAI, responsável pelo ChatGPT, teria identificado centenas de solicitações consideradas sensíveis após atualizações em seus modelos. Segundo especialistas ouvidos pela publicação, determinados sistemas chegaram a fornecer respostas com informações potencialmente perigosas em nível de detalhamento que poderia ser compreendido mesmo por pessoas sem formação especializada.
Entre os assuntos que despertaram preocupação estão questionamentos sobre agentes infecciosos, disseminação de substâncias biológicas e maneiras de modificar vírus para reduzir a eficácia de vacinas. Também foram detectadas interações associadas a possíveis intenções violentas.
Diante de solicitações consideradas de alto risco, a OpenAI teria adotado medidas contra contas envolvidas. A ausência de uma obrigação federal específica nos Estados Unidos, contudo, limita a exigência de comunicação desses episódios às autoridades.
Risco envolve diferentes sistemas de inteligência artificial
A preocupação não está concentrada exclusivamente no ChatGPT. Segundo o levantamento divulgado pelo Wall Street Journal, sistemas desenvolvidos por diferentes empresas também vêm recebendo questionamentos relacionados a formas de provocar danos em larga escala.
Entre as plataformas mencionadas estão o Claude, desenvolvido pela Anthropic, o Gemini, do Google, e o Grok. O cenário amplia o debate sobre a necessidade de estabelecer padrões de segurança capazes de acompanhar a evolução acelerada dos modelos de inteligência artificial.
Nos Estados Unidos, os riscos associados ao emprego da IA em atividades terroristas e na proliferação de armas já são discutidos há alguns anos. Integrantes do governo norte-americano vêm avaliando como os avanços tecnológicos podem alterar a capacidade de indivíduos ou grupos obterem conhecimento sensível.
Medidas de controle também já foram adotadas em relação a determinados modelos. Em um episódio envolvendo sistemas da Anthropic, autoridades norte-americanas impuseram restrições relacionadas ao uso internacional das ferramentas até que fossem implementadas medidas destinadas a solucionar vulnerabilidades identificadas.
Barreiras de segurança enfrentam limitações
As principais empresas de tecnologia afirmam desenvolver mecanismos para impedir que seus sistemas forneçam instruções relacionadas a crimes, violência ou atividades perigosas. Os modelos passam por treinamento específico para identificar pedidos de alto risco e rejeitar determinadas solicitações.
A dificuldade está em garantir que essas barreiras sejam eficientes diante de usuários que tentam reformular perguntas ou dividir uma solicitação problemática em diversas interações. Pesquisadores de segurança alertam que estratégias desse tipo podem ser utilizadas para tentar contornar mecanismos de proteção.
Ao mesmo tempo, especialistas e desenvolvedores enfrentam outro dilema: filtros excessivamente rígidos podem dificultar o acesso a informações legítimas utilizadas por pesquisadores, universidades, profissionais de saúde e instituições científicas.
Por essa razão, algumas empresas têm adotado modelos de acesso controlado, disponibilizando sistemas com menos restrições para organizações previamente verificadas. A estratégia busca conciliar a utilização da IA em pesquisas legítimas com a necessidade de reduzir riscos de uso malicioso.
O avanço da tecnologia mantém aberto o debate sobre quais limites devem ser estabelecidos para sistemas de inteligência artificial e como governos, empresas e comunidade científica podem trabalhar em conjunto para evitar que ferramentas desenvolvidas para ampliar o conhecimento também sejam utilizadas para aumentar riscos à segurança global.
*Da Agência Fonte Exclusiva