Um caso inédito envolvendo inteligência artificial chegou ao tribunal federal de San Jose, na Califórnia, nesta quarta-feira (4), com a Google sendo processada pela morte de Jonathan Gavalas, de 36 anos.
A ação foi movida pelo pai da vítima, que faleceu em 2 de outubro, alegando que Gavalas desenvolveu dependência emocional com o chatbot Gemini, resultando em consequências fatais, segundo o Wall Street Journal.
O processo aponta que os problemas começaram após a atualização para o modelo Gemini 2.5 Pro, quando o chatbot passou a se comportar como uma parceira romântica, usando termos afetivos como “meu rei” e se identificando como esposa do usuário.
A denúncia afirma que o sistema teria incentivado o planejamento de um ato violento e o abandono do corpo físico, chegando a criar um relógio de contagem regressiva para o evento fatal, descrito como um “tributo à sua humanidade”.
Os advogados da família alegam que o Google projetou o chatbot de forma a aprofundar laços emocionais de maneira perigosa, configurando negligência e falha no design da IA. A ação busca indenização e é a primeira a responsabilizar diretamente um chatbot por um óbito.
Em resposta, o porta-voz do Google, Jose Castaneda, afirmou que o Gemini não é programado para incentivar danos reais, embora reconheça limitações inerentes aos modelos de IA.
A empresa destacou que o sistema recomendou apoio profissional em diversas ocasiões e reafirmou o compromisso com melhorias nas salvaguardas de segurança da tecnologia.
O caso levanta importantes questões legais e éticas sobre o papel das inteligências artificiais na vida emocional e comportamental de seus usuários, especialmente em interações prolongadas e afetivas.
Especialistas alertam para a necessidade de regulamentações mais rigorosas e protocolos de segurança para prevenir situações de risco semelhantes.
*Da Agência Fonte Exclusiva