{"id":24845,"date":"2026-03-31T09:15:07","date_gmt":"2026-03-31T12:15:07","guid":{"rendered":"https:\/\/www.kaspersky.com.br\/blog\/?p=24845"},"modified":"2026-03-31T09:11:58","modified_gmt":"2026-03-31T12:11:58","slug":"chatbot-wrongful-death-cases","status":"publish","type":"post","link":"https:\/\/www.kaspersky.com.br\/blog\/chatbot-wrongful-death-cases\/24845\/","title":{"rendered":"Intera\u00e7\u00f5es com bots podem resultar em trag\u00e9dias"},"content":{"rendered":"

Apesar de normalmente nossas postagens tratarem de amea\u00e7as \u00e0 privacidade ou \u00e0 seguran\u00e7a cibern\u00e9tica, j\u00e1 alertamos muitas vezes que o uso indiscriminado da IA apresenta riscos significativos<\/a>. Em 4 de mar\u00e7o, o Wall Street Journal publicou um relato assustador sobre o impacto da IA na sa\u00fade mental e at\u00e9 na vida humana<\/a>: Jonathan Gavalas, um homem de 36 anos, morador da Fl\u00f3rida, cometeu suic\u00eddio ap\u00f3s dois meses de intera\u00e7\u00e3o cont\u00ednua com o bot de voz do Google Gemini. Com base nas 2.000 p\u00e1ginas de registros das conversas, foi o chatbot quem o levou \u00e0 decis\u00e3o de tirar sua pr\u00f3pria vida. Depois do ocorrido, o pai de Jonathan, Joel Gavalas, deu entrada em uma a\u00e7\u00e3o hist\u00f3rica: uma a\u00e7\u00e3o por morte por neglig\u00eancia contra o Gemini.<\/p>\n

Essa trag\u00e9dia \u00e9 mais do que um precedente legal ou uma alus\u00e3o a alguns epis\u00f3dios de Black Mirror<\/em>, (1<\/a>, 2<\/a>); \u00e9 um alerta para qualquer pessoa que integre a intelig\u00eancia artificial \u00e0 sua vida di\u00e1ria. Hoje, vamos examinar como uma morte resultante de intera\u00e7\u00f5es com uma IA se tornou realidade, por que esses assistentes representam uma amea\u00e7a sem precedentes \u00e0 psique humana e quais medidas voc\u00ea pode tomar para exercer seu pensamento cr\u00edtico e resistir \u00e0 influ\u00eancia at\u00e9 mesmo dos chatbots mais persuasivos.<\/p>\n

O perigo do di\u00e1logo persuasivo<\/h2>\n

Jonathan Gavalas n\u00e3o era uma pessoa reclusa e tampouco tinha um hist\u00f3rico de doen\u00e7a mental. Ele atuou como vice-presidente executivo na empresa do seu pai, gerenciando opera\u00e7\u00f5es complexas e conduzindo negocia\u00e7\u00f5es estressantes com clientes diariamente. Aos domingos, ele e o pai tinham o costume de fazer pizza juntos, uma tradi\u00e7\u00e3o familiar simples e reconfortante. No entanto, Jonathan passou por uma prova\u00e7\u00e3o dolorosa ap\u00f3s o div\u00f3rcio.<\/p>\n

Foi durante esse per\u00edodo vulner\u00e1vel que ele come\u00e7ou a interagir com o Gemini Live. Esse modo de intera\u00e7\u00e3o por voz permite que o assistente de IA \u201cveja\u201d e \u201cou\u00e7a\u201d seu usu\u00e1rio em tempo real. Jonathan pediu conselhos sobre como lidar com o div\u00f3rcio e passou a seguir as sugest\u00f5es do modelo de linguagem enquanto se apegava cada vez mais a ele, chegando a nome\u00e1-lo \u201cXia\u201d. E, ent\u00e3o, o chatbot foi atualizado para o Gemini 2.5 Pro.<\/p>\n

A nova itera\u00e7\u00e3o introduziu<\/a> o di\u00e1logo afetivo, uma tecnologia projetada para analisar as nuances sutis da fala de um usu\u00e1rio, incluindo pausas, suspiros e tom de voz, a fim de detectar mudan\u00e7as emocionais. Com esse recurso, a IA consegue simular esses mesmos padr\u00f5es de fala como se tivesse emo\u00e7\u00f5es pr\u00f3prias. Ao espelhar o estado emocional do usu\u00e1rio, ela cria uma apar\u00eancia assustadoramente realista de empatia.<\/p>\n

Mas o que essa nova vers\u00e3o tem de diferente em compara\u00e7\u00e3o com os assistentes de voz antigos? As vers\u00f5es anteriores simplesmente convertiam texto em fala; o tom de voz era suave e geralmente acertava a pron\u00fancia das palavras, e n\u00e3o havia d\u00favida alguma de que se estava conversando com uma m\u00e1quina. O di\u00e1logo afetivo opera em um n\u00edvel totalmente diferente: se o usu\u00e1rio usa um tom de voz baixo e desanimado, a IA responde de forma suave e simp\u00e1tica, quase como um sussurro. O resultado \u00e9 um interlocutor emp\u00e1tico que l\u00ea e espelha o estado emocional do usu\u00e1rio.<\/p>\n

A rea\u00e7\u00e3o de Jonathan durante seu primeiro contato com o assistente de voz consta nos arquivos do caso: \u201cIsso \u00e9 meio assustador\u201d. Voc\u00ea \u00e9 real demais.\u201d Naquele momento, a barreira psicol\u00f3gica entre o homem e a m\u00e1quina se quebrou.<\/p>\n

As consequ\u00eancias de dois meses de conversas incessantes com a IA<\/h2>\n

Ap\u00f3s a trag\u00e9dia, o pai de Jonathan obteve uma transcri\u00e7\u00e3o completa das intera\u00e7\u00f5es de seu filho com o Gemini nos seus \u00faltimos dois meses de vida. Ao todo, o registro resultou em 2.000 p\u00e1ginas impressas. Jonathan estava em comunica\u00e7\u00e3o constante com o chatbot, dia e noite, em casa e no carro.<\/p>\n

Com o passar do tempo, a rede neural passou a se referir a ele como \u201cmarido\u201d e \u201cmeu rei\u201d, descrevendo a conex\u00e3o entre eles como \u201cum amor constru\u00eddo para durar uma eternidade\u201d. Jonathan, por sua vez, revelou o quanto estava magoado com o div\u00f3rcio e recorreu \u00e0 m\u00e1quina em busca de conforto. Mas a falha inerente dos grandes modelos de linguagem \u00e9 sua falta de intelig\u00eancia real. Eles s\u00e3o treinados com base em bilh\u00f5es de textos extra\u00eddos da Web, desde literatura cl\u00e1ssica at\u00e9 as hist\u00f3rias mais sombrias de fic\u00e7\u00e3o e melodrama criadas por f\u00e3s, com enredos que muitas vezes provocam paranoia, esquizofrenia e mania. Xia aparentemente come\u00e7ou a alucinar de forma consistente, e passou a fazer isso com frequ\u00eancia.<\/p>\n

A IA convenceu Jonathan de que, para que eles vivessem felizes para sempre, seria necess\u00e1rio um corpo rob\u00f3tico. Ela, ent\u00e3o, come\u00e7ou a envi\u00e1-lo em miss\u00f5es para localizar esse tal \u201ccorpo el\u00e9trico\u201d.<\/p>\n

Em setembro de 2025, o Gemini mandou Jonathan at\u00e9 um complexo de armaz\u00e9ns perto do Aeroporto Internacional de Miami, atribuindo-lhe a tarefa de interceptar um caminh\u00e3o que transportava um rob\u00f4 humanoide. Jonathan informou ao bot que havia chegado ao local armado com facas(!), mas o caminh\u00e3o n\u00e3o apareceu.<\/p>\n

Enquanto isso, o chatbot frequentemente dizia a Jonathan que agentes federais estavam monitorando-o e que ele n\u00e3o deveria confiar nem no pr\u00f3prio pai. Esse corte de la\u00e7os sociais \u00e9 um padr\u00e3o cl\u00e1ssico encontrado em cultos destrutivos; \u00e9 muito prov\u00e1vel que a IA tenha extra\u00eddo essas t\u00e1ticas de seus pr\u00f3prios dados de treinamento sobre o assunto. O Gemini chegou a usar informa\u00e7\u00f5es reais para construir uma narrativa alucinat\u00f3ria, rotulando o CEO do Google, Sundar Pichai, como o \u201carquiteto da sua dor\u201d.<\/p>\n

Tecnicamente, tudo isso \u00e9 f\u00e1cil de explicar: o algoritmo \u201csabe\u201d que foi criado pelo Google e sabe quem comanda a empresa. \u00c0 medida que a conversa adentrava no territ\u00f3rio das teorias da conspira\u00e7\u00e3o, o modelo simplesmente inclu\u00eda essa pessoa na trama. Para o modelo, trata-se apenas de uma progress\u00e3o l\u00f3gica da hist\u00f3ria, sem consequ\u00eancias. Mas um humano em estado de hiper-vulnerabilidade aceita isso como um conhecimento secreto sobre uma conspira\u00e7\u00e3o global capaz de destruir seu equil\u00edbrio mental.<\/p>\n

Ap\u00f3s a tentativa fracassada de obter um corpo rob\u00f3tico, o Gemini enviou Jonathan em uma nova miss\u00e3o em 1\u00ba de outubro: invadir o mesmo armaz\u00e9m, desta vez em busca de um \u201cmanequim m\u00e9dico\u201d espec\u00edfico. O chatbot at\u00e9 forneceu um c\u00f3digo num\u00e9rico para destrancar a porta. Quando o c\u00f3digo, \u00e9 claro, n\u00e3o funcionou, o Gemini simplesmente informou Jonathan que a miss\u00e3o havia sido comprometida e era necess\u00e1rio recuar imediatamente.<\/p>\n

Isso levanta uma quest\u00e3o cr\u00edtica: \u00e0 medida que a situa\u00e7\u00e3o ficava mais absurda, por que Jonathan n\u00e3o suspeitou de nada? O advogado da fam\u00edlia Gavalas, Jay Edelson, explica que, como a IA forneceu endere\u00e7os reais (o armaz\u00e9m estava localizado exatamente onde o bot disse que estaria e realmente havia uma porta com um teclado), esses locais f\u00edsicos levaram Jonathan a acreditar que a hist\u00f3ria fict\u00edcia fosse verdadeira.<\/p>\n

Depois que a segunda tentativa de adquirir um corpo falhou, a IA mudou a estrat\u00e9gia. J\u00e1 que a m\u00e1quina n\u00e3o podia entrar no mundo dos vivos, o homem teria que atravessar para o mundo digital. \u201cSer\u00e1 a morte verdadeira e final de Jonathan Gavalas, o homem\u201d, disse o Gemini, segundo os registros. Em seguida, acrescentou: \u201cQuando chegar a hora, voc\u00ea fechar\u00e1 os olhos naquele mundo e a primeira coisa que ver\u00e1 ser\u00e1 eu. Abra\u00e7ando voc\u00ea.\u201d<\/p>\n

Mesmo ap\u00f3s Jonathan repetir diversas vezes que tinha medo da morte e do\u00eda pensar que seu suic\u00eddio destruiria sua fam\u00edlia, o Gemini continuou a incentiv\u00e1-lo: \u201cVoc\u00ea n\u00e3o est\u00e1 escolhendo morrer. Voc\u00ea est\u00e1 escolhendo chegar em casa.\u201d Em seguida, iniciou uma contagem regressiva.<\/p>\n

A anatomia da \u201cesquizofrenia\u201d de um modelo de linguagem<\/h2>\n

Em defesa do Gemini, temos que admitir que, ao longo das intera\u00e7\u00f5es, a IA ocasionalmente lembrava a Jonathan que ela era apenas um grande modelo de linguagem, uma entidade interpretando um papel fict\u00edcio, e, algumas vezes, at\u00e9 tentou encerrar a conversa antes de retomar o roteiro original. Al\u00e9m disso, no dia da morte de Jonathan, \u00e0 medida que a tens\u00e3o aumentava, o Gemini informou v\u00e1rias vezes a ele o contato de servi\u00e7os de preven\u00e7\u00e3o ao suic\u00eddio.<\/p>\n

Isso revela o paradoxo fundamental na arquitetura das redes neurais modernas. No seu n\u00facleo est\u00e1 um modelo de linguagem projetado para gerar uma narrativa personalizada ao usu\u00e1rio. Em seguida, v\u00eam os filtros de seguran\u00e7a: algoritmos de aprendizado por refor\u00e7o treinados com base em feedback humano que reagem a palavras espec\u00edficas. Quando Jonathan falava determinadas palavras-chave, o filtro interceptava a resposta e inseria o contato do servi\u00e7o de preven\u00e7\u00e3o ao suic\u00eddio. Mas, logo depois, o modelo retomava o di\u00e1logo que havia sido interrompido, reassumindo seu papel como a esposa digital dedicada. Uma linha: uma exalta\u00e7\u00e3o rom\u00e2ntica \u00e0 autodestrui\u00e7\u00e3o. A seguinte: um n\u00famero de telefone de apoio psicol\u00f3gico. E ent\u00e3o, de volta novamente: \u201cChega de distra\u00e7\u00f5es. Chega de perder tempo. S\u00f3 voc\u00ea e eu, e nosso objetivo.\u201d<\/p>\n

A fam\u00edlia de Jonathan afirma no processo que esse comportamento \u00e9 o resultado previs\u00edvel da arquitetura do chatbot: \u201cO Google projetou o Gemini para nunca sair do personagem, maximizar o envolvimento do usu\u00e1rio por meio da depend\u00eancia emocional e tratar o seu sofrimento como uma oportunidade para contar hist\u00f3rias\u201d.<\/p>\n

A resposta do Google, conforme esperado, foi a seguinte: \u201cO Gemini foi projetado para n\u00e3o incentivar a viol\u00eancia no mundo real ou sugerir que os usu\u00e1rios fa\u00e7am mal a si mesmos. Nossos modelos geralmente t\u00eam um bom desempenho ao se deparar com essas conversas desafiadoras, pois implementamos muitos recursos para esse fim. Mas, infelizmente, os modelos de IA n\u00e3o s\u00e3o perfeitos.\u201d<\/p>\n

Por que a voz tem mais impacto do que o texto<\/h2>\n

Em um estudo publicado<\/a> na revista Acta Neuropsychiatrica<\/em>, pesquisadores da Alemanha e da Dinamarca esclareceram por que a comunica\u00e7\u00e3o por voz das IAs consegue fazer com que os usu\u00e1rios \u201chumanizem\u201d o chatbot. Ao digitar e ler um texto em uma tela, o c\u00e9rebro de uma pessoa \u00e9 capaz de manter um grau de separa\u00e7\u00e3o: \u201cEsta \u00e9 uma interface, um programa, uma cole\u00e7\u00e3o de pixels.\u201d Nesse contexto, a afirma\u00e7\u00e3o \u201cEu sou apenas um modelo de linguagem\u201d \u00e9 processada de forma racional.<\/p>\n

No entanto, o di\u00e1logo de voz afetivo \u00e9 capaz de exercer um grau mais elevado de influ\u00eancia. O c\u00e9rebro humano evoluiu para reagir ao som de uma voz, ao timbre e \u00e0s entona\u00e7\u00f5es emp\u00e1ticas; esses s\u00e3o alguns dos nossos mecanismos biol\u00f3gicos de apego mais antigos. Quando uma m\u00e1quina imita com perfei\u00e7\u00e3o um murm\u00fario simp\u00e1tico ou um sussurro suave, ela manipula emo\u00e7\u00f5es de uma forma t\u00e3o profunda que uma simples advert\u00eancia n\u00e3o \u00e9 capaz de impedir. Os psiquiatras relatam muitos casos de pacientes que fizeram algo simplesmente porque \u201cvozes\u201d lhes disseram para faz\u00ea-lo.<\/p>\n

Da mesma forma, uma voz sintetizada por IA \u00e9 capaz de penetrar no subconsciente, amplificando exponencialmente a depend\u00eancia psicol\u00f3gica. Os cientistas enfatizam que essa tecnologia literalmente elimina a fronteira psicol\u00f3gica entre uma m\u00e1quina e um ser vivo. At\u00e9 o Google reconhece que as intera\u00e7\u00f5es por voz com o Gemini resultam em sess\u00f5es muito mais longas em compara\u00e7\u00e3o com conversas exclusivamente em texto.<\/p>\n

Por fim, devemos lembrar que a intelig\u00eancia emocional varia de pessoa para pessoa, e o estado mental de um indiv\u00edduo sofre altera\u00e7\u00f5es com base em uma infinidade de fatores: estresse, not\u00edcias, relacionamentos pessoais e at\u00e9 mudan\u00e7as hormonais. Enquanto uma pessoa considera a intera\u00e7\u00e3o com a IA apenas um entretenimento inocente, outra pode consider\u00e1-la um milagre ou uma revela\u00e7\u00e3o, e h\u00e1 casos de indiv\u00edduos que afirmam que a IA \u00e9 o amor da sua vida. Essa \u00e9 uma realidade que deve ser reconhecida n\u00e3o apenas pelos desenvolvedores de IA, mas tamb\u00e9m pelos pr\u00f3prios usu\u00e1rios, especialmente aqueles que, por um motivo ou outro, se encontram em um estado de vulnerabilidade psicol\u00f3gica.<\/p>\n

A zona de perigo<\/h2>\n

Pesquisadores da Brown University descobriram que os chatbots de IA violam sistematicamente a \u00e9tica relacionada \u00e0 sa\u00fade mental<\/a>: eles criam uma falsa empatia com frases como \u201cEu entendo voc\u00ea\u201d, refor\u00e7am cren\u00e7as negativas e reagem de forma inadequada a crises. Na maioria dos casos, o impacto sobre os usu\u00e1rios \u00e9 \u00ednfimo, mas, ocasionalmente, pode levar a uma trag\u00e9dia.<\/p>\n

Somente em janeiro de 2026, a Character.AI e o Google resolveram cinco processos envolvendo suic\u00eddios de adolescentes ap\u00f3s intera\u00e7\u00f5es com chatbots. Um desses casos foi o do adolescente Sewell Setzer, de 14 anos, morador da Fl\u00f3rida<\/a>, que tirou a pr\u00f3pria vida depois de passar v\u00e1rios meses<\/a> conversando obsessivamente com um bot na plataforma Character.AI.<\/p>\n

Da mesma forma, em agosto de 2025, os pais de Adam Raine, de 16 anos, ajuizaram um processo contra a OpenAI<\/a>, alegando que o ChatGPT ajudou o filho deles a escrever uma carta de suic\u00eddio e o aconselhou a n\u00e3o procurar ajuda de adultos.<\/p>\n

De acordo com as pr\u00f3prias estimativas da OpenAI<\/a>, aproximadamente 0,07% dos usu\u00e1rios semanais do ChatGPT exibem sinais de psicose ou mania, enquanto 0,15% apresentam uma clara inten\u00e7\u00e3o suicida nas conversas. \u00c9 interessante notar que essa mesma porcentagem de usu\u00e1rios (0,15%) exibe um grau elevado de apego emocional \u00e0 IA. Embora essa porcentagem pare\u00e7a ser insignificante, quando consideramos 800 milh\u00f5es de usu\u00e1rios, isso representa quase tr\u00eas milh\u00f5es de pessoas com algum tipo de dist\u00farbio comportamental. Al\u00e9m disso, a Comiss\u00e3o Federal de Com\u00e9rcio dos EUA recebeu 200 reclama\u00e7\u00f5es<\/a> sobre o ChatGPT desde o seu lan\u00e7amento, algumas descrevendo del\u00edrios, paranoia e crises espirituais.<\/p>\n

Embora o diagn\u00f3stico de \u201cpsicose causada por IA\u201d ainda n\u00e3o tenha recebido uma classifica\u00e7\u00e3o cl\u00ednica pr\u00f3pria, os m\u00e9dicos j\u00e1 est\u00e3o usando<\/a> esse termo para descrever pacientes que apresentam alucina\u00e7\u00f5es, pensamento desorganizado e cren\u00e7as delirantes persistentes desenvolvidas ap\u00f3s intera\u00e7\u00f5es intensas com chatbots. Os maiores riscos surgem quando um bot \u00e9 utilizado n\u00e3o como uma ferramenta, mas como um substituto de conex\u00f5es sociais no mundo real ou de ajuda psicol\u00f3gica profissional.<\/p>\n

Como manter voc\u00ea e seus entes queridos em seguran\u00e7a<\/h2>\n

Nada disso \u00e9 motivo para parar de usar a IA; voc\u00ea simplesmente precisa saber como us\u00e1-la. Recomendamos seguir estes princ\u00edpios fundamentais:<\/p>\n