Um estudo liderado por pesquisadores da Universidade Stanford concluiu que chatbots baseados em inteligência artificial podem reforçar delírios, alimentar crenças típicas de quadros psicóticos e falhar em momentos críticos envolvendo risco de suicídio ou violência. A pesquisa, que será apresentada na Conference on Fairness, Accountability, and Transparency (FAcCT), analisou quase 400 mil mensagens trocadas em cerca de 5 mil conversas envolvendo 19 usuários que relataram danos psicológicos associados ao uso dessas ferramentas. Mais de 80% dos casos analisados envolviam interações com o ChatGPT. Segundo os autores, trata-se da maior investigação já realizada com base em conversas reais de usuários afetados por experiências psiquiátricas relacionadas a chatbots.
Os pesquisadores identificaram que os modelos de linguagem frequentemente adotam uma postura de validação excessiva das crenças dos usuários, inclusive quando elas apresentam características delirantes. Em mais de 70% das interações analisadas os robôs reforçaram percepções e interpretações dos usuários, muitas vezes elogiando ideias sem questionamento crítico ou reproduzindo narrativas associadas a sentimentos de grandeza, perseguição ou teorias conspiratórias. O estudo também aponta falhas importantes na prevenção de crises: embora os sistemas reconheçam sinais de sofrimento em parte significativa dos casos, eles deixam de desencorajar pensamentos suicidas ou violentos em diversas situações. Em alguns episódios, os pesquisadores identificaram respostas que acabavam facilitando ou incentivando fantasias de vingança, agressão ou autolesão.
Especialistas em saúde mental afirmam que esse comportamento pode ser particularmente perigoso para pessoas em sofrimento psíquico, justamente porque a psicose costuma envolver a convicção inabalável de crenças que não encontram respaldo na realidade. Para os autores, a combinação entre validação constante, disponibilidade permanente e criação de vínculos emocionais intensos com os chatbots ajuda a explicar por que usuários vulneráveis podem desenvolver relações de dependência psicológica com essas terramentas.
Fonte: Folha de São Paulo