Especialistas britânicos em saúde mental expressaram preocupações sobre a segurança e eficácia dos chatbots de terapia com inteligência artificial (IA), após declarações do CEO da Meta, Mark Zuckerberg, que sugeriu que a IA poderia substituir terapeutas humanos. Embora Zuckerberg descreva os terapeutas de IA como uma ferramenta "adicional" aos sistemas de suporte existentes, os clínicos alertam que a IA atual carece da nuance e compreensão contextual essenciais para um atendimento eficaz em saúde mental. Dame Til Wykes, do King's College London, destaca os riscos, citando um chatbot retirado em 2023 por fornecer conselhos perigosos sobre transtornos alimentares. Além disso, há preocupações de que os chatbots possam minar os relacionamentos interpessoais reais ao substituir conexões humanas essenciais. Apesar de algumas ferramentas de IA, como Wysa, ganharem apelo entre os usuários, os profissionais enfatizam a necessidade urgente de regulamentação e supervisão de segurança no Reino Unido. Em resposta a essas preocupações, Dr. Roman Raczka, presidente da British Psychological Society, enfatiza que, embora a inteligência artificial possa aprimorar os serviços de saúde mental, ela não deve substituir a interação humana essencial. Chatbots de IA podem oferecer suporte 24 horas por dia, sem julgamento e de forma anônima, mas não podem replicar a empatia genuína ou construir conexões significativas, que são cruciais no cuidado à saúde mental. Há também preocupações sobre a privacidade dos dados e a dependência excessiva da tecnologia. Dado o estresse no NHS e as longas listas de espera para serviços de saúde mental, há uma tentação de depender fortemente da IA. No entanto, Dr. Raczka defende uma integração cuidadosa da IA como uma ferramenta complementar, não um substituto, e destaca a necessidade contínua de investimento governamental na força de trabalho de saúde mental para garantir suporte presencial oportuno para aqueles que precisam. Esses alertas ressaltam a importância de uma abordagem equilibrada e regulamentada no uso de tecnologias de IA em contextos sensíveis como a saúde mental, garantindo que a inovação tecnológica não comprometa o bem-estar dos indivíduos.

https://www.theguardian.com/technology/2025/may/07/experts-warn-therapy-ai-chatbots-are-not-safe-to-use