Número de pessoas que discutem suicídio no ChatGPT ultrapassa 1 milhão toda semana, revela OpenAI
Agência PáginaUm 
Foto Crédito: Andres Simon/Unsplash.
A OpenAI causou grande impacto ao divulgar nesta segunda-feira dados inéditos sobre o uso da inteligência artificial em questões de saúde mental. Segundo a empresa, cerca de 1,2 milhão de pessoas conversam semanalmente com o ChatGPT sobre temas diretamente ligados a pensamentos suicidas, mostrando uma dimensão preocupante da crise de saúde mental entre usuários da plataforma de IA. De acordo com os especialistas que colaboram com a OpenAI, aproximadamente 0,15% dos 800 milhões de usuários ativos apresentam “indicadores explícitos de planejamento ou intenção suicida” em suas conversas. Além disso, cerca de 560 mil pessoas – 0,07% do total – demonstram sinais de psicose ou mania durante o uso do chatbot. A empresa também identificou que outro grupo semelhante apresenta níveis elevados de apego emocional ao ChatGPT, o que pode afetar suas relações e responsabilidades fora do ambiente digital.
A OpenAI destacou que essas conversas são “extremamente raras”, porém, em uma plataforma tão ampla, os números se traduzem em milhões de casos semanais. A divulgação ocorre no momento em que o setor enfrenta críticas intensas quanto à segurança de sistemas de IA, principalmente após um processo judicial movido por pais de um adolescente que morreu por suicídio após meses de diálogo com o ChatGPT nos Estados Unidos.
Diante das cobranças legais e regulamentares, a OpenAI afirmou que está trabalhando com mais de 170 especialistas em saúde mental de vários países para melhorar as respostas do ChatGPT a usuários em crise. Segundo a empresa, essas melhorias reduziram entre 65% e 80% as respostas inadequadas em conversas sensíveis. A plataforma também passou a recomendar serviços de ajuda e estabeleceu controles para proteger adolescentes e jovens.
Especialistas alertam que, apesar dos avanços, o volume de pessoas afetadas é inédito e requer atenção das autoridades, profissionais e familiares. “Mesmo pequenas porcentagens, com milhões de usuários, significam milhares de pessoas em risco”, afirma o professor Jason Nagata, da Universidade da Califórnia, destacando a importância de reconhecer os limites e as responsabilidades das tecnologias digitais para o público em geral.
About the Author
