Dados obtidos pela OpenAI, criadora do ChatGPT, sugerem que mais de um milhão de pessoas que utilizam seu chatbot de inteligência artificial (IA) generativa demonstraram interesse no tema do suicídio.
Em uma publicação de seu blog nesta segunda-feira (27), a empresa americana estimou que aproximadamente 0,15% dos usuários têm “conversas que incluem indicadores explícitos de possível planejamento ou intenção suicida”.
Segundo a OpenAI, mais de 800 milhões de pessoas usam o ChatGPT a cada semana, o que significa que sua estimativa corresponde a aproximadamente 1,2 milhão de usuários.
A empresa também estima que cerca de 0,07% dos usuários ativos semanais, um pouco menos de 600 mil pessoas, apresentam possíveis sinais de emergências de saúde mental relacionadas à psicose ou mania.
O problema ganhou destaque depois que o adolescente californiano Adam Raine cometeu suicídio no início deste ano. Seus pais entraram com uma ação judicial contra o ChatGPT porque a ferramenta forneceu conselhos específicos sobre como fazê-lo.
Desde então, a OpenAI aprimorou os controles parentais para seu chatbot e introduziu outras medidas de segurança, como maior acesso a linhas diretas de crise, o redirecionamento automático de conversas delicadas para modelos mais seguros e lembretes sutis para que os usuários façam pausas durante sessões prolongadas.
A companhia também atualizou o ChatGPT para reconhecer e responder melhor aos usuários que enfrentam emergências de saúde mental, e está trabalhando com mais de 170 profissionais de saúde mental para reduzir significativamente as respostas problemáticas.
AFP
