OpenAI dice que un millón de usuarios de ChatGPT hablan sobre suicidio

Los datos de OpenAI, fabricante de ChatGPT, sugieren que más de un millón de personas que utilizan su chatbot de IA generativa han mostrado interés en el suicidio.

En una publicación de blog publicada el lunes, la compañía de inteligencia artificial estimó que aproximadamente el 0,15% de los usuarios tienen «conversaciones que incluyen indicadores explícitos de posible planificación o intención suicida».

OpenAI informa que más de 800 millones de personas usan ChatGPT cada semana, lo que se traduce en aproximadamente 1,2 millones de personas.

La compañía también estima que aproximadamente el 0,07% de los usuarios semanales activos muestran posibles signos de emergencias de salud mental relacionadas con psicosis o manía, lo que significa un poco menos de 600.000 personas.

El tema salió a la luz después de que el adolescente californiano Adam Raine se suicidara a principios de este año. Sus padres presentaron una demanda alegando que ChatGPT le brindó consejos específicos sobre cómo suicidarse.

Desde entonces, OpenAI ha aumentado los controles parentales para ChatGPT e introducido otras barreras de seguridad, incluido el acceso ampliado a líneas directas de crisis, el desvío automático de conversaciones sensibles a modelos más seguros y recordatorios amables para que los usuarios tomen descansos durante las sesiones prolongadas.

OpenAI dijo que también actualizó su chatbot ChatGPT para reconocer y responder mejor a los usuarios que experimentan emergencias de salud mental, y está trabajando con más de 170 profesionales de la salud mental para reducir significativamente las respuestas problemáticas.

© 2025 AFP