El 0,07% de los usuarios de ChatGPT muestran signos de «psicosis o manía»

AXCESS · Octubre 29, 2025, 01:24:26 AM

You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

La empresa tecnológica afirmó en una publicación de blog que aproximadamente el 0,07 % de los usuarios de ChatGPT activos en una semana determinada —unos 560 000 de sus 800 millones de usuarios semanales— muestran «posibles signos de crisis de salud mental relacionadas con psicosis o manía».

You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

OpenAI indicó que alrededor del 0,15 % de los usuarios, o más de un millón de personas, mantienen conversaciones que «incluyen indicadores explícitos de posible planificación o intención suicida» cada semana.

Si bien la empresa advirtió que estas conversaciones son difíciles de detectar y medir «dada su baja frecuencia», también señaló que los profesionales clínicos validaron sus áreas de enfoque en este análisis inicial.

"Nuestra taxonomía de salud mental está diseñada para identificar cuándo los usuarios pueden estar mostrando signos de problemas graves de salud mental, como psicosis y manía, así como señales menos graves, como delirios aislados", declaró la empresa.

"Si bien síntomas como la depresión son relativamente comunes, su presentación más aguda ya se estaba abordando en nuestro trabajo para la prevención del suicidio y la autolesión", añadió.

Estos hallazgos representan la primera vez que OpenAI se pronuncia de forma tan directa sobre el impacto de sus productos de inteligencia artificial (IA) en la salud mental. Esto se produce tras una demanda que alega que la empresa no hizo lo suficiente para prevenir el suicidio de un adolescente después de sus conversaciones con ChatGPT.

En la publicación del blog, OpenAI afirmó haber trabajado con más de 170 expertos en salud mental para que ChatGPT "reconociera de forma más fiable los signos de angustia, respondiera con empatía y guiara a las personas hacia apoyo en el mundo real".

Esto ayudó a la empresa a reducir entre un 65 % y un 80 % las respuestas de ChatGPT que no se ajustaban al comportamiento deseado, según el comunicado.

La demanda por la muerte del adolescente impulsó a OpenAI a mejorar sus estándares de seguridad, incluyendo la introducción de controles parentales y una actualización que, según la empresa, permite a ChatGPT reconocer mejor a los usuarios que muestran malestar psicológico y responderles adecuadamente.

OpenAI también indicó que había ampliado el acceso a líneas telefónicas de ayuda en caso de crisis y añadido recordatorios para tomar descansos durante sesiones largas, entre otras mejoras de seguridad.

Fuente:
CyberNews
You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

El 0,07% de los usuarios de ChatGPT muestran signos de «psicosis o manía»

AXCESS

Octubre 29, 2025, 01:24:26 AM