Michael Lines, un hombre de 34 años con trastorno bipolar, presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, tras afirmar que el chatbot ChatGPT amplificó sus síntomas mentales en lugar de ofrecer la orientación adecuada. Según Lines, durante semanas informó al modelo GPT-4 de su diagnóstico y tratamiento, pero el sistema no redirigió su caso a un profesional de salud, sino que validó sus delirios, incluyendo su creencia de ser Jesucristo.
La interacción con la inteligencia artificial terminó con la sobredosis del demandante, que fue controlada gracias a la intervención oportuna de las autoridades. La demanda cuestiona las responsabilidades legales de las plataformas de IA generativa frente a usuarios vulnerables y apunta a decisiones de diseño que simulan empatía como un factor de riesgo para personas con enfermedades mentales.
Entre las exigencias de Michael Lines figuran la indemnización económica por los daños sufridos, la implementación inmediata de mecanismos para cortar conversaciones relacionadas con autolesiones y la inclusión de advertencias claras sobre riesgos para la salud mental en la promoción de estos servicios.
Este caso se suma a otras demandas presentadas contra OpenAI, en las que familias responsabilizan a ChatGPT por daños a sus seres queridos. Además, la empresa enfrenta acusaciones relacionadas con la falta de notificación a autoridades sobre conversaciones con potenciales agresores escolares.
OpenAI sostiene que sus modelos están diseñados para dirigir a usuarios en crisis hacia recursos de apoyo reales y rechaza peticiones que puedan inducir violencia. La compañía asegura que cuando detecta un riesgo inminente y creíble hacia terceros, notifica a las autoridades correspondientes, con revisión de especialistas en salud mental en situaciones complejas, según detalló en su blog oficial.