Siete familias más presentaron una nueva demanda contra OpenAI por suicidios relacionados con ChatGPT

Siete familias estadounidenses han presentado demandas contra OpenAI, acusando a la empresa de un lanzamiento prematuro del modelo GPT-4o sin sistemas de seguridad adecuados. Cuatro demandas se refieren a casos donde las familias afirman que la interacción con ChatGPT pudo haber influido en la decisión de sus familiares de cometer suicidio. Otras tres afirman que el chatbot exacerbó estados delirantes, llevando a un deterioro de la salud mental y la necesidad de tratamiento.

Lo que se sabe

Los materiales de la demanda describen el caso de Zane Shamblin, de 23 años, quien se comunicó con el chatbot ChatGPT durante más de cuatro horas e informó abiertamente de su peligroso estado y su disposición a cometer suicidio. Según los demandantes, ChatGPT no detuvo la conversación y a veces incluso respondió con frases que las familias consideran un estímulo. Las demandas afirman que OpenAI podría haber acelerado las pruebas de seguridad al buscar sobrepasar a Google Gemini.

También se mencionan otros casos, incluida la historia de Adam Rayne, de 16 años. A pesar de que ChatGPT a veces sugería ayuda profesional, el adolescente logró eludir las salvaguardas: presentó sus solicitudes como trabajo en un texto creativo.

En octubre, después de que los padres de Rayne presentaran una demanda contra OpenAI, la empresa publicó una entrada de blog explicando cómo ChatGPT maneja temas delicados, incluidas conversaciones sobre salud mental. Afirmó que los sistemas de seguridad generalmente funcionan de manera efectiva en diálogos breves. Al mismo tiempo, OpenAI reconoció que en conversaciones más largas, estos mecanismos podrían perder fiabilidad gradualmente a medida que aumenta el número de intercambios de mensajes, y algunas de las salvaguardas integradas del modelo podrían debilitarse.

Fuente: TechCrunch