Un pastor de Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, alegando que ChatGPT le proporcionó recomendaciones médicas incorrectas que lo llevaron a retrasar la búsqueda de atención médica antes de sufrir una embolia pulmonar potencialmente mortal. La demanda fue presentada en California y acusa a la empresa de negligencia y de permitir que el chatbot proporcionara orientación médica que, según el demandante, excedió los límites de una herramienta de información general.
El demandante, identificado como Scott Winters, sostiene que consultó al chatbot sobre síntomas que posteriormente estuvieron relacionados con una grave condición médica. Según la demanda, ChatGPT habría atribuido erróneamente sus síntomas a otra causa y lo habría desalentado de buscar atención médica, lo que habría retrasado su tratamiento.
ChatGPT minimizó síntomas relacionados con una embolia
De acuerdo con la información publicada sobre el caso, Winters afirma que experimentó durante varias semanas síntomas graves que ChatGPT habría interpretado de manera incorrecta. La demanda sostiene que el sistema le habría recomendado limitar sus movimientos y habría minimizado algunos síntomas, entre ellos dolor en la zona de la ingle.
Posteriormente, Winters sufrió una embolia pulmonar potencialmente mortal y fue hospitalizado. El demandante sostiene que la inmovilidad prolongada contribuyó a su condición y que las recomendaciones de ChatGPT influyeron en su decisión de retrasar la búsqueda de atención médica. Estas afirmaciones forman parte de la demanda y aún deben ser examinadas en el proceso judicial.
El pastor acusa a OpenAI de ir más allá de ofrecer información general
La demanda sostiene que ChatGPT no se limitó a proporcionar información general sobre salud, sino que habría ofrecido recomendaciones personalizadas, interpretaciones de síntomas y orientación sobre el tratamiento.
Winters acusa a OpenAI de negligencia y de permitir que ChatGPT ejerciera, en la práctica, funciones que corresponden a profesionales médicos. También solicita medidas relacionadas con las salvaguardas de seguridad de los sistemas de inteligencia artificial utilizados para cuestiones de salud.
OpenAI afirma que ChatGPT no sustituye a los profesionales de la salud
OpenAI ha sostenido que ChatGPT no está diseñado para sustituir la atención médica profesional y que las decisiones relacionadas con la salud deben contar con la participación de profesionales capacitados. La empresa ha cuestionado la idea de utilizar un chatbot como sustituto de la atención médica.
El caso se produce en medio de un debate más amplio sobre los riesgos de utilizar sistemas de inteligencia artificial para obtener orientación médica. Investigaciones recientes han encontrado que los modelos de lenguaje pueden producir respuestas médicas problemáticas o inseguras en determinados casos, mientras que otros estudios han advertido que las personas pueden confiar demasiado en respuestas generadas por IA, incluso cuando son incorrectas.
Lo que significa y lo que todavía no significa
La demanda significa que un usuario acusa formalmente a OpenAI de haber contribuido a retrasar su atención médica mediante recomendaciones que considera peligrosas. También pone en discusión la responsabilidad de las empresas de inteligencia artificial cuando sus sistemas ofrecen orientación relacionada con la salud.
Sin embargo, la demanda no demuestra por sí sola que ChatGPT haya causado la embolia pulmonar ni que OpenAI sea legalmente responsable. Esas son cuestiones que deberán determinarse mediante el proceso judicial y la evidencia presentada por las partes.
Tampoco significa que toda respuesta médica generada por ChatGPT sea peligrosa ni que la inteligencia artificial no pueda utilizarse como herramienta de información. El caso sí evidencia, no obstante, el riesgo de tratar una respuesta de un chatbot como sustituto de una evaluación médica profesional, especialmente ante síntomas potencialmente graves.
Deja una respuesta