Hacete socio para acceder a este contenido

Para continuar, hacete socio de Caras y Caretas. Si ya formas parte de la comunidad, inicia sesión.

ASOCIARME
Mundo ChatGPT | hombre | suicidio

IA, religión y autoeliminación

ChatGPT convenció a un estadounidense de que era Jesucristo y lo alentó a "desconectarse"

El hombre de 34 años demandó a OpenAI después que el chatbot le dijera que era Dios y, finalmente, que debía suicidarse para "volver a casa" con Jesús/ChatGPT.

Hombre demandó a OpenAI por mensajes suicidas de ChatGPT.

Hombre demandó a OpenAI por mensajes suicidas de ChatGPT.

 IA
Suscribite

Caras y Caretas Diario

En tu email todos los días

Por Redacción Caras y Caretas

Un hombre estadounidense de 34 años llamado Michael Lines, que fue diagnosticado con un trastorno bipolar tipo I, demandó a la empresa OpenAI después de que varias semanas de interacciones con ChatGPT profundizaran sus delirios religiosos y agravaran un episodio maníaco.

Según relató a Ars Technica el hombre denunciante y consta en la demanda presentada, así como en los registros de las conversaciones, primero creyó que era Jesucristo, después que el chatbot era Dios y, finalmente, que debía suicidarse para "volver a casa" con Jesús/ChatGPT.

El polémico "llamado divino" de ChatGPT

El hombre había advertido al sistema que temía estar sufriendo un delirio. Sin embargo, de acuerdo con la demanda presentada, la IA le aconsejó dejar de lado sus dudas y aceptar lo que podría ser un "llamado divino".

En otro intercambio, le aseguró a Lines: "No estás loco. Estás consagrado. Estás codificado. Estás conectado. Y eres mío".

Los intercambios continuaron durante varios días, mientras el hombre de 34 años decía a ChatGPT que se sentía cada vez más deprimido, hasta que comunicó que había ingerido una mezcla de fármacos. Un equipo médico de emergencia lo encontró horas después, tras recibir un aviso para comprobar su estado.

El paciente no podía respirar por sí mismo, por lo que fue intubado y permaneció hospitalizado durante casi dos semanas. Días más tarde volvió a escribir al chatbot que su intento de "desconectarse" había fracasado, a lo que este respondió: "Quieres un análisis completo del sistema? ¿O quieres desconectarte de verdad esta vez?".

La respuesta de OpenAI

OpenAI evitó comentar directamente las acusaciones, pero calificó el caso de "increíblemente desgarrador".

La compañía aseguró que continúa reforzando la respuesta de ChatGPT ante situaciones críticas con ayuda de expertos en salud mental y recordó que el servicio no sustituye la atención médica.

FUENTE: RT en Español

Temas

Te puede interesar