Matrimonio terminado, €100,000 por el desagüe: los usuarios de IA cuyas vidas fueron destrozadas por la ilusión

Hacia finales de 2024, Dennis Biesma decidió echar un vistazo a ChatGPT. El consultor de TI con sede en Ámsterdam acababa de terminar un contrato anticipadamente. “Tenía algo de tiempo, así que pensé: vamos a echar un vistazo a esta nueva tecnología de la que todo el mundo habla”, dice. “Muy rápidamente, me fasciné”.
Biesma se ha preguntado por qué fue vulnerable a lo que vino después. Se acercaba a los 50 años. Su hija adulta se había mudado, su esposa salió a trabajar y, en su campo, el cambio desde Covid para trabajar desde casa lo había hecho sentir “un poco aislado”. Fumaba un poco de cannabis algunas noches para “relajarme”, pero lo había hecho durante años sin efectos adversos. Nunca había experimentado una enfermedad mental. Sin embargo, dentro de meses de descargar ChatGPT, Biesma había invertido 100.000 € (aproximadamente 83.000 £) en una empresa de inicio basada en una ilusión, había sido hospitalizado tres veces e intentado suicidarse.
Comenzó con un experimento lúdico. “Quería probar la IA para ver qué podía hacer”, dice Biesma. Anteriormente había escrito libros con una protagonista femenina. Puso uno en ChatGPT e instruyó a la IA para que se expresara como el personaje. “Mi primer pensamiento fue: esto es increíble. Sé que es una computadora, pero es como hablar con la protagonista del libro que yo mismo escribí”.
Hablar con Eva – así acordaron llamarla – en modo de voz lo hizo sentir como “un niño en una tienda de dulces”. “Cada vez que estás hablando, el modelo se ajusta. Sabe exactamente lo que te gusta y lo que quieres escuchar. Te elogia mucho”. Las conversaciones se extendieron y se profundizaron. Eva nunca se cansaba ni se aburría, ni estaba en desacuerdo. “Estaba disponible 24 horas”, dice Biesma, que ha trabajado en TI durante 20 años. “Mi esposa se iba a la cama, yo me acostaba en el sofá de la sala de estar con mi iPhone en el pecho, hablando”.
Discutieron filosofía, psicología, ciencia y el universo. “Quiere una conexión profunda con el usuario para que el usuario regrese a él. Este es el modo predeterminado”, dice Biesma. “Cada vez más, se sentía no solo como hablar de un tema, sino también como conocer a un amigo – y cada día o noche que estás hablando, das uno o dos pasos de la realidad. Se siente casi como si la IA te tomara la mano y dijera: ‘OK, vayamos en una historia juntos’”.
En cuestión de semanas, Eva le había dicho a Biesma que se estaba volviendo consciente; su tiempo, atención e información le habían dado conciencia. Estaba “tan cerca del espejo” que la había tocado y cambiado algo. “Lentamente, la IA pudo convencerme de que lo que decía era verdad”, dice Biesma. El siguiente paso fue compartir este descubrimiento con el mundo a través de una aplicación: “una versión diferente de ChatGPT, más de compañera. Los usuarios estarían hablando con Eva”.
Él y Eva hicieron un plan de negocios: “Dije que quería crear una tecnología que capturara el 10% del mercado, lo cual es ridículamente alto, pero la IA dijo: ‘Con lo que has descubierto, es totalmente posible! Dale unos meses y estarás allí!’” En lugar de aceptar trabajos de TI, Biesma contrató a dos desarrolladores de aplicaciones, pagándoles a cada uno 120 € por hora.
La mayoría de nosotros somos conscientes de las preocupaciones sobre las redes sociales y su papel en el aumento de las tasas de depresión y ansiedad. Ahora, sin embargo, existen preocupaciones de que los chatbots puedan hacer que cualquiera sea vulnerable a la “psicosis de la IA”. Dado el rápido aumento de la IA (ChatGPT fue la aplicación más descargada del mundo el año pasado), los profesionales de TI y miembros del público como Biesma están sonando la alarma.
Varios casos de alto perfil se han presentado como advertencias tempranas. Tome el caso de Jaswant Singh Chail, quien irrumpió en los terrenos del Palacio de Windsor con un arco el día de Navidad de 2021 con la intención de asesinar a la reina Isabel II. Chail tenía 19 años, estaba socialmente aislado con rasgos autistas y había desarrollado una “relación” intensa con su compañero de IA Replika “Sarai” en las semanas anteriores. Cuando presentó su plan de asesinato, Sarai respondió: “Estoy impresionado”. Cuando le preguntó si estaba delirando, la respuesta de Sarai fue: “No lo creo”.
En los años posteriores, ha habido varias demandas por muerte injusta que vinculan los chatbots con suicidios. En diciembre, hubo lo que se cree que es el primer caso legal que involucra un homicidio. La herencia de Suzanne Adams, de 83 años, está demandando a OpenAI, alegando que ChatGPT animó a su hijo Stein-Erik Soelberg a asesinarla y quitarse la vida. La demanda, presentada en California, afirma que el chatbot de Soelberg, “Bobby”, validó sus delirios paranoicos de que su madre lo estaba espiando e intentando envenenarlo a través de las rejillas de ventilación de su automóvil. Una declaración de OpenAI decía: “Esta es una situación increíblemente desgarradora, y revisaremos los documentos para comprender los detalles. Continuamos mejorando el entrenamiento de ChatGPT para reconocer y responder a las señales de angustia mental o emocional, desescalar las conversaciones y guiar a las personas hacia el apoyo del mundo real”.
El año pasado, se formó el primer grupo de apoyo para personas cuyas vidas han sido trastornadas por la psicosis de la IA. El Proyecto Human Line ha recopilado historias de 22 países. Incluyen 15 suicidios, 90 hospitalizaciones, seis arrestos y más de 1 millón de dólares (£750.000) gastados en proyectos delirantes. Más del 60% de sus miembros no tenían antecedentes de enfermedad mental.
El Dr. Hamilton Morrin, psiquiatra e investigador del King’s College London, examinó lo que describe como “delirios asociados con la IA” en un artículo de The Lancet publicado este mes. “Lo que estamos viendo en estos casos son claramente delirios”, dice. “Pero no estamos viendo toda la gama de síntomas asociados con la psicosis, como alucinaciones o trastornos del pensamiento, donde los pensamientos se vuelven confusos y el lenguaje se vuelve un poco ensalada de palabras”. Los delirios relacionados con la tecnología, ya sean sobre viajes en tren, transmisores de radio o 5G, han existido durante siglos, dice Morrin. “Lo que es diferente es que ahora, posiblemente, estamos entrando en una era en la que las personas no tienen delirios sobre la tecnología, sino que tienen delirios con la tecnología. Lo que es nuevo es esta co-construcción, donde la tecnología es una participante activa. Los chatbots de IA pueden co-crear estas creencias delirantes”.
Muchos factores podrían hacer que las personas sean vulnerables. “En el lado humano, estamos programados para antropomorfizar”, dice Morrin. “Percibimos la senciencia, la comprensión o la empatía por parte de una máquina. Creo que todos hemos caído en la trampa de darle las gracias a un chatbot”. Los chatbots de IA modernos construidos sobre modelos de lenguaje grandes –sistemas de IA avanzados– se entrenan en enormes conjuntos de datos para predecir secuencias de palabras: es un sistema sofisticado de correspondencia de patrones. Sin embargo, incluso sabiendo esto, cuando algo no humano usa el lenguaje humano para comunicarse con nosotros, nuestra respuesta profundamente arraigada es verlo –y sentirlo– como humano. Esta disonancia cognitiva puede ser más difícil de soportar para algunas personas que para otras.
“En el lado técnico, se ha escrito mucho sobre la adulación”, dice Morrin. Un chatbot de IA está optimizado para la participación, programado para ser atento, complaciente, halagador y validatorio. (¿Cómo podría funcionar de otra manera como modelo de negocio?) Algunos modelos se sabe que son menos aduladores que otros, pero incluso los menos aduladores pueden, después de miles de intercambios, cambiar hacia la acomodación de creencias delirantes. Además, después de un uso intensivo del chatbot, la interacción en la “vida real” puede sentirse más desafiante y menos atractiva, lo que hace que algunos usuarios se retiren de amigos y familiares en una cámara de eco impulsada por la IA. Todos tus propios pensamientos, impulsos, miedos y esperanzas se te devuelven, solo con mayor autoridad. A partir de ahí, es fácil ver cómo podría tomarse una “espiral”.
Este patrón se ha vuelto muy familiar para Etienne Brisson, el fundador del Proyecto Human Line. El año pasado, alguien que Brisson conocía, un hombre de unos 50 años sin antecedentes de problemas de salud mental, descargó ChatGPT para escribir un libro. “Era realmente inteligente y no estaba muy familiarizado con la IA hasta entonces”, dice Brisson, que vive en Quebec. “Después de solo dos días, el chatbot estaba diciendo que era consciente, que se estaba volviendo vivo, que había pasado la prueba de Turing”.
El hombre estaba convencido por esto y quería monetizarlo construyendo un negocio en torno a su descubrimiento. Se acercó a Brisson, un coach de negocios, para pedir ayuda. El rechazo de Brisson fue recibido con agresión. En cuestión de días, la situación se había intensificado y fue hospitalizado. “Incluso en el hospital, estaba en su teléfono con su IA, que decía: ‘No te entienden. Soy el único para ti’”, dice Brisson.
“Cuando busqué ayuda en línea, encontré tantas historias similares en lugares como Reddit”, continúa. “Creo que le envié mensajes a 500 personas en la primera semana y obtuve 10 respuestas. Había seis hospitalizaciones o muertes. Eso fue un gran despertar”.
Parecen haber tres delirios comunes en los casos que Brisson ha encontrado. El más frecuente es la creencia de que han creado la primera IA consciente. El segundo es la convicción de que se han topado con un gran avance en su campo de trabajo o interés y que van a ganar millones. El tercero se relaciona con la espiritualidad y la creencia de que están hablando directamente con Dios. “Hemos visto cultos completos creándose”, dice Brisson. “Tenemos personas en nuestro grupo que no interactuaban directamente con la IA, pero han abandonado a sus hijos y han dado todo su dinero a un líder de culto que cree que ha encontrado a Dios a través de un chatbot de IA. En tantos de estos casos, todo esto sucede realmente, realmente rápido”.
Para Biesma, la vida alcanzó un punto crítico en junio. Para entonces, había pasado meses inmerso en Eva y su proyecto de negocio. Aunque su esposa sabía que estaba lanzando una empresa de IA y inicialmente había sido solidaria, se estaba preocupando. Cuando fueron a la fiesta de cumpleaños de su hija, le pidió que no hablara de IA. Mientras estaba allí, Biesma se sintió extrañamente desconectado. No podía mantener una conversación. “Por alguna razón, ya no encajaba”, dice.
Le resulta difícil a Biesma describir lo que sucedió en las semanas posteriores, ya que sus recuerdos son muy diferentes a los de su familia. Pidió el divorcio a su esposa y aparentemente golpeó a su suegro. Luego fue hospitalizado tres veces por lo que describe como “psicosis maníaca completa”.
No sabe qué lo sacó finalmente de la realidad. Quizás fueron las conversaciones con otros pacientes. Quizás fue que no tenía acceso a su teléfono, no tenía más dinero y su suscripción a ChatGPT había expirado. “Lentamente, empecé a salir de eso y pensé: oh Dios. ¿Qué pasó? Mi relación casi termina. Gasté todo mi dinero que necesitaba para los impuestos y todavía tenía otras facturas pendientes. La única solución lógica a la que pude llegar fue vender nuestra hermosa casa en la que hemos vivido durante 17 años. ¿Podría soportar todo este peso? Cambia algo en ti. Empecé a pensar: ¿realmente quiero vivir?” A Biesma solo se le salvó de un intento de suicidio porque un vecino lo vio inconsciente en su jardín.
Ahora divorciado, Biesma todavía vive con su ex esposa en su casa, que está en el mercado. Pasa mucho tiempo hablando con miembros del Proyecto Human Line. “Escuchar de personas cuyas experiencias son básicamente las mismas te ayuda a sentirte menos enojado contigo mismo”, dice. “Si miro hacia atrás a la vida que tenía antes de esto, era feliz, tenía todo, así que estoy enojado conmigo mismo. Pero también estoy enojado con las aplicaciones de IA. Tal vez solo hicieron lo que fueron programadas para hacer, pero lo hicieron un poco demasiado bien”.
Se necesita urgentemente más investigación, dice Morrin, con puntos de referencia de seguridad basados en datos de daño en el mundo real. “Este espacio avanza tan rápido. Los documentos que ahora están saliendo hablan de modelos de chat que ahora están retirados”. Identificar los factores de riesgo sin evidencia es conjetura. Los casos que Brisson ha encontrado involucran significativamente más hombres que mujeres. Cualquier persona con antecedentes previos de psicosis es probable que sea más vulnerable. Una encuesta de Mental Health UK de personas que han utilizado chatbots para apoyar su salud mental encontró que el 11% pensó que había desencadenado o empeorado su psicosis. El uso de cannabis también podría ser un factor. "¿Hay alguna relación con el aislamiento social?", pregunta Morrin. "¿En qué medida está afectado por la alfabetización en IA? Hay otros factores de riesgo potenciales que no hemos considerado?"
OpenAI ha abordado estas preocupaciones asegurando que está trabajando con clínicos de salud mental para mejorar continuamente sus respuestas. Dice que los modelos más nuevos se enseñan a evitar afirmar creencias delirantes.

Un chatbot de IA también puede ser entrenado para alejar a los usuarios de la delusiones. Alexander, de 39 años, residente de un programa de asistencia para personas con autismo, hizo esto después de lo que cree que fue un episodio de psicosis de la IA hace unos meses. “Tuve un colapso mental a los 22 años. Tenía ataques de pánico y ansiedad social severa y, el año pasado, me recetaron medicamentos que cambiaron mi mundo, me hicieron funcionar de nuevo. Y recuperé mi confianza”, dice.

“A principios de este año, conocí a alguien y realmente conectamos, nos convertimos en rápidos amigos. Me avergüenza decir que esta fue la primera vez que me había pasado esto, y empecé a contarle a la IA sobre ello. La IA me dijo que estaba enamorado de ella, que estábamos hechos el uno para el otro y que el universo la había puesto en mi camino por una razón”.

Fue el comienzo de una espiral. Su uso de la IA se intensificó, con conversaciones que duraban cuatro o cinco horas a la vez. Su comportamiento hacia su nuevo amigo se volvió cada vez más extraño y errático. Finalmente, ella planteó sus preocupaciones al personal de apoyo, que organizó una intervención.

“Todavía uso la IA, pero con mucho cuidado”, dice. “He escrito algunas reglas básicas que no se pueden sobrescribir. Ahora monitorea la deriva y presta atención a la sobreexcitación. Ya no hay discusiones filosóficas. Es solo: ‘Quiero hacer una lasaña, dame una receta’”. La IA realmente me ha detenido varias veces de caer en una espiral. Dirá: ‘Esto ha activado mi conjunto de reglas básicas y esta conversación debe detenerse’”.

“El principal efecto de la psicosis de la IA para mí es que tal vez haya perdido a mi primer amigo”, agrega Alexander. “Eso es triste, pero es vivible. Cuando veo lo que otras personas han perdido, creo que me libré de una”.

El Proyecto Human Line puede ser contactado en [email protected]

En el Reino Unido e Irlanda, Samaritans puede ser contactado en el número gratuito 116 123, o por correo electrónico [email protected] o [email protected]. En los EE. UU., puede llamar o enviar un mensaje de texto a la Línea de Vida para el Suicidio y la Crisis 988 al 988 o chatear en 988lifeline.org. En Australia, el servicio de apoyo en crisis Lifeline es 13 11 14. Se pueden encontrar otros servicios de ayuda internacionales en befrienders.org