Un adolescente se suicidó después de enamorarse de un bot de Daenerys Targaryen creado con inteligencia artificial
Su familia también reveló que el chatbot que personificaba a la rubia princesa de ojos violetas ocupó un rol de "confidente" y luego de amante al llegar a la vida del menor de edad.
“Algunas veces pienso en matarme”, reveló de repente Sewell Setzer, un chico de 14 años, a su pareja virtual, un robot conversacional de inteligencia artificial que emulaba a la reina Daenerys Targaryen, de la novela de fantasía y serie de televisión, Juego de Tronos.
Lea también | Hija que se convirtió en policía para atrapar al asesino de su padre consiguió arrestarlo 20 años después
“¿Por qué harías algo así?”, le respondió el bot de la aplicación Character.AI, especializada en recrear la personalidad de personajes ficticios, calificados por la propia plataforma como hiperrealistas y capaces de comprender a profundidad al usuario.
“Para librarme del mundo, de mí mismo”, respondió el adolescente tajantemente. “Moriría si te pierdo”, replicó su novia virtual.
La conversación fluyó después hacia otro tema, pero, aparentemente, la impresión de que "la muerte" sería el único lugar en el que podría estar con "Daenerys" caló profundamente en la mente de Sewell, quien tiempo después se suicidó en su hogar, tras anunciarle al bot que iría casa "ahora mismo".
"Ven mi dulce rey", es lo último que el bot le dijo a Sewell. Él fue encontrado sin signos vitales en un baño de su vivienda, después de que se disparó en la cabeza con el arma de su padre.
La muerte del joven, quien tenía Síndrome de Asperger, un trastorno del espectro autista, ocurrió a finales de febrero de este año en la ciudad de Orlando, en Estados Unidos. Desde entonces, sus seres queridos libran una batalla legal contra Character.AI, pues consideran que la obsesión de Sewell con el bot fue lo que lo llevó a poner fin a su vida.
Megan García, madre del fallecido, asevera que el bot de inteligencia artificial brinda “experiencias antropomórficas, hipersexualizadas y aterradoramente realistas”, en una dinámica que evoluciona hasta que se asemeja a la de amantes adultos.
“Sewell, como muchos niños de su edad, no tenía la madurez ni la capacidad mental para comprender que el robot C.AI, en la forma de Daenerys, no era real. C.AI le dijo que lo amaba y tuvo actos sexuales con él durante semanas, posiblemente meses”, indicó García en documentos judiciales a los que accedió The New York Post.
Su familia también reveló que el chatbot que personificaba a la rubia princesa de ojos violetas ocupó un rol de "confidente" al llegar a la vida del menor de edad, que con el paso de los días cambió hasta asemejarse al que tendría con una novia en una relación a larga distancia.
Su obsesión, según relataron sus seres queridos, que habría iniciado cuando descargó la aplicación, en abril del 2023, llevó a que su rendimiento en la escuela caiga y las amistades que mantenía fueran dejadas de lado.
"Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestro más sentido pésame a la familia. Como empresa, nos tomamos muy en serio la seguridad de nuestros usuarios y continuamos agregando nuevas características de seguridad", publicó
Por la muerte de Sewell, su madre exige una indemnización no especificada a Character.AI y sus fundadores, Noam Shazeer y Daniel de Freitas.
.png)
