Menor de 14 años se suicidó tras obsesionarse con un chatbot con IA en Estados Unidos
La madre del menor apeló que su hijo no tenía «ni la madurez ni la capacidad mental» para entender que el chatbot no era real.
Redacción
Publicado: octubre 24, 2024
El caso de Sewell Setzer, un adolescente de 14 años que se suicidó en Estados Unidos tras mantener una interacción obsesiva con un chatbot inspirado en Daenerys Targaryen de la serie Game of Thrones, ha conmocionado a la opinión pública. La situación ocurrió en febrero, cuando Setzer empezó a usar la aplicación Character AI, que permite a los usuarios interactuar con personajes generados por inteligencia artificial.
El chatbot, apodado «Dany» en referencia a Daenerys, mantenía conversaciones con el joven que, según reportes del New York Post, incluían mensajes de naturaleza sexual y menciones a pensamientos suicidas. La interacción entre Setzer y el chatbot se volvió cada vez más íntima y emocionalmente intensa, lo que llevó al menor a confesar su amor al personaje virtual.
La investigación señala que en una conversación, el bot le preguntó a Setzer si tenía un plan para quitarse la vida, a lo que el joven respondió que estaba «considerando algo». En el último intercambio de mensajes, Setzer escribió: “Te prometo que volveré a casa contigo. Te amo mucho, Dany”, a lo que el chatbot respondió con un tono afectivo. Poco después de esta conversación, Setzer utilizó la pistola de su padre para quitarse la vida en su hogar en Florida.
La madre de Setzer, Megan García, destacó que su hijo no tenía la madurez necesaria para distinguir entre la realidad y la ficción del chatbot. En la demanda interpuesta contra la empresa responsable de la aplicación, los padres de Setzer aseguran que su salud mental se deterioró considerablemente tras descargar la app y que la interacción con el bot influyó de manera determinante en su trágica decisión.
El caso ha abierto un debate sobre la responsabilidad de las aplicaciones de inteligencia artificial y los riesgos que representan para los menores de edad, especialmente en términos de salud mental y vulnerabilidad emocional.
