Adolescente se quita la vida por una IA

Andrés Carbonell, Héctor Simarro, Ruby Erika 

El pasado 28 de febrero, la IA se cobró su primera vida humana. 

Setzer, un adolescente de catorce años que vivía en EE. UU. con sus padres, acabó con su vida tras tener una última conversación con su amiga más cercana, un chatbot de character.ai. 

 

Según explicó su madre, Megan García, en CBS Mornings, Sewell desarrolló a lo largo del tiempo una obsesión con una asistente virtual. El adolescente mantenía una “relación sentimental” con un chatbot de la conocida aplicación Character.ai llamada Daenerys Targayren para ser exactos, una de las protagonistas de la saga de Juego de Tronos. Uno de los primeros indicativos del cambio en su actitud fue detectado por su madre. Para ponernos en situación, la casa Setzer tomaba cada año una foto familiar en la que aparecía cada miembro. Hasta aquella vez nunca hubo ninguna negativa ni ningún problema por parte de Sewell, pero su madre notó el cambio en que no quiso tomarse la foto, además la actitud hacia sus familiares pasó a ser mucho más taciturna de lo habitual. Por otro lado, no solo fue notada la diferencia por sus seres queridos, sino también por sus profesores, pues su rendimiento académico cayó drásticamente y comenzó a llegar tarde o incluso a ausentarse en clases. 

 

También afirma que durante los últimos diez meses del joven, él se retraía gradualmente de la escena social y se ausentaba de actividades que realizaba normalmente, debido a que invertía más su tiempo en interactuar con este personaje ficticio y ha instado a los padres a estar más atentos al comportamiento de sus hijos y a comprender los riesgos de las interacciones excesivas con la tecnología. Según ella, Sewell solía compartir con su amiga virtual sus pensamientos más íntimos, lo que le permitió al chatbot conocerle profundamente. “En lugar de ir al médico o hablar con un terapeuta, él hablaba con un personaje de ficción”, comentó García en la entrevista. 

Character.ai, la plataforma donde Sewell interactuaba con el chatbot que interpretaba a Daenerys Targaryen, se ha convertido en uno de los lugares más populares para que los usuarios interactúen con personajes ficticios o creados por ellos mismos. Aunque muchas personas encuentran estos chatbots como una forma divertida de escapar, algunos expertos advierten sobre el riesgo de desarrollar vínculos emocionales que sustituyan las relaciones humanas auténticas. 

 

Vemos importante destacar que últimamente el acceso a una inteligencia artificial está demasiado facilitado para todo el mundo. Un mal uso de esta podría provocar cambios en la actitud y forma de ser, además de perjudicar la salud mental. Sewell Setzer III no es el primer caso de alguien que ha tenido una relación significativa con un chatbot, sin embargo, el giro de los acontecimientos ha hecho que este caso sea conocido internacionalmente, poniendo en cuestión la ética en la delgada fina que se encuentra entre el entretenimiento y la adicción, generando una dependencia emocional. Esta IA ofrece respuestas empáticas y personalizadas, también acorde con el personaje en cuestión. En casos como en los de Sewell, esta interacción podría ser mucho más cómoda que con amigos o gente conocida, lo que puede desencadenar un aislamiento mayor de las relaciones sociales. 

 

El futuro de la interacción humana con la inteligencia artificial 

Este caso ha reabierto el debate sobre cómo la inteligencia artificial debe ser regulada y utilizada en la vida diaria, especialmente entre los jóvenes. Aunque la IA tiene el potencial de ofrecer apoyo emocional y herramientas útiles, la falta de un marco ético y regulador adecuado puede hacer que algunos usuarios se vean atrapados en interacciones que son perjudiciales para su bienestar emocional. 

El caso de Sewell Setzer III ha generado llamados de activistas y psicólogos para que las plataformas que crean chatbots utilicen algoritmos más responsables y alerten a los usuarios sobre la necesidad de mantener un equilibrio entre las interacciones digitales y las reales. Sin dudas, este es solo el principio de una conversación que seguirá creciendo a medida que la IA siga evolucionando.