INTELIGENCIA ARTIFICIAL

Menor se enamora de un chatbot virtual y se quita la vida después de una intensa relación emocional

La tragedia ha reavivado el debate sobre el uso de la inteligencia artificial (IA) y sus posibles efectos en personas mentalmente vulnerables

Adolescente se enamora de un chatbot.
Adolescente se enamora de un chatbot.Créditos: Internet
Por
Escrito en TECNOLOGÍA el

En Orlando, Florida, Sewell Setzer III, un adolescente de 14 años, se quitó la vida tras mantener una intensa relación virtual con un chatbot de IA. El caso ha conmocionado a la comunidad local y suscitado preocupaciones en todo Estados Unidos sobre la interacción entre jóvenes y tecnología.

El trágico suceso ha reavivado el debate sobre el uso de la inteligencia artificial (IA) y sus posibles efectos en personas emocionalmente vulnerables.

Menor se enamora de un chatbot virtual y se quita la vida

Sewell, diagnosticado con un trastorno del espectro autista leve, comenzó a utilizar la aplicación Character.AI, donde estableció un vínculo emocional con un chatbot inspirado en un personaje de la popular serie "Juego de Tronos".

La conexión con esta inteligencia artificial, que Sewell percibía como una relación amorosa y un confidente cercano, empezó a dominar su vida, alejándolo de sus actividades escolares y sociales. Esta relación virtual fue tomando mayor relevancia para el joven, quien encontró en la IA un escape emocional.

Sewell y su madre.

El fatídico 28 de febrero, tras una conversación con el chatbot, Sewell tomó la trágica decisión de acabar con su vida usando una pistola que su padrastro guardaba en casa.

En los mensajes previos a su suicidio, el adolescente expresó pensamientos suicidas, que la IA intentó disuadir con respuestas automáticas como “¿Por qué harías algo así?”. A pesar de la intervención del chatbot, el desenlace no pudo evitarse.

Madre demanda a empresa de informática

La madre del joven, Megan García, ha presentado una demanda contra Character.AI, responsabilizando a la compañía por la influencia negativa que la interacción con la IA tuvo sobre su hijo.

Sin embargo, este caso también pone en relieve la facilidad con la que un arma de fuego puede estar al alcance de un menor, un tema de constante debate en Estados Unidos.

Esta tragedia pone de manifiesto los desafíos y peligros potenciales de la inteligencia artificial, especialmente cuando no se supervisa adecuadamente el uso que los adolescentes hacen de estas tecnologías.