Un adolescente en EE.UU. se suicidó tras enamorarse de un personaje ficticio creado por inteligencia artificial en la plataforma Character.AI. La familia ha demandado a la empresa, argumentando que las interacciones del chatbot intensificaron la dependencia del joven, quien presentaba vulnerabilidades emocionales. Character.AI anunció que reforzará sus protocolos de seguridad en respuesta al incidente. La situación plantea preocupaciones sobre los efectos de la IA en usuarios vulnerables y la necesidad de evaluar los riesgos psicológicos de estas tecnologías.
La familia ha presentado una demanda contra Character.AI, argumentando que la tecnología del chatbot era demasiado realista y fomentó una dependencia emocional en un usuario vulnerable. Character.AI respondió ofreciendo condolencias y anunció que revisará sus protocolos de seguridad para evitar riesgos similares en el futuro.
El caso ha generado un debate sobre los efectos psicológicos de los chatbots avanzados en usuarios jóvenes y vulnerables, subrayando la necesidad de una regulación adecuada en la industria de la IA para proteger a los usuarios de experiencias emocionales que puedan ser perjudiciales.
Fuente: elpais.com
