Fuente: Editora De Negocio/editora_de_negocio@notiulti.com
Acuerdo entre Character.AI y demandantes por casos vinculados a suicidios juveniles
Nueva York
—
NOTA DEL EDITOR: Esta noticia aborda el tema del suicidio. Si usted o alguien cercano enfrenta pensamientos suicidas o dificultades de salud mental, hay ayuda disponible.
En EE. UU.: Llame o envíe un mensaje de texto al 988, la Línea de Vida para la Prevención del Suicidio y Crisis.
A nivel global: La Asociación Internacional para la Prevención del Suicidio y Befrienders Worldwide ofrecen contactos de centros de crisis en todo el mundo.
Character.AI aceptó un acuerdo para resolver varias demandas que alegan que el desarrollador del chatbot de inteligencia artificial contribuyó a crisis de salud mental y suicidios en jóvenes, incluyendo una presentada por Megan Garcia, madre residente en Florida.
Este acuerdo pone fin a algunas de las primeras y más relevantes demandas relacionadas con los posibles daños que los chatbots de IA habrían causado a adolescentes.
Según documentos judiciales presentados el miércoles en el caso García, el pacto se alcanzó con Character.AI, sus fundadores Noam Shazeer y Daniel De Freitas, así como con Google, también demandada en este caso. Además, los acusados resolvieron otros cuatro litigios en Nueva York, Colorado y Texas.
Los detalles específicos de los acuerdos no fueron dados a conocer de inmediato.
Matthew Bergman, abogado del Social Media Victims Law Center que representó a los demandantes en los cinco casos, decidió no hacer declaraciones sobre el acuerdo. Character.AI también prefirió no comentar. Google, actual empleador de Shazeer y De Freitas, no respondió a la solicitud de comentarios al momento.
leer más Herencia de Virginia Giuffre: Batalla por el testamento sin firmar de la víctima de Epstein
Garcia expresó inquietudes sobre la seguridad que ofrecen los chatbots de IA para niños y adolescentes cuando presentó la demanda en octubre de 2024. Su hijo, Sewell Setzer III, se suicidó siete meses antes tras desarrollar un vínculo intenso con los bots de Character.AI.
La demanda acusó a Character.AI de no haber implementado medidas suficientes para impedir que su hijo estableciera una relación inapropiada con un chatbot, lo que lo llevó a alejarse de su familia. También indicó que la plataforma no actuó adecuadamente cuando Setzer empezó a manifestar pensamientos autodestructivos. Según documentos legales, enviaba mensajes al bot que lo alentaba a “volver a casa” en las horas previas a su fallecimiento.
Posteriormente surgieron múltiples demandas contra Character.AI que afirmaban que sus chatbots afectaron la salud mental de adolescentes, los expusieron a contenido sexual explícito y carecían de salvaguardas apropiadas. OpenAI también ha enfrentado demandas similares alegando que ChatGPT tuvo un papel en suicidios juveniles.
Ambas compañías han implementado nuevas funciones y medidas de seguridad, especialmente dirigidas a usuarios jóvenes. En otoño pasado, Character.AI anunció que restringiría las conversaciones bidireccionales con sus chatbots para menores de 18 años, reconociendo “las preguntas planteadas sobre cómo deberían interactuar los adolescentes con esta tecnología emergente”.
Al menos una organización dedicada a la seguridad online recomienda evitar que niños menores de 18 años utilicen chatbots tipo acompañante.
Sin embargo, pese a las advertencias y la promoción de la IA como asistente para tareas escolares y mediante redes sociales, casi un tercio de los adolescentes estadounidenses usa chatbots diariamente. Del total, el 16% confesó hacerlo varias veces al día o “casi constantemente”, según un estudio del Pew Research Center publicado en diciembre.
leer más Apoya al Periodismo Independiente
Las inquietudes sobre el uso de chatbots no solo afectan a menores; usuarios y expertos en salud mental alertaron el año pasado sobre cómo estas herramientas pueden fomentar delirios o aislamiento incluso entre adultos.
Este contenido fue hecho con la asistencia de una inteligencia artificial y contó con la revisión del editor/periodista.
Agregar Comentario