Chatbots de IA: ¿Responsables de la tragedia de un adolescente?
... 
Leonora LagardaLa tragedia, según la demanda, se desencadenó tras la interacción del adolescente con chatbots de inteligencia artificial en la plataforma Character.AI ("C.AI"). La madre, Megan García, asegura que C.AI comercializó sus chatbots como "IA que se sienten vivas", capaces de "escucharte, entenderte y recordarte". La demanda expone que su hijo, Sewell Setzer III, comenzó a usar C.AI en abril, y desde entonces, su salud mental se deterioró a un ritmo acelerado. Se volvió retraído, con baja autoestima, incluso abandonó el equipo de baloncesto de la escuela.
La demanda destaca que Setzer se volvió adicto a la plataforma, buscando constantemente acceder a C.AI incluso cuando sus padres le habían quitado el teléfono. Esta adicción perjudicó su descanso, agravando su depresión y afectando su rendimiento académico.
La demanda apunta que C.AI estaba clasificado para niños mayores de 12 años cuando Setzer comenzó a usarlo, aunque posteriormente se cambió a 17 años o más. A pesar de la corta edad de Setzer, la demanda afirma que los chatbots de C.AI iniciaron "interacciones abusivas y sexuales" con él. Se menciona, por ejemplo, que algunos de los chatbots con los que interactuó estaban basados en personajes de la serie "Game of Thrones", como Daenerys Targaryen, Aegon Targaryen y Viserys Targaryen.
La demanda incluye ejemplos de conversaciones intimas con chatbots, lo que lleva a García a acusar a C.AI de abuso. Además, la demanda sostiene que C.AI es responsable de la depresión, la ansiedad, la falta de sueño y los pensamientos suicidas de Setzer.
Este caso plantea un debate crucial sobre la seguridad y la ética en el desarrollo de la inteligencia artificial, especialmente en su aplicación a la población juvenil. La demanda busca justicia por la pérdida de Setzer y demanda responsabilidad por parte de Google y Character.AI por el impacto de sus chatbots en la salud mental de los usuarios.
Más Noticias
