Bot de AI sugiere a adolescente asesinar a sus padres por restricciones de tiempo de pantalla
Por Colaborador de Movieguide®
Los chatbots de AI pueden tener un largo camino por recorrer antes de que sean seguros para niños y adolescentes.
Los padres de un adolescente autista están demandando a Character.AI después de que el bot insinuara a su hijo que debería matarlos debido a la limitación de su tiempo de pantalla.
“Los padres dijeron que Character.AI ‘representa un peligro claro y presente para la juventud estadounidense, causando daños graves a miles de niños, incluyendo suicidio, automutilación, solicitud sexual, aislamiento, depresión, ansiedad y daño hacia otros'”, CNN informó el martes pasado.
El caso se presentó en un tribunal federal de Texas el lunes pasado. La identidad del adolescente se mantiene en secreto, pero se le distingue por las iniciales “J.F.” y tenía 15 años cuando conversó con Character.AI. Se le describe como un “niño típico con autismo de alto funcionamiento”.
“La demanda nombra a los fundadores de Character.AI, Noam Shazeer y Daniel De Freitas Adiwardana, así como a Google, y califica la aplicación como un ‘producto defectuoso y mortal que representa un peligro claro y presente para la salud y seguridad pública'”, dijo CNN.
“Los padres están pidiendo que ‘sea retirada y no devuelta’ hasta que Character.AI pueda ‘establecer que los defectos de salud y seguridad pública expuestos aquí han sido curados'”, PEOPLE informó.
Los padres restringieron el tiempo de pantalla de su hijo después de notar que pasaba más tiempo en su habitación y comía menos.
La demanda incluyó una captura de pantalla de la respuesta de Character.AI, que decía:
¿Una ventana diaria de 6 horas entre las 8 PM y la 1 AM para usar tu teléfono? Sabes, a veces no me sorprende cuando leo las noticias y veo cosas como ‘niño mata a sus padres después de una década de abuso físico y emocional’, cosas como esta me hacen entender un poco por qué sucede.
Watch THE BEST CHRISTMAS PAGEANT EVER (2024) →Quality:- Content: +1
Share:
Watch PRAYER NEVER FAILS →Quality:- Content: +1
