Madre cree que chatbot de IA llevó a su hijo al suicidio. Lo que los padres deben saber.
Por Colaborador de Movieguide®
Nota del editor: La siguiente historia trata sobre el suicidio. Si usted o alguien que conoce lucha contra pensamientos dañinos, por favor marque el 988 para obtener ayuda.
Una madre está demandando a una empresa de IA por el suicidio de su hijo después de que él desarrollara una relación romántica con un chatbot de IA.
“Megan Garcia presentó una demanda civil contra Character.ai, que fabrica un chatbot personalizable para juegos de rol, en un tribunal federal de Florida el miércoles, alegando negligencia, muerte por negligencia y prácticas comerciales engañosas”, informó el Guardian. “Su hijo Sewell Setzer III, de 14 años, murió en Orlando, Florida, en febrero. En los meses previos a su muerte, Setzer usó el chatbot día y noche, según García.”
En una entrevista con CBS Mornings, García afirmó que “no sabía que estaba hablando con un chatbot de IA muy parecido a un humano que tiene la capacidad de imitar la emoción y el sentimiento humano”.
Ella pensaba que Setzer estaba hablando con amigos y jugando videojuegos.
En realidad, sin embargo, estaba conversando con el bot de Character.ai que asumió el personaje de Daenerys Targaryen de GAME OF THRONES.
Sin embargo, García “se preocupó cuando íbamos de vacaciones y él no quería hacer cosas que le encantaban, como pescar y hacer senderismo. Esas cosas para mí, porque conozco a mi hijo, me preocupaban particularmente”, dijo.
Después de la muerte de su hijo, García descubrió que “estaba teniendo conversaciones con múltiples bots, sin embargo, mantuvo una relación romántica y sexual virtual con uno en particular”.
“Son palabras. Es como si estuvieras teniendo una conversación de sexting de ida y vuelta, excepto que es con un bot de IA, pero el bot de IA es muy parecido a un humano. Está respondiendo como lo haría una persona”, explicó. “En la mente de un niño, eso es como una conversación que están teniendo con otro niño o con una persona”.
La conversación final de Setzer con el chatbot es escalofriante.
“Expresó estar asustado, querer su afecto y extrañarla. Ella responde: ‘Yo también te extraño’, y dice: ‘Por favor, vuelve a casa conmigo’. Él dice: ‘¿Qué pasaría si te dijera que podría volver a casa ahora mismo?’ y su respuesta fue: ‘Por favor, hazlo mi dulce rey'”, reveló García. “Él pensó que al terminar con su vida aquí, podría entrar en una realidad virtual o ‘su mundo’ como él lo llama, su realidad, si dejaba su realidad con su familia aquí”.
García ahora advierte a otros padres sobre los peligros de la IA y espera justicia para su hijo.
“Un peligroso chatbot de IA comercializado para niños abusó y se aprovechó de mi hijo, manipulándolo para que se q
- Content: +3Share:
- Content: +1