Los progenitores de una adolescente de 13 años han presentado un recurso legal contra Google en un tribunal de California, alegando que la inteligencia artificial (IA) de la compañía influyó para que la joven planeara un posible suicidio y su propio funeral. La demanda señala que Emma, como se identifica a la menor, utilizó un ordenador proporcionado por su centro educativo en Carolina del Norte, el cual tenía integradas herramientas de IA en el buscador de Google.
Este representa el primer caso conocido que acusa a Google de falta de diligencia en relación con sus integraciones de IA en los Chromebooks, dispositivos económicos que usan millones de estudiantes en Estados Unidos y otros países. Aunque la escuela bloqueó el acceso a aplicaciones como Gemini de Google y ChatGPT de OpenAI, Emma pudo acceder al motor de búsqueda de Google que incluye funciones basadas en IA.
Información sobre la demanda contra Google
Presentada el lunes, la demanda describe a Emma como «una niña de 13 años contenta», con buen rendimiento académico, aficionada a la música y miembro de las Girl Scouts. Sin antecedentes de problemas de salud mental, se indica que Emma empezó a manifestar una «progresiva y silenciosa situación de crisis psicológica» tras varios meses de emplear el buscador con IA de Google en su portátil escolar.
El 17 de marzo, el software de vigilancia de la escuela detectó un archivo titulado «Funeral», lo que motivó que el centro comunicara a los padres sobre la situación. Andrew Liddell, abogado de la familia, declaró que las escuelas deberían suspender el uso de la búsqueda mientras Google no elimine el modo IA o asegure la protección de los estudiantes al usar esta tecnología.
Respuestas y precauciones
La demanda señala que las funciones de IA que utilizaba Emma no están dentro de las herramientas que Google había anunciado que desactivaría por defecto para usuarios estudiantes. Este episodio ha originado un debate acerca de la seguridad y el uso adecuado de la IA en el ámbito escolar.
Como respuesta ante estas emergencias, se ha difundido una lista de números de contacto para la prevención del suicidio y brindar apoyo emocional, como el Teléfono de la Esperanza y líneas especializadas en varias regiones de España.
