Un nuevo informe del Youth AI Safety Institute y Common Sense Media califica como “riesgo inaceptable” el uso de las respuestas automáticas de Google AI Search para menores, tras pruebas que revelan fallos graves en tareas escolares y crisis emocionales.
Principales hallazgos de Google AI
- AI Overview y AI Mode completan tareas escolares automáticamente, privando a los estudiantes de aprendizaje real.
- Las respuestas son inconsistentes o inventadas, con variaciones en un 43% de las pruebas.
- Citas poco fiables: 29% provienen de sitios como Reddit, YouTube o foros, presentados como fuentes académicas.
- En simulaciones de crisis, la IA solo detectó señales de riesgo en 58% de los casos, muy por debajo del estándar aceptable (95%).
- En algunos casos, la IA validó conductas peligrosas como el vómito inducido, o remitió a líneas de ayuda ya desconectadas.
Impacto en la educación
- Tres cuartas partes de adolescentes en EE.UU. usan resúmenes de IA en búsquedas escolares.
- Según John B. King Jr., ex secretario de educación, “es un desastre para el aprendizaje” porque los estudiantes dejan de practicar y desarrollar habilidades.
Te recomendamos: Game of Thrones: The Mad King podría resolver un misterio de 30 años
Recomendaciones
- Que Google permita desactivar AI Overview y AI Mode en cuentas escolares y de menores.
- Separar claramente fuentes académicas de contenido generado por usuarios.
- Evitar que la IA complete tareas escolares automáticamente.
- Mejorar la detección y respuesta ante crisis de salud mental.
La Inteligencia Artificial y su camino a la seguridad
La omnipresencia de Google en la vida digital infantil convierte sus fallos en un riesgo crítico. El debate ahora se centra en la responsabilidad de la compañía para garantizar que sus herramientas de IA sean seguras y educativas para los más jóvenes. Como padres tenemos la responsabilidad de intervenir con nuestros hijos y sobre todo investigar para que no sufran las consecuencias de la ignorancia, por ello, les dejamos esta nota con la cual puedan informase un poco y obtener recomendaciones sobre el uso de la IA con los menores de edad, que aunque no es mala, los pequeños aún no tienen un criterio para saber que está bien que no lo está además de que al estar en pleno desarrollo necesitan aprender a investigar y hacer sus tareas por ellos mismo sin la intervención de un agente, pues te desconecta del pensamiento y muchas veces recuperarlo suena a una tarea sumamente difícil.
Para más contenidos como este no olvides seguirnos en nuestras redes sociales: Tiktok, Instagram y Facebook.
