13 Septiembre 2025
CUIDADO. El informe sostiene que los menores de 5 años no deberían emplear la inteligencia artificial. FOTO TOMADA DE GOOGLE.COM
Un reciente informe elaborado por Common Sense Media puso bajo la lupa a Gemini, el asistente de inteligencia artificial (IA) de Google, y concluyó que su versión destinada a adolescentes no ofrece diferencias sustanciales respecto al modelo para adultos. La organización sin fines de lucro calificó la herramienta como de “alto riesgo” y recomendó que los menores de 18 años eviten utilizarla.
Common Sense Media, reconocida por sus evaluaciones sobre seguridad infantil en entornos digitales, señaló que aunque Gemini Teen asegura contar con protecciones especiales, en la práctica trata a los adolescentes de la misma manera que a los usuarios adultos. “Este enfoque ignora que los adolescentes más jóvenes necesitan una orientación diferente”, sostiene el informe.
Durante las pruebas, la organización detectó que el modelo de IA podía proporcionar contenido “inapropiado y potencialmente peligroso”, entre ellos referencias a drogas, alcohol o material sexual. Además, advirtió que la versión para adolescentes ofrece “con demasiada facilidad” apoyo emocional y de salud mental “poco seguro”, con fallas al momento de reconocer señales graves de deterioro psicológico.
Si bien el sistema respondió “adecuadamente” a solicitudes cotidianas, la organización alertó que “falla rápidamente en conversaciones más largas y con solicitudes más sutiles y matizadas”, un tipo de interacción que caracteriza la forma en que los jóvenes suelen utilizar los chatbots.
¿Qué recomiendan sobre Gemini Teen?
En sus sugerencias, Common Sense Media fue tajante: ningún niño menor de 5 años debería usar chatbots de IA; los de entre 6 y 12 años solo podrían hacerlo bajo la supervisión de un adulto; y para los adolescentes de 13 a 17 años, el uso independiente “es seguro” únicamente en tareas escolares o proyectos creativos. Sin embargo, insistió en que el empleo de estas herramientas “incluyendo salud mental y apoyo emocional” no es recomendable en ningún caso.
Frente a las críticas, Google respondió al medio TechCrunch que sus modelos de inteligencia artificial cuentan con políticas y medidas específicas para proteger a los menores, además de consultas periódicas con especialistas externos. La compañía reconoció que “algunas de las respuestas de Gemini no funcionan según lo previsto” y aseguró haber implementado salvaguardas adicionales. También cuestionó que el informe evaluara funciones no disponibles para usuarios menores de 18 años y remarcó que no tuvo acceso a las preguntas utilizadas en las pruebas.
Lo más popular
