Cada vez más estudiantes usan inteligencia artificial para estudiar, resumir textos o resolver ejercicios, pero hay una pregunta que suele quedar atrás: ¿qué pasa con los datos que dejan en esas plataformas?
Así que Microsoft acaba de fijar una nueva regla para responder a esa preocupación: la información de alumnos y docentes no podrá utilizarse para entrenar modelos de IA.
La medida forma parte del nuevo National AI Safety & Privacy Standard, un acuerdo que Microsoft presentó junto a la American Federation of Teachers (AFT) y la United Federation of Teachers (UFT). El objetivo es que los distritos escolares de Estados Unidos puedan incorporar estas protecciones directamente en sus contratos con la empresa y convertirlas en obligaciones exigibles.
Qué datos quedan protegidos
El acuerdo establece que la información de estudiantes y docentes no podrá utilizarse para entrenar modelos de IA, pero tampoco venderse ni destinarse a otros fines diferentes de aquellos para los que fue recopilada.
Las escuelas conservarán además el control sobre cómo se usan esos datos, cuánto tiempo se almacenan y cuándo deben eliminarse.
El estándar también impide que los estudiantes sean rastreados mediante estas tecnologías, uno de los puntos que las organizaciones docentes venían reclamando frente al crecimiento de la IA dentro del aula.
La IA no podrá decidir sola sobre un alumno
Otro de los límites tiene que ver con las decisiones automatizadas. Según el acuerdo, los sistemas de inteligencia artificial deberán funcionar con supervisión humana cuando intervengan en cuestiones vinculadas con estudiantes o educadores.
Las herramientas también tendrán que incluir medidas de seguridad para evitar experiencias dañinas o manipuladoras y proteger información sensible.
Las familias también deberán saber cómo funciona
El nuevo estándar exige mayor transparencia. Las empresas deberán explicar de manera clara qué información recopilan sus herramientas, cómo la utilizan y qué mecanismos de protección tienen.
Las escuelas, por su parte, conservarán la capacidad de decidir cuándo y cómo utilizar inteligencia artificial en sus aulas. También deberán recibir información sobre cambios en los productos, riesgos y controles disponibles.
Por qué aparece esta regla ahora
El acuerdo llega en medio de una discusión más amplia en Estados Unidos sobre el uso de pantallas e inteligencia artificial en las escuelas. Nueva York avanzó recientemente con nuevas restricciones y otros sistemas educativos ya habían adoptado marcos similares.
Desde Microsoft señalaron que la intención es extender este estándar a distritos escolares de todo el país.
La diferencia central es que no se trata solamente de una recomendación: los distritos que incorporen estas cláusulas a sus contratos podrán exigir su cumplimiento. Ahí está el punto más fuerte de la medida: que usar IA en la escuela no implique, automáticamente, entregar los datos de quienes la usan.