La IA ha llegado a nuestras vidas de golpe. Eso está acelerando los acuerdos en materias de buen uso, sobre todo cuando se trata de menores. La Unión Europea está inmersa en todo el proceso regulatorio, con propuestas que ya se van poniendo en marcha.
La noticia llega ahora desde el otro lado del charco, ya que Microsoft ha alcanzado un interesante acuerdo con la Federación Americana de Profesores para imponer límites al uso de inteligencia artificial en los colegios.
El alumno por delante
El uso de tecnología en las aulas es un hecho. Primero fueron las tablets, pero ahora también es la IA. Una IA bien utilizada puede ser una excelente herramienta para los alumnos. Microsoft lo sabe y por ese motivo ha llegado a un acuerdo para que la privacidad de los estudiantes esté por encima de todo.
El acuerdo alcanzado hace que Microsoft no pueda usar datos de estudiantes ni docentes para entrenar modelos de IA, salvo en casos muy limitados relacionados con seguridad. La cuestión es que el uso de la IA suele ir asociado muy habitualmente al manejo de información sensible.
Un alumno puede escribir un trabajo, hacer una pregunta personal, subir un documento o utilizar una aplicación que registra su progreso. Un profesor puede compartir ejercicios, notas, evaluaciones o materiales internos del centro. Microsoft quiere despejar todas las dudas y garantizar la tranquilidad de padres, alumnos y profesores gracias a este acuerdo.
Información a salvo
El acuerdo entre Microsoft y la Federación Americana de Profesores establece que la información de alumnos y docentes no podrá utilizarse para entrenar la inteligencia artificial de la compañía. Es decir, sus datos no podrán convertirse en material para mejorar futuros modelos de IA.
Microsoft tampoco podrá rastrear a los estudiantes ni permitir que sus productos de inteligencia artificial tomen decisiones escolares sin supervisión humana. La IA puede detectar patrones, clasificar información o recomendar acciones, pero no debería decidir por sí misma si un estudiante aprueba, necesita apoyo educativo, debe recibir una sanción o merece una determinada evaluación.
Falta de regulación
Como decimos, los diferentes países están trabajando en materia de IA, sobre todo en lo que respecta a menores de edad, ya que son una generación nativa de IA que se criará sí o sí con el uso de esta tecnología. El acuerdo, en este caso, ha existido porque Estados Unidos todavía no cuenta con una regulación federal clara que establezca cómo puede utilizarse la IA en los colegios.
Algunos centros permiten el uso de IA con condiciones. Otros la restringen. Y algunos han optado por pausarla por completo mientras analizan sus riesgos. La preocupación va ya más allá de si un alumno ha copiado un trabajo con ChatGPT.
Otras IA podrían sumarse pronto
La Federación Americana de Profesores también está negociando acuerdos similares con OpenAI y Anthropic. La intención es conseguir compromisos parecidos, es decir, no usar datos escolares para entrenar modelos, no vigilar a alumnos, mantener supervisión humana y ofrecer información clara a los centros educativos.
En Europa, esa protección podría estar ya cubierta gracias al RGPD. Los centros educativos y las empresas tecnológicas ya deben tratar los datos personales, informar de forma transparente, recoger solo la información necesaria y proteger especialmente los datos de menores. Eso aplica también a la IA, aunque el marco respecto a esta tecnología se esté regulando de forma independiente.
