Un docente quiere escribir comentarios sobre treinta informes. El chatbot puede hacerlo, siempre que reciba los informes. Así que el texto entra, con el nombre del alumno arriba y a veces una nota del expediente de apoyo detrás, porque así el comentario mejora. Nadie tiene mala intención. Aun así, la escuela acaba de entregar datos de alumnos a un proveedor con el que no tiene ningún contrato.
La Autoriteit Persoonsgegevens (AP), la autoridad neerlandesa de protección de datos, conoce este patrón de otros sectores. Recibió notificaciones de brechas de datos porque empleados habían compartido con un chatbot de IA datos personales de pacientes o clientes. A menudo lo hacía el empleado por iniciativa propia, en contra de lo acordado. Su consejo a las organizaciones: establece acuerdos claros y explica qué datos pueden introducir los empleados y cuáles no.
Por qué un acuerdo no basta
Un acuerdo funciona mientras alguien se acuerda de él. En la semana de la junta de evaluación nadie se acuerda, porque el objetivo del docente es terminar el trabajo. Una norma en un manual no cambia eso.
Aquí confluyen dos capas de TRACES.
TRACES son las seis capas con las que evalúas un sistema de IA: Trail, Retrieval, Approval, Constraints, Expertise, Storage. Donde falta una capa, hay un riesgo.
Constraints. Lo que un sistema técnicamente no puede hacer es más fuerte que lo que no tiene permitido hacer. «Los docentes tienen la instrucción de no introducir nombres» es una petición. Un entorno en el que los docentes solo entran con una cuenta de la escuela, en una herramienta cubierta por un contrato de encargo de tratamiento, es un límite. Kennisnet, el centro público neerlandés de conocimiento sobre TIC en la educación, aconseja gestionar las cuentas de forma centralizada e impedir que el personal o los alumnos creen cuentas propias fuera del control de la escuela.
Storage. ¿Dónde acaba un dato una vez introducido? Kennisnet advierte de que los datos introducidos en un servicio de IA pueden acabar en el entrenamiento del modelo, y aconseja configurar las herramientas de la manera más respetuosa posible con la privacidad, por ejemplo para que el proveedor no pueda usar las instrucciones como datos de entrenamiento. Si eso se cumple en vuestra herramienta consta en el contrato de encargo de tratamiento, y según el artículo 28 del RGPD es también donde debe quedar recogido.
Constraints detecta el error de antemano. Storage determina cuánto daño se hace si algo se cuela de todos modos.
Un recurso: tres cajones
No todo tiene que quedar cerrado. Gran parte del trabajo de un docente no trata de personas en absoluto: preparar una clase, un examen en cuatro niveles de dificultad, una explicación en lenguaje más sencillo. Ayuda separarlo de forma explícita, para que un docente vea en diez segundos en qué cajón cae una tarea.
Cajón 1 · En cualquier sitio. No contiene nada sobre una persona. Un esquema de clase, ejercicios de ejemplo, la explicación de un concepto, un correo a un público anónimo.
Cajón 2 · Solo en el entorno de la escuela. Trabajo que incluye datos de alumnos, en una herramienta para la que la escuela tiene un contrato de encargo de tratamiento y ha hecho una EIPD (evaluación de impacto relativa a la protección de datos). Lo que eso exige se explica en el artículo sobre lo que pregunta un consejo escolar antes de que los docentes reciban una herramienta de IA. Si no existe un entorno así, el cajón 2 no existe.
Cajón 3 · Nunca. Expedientes, notas de apoyo, consejos sobre un alumno y todo lo que la escuela considere confidencial.
Muchas tareas pueden pasar del cajón 2 al cajón 1 con un solo paso: sustituir los datos personales.
Sustituir los datos antes de la instrucción
Kennisnet aconseja evitar introducir datos personales y datos confidenciales y usar datos anónimos o ficticios siempre que sea posible. Esto encaja con el artículo 5 del RGPD, que pide datos limitados a lo necesario para el fin. Para comentar un informe no hace falta el nombre del alumno. Hace falta el texto.
Un ejemplo inventado.
- Así no: «Comenta el informe de Sanne de Vries, de 3B, que el año pasado se quedó atrás después de su enfermedad».
- Así sí: «Comenta el siguiente informe de un alumno de la clase 3. Fíjate en cómo está construida la conclusión».
La segunda instrucción produce el mismo comentario. Lo que falta no influía en la respuesta.
Una salvedad. Un texto sin nombre no es automáticamente anónimo. Si el propio informe contiene detalles que señalan a un alumno concreto, como un suceso particular o una situación personal, el texto sigue siendo identificable y pertenece al cajón 2. Un docente con dudas deja el documento en el cajón 2 o 3. Para eso no hace falta un abogado.
Cuando sale mal de todos modos
Ocurre, incluso en una escuela con buenos acuerdos. Procura que un docente no tenga que dudar de si puede avisar. Acordad de antemano a quién se avisa y que un aviso nunca acabe en una bronca. Según la AP, notificar una brecha así a la autoridad y a los afectados es obligatorio en muchos casos, y una escuela que se entera semanas después ya no puede hacerlo a tiempo. Un docente que puede decir sin problema «esta mañana puse un archivo en la herramienta equivocada» vale más para la escuela que uno que se calla.
Qué puede preparar una escuela
- Una lista única de herramientas aprobadas, y un solo lugar donde los docentes la encuentren. Quien necesite una herramienta que no esté en ella puede hacer una solicitud. Sin esa vía, los docentes buscan por su cuenta.
- Cuentas de la escuela, no cuentas privadas. Así el contrato de encargo de tratamiento ya las cubre.
- Ajustes previos. Que las instrucciones no se usen para entrenar es algo que configura el administrador, no el docente.
- Una tarjeta de clasificación en un solo A4. Los tres cajones, con ejemplos del trabajo de la propia escuela, en cada puesto de trabajo.
- Explicación para el equipo. Eso encaja con la alfabetización en IA que menciona Kennisnet: todos los que usan IA deben entender tanto las ventajas como los riesgos.
Qué puedes hacer esta semana
- Pregunta en el equipo qué herramientas de IA usan ahora los docentes y para qué. Pregúntalo sin juzgar.
- Toma diez tareas recientes del trabajo diario y colócalas en los tres cajones.
- En cada tarea de los cajones 2 y 3, anota qué datos se pueden quitar y qué queda.
- En la herramienta más usada, comprueba si existe un contrato de encargo de tratamiento y si los docentes entran con una cuenta de la escuela.
- Cuelga la tarjeta de clasificación y coméntala una vez en una reunión de equipo.
El Ketencheck de esta web muestra en qué punto de la cadena de un material didáctico se pierde el origen de una afirmación. Con los datos de los alumnos vale la misma pregunta, pero en la entrada.
Fuentes
- Kennisnet, Privacy en AI: hier moeten scholen op letten (actualizado el 22 de septiembre de 2025). kennisnet.nl
- Autoriteit Persoonsgegevens, Let op: gebruik van AI-chatbot kan leiden tot datalekken. autoriteitpersoonsgegevens.nl
- Reglamento (UE) 2016/679 (RGPD), artículo 5, apartado 1, letra c, y artículo 28. eur-lex.europa.eu