IA segura en colegios: checklist para elegir herramientas

Adoptar una herramienta de inteligencia artificial en un colegio no debería empezar por la lista de funciones. Debe empezar por una pregunta: ¿qué problema educativo queremos resolver? Después llegan la evidencia, la privacidad, la accesibilidad y la supervisión.

Este checklist ayuda a realizar una primera evaluación. No sustituye el análisis jurídico, de protección de datos o de seguridad que corresponda al centro.

1. Propósito pedagógico

[ ] Existe una necesidad concreta, no solo interés por la novedad.
[ ] La herramienta se relaciona con objetivos curriculares.
[ ] Está definido qué mejora se espera observar.
[ ] Se ha comparado con alternativas no tecnológicas.
[ ] La IA apoya al docente y al alumno, sin desplazar relaciones esenciales.

Un propósito medible podría ser “aumentar la práctica de fracciones con retroalimentación inmediata”, no “modernizar las clases”.

2. Calidad del aprendizaje

[ ] El contenido corresponde al nivel y al currículo.
[ ] Las explicaciones muestran el proceso, no solo el resultado.
[ ] La ayuda se ofrece de forma gradual.
[ ] El alumno debe responder, recordar, crear o resolver.
[ ] Existe una forma de comprobar el aprendizaje sin asistencia.
[ ] Se puede detectar y corregir contenido erróneo.

UNESCO advierte de que la tecnología debe juzgarse por su efecto educativo y no por el simple hecho de estar disponible.

3. Privacidad y protección de datos

[ ] Se sabe qué datos recoge la plataforma.
[ ] Solo solicita los datos necesarios para su finalidad.
[ ] Se conoce la base jurídica del tratamiento.
[ ] Hay información comprensible para familias y estudiantes.
[ ] Se conocen ubicación, conservación y eliminación de los datos.
[ ] Hay un contrato de encargado del tratamiento cuando procede.
[ ] Los datos no se usan para publicidad ni perfiles comerciales.
[ ] Se ha revisado si los contenidos introducidos entrenan modelos externos.
[ ] Existen procedimientos para ejercer derechos y responder a incidentes.

Los datos educativos pueden revelar dificultades, hábitos y circunstancias personales. “No pedimos información sensible” no basta si el sistema la infiere o si usuarios pueden introducirla libremente.

4. Seguridad técnica

[ ] El acceso utiliza autenticación adecuada a cada rol.
[ ] Alumnos, docentes y administradores tienen permisos diferentes.
[ ] Los datos están protegidos durante envío y almacenamiento.
[ ] Existe registro y gestión de incidentes.
[ ] El proveedor informa de vulnerabilidades y actualizaciones.
[ ] Se pueden revocar accesos al abandonar el centro.
[ ] Hay copias de seguridad y un plan de continuidad.

No es necesario que cada docente audite técnicamente un sistema, pero el centro sí debe solicitar respuestas verificables al proveedor.

5. Edad, bienestar y derechos de la infancia

[ ] El lenguaje y la interacción son apropiados para la edad.
[ ] La herramienta evita mecanismos manipulativos o dependencia emocional.
[ ] No se presenta como una persona ni como autoridad infalible.
[ ] Hay límites de uso y pausas.
[ ] Los menores saben cómo pedir ayuda a un adulto.
[ ] El diseño evita discriminación y considera distintas capacidades.

UNICEF propone que una IA centrada en la infancia proteja privacidad y seguridad, sea transparente, favorezca la inclusión y mantenga rendición de cuentas.

6. Transparencia y control humano

[ ] El usuario sabe cuándo interactúa con IA.
[ ] Se explica de forma sencilla qué puede fallar.
[ ] Un docente puede revisar recomendaciones y resultados.
[ ] Ninguna decisión importante depende solo de una salida automática.
[ ] Existe un canal para impugnar o corregir decisiones.
[ ] El proveedor comunica cambios relevantes del sistema.

Las calificaciones finales, el acceso a oportunidades o las decisiones sobre apoyo educativo requieren especial cautela y revisión humana.

7. Equidad y accesibilidad

[ ] Funciona con los dispositivos y la conectividad disponibles.
[ ] Hay alternativas para quien no pueda utilizarla.
[ ] Cumple criterios de accesibilidad.
[ ] Permite ajustes de presentación y apoyo.
[ ] Se ha probado con estudiantes diversos.
[ ] El coste no amplía desigualdades dentro del grupo.

Una herramienta puede parecer personalizada y, a la vez, excluir a quien utiliza lector de pantalla, necesita más tiempo o no dispone de conexión estable en casa.

8. Capacitación y acompañamiento

[ ] El profesorado recibe formación pedagógica, ética y operativa.
[ ] Los alumnos aprenden a verificar respuestas y cuidar sus datos.
[ ] Las familias reciben información clara.
[ ] Hay normas de uso coherentes entre asignaturas.
[ ] Existe soporte cuando algo falla.

La alfabetización en IA es una obligación organizativa y una necesidad educativa. No se resuelve con una demostración de veinte minutos.

9. Evaluación del piloto

Antes de escalar, define:

grupo y duración del piloto;
situación inicial;
resultado educativo esperado;
incidencias y carga para el docente;
opinión de alumnos y familias;
impacto en distintos perfiles;
criterio para continuar, modificar o abandonar.

También deben recogerse efectos no deseados: dependencia, más tiempo de pantalla, errores frecuentes o tareas adicionales para el profesorado.

Semáforo de decisión

Verde: propósito claro, datos mínimos, evidencia suficiente, revisión humana y piloto evaluable.

Ámbar: quedan dudas documentales, la accesibilidad no se ha probado o no existe plan de formación. No escales todavía.

Rojo: opacidad sobre datos, publicidad a menores, decisiones automáticas importantes, imposibilidad de borrar información o ausencia de control adulto.

Elegir una plataforma educativa es una decisión pedagógica y de confianza. NURA trabaja para que la IA forme parte de un entorno estructurado, con contenidos, seguimiento y controles. Cada centro debe evaluar la adecuación a su contexto y mantener siempre el criterio profesional.

Fuentes y lecturas recomendadas

¿Buscas una solución para tu centro? Conoce NURA para colegios y docentes.