¿Es tu IA educativa de alto riesgo bajo el AI Act?
El AI Act (Reglamento (UE) 2024/1689) clasifica como de alto riesgo cuatro casos de uso de IA en educación (Anexo III, punto 3):
- 3(a): IA para determinar el acceso o admisión a instituciones educativas o de formación profesional
- 3(b): IA para evaluar los resultados del aprendizaje, incluyendo cuando los resultados dirigen el proceso de aprendizaje (aprendizaje adaptativo)
- 3(c): IA para evaluar el nivel adecuado de educación
- 3(d): IA para monitorizar y detectar el comportamiento prohibido de los estudiantes durante los exámenes (proctoring)
Prohibición de reconocimiento de emociones: El Art. 5(1)(f) prohíbe los sistemas de IA que infieren emociones de personas físicas en el lugar de trabajo y en instituciones educativas, salvo por razones médicas o de seguridad. Esta prohibición ya está en vigor desde el 2 de febrero de 2025.
Reconocimiento de emociones como alto riesgo: Cuando el reconocimiento de emociones no esté prohibido, se clasifica como alto riesgo bajo el Anexo III punto 1(c).
Identificación biométrica remota: La identificación biométrica remota (Anexo III punto 1(a)/(b)) puede ser de alto riesgo o estar prohibida según el contexto y los atributos inferidos.
Datos de menores (RGPD + LOPDGDD): El Art. 8 RGPD establece las condiciones del consentimiento de menores en servicios de la sociedad de la información. La LOPDGDD Art. 7 fija la edad mínima de consentimiento en 14 años en España. Los menores de 14 no pueden dar consentimiento válido; se requiere consentimiento parental.
- Clasificación del Anexo III punto 3 — Determinamos si tu IA educativa es de alto riesgo
- Auditoría de Art. 5(1)(f) — Verificamos que tu IA no infiere emociones en educación (prohibido)
- Análisis de datos de menores — Identificamos la base jurídica y el consentimiento parental (LOPDGDD Art. 7)
- DPIA educativa — Realizamos la Evaluación de Impacto del Art. 35 RGPD para datos de menores y biometría
- Documentación técnica — Preparamos la documentación del Art. 11 para IA educativa de alto riesgo
Obligaciones del AI Act para Edtech de Alto Riesgo
Si tu IA educativa es de alto riesgo (Anexo III punto 3), las obligaciones del AI Act son:
Para proveedores (developers):
- Sistema de gestión de riesgos (Art. 9)
- Calidad de los datos de entrenamiento (Art. 10), crítico para evitar sesgos en evaluación
- Documentación técnica y registro (Art. 11)
- Transparencia e información para deployers (Art. 13)
- Supervisión humana (Art. 14)
- Precisión, robustez y ciberseguridad (Art. 15)
- Evaluación de conformidad (Art. 6 + Anexo III)
- Registro en base de datos de la UE (Art. 49)
Para deployers (centros educativos):
- Designar personal con competencia para supervisión humana (Art. 26(2))
- Realizar FRIA (Art. 27) antes de desplegar el sistema
- Notificar incidentes graves (Art. 73)
- Cumplir las instrucciones del proveedor
Prohibición de emociones (Art. 5(1)(f)): Cualquier sistema que infiera emociones de estudiantes está prohibido, salvo por razones médicas o de seguridad. Esta prohibición está en vigor desde el 2 de febrero de 2025.
Calendario: Los sistemas de alto riesgo del Anexo III deben cumplir antes del 2 de diciembre de 2027. Las prácticas prohibidas del Art. 5 ya están en vigor desde el 2 de febrero de 2025.
Casos de uso de IA en Edtech y su clasificación
| Caso de uso | Clasificación AI Act | Norma aplicable |
|---|---|---|
| IA para admisión a centros educativos | Alto riesgo | Anexo III, punto 3(a) |
| IA para evaluación del aprendizaje | Alto riesgo | Anexo III, punto 3(b) |
| IA para evaluación del nivel educativo | Alto riesgo | Anexo III, punto 3(c) |
| IA para proctoring de exámenes | Alto riesgo | Anexo III, punto 3(d) |
| IA para reconocimiento de emociones | Prohibido | Art. 5(1)(f) |
| IA para identificación biométrica remota | Alto riesgo o prohibido | Anexo III punto 1 + Art. 5 |
| Chatbot de tutoría | Riesgo limitado | Art. 50(1) transparencia |
| IA para recomendación de contenido | Mínimo (generalmente) | RGPD |
Casos reales de enforcement en edtech
- AEPD — Sanción a colegio, €10.000 (2025) — Creación de perfil electrónico de una menor sin consentimiento parental (Arts. 6, 13 y 32 RGPD). Fuente: blog PSN Sercon
- AEPD — Informe sobre reconocimiento facial en exámenes en línea: AEPD
- AEPD — Resolución sobre proctoring biométrico en universidad: AEPD
- AEPD — Guía para centros educativos: AEPD
- AEPD — Principios para plataformas educativas digitales: AEPD
Checklist de compliance AI Act para Edtech
- Identificar todos los usos de IA en el producto educativo
- Clasificar según el Anexo III punto 3 (a, b, c, d)
- Verificar que no se infieren emociones (Art. 5(1)(f), prohibido)
- Verificar que no se usa identificación biométrica remota prohibida
- Implementar sistema de gestión de riesgos (Art. 9)
- Documentar calidad de datos de entrenamiento (Art. 10), evitando sesgos
- Elaborar documentación técnica (Art. 11)
- Establecer supervisión humana (Art. 14)
- Realizar evaluación de conformidad (Art. 6 + Anexo III)
- Registrar en base de datos de la UE (Art. 49)
- Realizar FRIA del Art. 27 (centros educativos deployers)
- Realizar DPIA del Art. 35 RGPD para datos de menores y biometría
- Verificar consentimiento parental (LOPDGDD Art. 7, menores de 14)
- Cumplir el Art. 8 RGPD (condiciones del consentimiento de menores)
Fuentes oficiales
- Reglamento (UE) 2024/1689 (AI Act): EUR-Lex
- Anexo III punto 3 (educación): AI Act Service Desk
- Art. 5(1)(f) (prohibición de emociones): AI Act Service Desk
- LOPDGDD (Ley Orgánica 3/2018): BOE
- RGPD Art. 8 (consentimiento de menores): EUR-Lex
Recursos relacionados
- AI Act Hub — Centro de recursos sobre el Reglamento europeo de IA
- Glosario AI Act — 45+ términos clave con referencias a artículos
- Glosario RGPD — 45+ términos clave del RGPD y la LOPDGDD
- AI Act vs RGPD — Tabla comparativa de ambas normativas
- Comprobador AI Act — Autoevalúa tu sistema de IA
- Servicio de Regulación de IA y Datos — Asesoramiento integral
- RGPD para Edtech — Guía sectorial del RGPD para edtech
Esta página es información general, no asesoramiento jurídico. Cada sistema de IA debe analizarse individualmente. Las sanciones y plazos citados se basan en el Reglamento (UE) 2024/1689 vigente a la fecha de publicación.