Para saber si la supervisión humana de un sistema de IA funciona, se meten errores conocidos entre sus salidas y se cuenta cuántos pasan sin corregir. Los aeropuertos lo hacen por norma. Qué pide el Reglamento de IA, qué propone la norma europea y cómo montarlo.
Para qué sirve la ISO/IEC 42001 y para qué la EN 18286: procesos frente a producto, desplegadores frente a productores, qué comparten y cómo se complementan. Con el caso de una empresa de RRHH que desarrolla su propia IA para gestionar ofertas de empleo.
Qué es la evaluación de impacto en derechos fundamentales del artículo 27, a quién obliga, cuándo y ante quién se presenta, por qué le toca a quien despliega y cómo prepararla hoy, sin norma armonizada y con la plantilla oficial por publicar. Con HUDERIA, el modelo de la APDCAT e ISO/IEC 42005 como métodos.
La gobernanza describe las reglas; el aseguramiento demuestra que se cumplen. Y como la evidencia sale del desarrollo, el mismo trabajo te vale para más de un reglamento.
La evidencia de conformidad sale del trabajo diario —un manifiesto firmado en cada entrenamiento— y se encadena hacia atrás por toda tu cadena de suministro. Casi nada se entrena desde cero.
El artículo 14 no te pide poner a alguien a pulsar «aceptar». Te pide que esa persona entienda la salida, pueda ignorarla o revertirla, y que su decisión quede escrita.
El artículo 9 no te pide un informe de riesgos; te pide un proceso continuo que recorre todo el ciclo de vida. Leído bien, cada riesgo dispara una decisión de diseño —igual que en el desarrollo guiado por pruebas, cada prueba que falla cambia el código.
Plantilla para identificar con tu equipo los riesgos de tu sistema de IA: cada fallo de la salida, sus causas, sus consecuencias y las barreras que ya hay.
Lo que los artículos 10 a 15 y 72 exigen, unas prácticas de MLOps maduras ya lo producen. Igual vas a medio camino sin saberlo.
Los artículos 9 a 15 del Reglamento dictan cómo se construye tu sistema, no solo cómo se documenta. Y 5 preguntas para saber en qué punto está tu equipo.
Da igual si detrás hay una regresión, un gran modelo de lenguaje o un agente: lo que marca el alto riesgo es el caso de uso. Y montarlo te convierte en proveedor, no en espectador.
Qué es el aseguramiento de IA, quién lo pide y cómo se hace: gobernar, evaluar y probar, para llegar a la auditoría con todo preparado.
