EVALUAR · Integras IA en tus productos
Revisión de riesgos de tus modelos de IA
Una revisión interna de los modelos de IA que has desarrollado, también los de lenguaje y los agentes: qué riesgos tienen, si están bien identificados y si están bien evaluados.
Art. 9 del Reglamento de IA · prEN 18228 · ISO/IEC 23894
Es un punto de partida: la receta se adapta a tu empresa.

Evaluar
Verificar y validar su seguridad y su impacto: qué puede salir mal, a quién afecta y si los controles funcionan.
Recibes
Por cada modelo, por escrito: los riesgos que faltan, las evaluaciones que no se sostienen y qué conviene reforzar.
Lo que la distingue
No nos quedamos en la documentación: lo que se afirma del modelo se comprueba con pruebas técnicas.
Qué evaluamos, según tu sistema
Modelos que predicen o clasifican
Rendimiento, robustez, sesgo y equidad entre grupos.
Modelos de lenguaje
Alucinaciones, toxicidad, prompt injection y fugas de datos.
Agentes
Qué pueden hacer y con qué permisos, si cada paso se puede reconstruir y si la supervisión los para a tiempo ante errores metidos a propósito.
Supervisión humana →
Y lo que tu uso haga necesario.
Cómo trabajamos
Los modelos y su finalidad
GOBERNAR · primer paso
Qué modelos has desarrollado, para qué se usan y a quién afectan sus resultados. Con eso decidimos por dónde empezar.
¿Están bien identificados los riesgos?
EVALUAR · con tu equipo
Contrastamos los riesgos que tienes registrados con los que producen el uso y el propio modelo. Los que faltan se identifican en una sesión con el lienzo.
El lienzo de riesgos de IA →¿Están bien evaluados?
EVALUAR · con su evidencia
Revisamos los criterios, la probabilidad y la gravedad estimadas y la evaluación de cada riesgo: si se sostienen con evidencia y siguen el método de la norma.
Probar lo que se afirma
PROBAR · con tus datos
Comprobamos las afirmaciones de la evaluación sobre el modelo con tus datos y tus métricas.
El método, paso a paso
- Tú nos dices quién está afectado; nosotros ponemos el método, la medida y las pruebas.
- Los umbrales de las pruebas los apruebas tú.
- El resultado lo acepta alguien de tu equipo.
- Protege el trabajo de tu equipo ante quien os examine. No es una auditoría del equipo.
Informe y decisión
GOBERNAR · con la persona responsable de la decisión en tu empresa
Te entregamos el informe de cada modelo y lo repasamos con la persona responsable de la decisión en tu empresa. La revisión termina ahí; lo que venga después lo decides tú.
Lo que te dejamos funcionando
El registro de riesgos revisado y ampliado
Con los riesgos que faltaban, identificados con tu equipo en una sesión con el lienzo.
Las pruebas del modelo
Las de tu tipo de sistema, con tus datos y repetibles.
Un criterio que tu equipo sabe aplicar
Cómo identificar y evaluar riesgos con el método de la norma, para la próxima versión.
Qué cambia en tu equipo
Sigue igual
- Tus modelos y tus datos
- La forma de trabajar de tu equipo
Cambia
- Los riesgos parten del uso real del modelo
- Cada evaluación se sostiene con evidencia
- Lo que se afirma del modelo está probado
Otros puntos de partida
Integras IA en tus productos
Este trabajo puede entrar en la ayuda de IA de la SPRI para empresas industriales vascas.