Se adapta al flujo de trabajo existente.

El equipo declara el contexto del sistema, describe sus datos con metadatos en Croissant y define los controles para tratar sus riesgos. Froga recoge evidencias de las ejecuciones y de los artefactos producidos para completar la documentación técnica.

Froga

Declaraciones y observaciones

Declarado por el equipo

finalidad del sistema
a qué se destina y a quién afecta
normas aplicables
las que declara el equipo
descripción de los datos
metadatos en Croissant: origen, estructura y condiciones de uso del conjunto de datos

La descripción documenta lo declarado; no verifica por sí sola los datos.

Recogido de la ejecución

Descripción del modelo
Se completa a partir de los componentes, artefactos y resultados disponibles en cada ejecución. Su alcance depende de las evidencias recogidas.

El equipo decide cómo tratar cada riesgo

El equipo identifica y evalúa cada riesgo y decide cómo tratarlo: reducirlo, aceptarlo con justificación, evitarlo o transferirlo. Para llevar ese tratamiento a la práctica, define los controles necesarios y sus criterios de aceptación. Los resultados y la evidencia permiten revisar el tratamiento y reevaluar el riesgo que permanece.

Cada control precisa qué se comprueba, con qué criterio y qué evidencia lo respalda. En una comprobación numérica, el criterio de aceptación incluye un umbral.

El equipo define por separado qué efecto tiene cada resultado sobre la continuidad del trabajo.

El ciclo conecta identificación, análisis, evaluación, tratamiento, comprobación y revisión del riesgo residual, y vuelve a comenzar. Cada etapa queda documentada. El equipo decide sobre el riesgo residual.
  1. Identificar
  2. Analizar
  3. Evaluar
  4. Tratar
  5. Comprobar
  6. Revisar riesgo residual

Ejemplo ficticio · cifras simuladas

RSK-DEMO

Defectos que pasan la inspección

Impacto declarado
Alto
Probabilidad declarada
Posible

Vía de daño

  1. Un tipo de pieza está poco representado en los datos.

  2. El modelo no detecta sus defectos con la misma fiabilidad.

  3. La pieza avanza en el proceso sin una revisión adicional.

Consecuencia
Una pieza defectuosa llega al montaje y compromete la calidad del producto.
Tratamiento del riesgo
Reducir. Ampliar la validación por tipo de pieza y condiciones de captura; revisar los casos inciertos antes de liberar la versión.

Controles del tratamiento

Tasa de detección de defectos. Cada control conserva su criterio, resultado y evidencia.

  • C-01Detección global

    Cumple el criterio

    Criterio de aceptación
    ≥ 95 %
    Resultado simulado
    96 %

    Evidencia: Evaluación global del conjunto de prueba.

  • C-02Detección por tipo de pieza · peor grupo

    No cumple el criterio

    Criterio de aceptación
    ≥ 90 %
    Resultado simulado
    82 %

    Evidencia: Evaluación desglosada por tipo de pieza.

  • C-03Detección con iluminación adversa

    Sin medición

    Criterio de aceptación
    ≥ 90 %
    Resultado simulado
    No disponible

    Evidencia: Pendiente de evaluar estas condiciones.

Escala 0–100 %. Línea discontinua: umbral. Marca sólida: resultado simulado. Sin marca: sin medición.

Riesgo residual
Pendiente de reevaluar
Decisión configurada en este ejemplo
Retener la versión hasta resolver el control en fallo y completar la medición pendiente.

Caso ficticio de inspección visual: los criterios y resultados son simulados, no datos de un cliente ni umbrales recomendados. Un control que cumple no demuestra por sí solo que el riesgo esté tratado.

Las comprobaciones automáticas se distinguen de las revisiones humanas documentadas y de la evidencia que todavía no permite concluir. Una afirmación humana no se convierte, por quedar documentada, en una comprobación medida o validada.

Dónde se engancha

Froga se integra en las capas MLOps y DevSecOps de la organización para reunir evidencia en la documentación técnica, según las integraciones disponibles.

  • En la organización

    MLOps

    Versiones de datos, registros de ejecución y métricas del modelo, según lo que aporte cada herramienta.

  • En la organización

    DevSecOps

    Código versionado e integración continua, donde Froga verifica las entregas según las capacidades de cada conexión.

  • Resultado en Froga

    Documentación técnica

    Froga reúne y firma la evidencia, vinculada a los datos, el modelo y los controles documentados.

Con qué trabaja

MLOps · datos y ejecuciones

  • DVC

    ancla el fichero de bloqueo; un tercero lo recomputa con el repositorio

  • MLflow

    ancla el digest de las métricas; vive en su propio almacén

  • Dagster

    ancla sobre su propio material; vive en su propio almacén

  • DataLad

    procedencia en la historia, datos por puntero

DevSecOps · repositorios e integración continua

  • GitHub

    verifica la entrega

  • GitLab

    verifica la entrega

  • Forgejo

    cliente: no verifica la entrega

Qué queda firmado

El tratamiento de riesgos y el trabajo con datos y modelos quedan documentados con evidencia firmada.
riesgo y tratamiento
justificación documentada
conjunto de datos
trazabilidad de datos
algoritmo de entrenamiento
manifiesto de ejecución
métricas
umbrales medidos
modelo
procedencia firmada

Qué se entrega

La documentación técnica resultante es la que el equipo presenta al organismo notificado. La cobertura dice, norma a norma, qué sostiene y qué no.

Y cuando no hay evidencia para afirmar ni para negar, lo dice. No lo pinta de verde.

Ver la cobertura