«Mi IA no es de alto riesgo. Yo solo escribo un prompt.» Lo he oído las veces suficientes como para reconocer el patrón: quien lo dice no miente, mira al sitio equivocado. Cree que el alto riesgo es una propiedad de su tecnología —algo que se enciende cuando el modelo es lo bastante grande o lo bastante autónomo—. No lo es.
Al Reglamento de IA le da igual lo que tengas debajo del capó. Una regresión de hace treinta años, un gran modelo de lenguaje, un agente que actúa por su cuenta: a efectos de la ley pueden ser la misma cosa. No mira cómo está hecho tu sistema. Mira para qué lo usas.
Lo dice el artículo 6, y no tiene truco. Un sistema es de alto riesgo por una de dos vías: o es el componente de seguridad de un producto que ya está regulado —un equipo médico, una máquina—, o su finalidad encaja en alguno de los casos del Anexo III. Y esa lista no es caprichosa: el Reglamento existe para proteger a las personas, y recoge los usos en los que se juega su salud, su seguridad o sus derechos fundamentales. Ninguna de las dos vías pregunta por la arquitectura. Las dos preguntan para qué.
Cojamos un caso del Anexo III: filtrar candidatos en un proceso de selección. Resuélvelo con una regresión de veinte variables, con un modelo que lee currículums o con un agente que encima cierra las entrevistas. Para el Reglamento son lo mismo, un sistema de alto riesgo con idénticas obligaciones. La tecnología es lo único que ha cambiado entre las tres versiones, y es justo lo único que no importa: lo montes como lo montes, la ley te pide exactamente lo mismo. Y es solo uno de los muchos casos del Anexo III. (En España, además, ese caso ni siquiera vive solo bajo el Reglamento: el Estatuto de los Trabajadores ya obliga a rendir cuentas de los algoritmos que deciden sobre el empleo. Pero esa es otra historia, para otro día.)
Y la cosa afina más de lo que parece. Evaluar la solvencia de una persona para darle o negarle un crédito es alto riesgo. Usar IA para detectar un fraude en esa misma operación, no: está excluido a propósito. Mismo sector, casi la misma tubería por dentro, régimen distinto. Porque la ley no clasifica sectores ni modelos. Clasifica usos, uno a uno.
Aquí llega lo que incomoda a quien construye. «Yo no fabrico nada, integro el modelo de otro y le escribo un prompt.» Tampoco te salva. El artículo 25 no se anda con rodeos: si coges un modelo de propósito general, que no era de alto riesgo, y le doblas la finalidad hasta convertirlo en un sistema de alto riesgo, la ley te nombra su proveedor —con todo lo que eso arrastra—. Ese prompt que escribes para que el modelo decida sobre personas no es un detalle de configuración. Es el sistema. Y lo estás construyendo tú.
Y los agentes —los que planifican y ejecutan acciones por su cuenta— no son la excepción a todo esto; son el caso más difícil. (Y ojo, no confundas a este agente —el que actúa y es el sistema— con el agente que escribe el código del sistema: ese plantea otro problema, el de quién responde de lo que tecleó la máquina, y volveré a él.) Uno que actúa para un caso del Anexo III es de alto riesgo igual que la regresión del principio, y quien lo monta sobre modelos de terceros es su proveedor. Pero, como encadena acciones, invoca herramientas y deriva sobre la marcha, tensiona justo lo que más cuesta demostrar: la trazabilidad, la supervisión humana y la prueba de qué hizo y por qué. De hecho, hay quien argumenta que hoy un agente de alto riesgo cuya conducta no se puede trazar no llega siquiera a cumplir el Reglamento. La autonomía no te exime: te complica. Es un asunto con entidad propia, y volveré a él. Mientras tanto, Adam Leon Smith —coautor de ese trabajo y oficial de las normas de IA en ISO/IEC y CEN-CENELEC— lo ha contado en su Substack.
Así que la pregunta del principio —la pregunta cero, la que va antes que ninguna otra— nunca fue «¿qué tecnología uso?». Era «¿para qué la pongo a funcionar, y qué papel ocupo en la cadena?». Si la respuesta cae en el Anexo III, el Reglamento se baja del despacho de los abogados y pasa a ser una cuestión de cómo desarrollas.
Tiempo hay: la obligación para el alto riesgo del Anexo III no se aplica hasta el 2 de diciembre de 2027, y aún le falta el último trámite formal. Pero el sistema que diseñas este trimestre es el que tendrás que defender entonces.
Con esto abro una serie, y esto era la pregunta cero: ¿me aplica? El jueves, dando por hecho que sí, cuento por qué el Reglamento se lee como una especificación de ingeniería, y las cinco preguntas con las que medir a tu equipo. Si construyes IA que decide sobre personas, te espero ahí.
— Rodrigo