Adecuación y conformidad de los sistemas de IA

La creciente presencia de la Inteligencia Artificial (en adelante, “IA”) en nuestra vida diaria ha dado lugar a la necesidad de establecer un marco legal que asegure su uso adecuado, responsable y seguro. En este contexto, la Unión Europea ha dado un paso histórico con la entrada en vigor, el pasado 1 de agosto, del Reglamento de IA (en adelante, “RIA” o “el Reglamento”), la primera norma vinculante a nivel global en esta materia. El incumplimiento de este reglamento no solo conlleva sanciones, sino que también puede afectar negativamente a la reputación y confianza en las empresas que desarrollan o utilizan sistemas de IA.
La norma se ha construido en torno al concepto de riesgo, poniendo el foco en identificar y clasificar los niveles de riesgo asociados a la utilización de sistemas de IA. Su esencia radica en que, cuanto mayor es el riesgo, más estrictas son las obligaciones legales y los requisitos de control para cumplir. Esta estructura gradual garantiza la seguridad, la transparencia y la protección de los derechos fundamentales, creando un entorno de confianza que permite a los desarrolladores y empresas operar con seguridad jurídica, intentando evitar incertidumbres legales.

Con este fin, el Reglamento establece dos procesos clave para garantizar el uso adecuado, seguro y responsable de los sistemas de IA: la evaluación de impacto y la evaluación de conformidad.
  1. Evaluación de impacto: Se trata de un análisis de riesgos que examina la afectación potencial del sistema de IA sobre derechos fundamentales, protección de datos personales y seguridad, antes de su implementación. Esta evaluación es crucial para los sistemas clasificados como de alto riesgo, permitiendo una gestión proactiva de los riesgos. 
  2. Evaluación de conformidad: Verifica que el sistema de IA cumple con todos los requisitos legales del RIA. Puede realizarse de manera interna o a través de terceros. Mientras la evaluación de impacto previene riesgos, la evaluación de conformidad asegura que el sistema esté listo para comercializarse legalmente.
Ambos procesos son especialmente relevantes en sistemas de alto riesgo, y dependiendo de la clasificación del sistema, se aplicarán con distintos grados de obligatoriedad (en línea con el enfoque gradual del RIA).

  Leer circular