El artículo 96 del Reglamento Europeo de Inteligencia Artificial recoge el compromiso explícito de la Comisión Europea de elaborar las directrices necesarias para la aplicación práctica de esta norma que hoy, 3 de febrero, comienza a aplicar en todos los países miembros en lo que respecta a las prácticas de riesgo inaceptable y, por lo tanto, prohibidas. Llegado el día, dichas directrices aun no han sido publicadas, siendo el último movimiento conocido un proceso de consulta dirigido a las partes interesadas que finalizó le pasado 11 de diciembre.
Los plazos del RIA empiezan a ejecutarse y los primeros que entran en vigor hoy aplican a sus artículos 4 y 5:
- El primero obliga a que tanto los proveedores como los implantadores de sistemas de IA adopten medidas para garantizar un nivel suficiente de conocimientos de IA de su personal. Para ello, han de evaluar las necesidades de alfabetización en IA (conocimientos técnicos, experiencia, educación y contexto en el que vayan a utilizarse los sistemas de IA), diseñar un programa de formación efectivo y garantizar una supervisión adecuada.
- Y el segundo recoge las prácticas de riesgo máximo (inaceptable) que desde este momento quedan prohibidas:
- técnicas subliminales, manipuladoras o engañosas;
- explotación de vulnerabilidades de las personas;
- clasificación de personas mediante puntuación ciudadana;
- predicción de potencial criminalidad;
- bases de datos mediante reconocimiento facial masivo;
- Inferencia de emociones en centros educativos o de trabajo;
- categorización biométrica para inferir datos de categorías especiales;
- identificación biométrica remota en tiempo real en lugares públicos con fines policiales: la identificación biométrica remota en tiempo real en espacios de acceso público con fines de aplicación de la ley está prohibida, salvo que sea estrictamente necesaria y conforme a una autorización judicial o administrativa preceptiva.
Si bien las sanciones por incumplimiento no serán aplicables hasta el 2 de agosto de 2025, la incertidumbre sigue rodeando el despliegue del Reglamento y tanto las empresas desarrolladoras como las implantadoras siguen a la espera de las directrices aclaratorias de la Comisión.
El texto del RIA es explícito al respecto de lo que deberán contener las citadas directrices:
- la aplicación de los requisitos y obligaciones contemplados en los artículos 8 a 15 y en el artículo 25:
- cumplimiento de los requisitos de la IA de alto riesgo;
- precisión, robustez y ciberseguridad de los mismos, y
- responsabilidades a lo largo de la cadena de valor de la IA.
- las prácticas prohibidas a que se refiere el artículo 5 y anteriormente citadas;
- la aplicación práctica de las disposiciones relativas a la modificación sustancial;
- la aplicación práctica de las obligaciones de transparencia establecidas en el artículo 50 (obligaciones de transparencia para proveedores e implantadores de determinados sistemas de IA);
- información detallada sobre la relación del presente Reglamento con la legislación de armonización de la Unión enumerada en el anexo I (lista de la legislación de armonización de la Unión), así como con otra legislación pertinente de la Unión, incluso en lo que se refiere a la coherencia en su aplicación;
- la aplicación de las definiciones de distintos conceptos relacionados con los sistemas de IA recogidos en el artículo 3:
- riesgo,
- proveedor,
- implantador,
- representante autorizado,
- finalidad prevista,
- uso indebido razonablemente previsible,
- componente de seguridad,
- rendimiento de un sistema de IA,
- evaluación de conformidad,
- datos de validación, de ensayo, de entrada y biométricos,
- datos personales,
- elaboración de perfiles,
- …
Y así hasta un total de 68 términos.
Código de Buenas Prácticas de IA General
El siguiente hito se producirá el próximo 2 de mayo, fecha en la que habrá de ser presentado el Código de Buenas Prácticas de IA General. Por el momento, se conoce el contenido del primer borrador y la plantilla para el resumen de los datos de entrenamiento que contiene, cuyo objetivo es orientar a los proveedores de modelos de IA de propósito general (GPAI) en la elaboración y publicación de resúmenes detallados sobre el contenido utilizado para el entrenamiento de sus modelos, teniendo en cuenta los secretos comerciales de los proveedores. La versión definitiva de la plantilla cubrirá todas las fuentes de contenido, desde el pre-entrenamiento hasta el ajuste fino, y proporcionará detalles suficientes para facilitar el ejercicio de los derechos de las partes interesadas.
Entre otras cuestiones, la plantilla recoge orientaciones sobre la información a aportar en relación con las fuentes de datos:
- fuentes de datos accesibles públicamente,
- datos privados no accesibles públicamente,
- datos recopilados por el proveedor,
- datos sintéticos autogenerados y
- datos adquiridos por otros medios.
Y también sobre las medidas implementadas para respetar los derechos de autor, eliminación de contenido no deseado y otras para el procesamiento de datos.
Fuentes:
