Qué ha cambiado

El marco regulatorio europeo ha dado un paso decisivo con la puesta en marcha progresiva del Reglamento Europeo de Inteligencia Artificial. Esta normativa establece un estándar legal común en toda la Unión Europea con el fin de asegurar que las soluciones de inteligencia artificial sean seguras, trazables, transparentes y respetuosas con los derechos fundamentales de las personas.

A diferencia de recomendaciones o códigos éticos no vinculantes, el reglamento introduce un régimen de obligaciones basado en la gestión de riesgos. Las herramientas y aplicaciones inteligentes se clasifican en distintos niveles según el impacto potencial que puedan generar en los usuarios y en la sociedad:

  • Riesgo inaceptable: Sistemas que vulneran derechos fundamentales o la seguridad ciudadana, los cuales quedan terminantemente prohibidos.
  • Alto riesgo: Aplicaciones utilizadas en ámbitos sensibles como la selección de personal, la evaluación crediticia, la gestión de infraestructuras críticas o el acceso a servicios esenciales. Estas herramientas quedan sujetas a rigurosos requisitos de gobernanza de datos, documentación técnica y supervisión.
  • Riesgo específico de transparencia: Soluciones que interactúan directamente con personas físicas o generan contenidos sintéticos, obligadas a advertir a los usuarios sobre su naturaleza automatizada.
  • Riesgo mínimo o nulo: Herramientas de uso cotidiano en las que no se imponen requisitos adicionales, más allá del fomento de buenas prácticas.

A quién afecta

El alcance de la normativa no se restringe a los desarrolladores de tecnología avanzada o a las grandes corporaciones. Afecta de manera transversal a cualquier entidad, con independencia de su tamaño o sector, que diseñe, distribuya o simplemente integre herramientas de inteligencia artificial en su operativa habitual dentro del mercado comunitario.

Las responsabilidades concretas varían en función de la actividad de la organización y del papel que desempeñe respecto a la tecnología:

  • Proveedores y desarrolladores: Organizaciones que crean modelos o aplicaciones basadas en inteligencia artificial destinadas a su comercialización o puesta en servicio.
  • Entidades usuarias o desplegadoras: Empresas de cualquier sector que utilicen soluciones de IA para automatizar procesos, analizar perfiles, evaluar candidatos o mejorar la relación con sus clientes.
  • Importadores y distribuidores: Agentes que introducen en el mercado europeo sistemas o productos que incorporan estas tecnologías.

Es importante señalar que las obligaciones aplicables dependen directamente de la naturaleza del sistema, el caso de uso y el tipo de datos tratados, lo que requiere un análisis individualizado para cada organización.

Cómo se soluciona

Para asegurar el cumplimiento normativo sin obstaculizar la transformación digital ni frenar la competitividad, las organizaciones deben seguir una estrategia estructurada de gobernanza tecnológica:

1. Auditoría e inventario de sistemas

Identificar todas las herramientas basadas en inteligencia artificial que se utilicen interna o externamente, incluyendo aplicaciones de terceros integradas en los flujos de trabajo de la empresa, y determinar su nivel de riesgo.

2. Evaluación de impacto y gestión del riesgo

Analizar los riesgos operativos, éticos y legales en aquellos sistemas clasificados como de mayor sensibilidad, prestando especial atención a la calidad de los datos, la precisión técnica y la mitigación de posibles sesgos.

3. Implementación de medidas de transparencia y supervisión humana

Garantizar que las decisiones asistidas o tomadas por algoritmos cuenten con mecanismos de supervisión por parte de profesionales capacitados, así como facilitar información clara y comprensible a las personas afectadas.

4. Definición de políticas internas de uso y seguridad

Elaborar protocolos internos para regular el uso corporativo de la inteligencia artificial, formar a los equipos de trabajo y coordinar estos procedimientos con las normativas de protección de datos y ciberseguridad.

Cómo te ayuda Grupo SG

En Grupo SG ayudamos a su organización a adaptarse con solvencia al Reglamento Europeo de IA a través de nuestro servicio GobernanzIA, facilitando la evaluación de riesgos y la creación de un marco de gobernanza algorítmica a medida. Con el apoyo de SG Vigilancia Normativa y SG Ciberseguridad, garantizamos que sus procesos tecnológicos cumplan con todas las exigencias legales y de seguridad de la información.