Ley Marco de Inteligencia Artificial

La ley establece la creación del Comité Nacional de Estrategia de Inteligencia Artificial, presidido por el presidente de la República, y exige la elaboración de un plan básico de inteligencia artificial cada 3 años, configurando así una estructura para gestionar de forma integrada las políticas y los criterios regulatorios nacionales en esta materia.

Su propósito es integrar en un único sistema las políticas y regulaciones anteriormente distribuidas entre distintos ministerios para garantizar su coherencia.

Para las empresas, esto significa que se establecen criterios claros y, al mismo tiempo, se formaliza su responsabilidad jurídica de cumplirlos.

La ley no persigue una regulación incondicional, sino que adopta un modelo equilibrado que combina políticas de promoción industrial, como el apoyo a la investigación y el desarrollo (R&D), la creación de bases para proyectos de demostración y la elaboración de datos destinados al aprendizaje.

En consecuencia, las empresas pueden aprovechar las medidas públicas de apoyo, pero también asumen responsabilidad jurídica cuando utilizan inteligencia artificial sin garantizar su seguridad y fiabilidad.

Las principales normas que afectan directamente a la actividad empresarial están integradas por la obligación de garantizar la transparencia, la obligación de garantizar la seguridad y los deberes de los operadores de inteligencia artificial de alto impacto establecidos en la «Ley Marco de Inteligencia Artificial».

Dado que estas obligaciones se concretarán progresivamente mediante normas de desarrollo y directrices, es importante prepararse con antelación conforme a la estructura de sus disposiciones.

Obligación de garantizar la transparencia de la inteligencia artificial (artículo 31)

Obligación de garantizar la seguridad de la inteligencia artificial (artículo 32)

Deberes de los operadores de inteligencia artificial de alto impacto (artículo 34)

La Ley Marco de Inteligencia Artificial define la inteligencia artificial de alto impacto de la siguiente manera.

¿Qué es la inteligencia artificial de alto impacto? (artículo 2 de la «Ley Marco de Inteligencia Artificial»)

Por tanto, también debe examinarse si las funciones de IA de la empresa ejercen una «influencia sustancial» sobre el flujo esencial de toma de decisiones en dichos ámbitos.

Se requiere especial atención cuando se realizan evaluaciones, clasificaciones o decisiones automatizadas en sectores principales como la contratación y la gestión de personal, los servicios financieros, la sanidad o la energía.

El alcance de las obligaciones aplicables puede variar en función de si la inteligencia artificial adopta una decisión definitiva sin intervención humana o de si existe una estructura que permita a una persona revisarla, modificarla o suspenderla.

Por ello, las empresas deben establecer desde la fase de diseño del sistema de inteligencia artificial procesos de trabajo basados en la posibilidad de mantener el control humano.

Las empresas que operan inteligencia artificial de alto impacto deben establecer un sistema de gestión de riesgos para todo el ciclo de vida de la inteligencia artificial e informar claramente a los usuarios de su utilización y de los fundamentos de sus decisiones.

También deben adoptar medidas concretas de protección, como la prevención de sesgos algorítmicos, el establecimiento de procedimientos de reparación de daños, la supervisión humana y un mecanismo de suspensión de emergencia, y documentar y conservar su contenido en registros relativos a la seguridad y la fiabilidad.

Se considera que la Ley Marco de Inteligencia Artificial concede mayor importancia a mecanismos de control administrativo, como las órdenes de cese de infracciones y las medidas correctivas posteriores a una investigación, que a las sanciones penales.

En particular, la falta de información sobre el uso de inteligencia artificial de alto impacto o generativa, o el incumplimiento de las obligaciones de gestión exigidas por la ley, puede dar lugar a órdenes de rectificación, investigaciones de los hechos y sanciones administrativas.

Principales tipos de incumplimiento y cuantía de las sanciones administrativas pecuniarias

Además de responder al propio acto administrativo, las empresas deben organizar debidamente los hechos, presentar la documentación requerida y cumplir las órdenes de mejora de sus procesos internos. Esto significa que los costes de respuesta a una investigación o medida correctiva pueden convertirse en un riesgo para la gestión empresarial.

Cuando una decisión sesgada o un error de la inteligencia artificial vulnera los derechos fundamentales de los usuarios o las obligaciones de protección de datos personales, la empresa puede afrontar una reclamación de indemnización por daños y perjuicios.

Asimismo, el cumplimiento de la Ley Marco de Inteligencia Artificial puede constituir un criterio importante para determinar la negligencia de la empresa y, si surge una controversia ética, puede causar un perjuicio prolongado a su reputación y al valor de su marca.

En particular, un solo incidente relacionado con la inteligencia artificial puede desencadenar rápidamente riesgos externos en los que confluyan cuestiones éticas, discriminatorias y de seguridad.

Por ello, resulta necesario integrar en la experiencia de los productos y servicios y en las políticas operativas mecanismos de confianza como la información a los usuarios, la explicabilidad, la reparación de daños y la supervisión humana.

Las empresas que desconozcan si sus propios sistemas o las soluciones externas incorporan inteligencia artificial deben crear un inventario interno de IA para determinar prioritariamente cómo utilizan esta tecnología.

En esta etapa, lo esencial es identificar cómo influye la inteligencia artificial en la estructura de toma de decisiones de la empresa o en los derechos y oportunidades de sus clientes.

Las empresas que tengan previsto ampliar la implantación de la inteligencia artificial o lanzar nuevos servicios deben diseñar un sistema de cumplimiento normativo para toda la organización mediante la cooperación de los departamentos jurídico, informático, de recursos humanos y de seguridad.

Es importante examinar previamente si se trata de inteligencia artificial de alto impacto e incorporar a la normativa interna la gestión de los resultados de la inteligencia artificial generativa, los criterios de utilización de datos y los procedimientos de intervención humana.

Cuando ya se hayan presentado reclamaciones o producido incidentes relacionados con la inteligencia artificial, o exista la posibilidad de una investigación por la autoridad supervisora, será necesario adoptar una respuesta estratégica orientada a reducir la intensidad de las sanciones, examinando la posible aplicación de una moratoria regulatoria y si se han documentado las medidas destinadas a garantizar la seguridad.

A largo plazo, la respuesta no debe limitarse a medidas puntuales. Es necesario establecer una gobernanza sostenible de la inteligencia artificial mediante formación ética periódica, supervisión del deterioro del rendimiento de los modelos y un sistema de adaptación a las modificaciones de las leyes y directrices.

Daeryun Sociedad de Abogados examina si los sistemas de inteligencia artificial de una empresa se consideran inteligencia artificial de alto impacto y presta asesoramiento desde la fase de diseño de su estructura para gestionar los riesgos jurídicos.

Como preparación ante posibles investigaciones de hechos, órdenes de rectificación y sanciones administrativas de las autoridades supervisoras, se organiza sistemáticamente la información sobre el cumplimiento de las obligaciones de la empresa y se establecen estrategias de respuesta a las investigaciones y argumentos de defensa jurídica.

Más allá de una respuesta regulatoria a corto plazo, se favorece el crecimiento estable de las empresas mediante la integración de criterios éticos sobre inteligencia artificial, la mejora de los sistemas de gestión de riesgos y la supervisión continua de los cambios legislativos y de las directrices.

Daeryun Sociedad de Abogados ha creado el Grupo de Inteligencia de IA y Datos y aborda de forma integral los riesgos jurídicos relacionados con la inteligencia artificial mediante una estructura de 4 departamentos: ▲Departamento de Cumplimiento Normativo en IA ▲Departamento de Estrategia de IA Vertical ▲Departamento de Ciberseguridad & Respuesta a Crisis ▲Departamento de Análisis Forense Digital & e-Discovery.

Estos departamentos prestan asistencia coordinada que abarca el examen del cumplimiento normativo durante la implantación y operación de la inteligencia artificial, el diseño de estrategias de IA adaptadas a las características de cada sector, la respuesta a incidentes de ciberseguridad, el análisis de pruebas electrónicas y la revisión de grandes volúmenes de datos.

De este modo, se presta apoyo para que las empresas puedan responder de forma práctica a controversias complejas y entornos regulatorios relacionados con la inteligencia artificial en los que confluyen la tecnología, los datos y el Derecho.

La respuesta a la Ley Marco de Inteligencia Artificial puede constituir una oportunidad para las empresas preparadas, mientras que para las que no lo estén puede representar un riesgo significativo.

Conviene establecer un diagnóstico previo y una estrategia de respuesta por etapas adaptados a la estructura de utilización de la inteligencia artificial de su empresa.