Ética de la IA

Debido a su elevado grado de autonomía y capacidad de aprendizaje, la inteligencia artificial puede generar resultados que excedan el ámbito de previsión y control humano, por lo que resulta imprescindible considerar sus implicaciones éticas y jurídicas en materia de responsabilidad por los resultados y posibilidad de control.

En particular, cuando la inteligencia artificial realiza funciones decisorias, como evaluar, recomendar, clasificar o seleccionar, puede afectar a los derechos y oportunidades de las partes interesadas.

Por ello, es esencial establecer desde la fase de diseño una estructura de control humano, sujetos responsables y salvaguardias.

La ética de la IA no es un mero debate sobre posibilidades: su importancia ha quedado confirmada reiteradamente mediante casos que ya se han producido.

Los accidentes en ámbitos de seguridad como la conducción autónoma, las pérdidas causadas por decisiones automatizadas en los sectores financiero y de inversión y los resultados discriminatorios derivados de sesgos en los datos muestran que descuidar los principios éticos puede dar lugar a disputas sobre responsabilidades y a la pérdida de confianza.

Las cuestiones relacionadas con la ética de la IA tienden a intensificar y ampliar problemas ya presentes en la ética de internet, como las filtraciones de datos personales, las vulneraciones de la privacidad y la brecha de acceso a la información.

Por ello, limitarse a actuar después de que se produzcan los hechos puede incrementar inevitablemente la magnitud de los daños, por lo que se requiere una gobernanza ética centrada en la revisión previa y la prevención.

El debate sobre la ética de la IA está estrechamente relacionado con la «normalización de la ética», incluida la elaboración de directrices éticas. Durante el proceso de formación de normas internacionales, el nivel de gobernanza ética implantado por una empresa puede influir en la confianza del mercado y en su competitividad contractual.

El valor supremo de la ética de la IA es la humanidad (Humanity), y para materializarlo se proponen como principios básicos el respeto a la dignidad humana, el bien común de la sociedad y la adecuación de la tecnología a sus fines.

En la práctica empresarial, estos principios deben concretarse en la prevención de incidentes de seguridad y vulneraciones de derechos humanos, la garantía de accesibilidad para personas socialmente desfavorecidas y grupos vulnerables, la legitimidad de la finalidad y el control del ámbito de uso.

También es importante partir de la posibilidad de que existan conflictos entre los principios, adoptar soluciones equilibradas adecuadas al contexto del servicio y documentarlas.

Los 10 requisitos esenciales son la garantía de los derechos humanos, la protección de la privacidad, el respeto a la diversidad, la prohibición de causar daños, el interés público, la solidaridad, la gestión de datos, la rendición de cuentas, la seguridad y la transparencia.

Las empresas deben convertirlos en criterios operativos desde la perspectiva de «mediante qué controles se aplican».

Por ejemplo, el respeto a la diversidad debe vincularse con la revisión de la representatividad de los datos, las pruebas de sesgo, el diseño accesible y las políticas para reducir la discriminación.

Por su parte, la transparencia debe hacerse efectiva mediante la información a los usuarios, la definición del nivel de explicabilidad, la comunicación previa de riesgos y precauciones y la gestión de canales de consulta e impugnación.

Asimismo, la rendición de cuentas debe materializarse mediante la definición de funciones y facultades, la distribución de responsabilidades cuando se utilicen soluciones externas y protocolos de respuesta y sistemas de notificación en caso de incidentes.

Cuando la falta de representatividad de los datos de entrenamiento o las premisas de diseño causan resultados desfavorables para determinados grupos, la cuestión puede derivar en un problema de discriminación.

En particular, en ámbitos sensibles como la contratación, la evaluación, los préstamos, los seguros y la atención sanitaria, es muy probable que se exija justificar y explicar los resultados, por lo que resulta necesario realizar verificaciones previas y establecer criterios para afrontar posibles controversias.

La recogida, combinación o utilización de datos personales durante el desarrollo y funcionamiento de la IA, así como su uso para fines distintos de los previstos, puede conllevar riesgos de incumplimiento normativo y de indemnización por daños y perjuicios.

Por tanto, los controles de gestión de datos, como la minimización, el control de los permisos de acceso, la anonimización y los criterios de conservación y supresión, deben diseñarse junto con los requisitos éticos.

El funcionamiento defectuoso, las alucinaciones, los errores, las vulnerabilidades de seguridad y la confianza excesiva en decisiones automatizadas pueden provocar incidentes.

Además, cuando se produce un incidente, no poder explicar «por qué se obtuvo ese resultado y qué controles se aplicaron» puede influir en la valoración de la negligencia de la empresa y de su fiabilidad.

Por ello, se requieren sistemas de supervisión del rendimiento, evaluación de riesgos, supervisión humana, parada de emergencia, registro y documentación.

Las empresas deben comenzar por identificar dónde se utiliza la IA en sus servicios y operaciones internas. A partir de los flujos de datos y los puntos de decisión automatizada, deben detectar cuestiones relacionadas con el sesgo, la privacidad, la seguridad y la transparencia, y establecer prioridades.

En particular, resulta eficiente diferenciar entre los servicios de contacto con clientes y los sistemas internos de decisión para aplicar distintos niveles de riesgo e intensidad de control.

Ámbitos de asistencia de Daeryun

Para convertir los principios éticos y los requisitos esenciales en normas y procesos internos, deben revisarse las directrices éticas, los criterios de gestión de datos y de funcionamiento de modelos, las políticas de información y explicación, los procedimientos de impugnación y reparación de daños y los manuales de respuesta a incidentes.

Asimismo, cuando se utilicen soluciones externas o API, la distribución de responsabilidades y el alcance de las verificaciones deben definirse claramente en los contratos y procedimientos operativos.

Ámbitos de asistencia de Daeryun

Durante la fase operativa, la eficacia debe mantenerse mediante la supervisión de sesgos y del deterioro del rendimiento, las revisiones de seguridad, los controles de ciberseguridad, la conservación de registros y decisiones y la impartición periódica de formación.

En particular, cada vez que se implante un nuevo servicio o cambie el entorno normativo, deben repetirse la evaluación de impacto y las medidas de mejora para desarrollar una gobernanza ética sostenible.

Ámbitos de asistencia de Daeryun

Daeryun Sociedad de Abogados cuenta con un Grupo de IA e Inteligencia de Datos y presta asistencia para que la ética de la IA se aplique como un «cumplimiento normativo susceptible de acreditación», y no como una mera «declaración».

Mediante la coordinación de la revisión del cumplimiento normativo en materia de IA, la elaboración de estrategias adaptadas a cada sector, la respuesta a incidentes de ciberseguridad y el análisis forense digital, ofrece un sistema de asistencia integrado desde el diagnóstico de los riesgos éticos hasta la respuesta a incidentes.

En concreto, presta asesoramiento práctico para diagnosticar, conforme a la estructura del servicio y el flujo de datos, posibles cuestiones de sesgo, privacidad, seguridad y transparencia durante todo el proceso de utilización de la IA, y convertirlas en normas internas y controles operativos.

Asimismo, en coordinación con sus capacidades en materia de ciberseguridad, gestión de crisis y análisis forense digital, presta asistencia para determinar los hechos, establecer sistemas probatorios y documentar la respuesta cuando se produce un incidente, con el fin de que las empresas puedan convertir los riesgos éticos en un ámbito de gestión susceptible de control.

Cuando se requiera una revisión relacionada o asesoramiento práctico, puede solicitarse la asistencia de abogados especializados en empresas.