Éthique de l’IA

En raison de son degré élevé d’autonomie et de sa capacité d’apprentissage, l’intelligence artificielle peut produire des résultats dépassant les prévisions et le contrôle humains. Il est donc indispensable de prendre en considération les aspects éthiques et juridiques relatifs à la responsabilité des résultats et à la possibilité de les contrôler.

En particulier, lorsque l’intelligence artificielle exerce des fonctions de jugement telles que l’évaluation, la recommandation, la classification ou la sélection, elle peut avoir une incidence sur les droits et les possibilités des parties prenantes.

Il est dès lors essentiel de prévoir, dès la phase de conception, une structure assurant le contrôle humain, la désignation des responsables et la mise en place de dispositifs de sécurité.

L’importance de l’éthique de l’IA ne relève plus d’un simple débat sur des risques éventuels : elle a été confirmée à plusieurs reprises par des événements déjà survenus.

Les accidents dans des domaines liés à la sécurité, comme la conduite autonome, les pertes dues à des décisions automatisées en matière de finance et d’investissement ainsi que les résultats discriminatoires découlant de biais dans les données montrent que la négligence des principes éthiques par une entreprise peut entraîner des controverses sur la responsabilité et une perte de confiance.

Les enjeux liés à l’éthique de l’IA tendent fortement à approfondir et à élargir les problématiques déjà rencontrées dans le domaine de l’éthique d’Internet, telles que les fuites de données personnelles, les atteintes à la vie privée et les inégalités d’accès à l’information.

Dans ce contexte, une intervention limitée à des mesures prises après les faits, comme par le passé, ne peut qu’accroître l’ampleur des préjudices. Une gouvernance éthique fondée sur des contrôles préalables et la prévention est donc nécessaire.

Les débats sur l’éthique de l’IA sont étroitement liés à la normalisation de l’éthique, notamment par l’élaboration de lignes directrices. Dans le cadre de la formation de normes internationales, le niveau de gouvernance éthique d’une entreprise peut influer sur la confiance du marché et sa compétitivité contractuelle.

La valeur suprême de l’éthique de l’IA est l’humanité. Trois principes fondamentaux sont proposés pour la mettre en œuvre : le respect de la dignité humaine, la promotion du bien commun et l’adéquation de la technologie à sa finalité.

Dans la pratique des entreprises, ces principes doivent se concrétiser par la prévention des incidents de sécurité et des atteintes aux droits humains, la garantie de l’accessibilité pour les personnes socialement défavorisées ou vulnérables, ainsi que le contrôle de la légitimité des finalités et du périmètre d’utilisation.

Il importe également de prévoir que ces principes peuvent entrer en conflit et de documenter les compromis adaptés au contexte du service concerné.

Les dix exigences essentielles sont la garantie des droits humains, la protection de la vie privée, le respect de la diversité, l’interdiction des atteintes, l’intérêt général, la solidarité, la gestion des données, la responsabilité, la sécurité et la transparence.

Les entreprises doivent les convertir en normes opérationnelles en déterminant « au moyen de quels contrôles les mettre en œuvre ».

Par exemple, le respect de la diversité doit se traduire par un contrôle de la représentativité des données, des tests de biais, une conception accessible et des politiques visant à réduire les discriminations.

La transparence doit, quant à elle, être rendue effective par l’information des utilisateurs, la définition du niveau d’explicabilité, la communication préalable des risques et des précautions ainsi que la mise en place de canaux de demande et de contestation.

La responsabilité doit également être mise en œuvre par la définition des rôles et des pouvoirs, la répartition des responsabilités en cas de recours à des solutions externes ainsi que l’établissement de protocoles d’intervention et de dispositifs de signalement en cas d’incident.

Lorsque la représentativité insuffisante des données d’apprentissage ou certaines hypothèses de conception produisent des résultats défavorables à un groupe particulier, la situation peut évoluer en problématique de discrimination.

Dans des domaines sensibles tels que le recrutement, l’évaluation, le crédit, l’assurance et la santé, la légitimité des résultats et leur explication sont particulièrement susceptibles d’être exigées. Il convient donc de procéder à des vérifications préalables et d’établir des critères afin d’anticiper d’éventuels différends.

Lorsque des données personnelles sont collectées, combinées ou utilisées au cours du développement ou de l’exploitation de l’IA, ou qu’elles sont employées à des fins autres que celles prévues, des risques de violation de la réglementation et de dommages-intérêts peuvent en résulter.

Il convient donc de concevoir, parallèlement aux exigences éthiques, des contrôles de gestion des données portant notamment sur leur minimisation, le contrôle des droits d’accès, l’anonymisation ainsi que les critères de conservation et de suppression.

Les dysfonctionnements, hallucinations, erreurs, vulnérabilités de sécurité et la confiance excessive accordée aux décisions automatisées peuvent entraîner des incidents.

En outre, lorsqu’un incident survient, l’incapacité d’expliquer « pourquoi ce résultat a été produit et quels contrôles étaient en place » peut influer sur l’appréciation de la faute de l’entreprise et sur l’évaluation de sa fiabilité.

Un dispositif de surveillance des performances, d’évaluation des risques, de supervision humaine, d’arrêt d’urgence ainsi que de journalisation et de documentation est donc nécessaire.

Les entreprises doivent commencer par recenser les utilisations de l’IA dans leurs services et leurs activités internes. Elles doivent ensuite identifier les enjeux liés aux biais, à la vie privée, à la sécurité et à la transparence en fonction des flux de données et des points de décision automatisée, puis établir des priorités.

Il est notamment efficace de distinguer les services en contact avec la clientèle des systèmes décisionnels internes afin d’appliquer des niveaux de risque et une intensité de contrôle différenciés.

Domaines d’intervention de Daeryun

Afin de convertir les principes éthiques et les exigences essentielles en règles et processus internes, il convient d’élaborer ou de réviser les lignes directrices éthiques, les normes de gestion des données, les normes d’exploitation des modèles, les politiques d’information et d’explication, les procédures de contestation et de réparation des préjudices ainsi que les manuels d’intervention en cas d’incident.

En cas de recours à des solutions externes ou à des API, la répartition des responsabilités et le périmètre des vérifications doivent également être clairement définis dans les contrats et les procédures opérationnelles.

Domaines d’intervention de Daeryun

Durant la phase d’exploitation, l’efficacité du dispositif doit être maintenue au moyen de la surveillance des biais et de la dégradation des performances, de contrôles de sécurité, de mesures de cybersécurité, de la conservation des journaux et des décisions ainsi que de formations régulières.

Il convient notamment de réaliser à nouveau une analyse d’impact et de prendre des mesures d’amélioration lors de chaque lancement d’un nouveau service ou changement normatif, afin de faire évoluer la gouvernance éthique sous une forme durable.

Domaines d’intervention de Daeryun

Le Cabinet d’avocats Daeryun dispose d’un groupe spécialisé dans l’IA et l’intelligence des données et accompagne la mise en œuvre de l’éthique de l’IA sous la forme d’une conformité pouvant être étayée par des preuves, plutôt que d’une simple déclaration.

En associant de manière coordonnée l’examen de la conformité des systèmes d’IA, l’élaboration de stratégies adaptées à chaque secteur, la réponse aux incidents de cybersécurité et les compétences en analyse forensique numérique, il propose un dispositif d’accompagnement couvrant le diagnostic des risques éthiques comme la réponse aux incidents.

Il fournit notamment des conseils pratiques visant à diagnostiquer, en fonction de la structure des services et des flux de données, les enjeux de biais, de vie privée, de sécurité et de transparence susceptibles de survenir à toutes les étapes de l’utilisation de l’IA, puis à les traduire en règles internes et en contrôles opérationnels.

Il mobilise également ses compétences en cybersécurité, en gestion de crise et en analyse forensique numérique pour accompagner, en cas d’incident, l’établissement des faits, la constitution d’un dispositif de preuve et la documentation des mesures prises, afin d’aider les entreprises à intégrer les risques éthiques dans un domaine de gestion contrôlable.

Lorsqu’un examen connexe ou des conseils pratiques sont nécessaires, vous pouvez solliciter l’assistance d’avocats spécialisés en droit des affaires.