[Contribution] Défis liés aux aspects juridiques et éthiques des dispositifs médicaux basés sur l'IA et l'IoT
Le contributeur et Pharmaceutical Newspaper ont prévu une série liée aux dispositifs médicaux. Dans cette contribution, nous examinerons les défis éthiques et réglementaires des dispositifs médicaux basés sur l’IA et l’IoT. 1. Un nouveau paradigme pour les dispositifs médicaux Alors que l'engouement pour l'IA, représenté par ChatGPT, se répand dans toute la société, les technologies d'intelligence artificielle (IA) et d'Internet des objets (IoT) s'introduisent rapidement dans le domaine médical. Il n'est plus rare de voir un logiciel d'IA qui apprend les données d'image, détecter précocement des maladies majeures telles que le cancer et les maladies cardiovasculaires, et surveiller l'ECG, la glycémie et les habitudes de sommeil des patients 24 heures sur 24 grâce à des appareils portables IoT. Cependant, ces changements innovants s’accompagnent de défis juridiques et éthiques. « Si le diagnostic posé par l’IA est erroné, qui est responsable ? ", " Dans quelle mesure les données des patients sont-elles collectées via les appareils IoT ? Des questions telles que « sont désormais devenues une réalité incontournable. 2. Caractéristiques des dispositifs médicaux IA/IoT - produits difficiles à réglementer dans le cadre du système réglementaire existant. Capacité d'apprentissage des algorithmes d'IA : la structure et les performances des dispositifs médicaux existants sont fixées une fois qu'ils sont approuvés. Cependant, les dispositifs IA/IoT ont des caractéristiques fondamentalement différentes. remplacement, mises à jour cloud, etc. Les dispositifs médicaux IA évoluent constamment en conséquence, et les dispositifs médicaux existants modifient rarement leurs exigences d'approbation après approbation, et les lois existantes sur les dispositifs médicaux sont promulguées pour s'adapter à ces caractéristiques. Cependant, les dispositifs médicaux IA peuvent être difficiles à réglementer dans le cadre des systèmes d’approbation existants en raison des mises à jour fréquentes. La dualité de la connectivité IoT : la surveillance à distance et l'intégration dans le cloud sont possibles grâce à une connectivité réseau continue, et la commodité qui en résulte est considérable, mais les risques de sécurité augmentent également en réaction. Existence de domaines difficiles à réglementer dans le cadre du système actuel de droit médical et de droit des dispositifs médicaux : pour les dispositifs médicaux existants, le médecin fait l'objet du diagnostic final, c'est donc au médecin qu'incombe la responsabilité finale. Cependant, dans le cas des logiciels d’IA qui prennent leurs propres décisions sur la base des données d’apprentissage, les dispositifs médicaux peuvent même effectuer des diagnostics, ce qui rend difficile de savoir qui porte la responsabilité juridique ultime. Ces caractéristiques sont des facteurs qui rendent difficile la réglementation des dispositifs médicaux IA/IoT, entraînant divers problèmes juridiques et éthiques. 3. Défis éthiques – questions de droits et de responsabilités des patients. Manque de transparence dans le processus décisionnel Le processus décisionnel d’AI s’apparente à une « boîte noire ». En fait, même si les recherches sont toujours en cours, on dit qu'il est difficile pour les humains d'expliquer le processus de pensée de ChatGPT. Cela signifie qu’il nous est difficile de comprendre pleinement comment pense l’IA. Les patients et le personnel médical reçoivent des diagnostics grâce à l’IA, mais il est difficile de savoir comment les résultats ont été obtenus. Cela peut entraîner une violation du droit du patient à l'autodétermination ou une incertitude quant au lieu de la responsabilité juridique. moi. Responsabilité peu claire : les entités suivantes sont impliquées dans des activités de diagnostic utilisant des dispositifs médicaux IA, mais la répartition des responsabilités entre elles n'est toujours pas claire. • Personnel médical : Le médecin qui a posé le diagnostic final et la décision thérapeutique. • Fabricant : l'entreprise de dispositifs médicaux qui a conçu l'algorithme. • Hôpital : L'institution qui a introduit le dispositif et l'a utilisé sur les patients. Informations personnelles et risques de sécurité Le risque de piratage suit inévitablement le processus de transmission de données en temps réel via les appareils IoT. Si des informations sensibles sur la santé, telles que l'électrocardiogramme ou les relevés de glycémie d'un patient, sont divulguées, les droits moraux du patient peuvent être gravement violés. De plus, les informations sur la santé des patients sont utilisées pour apprendre le logiciel de diagnostic de l'IA, mais le contributeur comprend qu'il existe encore de nombreux cas « d'apprentissage de l'IA » sans le consentement approprié pour l'utilisation des informations personnelles. Même si cela n’est pas encore devenu un problème, la question de la violation des renseignements personnels peut également se poser à cet égard. 4. Défis réglementaires En Corée, les dispositifs médicaux logiciels (SaMD) sont réglementés par la loi sur les dispositifs médicaux et la loi sur les produits médicaux numériques récemment promulguée, et le système de bac à sable réglementaire est utilisé pour autoriser et vérifier temporairement les nouvelles technologies. Cependant, il manque des réglementations spécifiques sur « l’apprentissage continu » des algorithmes d’IA, la responsabilité et la protection des informations personnelles mentionnées ci-dessus. Les États-Unis (FDA) publient sur leur site Web les directives relatives à l’IA/ML SaMD. La principale caractéristique de la réglementation de l’Union européenne (UE) est la double approche réglementaire. L'Agence européenne des stupéfiants (EMA) gère les dispositifs médicaux basés sur l'IA dans le cadre du règlement sur les dispositifs médicaux (MDR) et de la loi sur l'intelligence artificielle (AIA). Le MDR spécifie les exigences en matière de conception, de développement, d'évaluation clinique et de surveillance après commercialisation des dispositifs médicaux, y compris les dispositifs médicaux basés sur l'IA, tandis que l'AIA spécifie les exigences en matière de classification basée sur les risques, de transparence et de surveillance humaine. Les entreprises d’IA médicale doivent respecter des normes strictes lorsqu’elles entrent sur les marchés américain et européen pour entrer sur le marché, elles doivent donc s’y préparer. De plus, les réglementations nationales sont encore en cours d’élaboration, il semble donc nécessaire de se préparer à l’avance à des réglementations qui deviendront plus strictes. 5. Conclusion Les dispositifs médicaux basés sur l'IA/IoT révolutionnent déjà la vie des patients, et cette tendance va certainement s'accélérer encore. Cependant, le problème est qu’il existe encore un écart important entre la vitesse du développement technologique et la vitesse de développement des systèmes juridiques et éthiques. En particulier, personne n’est en mesure d’expliquer clairement comment traiter les questions éthiques et juridiques évoquées ci-dessus. L’innovation en matière de dispositifs médicaux n’est durable que lorsque la sécurité et les droits des patients sont garantis. Des discussions éthiques et réglementaires sont donc nécessaires de toute urgence pour garantir cela. Par conséquent, le contributeur estime qu'un forum de discussion auquel participent ensemble les organismes de réglementation, l'industrie, les professionnels de la santé et la communauté juridique est nécessaire. Dans le même temps, il est clair que les réglementations gouvernementales liées aux dispositifs médicaux basés sur l’IA/IoT seront renforcées dans le cadre d’une tendance générale. Certaines réglementations peuvent nécessiter des difficultés technologiques considérables, et on estime que les industries concernées doivent s'y préparer de manière proactive. Contributeur : Avocat Ilhyung Lee (ilhyunglee@naver.com) Avocat/Pharmacien/Avocat en brevets/A réussi l'examen d'American Public Accountant (Maine) (Ancien) Avocat de l'équipe juridique nationale de Celltrion (Actuel) Chef du groupe pharmaceutique médical Cabinet d'avocats Daeryun (SELAS)/Centre de bio-santé pharmaceutique[Voir l'article complet]
[Contribution] Défis liés aux aspects juridiques et éthiques des dispositifs médicaux basés sur l'IA et l'IoT