[Contribución] Desafíos en los aspectos legales y éticos de la IA y los dispositivos médicos basados en IoT
El colaborador del Periódico Farmacéutico planeó una serie relacionada con los dispositivos médicos. En esta contribución, examinaremos los desafíos éticos y regulatorios de la IA y los dispositivos médicos basados en IoT. 1. Un nuevo paradigma para los dispositivos médicos Mientras la moda de la IA, representada por ChatGPT, se está extendiendo por toda la sociedad, las tecnologías de inteligencia artificial (IA) y de Internet de las cosas (IoT) se están introduciendo rápidamente en el campo médico. Ya no es extraño ver que el software de inteligencia artificial que aprende de los datos de imágenes detecta enfermedades importantes como el cáncer y las enfermedades cardiovasculares de manera temprana, y monitorea el ECG, el azúcar en la sangre y los patrones de sueño de los pacientes las 24 horas del día a través de dispositivos portátiles de IoT. Sin embargo, estos cambios innovadores van acompañados de desafíos legales y éticos. “¿Quién es responsable si el diagnóstico realizado por la IA es incorrecto?”, “¿Qué tan seguros son los datos de los pacientes recopilados a través de dispositivos IoT?” Preguntas como estas se han convertido ahora en una realidad inevitable. 2. Características de los dispositivos médicos de IA/IoT: productos que son difíciles de regular según el sistema regulatorio existente. Capacidad de aprendizaje de los algoritmos de IA: la estructura y el rendimiento de los dispositivos médicos existentes se fijan una vez que se aprueban. Sin embargo, los dispositivos AI/IoT tienen características fundamentalmente diferentes. En otras palabras, el rendimiento de los algoritmos de IA se actualiza a medida que aumentan los datos de aprendizaje y, a veces, el método de predicción en sí puede cambiar. Actualizaciones frecuentes: a través del aprendizaje anterior, se producen parches de software, reemplazo de conjuntos de datos y actualizaciones en la nube, y los dispositivos médicos de IA cambian con frecuencia en consecuencia. Hay pocos cambios en los requisitos de aprobación para los dispositivos médicos existentes después de la aprobación, y la Ley de Dispositivos Médicos existente se promulga para adaptarse a estas características. Sin embargo, los dispositivos médicos con IA pueden resultar difíciles de regular según los sistemas de aprobación existentes debido a las frecuentes actualizaciones. La dualidad de la conectividad IoT: el monitoreo remoto y la integración en la nube son posibles a través de una conectividad de red continua, y la conveniencia resultante es considerable, pero los riesgos de seguridad también aumentan como reacción. Existencia de áreas que son difíciles de regular bajo el actual sistema de leyes médicas y de dispositivos médicos: Para los dispositivos médicos existentes, el médico es el sujeto del diagnóstico final, por lo que el médico tiene la responsabilidad final. Sin embargo, en el caso del software de inteligencia artificial que toma sus propias decisiones basándose en datos de aprendizaje, los dispositivos médicos pueden incluso realizar diagnósticos, lo que no deja claro quién asume la responsabilidad legal final. Estas características son factores que dificultan la regulación de los dispositivos médicos AI/IoT, y esto trae consigo diversas cuestiones legales y éticas. 3. Desafíos éticos: cuestiones de derechos y responsabilidades de los pacientes. Falta de transparencia en el proceso de toma de decisiones El proceso de toma de decisiones de AI está cerca de una “caja negra”. De hecho, aunque la investigación aún está en curso, se dice que es difícil para los humanos explicar el proceso de pensamiento de ChatGPT. Esto significa que nos resulta difícil comprender completamente la forma de pensar de la IA. Los pacientes y el personal médico reciben diagnósticos de la IA, pero es difícil saber cómo se obtuvieron los resultados. Esto puede tener como resultado que se viole el derecho del paciente a la autodeterminación o que la ubicación de la responsabilidad legal se vuelva confusa. a mí. Responsabilidad poco clara: las siguientes entidades participan en actividades de diagnóstico que utilizan dispositivos médicos de IA, pero la distribución de la responsabilidad entre ellas aún no está clara: • Personal médico: el médico que tomó la decisión final sobre el diagnóstico y el tratamiento • Fabricante: la empresa de dispositivos médicos que diseñó el algoritmo • Hospital: la institución que introdujo el dispositivo y lo utilizó en los pacientes. Información personal y riesgos de seguridad El riesgo de piratería sigue inevitablemente al proceso de transmisión de datos en tiempo real a través de dispositivos IoT. Si se filtra información médica confidencial, como el electrocardiograma de un paciente o los registros de azúcar en sangre, los derechos personales del paciente pueden verse gravemente violados. Además, la información de salud de los pacientes se utiliza para entrenar software de diagnóstico de IA, pero hasta donde el contribuyente sabe, todavía hay muchos casos de "aprendizaje de IA" sin el consentimiento adecuado para el uso de información personal. Aunque todavía no se ha convertido en un problema, la cuestión de la infracción de información personal también puede surgir en este sentido. 4. Desafíos regulatorios En el caso de Corea, los dispositivos médicos de software (SaMD) están regulados a través de la Ley de Dispositivos Médicos y la Ley de Productos Médicos Digitales recientemente promulgada, y el sistema regulatorio sandbox se utiliza para permitir y verificar temporalmente nuevas tecnologías. Sin embargo, faltan regulaciones específicas sobre el "aprendizaje continuo" de los algoritmos de IA, la responsabilidad y las cuestiones de protección de la información personal mencionadas anteriormente. Los Estados Unidos (FDA) están publicando directrices relacionadas con AI/ML SaMD en su sitio web. La característica principal de la regulación de la Unión Europea (UE) es el enfoque regulatorio dual. La Agencia Europea de Medicamentos (EMA) gestiona los dispositivos médicos basados en IA de acuerdo con el Reglamento de Dispositivos Médicos (MDR) y la Ley de Inteligencia Artificial (AIA). El MDR especifica requisitos para el diseño, desarrollo, evaluación clínica y vigilancia poscomercialización de dispositivos médicos, incluidos los dispositivos médicos basados en IA, mientras que la AIA especifica requisitos de clasificación, transparencia y supervisión humana basados en riesgos. Las empresas de IA médica deben cumplir estándares estrictos al ingresar a los mercados estadounidense y europeo. La entrada al mercado es posible, por lo que es necesaria preparación. Además, todavía se están estableciendo regulaciones nacionales, por lo que parece necesario prepararse con anticipación para regulaciones que serán más estrictas. 5. Conclusión Los dispositivos médicos basados en IA/IoT ya están revolucionando la vida de los pacientes, y es seguro que esta tendencia se acelerará aún más. Sin embargo, el problema es que todavía existe una gran brecha entre la velocidad del desarrollo tecnológico y la velocidad del desarrollo de los sistemas legales y éticos. En particular, nadie es capaz de explicar claramente cómo abordar las cuestiones éticas y legales discutidas anteriormente. La innovación en dispositivos médicos es sostenible sólo cuando se garantizan la seguridad y los derechos del paciente, por lo que se necesitan con urgencia debates éticos y regulatorios para garantizar esto. Por lo tanto, el colaborador cree que es necesario un foro de discusión en el que participen juntos las agencias reguladoras, la industria, el personal médico y la comunidad jurídica. Mientras tanto, está claro que las regulaciones gubernamentales relacionadas con los dispositivos médicos basados en IA/IoT se reforzarán como tendencia general. Algunas regulaciones pueden requerir dificultades tecnológicas considerables y se cree que las industrias relacionadas deben prepararse de manera proactiva para ello. Colaborador: Abogado Ilhyung Lee (ilhyunglee@naver.com) Abogado/farmacéutico/abogado de patentes/Aprobó el examen de contador público estadounidense (Maine) (ex) Abogado del equipo legal nacional de Celltrion (actual) Daeryun Medical Pharmaceutical Group/Director del Pharmaceutical Bio Healthcare Center[Ver artículo completo]
[Contribución] Desafíos en los aspectos legales y éticos de la IA y los dispositivos médicos basados en IoT