[Вклад] Проблемы правовых и этических аспектов медицинских устройств на основе искусственного интеллекта и Интернета вещей.
Автор и «Фармацевтическая газета» запланировали серию, посвященную медицинским приборам. В этой статье мы рассмотрим этические и нормативные проблемы, связанные с медицинскими устройствами на основе искусственного интеллекта и Интернета вещей. 1. Новая парадигма медицинских устройств В то время как увлечение искусственным интеллектом, представленное ChatGPT, распространяется по всему обществу, технологии искусственного интеллекта (ИИ) и Интернета вещей (IoT) быстро внедряются в медицинскую сферу. Уже давно не является чем-то необычным видеть программное обеспечение искусственного интеллекта, которое обучается на основе данных изображений, на ранней стадии выявляет серьезные заболевания, такие как рак и сердечно-сосудистые заболевания, а также контролирует ЭКГ пациентов, уровень сахара в крови и режим сна 24 часа в сутки с помощью носимых устройств IoT. Однако эти инновационные изменения сопровождаются юридическими и этическими проблемами. «Кто будет нести ответственность, если диагноз, поставленный ИИ, окажется неверным?», «Насколько безопасно собирать данные пациентов с помощью устройств Интернета вещей?» Подобные вопросы теперь стали неизбежной реальностью. 2. Характеристики медицинских устройств AI/IoT. Продукты, которые сложно регулировать в рамках существующей системы регулирования. Способность к обучению алгоритмов искусственного интеллекта. Структура и производительность существующих медицинских устройств фиксируются после их утверждения. Однако устройства AI/IoT имеют принципиально разные характеристики. Другими словами, производительность алгоритмов ИИ обновляется по мере увеличения обучающих данных, а иногда может меняться и сам метод прогнозирования. Частые обновления. Благодаря вышеизложенному обучению происходят исправления программного обеспечения, замена наборов данных и облачные обновления, и медицинские устройства с искусственным интеллектом часто изменяются соответствующим образом. После утверждения требования к одобрению существующих медицинских устройств практически не меняются, и существующий Закон о медицинских устройствах принимается с учетом этих характеристик. Однако медицинские устройства с искусственным интеллектом может быть сложно регулировать в рамках существующих систем утверждения из-за частых обновлений. Двойственность подключения к Интернету вещей: удаленный мониторинг и интеграция с облаком возможны благодаря непрерывному сетевому подключению, что обеспечивает значительное удобство, но в результате риски безопасности также возрастают. Существование областей, которые трудно регулировать в рамках существующей системы законодательства о медицинском законодательстве и медицинских устройствах: в отношении существующих медицинских устройств окончательный диагноз ставит врач, поэтому на нем лежит окончательная ответственность. Однако в случае программного обеспечения искусственного интеллекта, которое принимает собственные решения на основе данных обучения, медицинские устройства могут даже выполнять диагностику, поэтому неясно, кто несет конечную юридическую ответственность. Эти характеристики являются факторами, которые затрудняют регулирование медицинских устройств AI/IoT, что влечет за собой различные юридические и этические проблемы. 3. Этические проблемы – вопросы прав и ответственности пациентов. Отсутствие прозрачности в процессе принятия решений Процесс принятия решений AI близок к «черному ящику». Фактически, хотя исследования все еще продолжаются, говорят, что людям трудно объяснить мыслительный процесс ChatGPT. Это означает, что нам сложно полностью понять образ мышления ИИ. Пациенты и медицинский персонал получают диагнозы от ИИ, но есть проблема в том, что трудно понять, как были получены результаты. Это может привести к нарушению права пациента на самоопределение или к неясности места юридической ответственности. мне. Неясная ответственность: следующие организации участвуют в диагностической деятельности с использованием медицинских устройств искусственного интеллекта, но распределение ответственности между ними до сих пор неясно: • Медицинский персонал: врач, принявший окончательный диагноз и решение о лечении • Производитель: компания по производству медицинского оборудования, разработавшая алгоритм • Больница: учреждение, внедрившее устройство и использовавшее его на пациентах. Личная информация и риски безопасности Риск взлома неизбежно следует за процессом передачи данных в реальном времени через устройства IoT. Если произойдет утечка конфиденциальной медицинской информации, такой как электрокардиограмма пациента или данные об уровне сахара в крови, личные права пациента могут быть серьезно нарушены. Кроме того, информация о здоровье пациентов используется для обучения диагностического программного обеспечения ИИ, но, что касается участников, все еще существует много случаев «обучения ИИ» без надлежащего согласия на использование личной информации. Хотя это еще не стало проблемой, в связи с этим также может возникнуть проблема ущемления личной информации. 4. Проблемы регулирования В случае с Кореей программное обеспечение медицинского оборудования (SaMD) регулируется Законом о медицинских устройствах и недавно принятым Законом о цифровой медицинской продукции, а система нормативной «песочницы» используется для временного разрешения и проверки новых технологий. Однако конкретные положения о «непрерывном обучении» алгоритмов ИИ, ответственности и упомянутых выше вопросах защиты личной информации отсутствуют. США (FDA) публикует на своем веб-сайте рекомендации, касающиеся программного обеспечения AI/ML. Основной особенностью регулирования Европейского Союза (ЕС) является двойной подход к регулированию. Европейское агентство лекарственных средств (EMA) управляет медицинскими устройствами на основе искусственного интеллекта в соответствии с Положением о медицинских устройствах (MDR) и Законом об искусственном интеллекте (AIA). MDR определяет требования к проектированию, разработке, клинической оценке и постмаркетинговому надзору за медицинскими устройствами, включая медицинские устройства на основе искусственного интеллекта, а AIA определяет требования к классификации на основе рисков, прозрачности и надзору со стороны человека. Компании, занимающиеся медицинским ИИ, должны соблюдать строгие стандарты при выходе на рынки США и Европы. Выход на рынок возможен, поэтому необходима подготовка. Кроме того, внутренние правила все еще разрабатываются, поэтому представляется необходимым заранее подготовиться к ужесточению правил. 5. Заключение Медицинские устройства на базе искусственного интеллекта и Интернета вещей уже произвели революцию в жизни пациентов, и эта тенденция, несомненно, будет ускоряться и дальше. Однако проблема в том, что по-прежнему существует большой разрыв между скоростью технологического развития и скоростью развития правовых и этических систем. В частности, никто не может внятно объяснить, как быть с этическими и юридическими вопросами, рассмотренными выше. Инновации в области медицинских устройств являются устойчивыми только тогда, когда безопасность и права пациентов гарантированы, поэтому срочно необходимы этические и нормативные дискуссии для обеспечения этого. Поэтому автор считает, что необходим форум для обсуждения, в котором совместно участвуют регулирующие органы, промышленность, медицинский персонал и юридическое сообщество. Между тем, очевидно, что государственное регулирование, касающееся медицинских устройств на базе AI/IoT, будет ужесточаться как общая тенденция. Некоторые правила могут потребовать значительных технологических сложностей, и считается, что смежным отраслям необходимо заранее к этому подготовиться. Соавтор: Адвокат Ильхён Ли (ilhyunglee@naver.com)Адвокат/фармацевт/патентный поверенный/сдал экзамен на американского бухгалтера (штат Мэн) (бывший) Адвокат в команде внутренних юристов Celltrion (нынешний) Медицинско-фармацевтическая группа Дэрюн/Директор фармацевтического био-медицинского центра[Просмотреть полную статью]
[Вклад] Проблемы правовых и этических аспектов медицинских устройств на основе искусственного интеллекта и Интернета вещей.