[Вклад] Проблемы правовых и этических аспектов медицинских устройств на основе искусственного интеллекта и Интернета вещей.

Автор и «Фармацевтическая газета» запланировали серию, посвященную медицинским приборам. В этой статье мы рассмотрим этические и нормативные проблемы, связанные с медицинскими устройствами на основе искусственного интеллекта и Интернета вещей.

1. Новая парадигма медицинских изделий

В то время как увлечение искусственным интеллектом, представленное ChatGPT, распространяется по всему обществу, технологии искусственного интеллекта (ИИ) и Интернета вещей (IoT) также быстро внедряются в медицинских учреждениях. Программное обеспечение искусственного интеллекта, которое изучает данные изображений, уже давно обнаруживает серьезные заболевания, такие как рак и сердечно-сосудистые заболевания, и контролирует ЭКГ пациентов, уровень сахара в крови и режим сна 24 часа в сутки с помощью носимых устройств IoT.

Однако эти инновационные изменения сопровождаются юридическими и этическими проблемами. «Кто будет нести ответственность, если диагноз, поставленный ИИ, окажется неверным?», «Насколько безопасно собирать данные пациентов с помощью устройств Интернета вещей?» Подобные вопросы теперь стали неизбежной реальностью.

2. Характеристики медицинских устройств AI/IoT – продукции, которую сложно регулировать в рамках существующей системы регулирования.

Обучаемость алгоритма ИИ:Как только существующее медицинское устройство получает одобрение, его структура и характеристики фиксируются. Однако устройства AI/IoT имеют принципиально разные характеристики. Другими словами, производительность алгоритмов ИИ обновляется по мере увеличения обучающих данных, а иногда может меняться и сам метод прогнозирования.

Частые обновления:Благодаря вышеуказанному обучению создаются исправления программного обеспечения, замена наборов данных и облачные обновления, а медицинские устройства искусственного интеллекта часто меняются соответствующим образом. После утверждения требования к одобрению существующих медицинских устройств практически не меняются, и существующий Закон о медицинских устройствах принимается с учетом этих характеристик. Однако медицинские устройства с искусственным интеллектом может быть сложно регулировать в рамках существующих систем утверждения из-за частых обновлений.

Две стороны подключения к Интернету вещей: Удаленный мониторинг и связь с облаком возможны благодаря постоянному сетевому подключению, что обеспечивает значительное удобство, но в результате риски безопасности также возрастают.

Существование областей, которые трудно регулировать в рамках существующей системы законодательства о медицинском законодательстве и медицинских устройствах: в отношении существующих медицинских устройств окончательный диагноз ставит врач, поэтому на нем лежит окончательная ответственность. Однако в случае программного обеспечения искусственного интеллекта, которое принимает собственные решения на основе данных обучения, медицинские устройства могут даже выполнять диагностику, что делает неясным, кто несет конечную юридическую ответственность.

Эти характеристики являются факторами, которые затрудняют регулирование медицинских устройств AI/IoT, что приводит к различным юридическим и этическим проблемам.

3. Этические проблемы – вопросы прав и ответственности пациентов.

А. Отсутствие прозрачности в процессе принятия решений

Процесс принятия решений ИИ близок к «черному ящику». Фактически, хотя исследования все еще продолжаются, говорят, что людям трудно объяснить мыслительный процесс ChatGPT. Это означает, что нам сложно полностью понять, как думает ИИ.

Пациенты и медицинский персонал получают диагнозы от ИИ, но трудно понять, как были получены результаты. Это может привести к нарушению права пациента на самоопределение или к неясности места юридической ответственности.

Б. Неясная ответственность

Диагностической деятельностью с использованием медицинских устройств искусственного интеллекта занимаются следующие субъекты, однако распределение ответственности между ними пока неясно.

• Медицинский персонал: врач, который поставил окончательный диагноз и принял решение о лечении.
• Производитель: компания по производству медицинского оборудования, разработавшая алгоритм.
• Больница: учреждение, которое представило устройство и использовало его для лечения пациентов.

в. Риски конфиденциальности и безопасности

Real-time data transmission through IoT devicesРиск взлома неизбежно следует за этим процессом. Если конфиденциальная медицинская информация, такая как электрокардиограмма пациента или данные об уровне сахара в крови, будет раскрыта, моральные права пациента могут быть серьезно нарушены.

Кроме того, информация о здоровье пациентов используется для изучения диагностического программного обеспечения ИИ, но автор понимает, что по-прежнему существует множество случаев «обучения ИИ» без надлежащего согласия на использование личной информации. Хотя это еще не стало проблемой, в связи с этим также может возникнуть проблема ущемления личной информации.

4. Проблемы регулирования
В случае с Кореей программное обеспечение медицинского оборудования (SaMD) регулируется Законом о медицинских устройствах и недавно принятым Законом о цифровых медицинских продуктах, а нормативная «песочница» используется для одновременного разрешения и временной проверки новых технологий. Однако конкретные положения о «непрерывном обучении» алгоритмов ИИ, ответственности и упомянутых выше вопросах защиты личной информации отсутствуют.

США (FDA) публикует руководящие принципы, связанные с AI/ML SaMD, на своем веб-сайте. Основной особенностью регулирования Европейского Союза (ЕС) является двойной подход к регулированию. Европейское агентство лекарственных средств (EMA) управляет медицинскими устройствами на основе искусственного интеллекта в соответствии с Регламентом о медицинских устройствах (MDR) и Законом об искусственном интеллекте (AIA).

MDR определяет требования к проектированию, разработке, клинической оценке и постмаркетинговому надзору за медицинскими устройствами, включая медицинские устройства на основе искусственного интеллекта, а AIA определяет требования к классификации на основе рисков, прозрачности и человеческому надзору.

Чтобы выйти на рынок, компании, занимающиеся медицинским ИИ, должны соответствовать строгим стандартам при выходе на рынки США и Европы, поэтому им необходимо к этому подготовиться. Кроме того, внутренние правила все еще разрабатываются, поэтому представляется необходимым заранее подготовиться к ужесточению правил.

5. Заключение

Медицинские устройства на базе искусственного интеллекта и Интернета вещей уже произвели революцию в жизни пациентов, и эта тенденция, несомненно, будет ускоряться и дальше. Однако проблема в том, что по-прежнему существует большой разрыв между скоростью технологического развития и скоростью развития правовых и этических систем.

В частности, никто не может внятно объяснить, как быть с этическими и юридическими вопросами, рассмотренными выше.

Инновации в области медицинских устройств являются устойчивыми только тогда, когда безопасность и права пациентов гарантированы, поэтому срочно необходимы этические и нормативные дискуссии для обеспечения этого. Таким образом, автор считает, что необходим форум для обсуждения, в котором совместно участвуют регулирующие органы, промышленность, медицинские работники и юридическое сообщество.

Между тем, очевидно, что государственное регулирование, касающееся медицинских устройств на базе AI/IoT, будет ужесточаться как общая тенденция. Некоторые правила могут потребовать значительных технологических сложностей, и считается, что смежным отраслям необходимо заранее к этому подготовиться.

Соавтор: адвокат Ильхён Ли (ilhyunglee@naver.com)
Сдал экзамен на юриста/фармацевта/патентного поверенного/американского бухгалтера (штат Мэн).
(Бывший) Юрист внутренней юридической группы Celltrion
(В настоящее время) Руководитель медицинской фармацевтической группы Дэрюн/Фармацевтического биомедицинского центра, юридическая фирма (с ограниченной ответственностью)

[Посмотреть статью полностью]
[Вклад] Юридические и этические проблемы медицинских устройств на базе искусственного интеллекта и Интернета вещей