[Đóng góp] Những thách thức về khía cạnh pháp lý và đạo đức của các thiết bị y tế dựa trên AI và IoT

Cộng tác viên và Báo Dược phẩm đã lên kế hoạch cho một loạt bài liên quan đến thiết bị y tế. Trong đóng góp này, chúng tôi sẽ xem xét các thách thức về đạo đức và quy định của các thiết bị y tế dựa trên AI và IoT.

1. Mô hình mới về thiết bị y tế

Trong khi cơn sốt AI do ChatGPT đại diện đang lan rộng khắp xã hội, thì công nghệ trí tuệ nhân tạo (AI) và Internet of Things (IoT) cũng đang được giới thiệu nhanh chóng trong môi trường y tế. Không còn xa lạ khi thấy phần mềm AI học dữ liệu hình ảnh, phát hiện sớm các bệnh lớn như ung thư và bệnh tim mạch, đồng thời theo dõi điện tâm đồ, lượng đường trong máu và kiểu ngủ của bệnh nhân 24 giờ mỗi ngày thông qua các thiết bị đeo IoT.

Tuy nhiên, những thay đổi mang tính đổi mới này đi kèm với những thách thức về pháp lý và đạo đức. “Ai chịu trách nhiệm nếu chẩn đoán do AI đưa ra sai?”, “Dữ liệu bệnh nhân được thu thập qua thiết bị IoT an toàn đến mức nào?” Những câu hỏi như thế này giờ đây đã trở thành hiện thực không thể tránh khỏi.

2. Đặc điểm của thiết bị y tế AI/IoT – sản phẩm khó quản lý theo hệ thống quản lý hiện hành

Khả năng học hỏi của thuật toán AI:Khi một thiết bị y tế hiện có nhận được sự chấp thuận, cấu trúc và hiệu suất của nó sẽ được cố định. Tuy nhiên, các thiết bị AI/IoT về cơ bản có những đặc điểm khác nhau. Nói cách khác, hiệu suất của thuật toán AI được cập nhật khi dữ liệu học tập tăng lên và đôi khi bản thân phương pháp dự đoán có thể thay đổi.

Cập nhật thường xuyên:Thông qua quá trình tìm hiểu ở trên, các bản vá phần mềm, thay thế tập dữ liệu và cập nhật đám mây được thực hiện và các thiết bị y tế AI sẽ thường xuyên thay đổi tương ứng. Có rất ít thay đổi về yêu cầu phê duyệt đối với các thiết bị y tế hiện có sau khi được phê duyệt và Đạo luật về thiết bị y tế hiện tại được ban hành để phù hợp với những đặc điểm này. Tuy nhiên, các thiết bị y tế AI có thể khó quản lý theo các hệ thống phê duyệt hiện có do phải cập nhật thường xuyên.

Hai mặt của kết nối IoT: Có thể thực hiện giám sát từ xa và liên kết đám mây thông qua kết nối mạng liên tục và mang lại sự tiện lợi đáng kể nhưng do đó rủi ro bảo mật cũng tăng lên.

Sự tồn tại của các lĩnh vực khó quản lý theo hệ thống luật y tế-thiết bị y tế hiện hành: Đối với các thiết bị y tế hiện có, bác sĩ là người đưa ra chẩn đoán cuối cùng nên bác sĩ có trách nhiệm cuối cùng. Tuy nhiên, trong trường hợp phần mềm AI tự đưa ra quyết định dựa trên dữ liệu học tập, các thiết bị y tế thậm chí có thể thực hiện chẩn đoán, khiến không rõ ai là người chịu trách nhiệm pháp lý cuối cùng.

Những đặc điểm này là yếu tố gây khó khăn cho việc quản lý các thiết bị y tế AI/IoT, dẫn đến nhiều vấn đề pháp lý và đạo đức.

3. Những thách thức về đạo đức – vấn đề về quyền và trách nhiệm của bệnh nhân

A. Thiếu minh bạch trong quá trình ra quyết định

Quá trình ra quyết định của AI gần giống như một ‘hộp đen’. Trên thực tế, mặc dù nghiên cứu vẫn đang được tiến hành nhưng người ta cho rằng con người khó có thể giải thích được quá trình suy nghĩ của ChatGPT. Điều này có nghĩa là chúng ta khó có thể hiểu hết cách AI suy nghĩ.

Bệnh nhân và nhân viên y tế nhận được chẩn đoán từ AI, nhưng rất khó để biết kết quả được đưa ra như thế nào. Điều này có thể dẫn đến việc vi phạm quyền tự quyết của bệnh nhân hoặc vị trí trách nhiệm pháp lý trở nên không rõ ràng.

B. Trách nhiệm không rõ ràng

Các đơn vị sau đây tham gia vào hoạt động chẩn đoán bằng thiết bị y tế AI, nhưng việc phân bổ trách nhiệm giữa các đơn vị này vẫn chưa rõ ràng.

• Nhân viên y tế: Bác sĩ là người đưa ra chẩn đoán và quyết định điều trị cuối cùng
• Nhà sản xuất: Công ty thiết bị y tế thiết kế thuật toán
• Bệnh viện: Cơ quan giới thiệu thiết bị và sử dụng cho bệnh nhân

c. Rủi ro về quyền riêng tư và bảo mật

Truyền dữ liệu thời gian thực thông qua các thiết bị IoTNguy cơ bị hack chắc chắn sẽ xảy ra trong suốt quá trình. Nếu thông tin sức khỏe nhạy cảm, chẳng hạn như điện tâm đồ hoặc hồ sơ lượng đường trong máu của bệnh nhân bị rò rỉ, quyền nhân thân của bệnh nhân có thể bị vi phạm nghiêm trọng.

Ngoài ra, thông tin sức khỏe của bệnh nhân được sử dụng để tìm hiểu phần mềm chẩn đoán AI, nhưng người đóng góp hiểu rằng vẫn còn nhiều trường hợp 'học AI' mà không có sự đồng ý thích hợp cho việc sử dụng thông tin cá nhân. Mặc dù chưa trở thành vấn đề nhưng vấn đề xâm phạm thông tin cá nhân cũng có thể nảy sinh trong vấn đề này.

4. Những thách thức về quy định
Trong trường hợp của Hàn Quốc, các thiết bị y tế phần mềm (SaMD) được quản lý thông qua Đạo luật Thiết bị Y tế và Đạo luật Sản phẩm Y tế Kỹ thuật số được ban hành gần đây, đồng thời hệ thống hộp cát quản lý được sử dụng để đồng thời cho phép và xác minh tạm thời các công nghệ mới. Tuy nhiên, vẫn chưa có quy định cụ thể về việc “học hỏi liên tục” về thuật toán AI, trách nhiệm pháp lý và vấn đề bảo vệ thông tin cá nhân nêu trên.

Hoa Kỳ (FDA) công bố các hướng dẫn liên quan đến AI/ML SaMD trên trang web của mình. Đặc điểm chính của quy định của Liên minh Châu Âu (EU) là cách tiếp cận quy định kép. Cơ quan Dược phẩm Châu Âu (EMA) quản lý các thiết bị y tế dựa trên AI theo Quy định về Thiết bị Y tế (MDR) và Đạo luật Trí tuệ Nhân tạo (AIA).

MDR quy định cụ thể các yêu cầu về thiết kế, phát triển, đánh giá lâm sàng và giám sát sau khi tiếp thị các thiết bị y tế, bao gồm cả các thiết bị y tế dựa trên AI, trong khi AIA chỉ định các yêu cầu phân loại dựa trên rủi ro, tính minh bạch và giám sát của con người.

Các công ty AI y tế phải đáp ứng những tiêu chuẩn khắt khe khi vào thị trường Mỹ và châu Âu mới vào được thị trường nên họ cần chuẩn bị cho việc này. Ngoài ra, các quy định trong nước vẫn đang được xây dựng nên dường như cần phải chuẩn bị trước cho những quy định sẽ ngày càng chặt chẽ hơn.

5. Kết luận

Các thiết bị y tế dựa trên AI/IoT đã cách mạng hóa cuộc sống của bệnh nhân và xu hướng này chắc chắn sẽ còn tăng tốc hơn nữa. Tuy nhiên, vấn đề đặt ra là vẫn còn khoảng cách lớn giữa tốc độ phát triển công nghệ và tốc độ phát triển của hệ thống pháp luật và đạo đức.

Đặc biệt, không ai có thể giải thích rõ ràng về cách giải quyết các vấn đề đạo đức và pháp lý đã thảo luận ở trên.

Sự đổi mới về thiết bị y tế chỉ bền vững khi sự an toàn và quyền lợi của bệnh nhân được đảm bảo, vì vậy các cuộc thảo luận về đạo đức và quy định để đảm bảo điều này là hết sức cần thiết. Do đó, người đóng góp tin rằng cần có một diễn đàn thảo luận trong đó các cơ quan quản lý, ngành công nghiệp, chuyên gia y tế và cộng đồng pháp lý cùng tham gia.

Trong khi đó, rõ ràng các quy định của chính phủ liên quan đến các thiết bị y tế dựa trên AI/IoT sẽ được tăng cường như một xu hướng chung. Một số quy định có thể đòi hỏi khó khăn đáng kể về mặt công nghệ và người ta tin rằng các ngành liên quan cần chuẩn bị chủ động cho việc này.

Người đóng góp: Luật sư Ilhyung Lee (ilhyunglee@naver.com)
Đã vượt qua kỳ thi luật sư/dược sĩ/luật sư cấp bằng sáng chế/kế toán công Mỹ (Maine)
(Cựu) Luật sư tại Nhóm pháp lý nội địa Celltrion
(Hiện tại) Giám đốc Tập đoàn Dược phẩm Y tế Daeryun/Trung tâm Y tế Sinh học Dược phẩm, Công ty Luật (Limited)

[Xem toàn bộ bài viết]
[Đóng góp] Những thách thức pháp lý và đạo đức của các thiết bị y tế dựa trên AI và IoT