[Đóng góp] Những thách thức về khía cạnh pháp lý và đạo đức của các thiết bị y tế dựa trên AI và IoT
Cộng tác viên và Báo Dược phẩm đã lên kế hoạch cho một loạt bài liên quan đến thiết bị y tế. Trong đóng góp này, chúng tôi sẽ xem xét các thách thức về đạo đức và quy định của các thiết bị y tế dựa trên AI và IoT. 1. Một mô hình mới cho các thiết bị y tế Trong khi cơn sốt AI, đại diện là ChatGPT, đang lan rộng khắp xã hội, các công nghệ trí tuệ nhân tạo (AI) và Internet of Things (IoT) đang được giới thiệu nhanh chóng trong lĩnh vực y tế. Không còn xa lạ khi thấy phần mềm AI học từ dữ liệu hình ảnh phát hiện sớm các bệnh nghiêm trọng như ung thư và bệnh tim mạch, đồng thời theo dõi điện tâm đồ, lượng đường trong máu và kiểu ngủ của bệnh nhân 24 giờ mỗi ngày thông qua các thiết bị đeo IoT. Tuy nhiên, những thay đổi mang tính đổi mới này đi kèm với những thách thức về pháp lý và đạo đức. “Ai chịu trách nhiệm nếu chẩn đoán do AI đưa ra sai?”, “Dữ liệu bệnh nhân được thu thập qua thiết bị IoT an toàn đến mức nào?” Những câu hỏi như thế này giờ đây đã trở thành hiện thực không thể tránh khỏi. 2. Đặc điểm của thiết bị y tế AI/IoT – Các sản phẩm khó quản lý theo hệ thống quản lý hiện hành Khả năng học hỏi của thuật toán AI: Cấu trúc và hiệu suất của các thiết bị y tế hiện có được cố định sau khi chúng được phê duyệt. Tuy nhiên, các thiết bị AI/IoT về cơ bản có những đặc điểm khác nhau. Nói cách khác, hiệu suất của thuật toán AI được cập nhật khi dữ liệu học tập tăng lên và đôi khi bản thân phương pháp dự đoán có thể thay đổi. Cập nhật thường xuyên: Thông qua quá trình tìm hiểu ở trên, các bản vá phần mềm, thay thế tập dữ liệu và cập nhật đám mây diễn ra và các thiết bị y tế AI thường xuyên thay đổi tương ứng. Có rất ít thay đổi về yêu cầu phê duyệt đối với các thiết bị y tế hiện có sau khi được phê duyệt và Đạo luật về thiết bị y tế hiện tại được ban hành để phù hợp với những đặc điểm này. Tuy nhiên, các thiết bị y tế AI có thể khó quản lý theo các hệ thống phê duyệt hiện có do phải cập nhật thường xuyên. Tính hai mặt của kết nối IoT: Có thể giám sát từ xa và tích hợp đám mây thông qua kết nối mạng liên tục và mang lại sự thuận tiện đáng kể, nhưng rủi ro bảo mật cũng tăng lên theo phản ứng. Sự tồn tại của các lĩnh vực khó quản lý theo hệ thống luật y tế-thiết bị y tế hiện hành: Đối với các thiết bị y tế hiện có, bác sĩ là người đưa ra chẩn đoán cuối cùng nên bác sĩ có trách nhiệm cuối cùng. Tuy nhiên, trong trường hợp phần mềm AI tự đưa ra quyết định dựa trên dữ liệu học tập, các thiết bị y tế thậm chí có thể thực hiện chẩn đoán, khiến không rõ ai là người chịu trách nhiệm pháp lý cuối cùng. Những đặc điểm này là yếu tố gây khó khăn cho việc quản lý các thiết bị y tế AI/IoT và điều này kéo theo nhiều vấn đề pháp lý và đạo đức khác nhau. 3. Những thách thức về đạo đức – vấn đề về quyền và trách nhiệm của bệnh nhân. Thiếu minh bạch trong quá trình ra quyết định Quá trình ra quyết định của AI gần như là một ‘hộp đen’. Trên thực tế, mặc dù nghiên cứu vẫn đang được tiến hành nhưng người ta cho rằng con người khó có thể giải thích được quá trình suy nghĩ của ChatGPT. Điều này có nghĩa là chúng ta khó có thể hiểu hết cách suy nghĩ của AI. Bệnh nhân và nhân viên y tế nhận được chẩn đoán từ AI, nhưng rất khó để biết kết quả được đưa ra như thế nào. Điều này có thể dẫn đến việc vi phạm quyền tự quyết của bệnh nhân hoặc vị trí trách nhiệm pháp lý trở nên không rõ ràng. Tôi. Trách nhiệm không rõ ràng: Các đơn vị sau đây tham gia vào hoạt động chẩn đoán bằng thiết bị y tế AI, nhưng việc phân bổ trách nhiệm giữa các đơn vị vẫn chưa rõ ràng: • Nhân viên y tế: Bác sĩ đưa ra quyết định chẩn đoán và điều trị cuối cùng • Nhà sản xuất: Công ty thiết bị y tế thiết kế thuật toán • Bệnh viện: Tổ chức giới thiệu thiết bị và sử dụng cho bệnh nhân. Thông tin cá nhân và rủi ro bảo mật Nguy cơ bị hack tất yếu xảy ra theo quá trình truyền dữ liệu theo thời gian thực thông qua các thiết bị IoT. Nếu thông tin sức khỏe nhạy cảm như điện tâm đồ hoặc hồ sơ đường huyết của bệnh nhân bị rò rỉ, quyền cá nhân của bệnh nhân có thể bị vi phạm nghiêm trọng. Ngoài ra, thông tin sức khỏe của bệnh nhân được sử dụng để đào tạo phần mềm chẩn đoán AI, nhưng theo như người đóng góp được biết, vẫn còn nhiều trường hợp 'học AI' mà không có sự đồng ý thích hợp cho việc sử dụng thông tin cá nhân. Mặc dù chưa trở thành vấn đề nhưng vấn đề xâm phạm thông tin cá nhân cũng có thể nảy sinh trong vấn đề này. 4. Những thách thức về quy định Trong trường hợp của Hàn Quốc, các thiết bị y tế phần mềm (SaMD) được quản lý thông qua Đạo luật Thiết bị Y tế và Đạo luật Sản phẩm Y tế Kỹ thuật số được ban hành gần đây, đồng thời hệ thống hộp cát quản lý được sử dụng để tạm thời cho phép và xác minh các công nghệ mới. Tuy nhiên, vẫn chưa có quy định cụ thể về việc “học hỏi liên tục” về thuật toán AI, trách nhiệm pháp lý và vấn đề bảo vệ thông tin cá nhân nêu trên. Hoa Kỳ (FDA) đang công bố các hướng dẫn liên quan đến AI/ML SaMD trên trang web của mình. Đặc điểm chính của quy định của Liên minh Châu Âu (EU) là cách tiếp cận quy định kép. Cơ quan Dược phẩm Châu Âu (EMA) quản lý các thiết bị y tế dựa trên AI theo Quy định về Thiết bị Y tế (MDR) và Đạo luật Trí tuệ Nhân tạo (AIA). MDR quy định cụ thể các yêu cầu đối với việc thiết kế, phát triển, đánh giá lâm sàng và giám sát sau tiếp thị các thiết bị y tế, bao gồm cả các thiết bị y tế dựa trên AI, trong khi AIA quy định cụ thể các yêu cầu phân loại dựa trên rủi ro, tính minh bạch và giám sát con người. Các công ty AI y tế phải đáp ứng những tiêu chuẩn khắt khe khi vào thị trường Mỹ và châu Âu. Có thể gia nhập thị trường nên cần có sự chuẩn bị. Ngoài ra, các quy định trong nước vẫn đang được xây dựng nên dường như cần phải chuẩn bị trước cho những quy định sẽ ngày càng chặt chẽ hơn. 5. Kết luận Các thiết bị y tế dựa trên AI/IoT đã cách mạng hóa cuộc sống của bệnh nhân và xu hướng này chắc chắn sẽ còn tăng tốc hơn nữa. Tuy nhiên, vấn đề đặt ra là vẫn còn khoảng cách lớn giữa tốc độ phát triển công nghệ và tốc độ phát triển của hệ thống pháp luật và đạo đức. Đặc biệt, không ai có thể giải thích rõ ràng về cách giải quyết các vấn đề đạo đức và pháp lý đã thảo luận ở trên. Sự đổi mới về thiết bị y tế chỉ bền vững khi sự an toàn và quyền lợi của bệnh nhân được đảm bảo, vì vậy các cuộc thảo luận về đạo đức và quy định để đảm bảo điều này là hết sức cần thiết. Vì vậy, người đóng góp tin rằng cần có một diễn đàn thảo luận nơi các cơ quan quản lý, ngành, nhân viên y tế và cộng đồng pháp luật cùng tham gia. Trong khi đó, rõ ràng các quy định của chính phủ liên quan đến các thiết bị y tế dựa trên AI/IoT sẽ được tăng cường như một xu hướng chung. Một số quy định có thể đòi hỏi khó khăn đáng kể về mặt công nghệ và người ta tin rằng các ngành liên quan cần chuẩn bị chủ động cho việc này. Người đóng góp: Luật sư Ilhyung Lee (ilhyunglee@naver.com)Luật sư/Dược sĩ/Luật sư bằng sáng chế/Đạt kỳ thi Kế toán công Hoa Kỳ (Maine) (Cựu) Luật sư tại Nhóm pháp lý nội địa Celltrion (hiện tại) Tập đoàn dược phẩm y tế Daeryun/Giám đốc Trung tâm chăm sóc sức khỏe sinh học dược phẩm[Xem toàn bộ bài viết]
[Đóng góp] Những thách thức về khía cạnh pháp lý và đạo đức của các thiết bị y tế dựa trên AI và IoT