[Đóng góp] Bước ngoặt chiến lược của các công ty chăm sóc sức khỏe sau khi thực thi Đạo luật Khung AI

Vượt ra ngoài việc tuân thủ việc cấp phép để tiến tới kỷ nguyên quản lý 'rủi ro tư pháp y tế'
Luật sư Seohyung Lee của Công ty Luật Daeryun (Limited)

Kể từ khi thực thi Đạo luật cơ bản về phát triển trí tuệ nhân tạo và tạo dựng nền tảng cho niềm tin (sau đây gọi là Đạo luật cơ bản về AI), các ngành chăm sóc sức khỏe dược phẩm, sinh học và kỹ thuật số đã thoát khỏi sự không chắc chắn về quy định ở một mức độ nào đó. Điều này là do chính phủ diễn giải linh hoạt phạm vi ứng dụng AI có tác động cao liên quan trực tiếp đến đời sống và sức khỏe trong việc xem xét thúc đẩy và đổi mới ngành chăm sóc sức khỏe, đồng thời vận hành với các quy định tương đối hạn chế về các giải pháp hỗ trợ chẩn đoán cần có sự can thiệp của các chuyên gia y tế như bác sĩ và dược sĩ.

Cách tiếp cận chính sách này là biện pháp hợp lý để duy trì đà phát triển công nghệ chăm sóc sức khỏe số. Đặc biệt, hệ thống quản lý hành chính trong lĩnh vực chăm sóc sức khỏe cũng được thiết lập vững chắc, với quy trình phê duyệt tùy chỉnh của Bộ An toàn Thực phẩm và Dược phẩm dành cho các thiết bị y tế phần mềm (SaMD) được ban hành thông qua Đạo luật Sản phẩm Y tế Kỹ thuật số, đã được triển khai một cách nghiêm túc.

Tuy nhiên, việc ổn định môi trường pháp lý này không có nghĩa là giải quyết được các rủi ro pháp lý. Đúng hơn, trách nhiệm pháp lý của AI y tế có thể sẽ được thử thách một cách nghiêm túc kể từ bây giờ.

◆ Khoảng cách pháp lý giữa can thiệp chính thức và kiểm soát thực tế trong môi trường lâm sàng

Một số công ty chăm sóc sức khỏe kỹ thuật số có thể cố gắng vượt qua ngưỡng quy định về AI có tác động cao bằng cách yêu cầu sự chấp thuận của nhân viên y tế hoặc dược sĩ ở giai đoạn cuối của giải pháp AI của họ. Tuy nhiên, khi tranh chấp y tế phát sinh và trở thành đối tượng phán quyết của tòa án, trọng tâm không phải là 'sự tồn tại của sự can thiệp của nhân viên y tế' mà là liệu sự can thiệp đó có thực hiện 'chức năng kiểm soát lâm sàng đáng kể' liên quan trực tiếp đến cuộc sống của bệnh nhân hay không.

Ví dụ: giả sử rằng AI chẩn đoán sớm ung thư đã chẩn đoán sai khối u ác tính vì nó không học đủ dữ liệu từ các bệnh nhân nữ ở một độ tuổi nhất định hoặc thuật toán khuyến nghị liều lượng thuốc chống ung thư đã đánh giá thấp mức độ chức năng gan, dẫn đến các tác dụng phụ nghiêm trọng. Tại thời điểm này, tòa án không chỉ đơn giản xem xét liệu ‘nhân viên y tế có nhấn nút phê duyệt cuối cùng hay không.’ Chúng tôi sẽ xác định một cách toàn diện liệu AI có cung cấp bằng chứng lâm sàng và khả năng giải thích ở mức độ mà nhân viên y tế có thể xem xét một cách hợp lý hay không, cũng như liệu hệ thống kiểm soát để xác minh chéo các sai lệch và lỗi thuật toán có tồn tại trong công ty hay không.

Nếu hệ thống được thiết kế sao cho quy trình phê duyệt được thực hiện một cách máy móc mà không có xác minh thực chất mà không xem xét đặc điểm của các cơ sở khám chữa bệnh bận rộn, thì cái gọi là sự can thiệp của con người có thể bị đảo ngược do tình huống cho thấy lỗ hổng nghiêm trọng trong hệ thống quản lý an toàn sản phẩm, thay vì như một logic miễn trừ cho các công ty chăm sóc sức khỏe. Điều này có thể mở rộng sang rủi ro quản trị, trong đó vấn đề là liệu ban quản lý có thiết lập và giám sát hệ thống kiểm soát nội bộ hợp lý hay không. Nếu xảy ra thiệt hại đáng kể cho bệnh nhân, không thể loại trừ khả năng điều này có thể dẫn đến vụ kiện của cổ đông hoặc vi phạm nghĩa vụ giám sát của ban giám đốc.

◆ Một tiêu chuẩn mới trong quan hệ đối tác Big Pharma toàn cầu và thị trường B2B ở nước ngoài

Kể từ năm 2026, với việc áp dụng toàn diện Đạo luật AI của EU (Đạo luật trí tuệ nhân tạo), thị trường chăm sóc sức khỏe toàn cầu đã đòi hỏi mức quản trị AI y tế ở mức cao nhất. Khi các công ty dược phẩm đa quốc gia toàn cầu (Big Pharma) hoặc các tổ chức y tế lớn thảo luận về xuất khẩu công nghệ dược chất mới hoặc hợp đồng lâm sàng chung với các công ty K-healthcare, họ không chỉ hỏi liệu họ có tuân thủ các hướng dẫn của Bộ An toàn Thực phẩm và Dược phẩm Hàn Quốc hay không. Có xu hướng yêu cầu dữ liệu cụ thể để chứng minh tính hợp pháp của dữ liệu y tế nhạy cảm của bệnh nhân được sử dụng để học tập, tính minh bạch của các thuật toán dự đoán và hệ thống kiểm soát đạo đức sinh học trên toàn công ty.

Việc có thể né tránh các quy định trong nước không phải là lời giải thích thỏa đáng cho các đối tác nước ngoài hay các cơ quan quản lý nghiêm khắc (FDA, EMA, v.v.). Đúng hơn, nếu hệ thống quản trị AI y tế nội bộ không đủ, điều đó có thể dẫn đến việc bị loại khỏi chuỗi cung ứng chăm sóc sức khỏe toàn cầu cũng như chấp nhận các điều khoản về Đại diện & Bảo đảm rất nguy hiểm trong hợp đồng. Giờ đây, trong ngành dược phẩm và chăm sóc sức khỏe, quản trị AI là điều kiện tiên quyết tuyệt đối để tiếp cận thị trường toàn cầu.

◆ Những thách thức đối với các công ty chăm sóc sức khỏe trong kỷ nguyên luật cơ bản hậu AI

Các công ty dược phẩm, sinh học và chăm sóc sức khỏe kỹ thuật số phải từ bỏ cách tiếp cận phòng thủ là né tránh các quy định và chuyển sang chiến lược đảm bảo khả năng cạnh tranh bền vững dựa trên sự an toàn và tin cậy của bệnh nhân. Phản ứng tích cực sau khi xảy ra sự cố là một chi phí, nhưng việc thiết lập một hệ thống kiểm soát ở giai đoạn thiết kế gần giống như một khoản đầu tư chiến lược nhằm bảo vệ giá trị doanh nghiệp. Để đạt được mục đích này, chúng tôi đề xuất các nhiệm vụ sau:

① Hệ thống hóa trách nhiệm y tế có thể kiểm chứng

Nhật ký kiểm tra phải được thiết lập từ giai đoạn lập kế hoạch sản phẩm, trong đó nhân viên y tế hoặc nhà nghiên cứu tại cơ sở lâm sàng xem xét các kết quả có nguồn gốc từ AI và ghi lại một cách có hệ thống quá trình sửa đổi hoặc từ chối các kết quả có nguồn gốc từ AI khi cần thiết dựa trên đánh giá y tế trong EMR (hồ sơ y tế điện tử) hoặc hệ thống nghiên cứu lâm sàng. Đây sẽ là công cụ phòng vệ quan trọng để chứng minh rằng các công ty và ban quản lý đã hoàn thành nghĩa vụ chăm sóc hợp lý trong các tranh chấp y tế hoặc vụ kiện của cổ đông trong tương lai do sai sót lâm sàng.

② Tổ chức lại cấu trúc hợp đồng cho toàn bộ chuỗi giá trị AI y tế

Các rủi ro phải được làm rõ khi sử dụng mô hình nền tảng bên ngoài để phát triển các loại thuốc và thiết bị trị liệu kỹ thuật số mới hoặc khi cung cấp giải pháp AI cho bệnh viện, nhà thuốc. Điều cần thiết là xác định cách phân bổ trách nhiệm do lỗi kỹ thuật, chẩn đoán sai và rò rỉ dữ liệu y tế nhạy cảm, đồng thời thiết lập cấu trúc hợp đồng phân bổ rủi ro phức tạp giữa nhà cung cấp giải pháp và tổ chức giới thiệu, chẳng hạn như bệnh viện.

③ Thiết lập hệ thống Tuân thủ theo Thiết kế ưu tiên sự an toàn của bệnh nhân

Ở các công ty chăm sóc sức khỏe liên quan đến cuộc sống, rủi ro AI không chỉ là vấn đề đối với một bộ phận phát triển CNTT cụ thể mà còn là vấn đề quản trị toàn công ty sẽ quyết định sự sống còn của công ty. Cần có một cơ cấu quản trị để thiết lập một hệ thống kiểm soát trong đó các bộ phận Y tế, RA, Pháp lý và An toàn thông tin tham gia ngay từ khi bắt đầu lập kế hoạch quy trình và phát triển giải pháp, đồng thời luôn quản lý việc này như một chương trình nghị sự quan trọng ở cấp hội đồng quản trị.

◆ Vượt ra ngoài ảo tưởng về tính hợp pháp, hướng đến niềm tin cao hơn của bệnh nhân

Cách giải thích linh hoạt các quy định của chính phủ mang lại cho các công ty chăm sóc sức khỏe một thời điểm vàng để đổi mới công nghệ và không làm giảm bớt nghĩa vụ nghiêm ngặt của họ trong việc quản lý rủi ro liên quan trực tiếp đến tính mạng của bệnh nhân. Trong kỷ nguyên của Luật cơ bản AI năm 2026, khả năng cạnh tranh thực sự của K-Bio và chăm sóc sức khỏe kỹ thuật số không đến từ việc vượt qua ranh giới của các quy định cấp phép trong gang tấc.

Chỉ những công ty chủ động thiết lập cơ chế quản trị AI y tế minh bạch và có thể kiểm chứng mới có thể được các đối tác toàn cầu và bệnh nhân đánh giá là đối tác mà họ có thể tin tưởng giao phó tính mạng và sức khỏe của mình. Quản trị AI vững chắc không phải là chi phí chìm mà là sự phân bổ vốn chiến lược tốt nhất để bảo vệ giá trị nội tại của công ty và sự an toàn của bệnh nhân.

Những thách thức mà hệ sinh thái chăm sóc sức khỏe phải đối mặt sau khi thực thi Đạo luật Khung AI là rất rõ ràng. Tính hợp pháp chỉ là tiêu chuẩn tối thiểu. Sự tin tưởng của bệnh nhân không đạt được thông qua việc cấp phép mà được chứng minh bằng những biện pháp kiểm soát, hồ sơ và cơ cấu trách nhiệm giải trình mà công ty đã áp dụng tại thời điểm xảy ra xung đột.

|Đóng góp| Luật sư Seohyung Lee của Công ty Luật Daeryun (Limited)

[Xem toàn bộ bài viết]
[Đóng góp] Điểm chuyển biến chiến lược cho các công ty chăm sóc sức khỏe sau khi triển khai Đạo luật cơ bản về AI (liên kết)