Đạo luật khung về AI

Đạo luật quy định việc thành lập Ủy ban Chiến lược trí tuệ nhân tạo quốc gia do Tổng thống Hàn Quốc làm chủ tịch và xây dựng kế hoạch cơ bản về trí tuệ nhân tạo 3 năm một lần, qua đó thiết lập cơ cấu quản lý tổng thể đối với chính sách AI và tiêu chuẩn quản lý ở cấp quốc gia.

Mục đích của cơ cấu này là tập hợp các chính sách và quy định trước đây phân tán giữa các bộ, ngành vào một hệ thống thống nhất để bảo đảm tính nhất quán.

Đối với doanh nghiệp, điều này có nghĩa là các tiêu chuẩn rõ ràng được đưa ra, đồng thời trách nhiệm pháp lý về việc tuân thủ các tiêu chuẩn đó cũng được chính thức xác lập.

Đạo luật này không chủ trương áp đặt quy định một cách vô điều kiện mà áp dụng mô hình cân bằng, kết hợp các chính sách thúc đẩy ngành như hỗ trợ nghiên cứu và phát triển (R&D), xây dựng nền tảng thử nghiệm và thiết lập dữ liệu phục vụ đào tạo.

Theo đó, doanh nghiệp có cơ hội tận dụng hỗ trợ chính sách nhưng đồng thời phải chịu trách nhiệm pháp lý đối với việc sử dụng trí tuệ nhân tạo không bảo đảm an toàn và độ tin cậy.

Các quy định cốt lõi ảnh hưởng trực tiếp đến hoạt động thực tiễn của doanh nghiệp gồm nghĩa vụ bảo đảm tính minh bạch, nghĩa vụ bảo đảm an toàn và trách nhiệm của doanh nghiệp cung cấp AI có ảnh hưởng lớn được quy định trong 「Đạo luật khung về trí tuệ nhân tạo」.

Do các nội dung này sẽ được cụ thể hóa theo từng giai đoạn thông qua văn bản pháp luật cấp dưới và hướng dẫn, việc chuẩn bị trước theo hệ thống điều khoản là cần thiết.

Nghĩa vụ bảo đảm tính minh bạch của trí tuệ nhân tạo (Điều 31)

Nghĩa vụ bảo đảm an toàn của trí tuệ nhân tạo (Điều 32)

Trách nhiệm của doanh nghiệp cung cấp AI có ảnh hưởng lớn (Điều 34)

Đạo luật khung về trí tuệ nhân tạo quy định về AI có ảnh hưởng lớn như sau.

AI có ảnh hưởng lớn là gì? (Điều 2 「Đạo luật khung về trí tuệ nhân tạo」)

Theo đó, doanh nghiệp phải xem xét cả việc chức năng AI của mình có gây “ảnh hưởng thực chất” đến quy trình ra quyết định cốt lõi trong các lĩnh vực tương ứng hay không.

Cần đặc biệt thận trọng khi hoạt động đánh giá, phân loại hoặc ra quyết định tự động được thực hiện trong các lĩnh vực chủ yếu như tuyển dụng và quản lý nhân sự, dịch vụ tài chính, y tế và năng lượng.

Phạm vi nghĩa vụ áp dụng có thể khác nhau tùy theo AI tự đưa ra quyết định cuối cùng mà không có sự can thiệp của con người hay được thiết kế để con người có thể xem xét, sửa đổi hoặc đình chỉ quyết định đó.

Vì vậy, ngay từ giai đoạn thiết kế hệ thống AI, doanh nghiệp cần xây dựng quy trình làm việc dựa trên tiền đề con người có khả năng kiểm soát.

Doanh nghiệp vận hành AI có ảnh hưởng lớn phải xây dựng hệ thống quản lý rủi ro trong toàn bộ vòng đời AI và thông báo rõ ràng cho người dùng về việc sử dụng AI cũng như căn cứ đưa ra quyết định.

Doanh nghiệp cũng phải thiết lập các biện pháp bảo vệ cụ thể như ngăn ngừa thiên lệch thuật toán, xây dựng thủ tục khắc phục thiệt hại, bảo đảm sự giám sát của con người và cơ chế đình chỉ khẩn cấp, đồng thời lập và lưu giữ hồ sơ về các nội dung này trong tài liệu liên quan đến an toàn và độ tin cậy.

Đạo luật khung về trí tuệ nhân tạo được nhận định là chú trọng các biện pháp kiểm soát hành chính như yêu cầu chấm dứt hành vi vi phạm hoặc thực hiện biện pháp khắc phục sau khi điều tra, thay vì áp dụng hình phạt.

Đặc biệt, lệnh khắc phục, điều tra xác minh sự việc và chế tài hành chính có thể được áp dụng nếu không thông báo việc sử dụng AI có ảnh hưởng lớn hoặc AI tạo sinh, hoặc không thực hiện nghĩa vụ quản lý theo quy định của pháp luật.

Các loại vi phạm nghĩa vụ chủ yếu và mức phạt tiền hành chính

Ngoài quyết định xử lý, doanh nghiệp còn phải thực hiện đầy đủ việc tổng hợp tình tiết sự việc, nộp tài liệu và chấp hành yêu cầu cải thiện quy trình nội bộ. Chi phí ứng phó với hoạt động điều tra và khắc phục vì vậy có thể trở thành rủi ro đối với hoạt động kinh doanh của doanh nghiệp.

Nếu phán đoán thiên lệch hoặc lỗi của AI xâm phạm quyền cơ bản của người dùng hoặc vi phạm nghĩa vụ bảo vệ thông tin cá nhân, doanh nghiệp có thể phải đối mặt với vụ kiện yêu cầu bồi thường thiệt hại.

Việc tuân thủ Đạo luật khung về trí tuệ nhân tạo cũng sẽ là tiêu chí quan trọng khi xác định lỗi của doanh nghiệp. Nếu phát sinh tranh cãi về đạo đức, sự tín nhiệm và giá trị thương hiệu của doanh nghiệp có thể chịu ảnh hưởng bất lợi trong dài hạn.

Đặc biệt, chỉ một sự cố AI cũng có thể nhanh chóng làm phát sinh rủi ro đối ngoại kết hợp nhiều vấn đề về đạo đức, phân biệt đối xử và an toàn.

Vì vậy, cần tích hợp các cơ chế tạo dựng sự tin cậy như thông báo cho người dùng, khả năng giải thích, khắc phục thiệt hại và giám sát của con người vào trải nghiệm sản phẩm/dịch vụ và chính sách vận hành.

Doanh nghiệp chưa nhận biết liệu hệ thống của mình hoặc giải pháp bên ngoài có tích hợp trí tuệ nhân tạo hay không phải xây dựng danh mục AI nội bộ để ưu tiên xác định tình hình sử dụng trí tuệ nhân tạo.

Ở giai đoạn này, điều cốt lõi là xác định trí tuệ nhân tạo tác động như thế nào đến cơ cấu ra quyết định của doanh nghiệp hoặc quyền và cơ hội của khách hàng.

Doanh nghiệp đang mở rộng áp dụng AI hoặc chuẩn bị ra mắt dịch vụ mới phải thiết kế hệ thống tuân thủ trên toàn doanh nghiệp với sự phối hợp của các bộ phận pháp lý, IT, nhân sự và bảo mật.

Doanh nghiệp cần xem xét trước khả năng AI thuộc loại có ảnh hưởng lớn, đồng thời hoàn thiện quy định nội bộ về quản lý sản phẩm của AI tạo sinh, tiêu chuẩn sử dụng dữ liệu và thủ tục can thiệp của con người.

Nếu đã phát sinh khiếu nại hoặc sự cố liên quan đến AI, hay có khả năng bị cơ quan giám sát điều tra, doanh nghiệp cần ứng phó có hệ thống để hạn chế mức độ chế tài bằng cách kiểm tra khả năng áp dụng thời gian hoãn thi hành quy định và việc đã lập hồ sơ về các biện pháp bảo đảm an toàn hay chưa.

Về dài hạn, doanh nghiệp không nên chỉ ứng phó theo từng sự việc mà cần xây dựng cơ chế quản trị AI bền vững thông qua việc tổ chức định kỳ chương trình đào tạo về đạo đức, giám sát tình trạng suy giảm hiệu suất mô hình và duy trì hệ thống ứng phó với sửa đổi pháp luật, hướng dẫn.

Công ty Luật Daeryun tư vấn ngay từ giai đoạn thiết kế cấu trúc nhằm đánh giá hệ thống AI của doanh nghiệp có thuộc AI có ảnh hưởng lớn hay không và hỗ trợ doanh nghiệp hạn chế rủi ro pháp lý.

Để chuẩn bị cho khả năng cơ quan giám sát tiến hành điều tra xác minh sự việc, ban hành lệnh khắc phục hoặc áp dụng chế tài hành chính, việc thực hiện nghĩa vụ của doanh nghiệp được tổng hợp có hệ thống, đồng thời xây dựng chiến lược ứng phó với điều tra và lập luận pháp lý để bảo vệ doanh nghiệp.

Ngoài việc ứng phó với quy định trong ngắn hạn, doanh nghiệp được hỗ trợ phát triển ổn định thông qua việc tích hợp tiêu chuẩn đạo đức AI vào nội bộ, hoàn thiện hệ thống quản lý rủi ro và liên tục theo dõi những thay đổi về pháp luật, hướng dẫn.

Công ty Luật Daeryun đã thành lập Nhóm AI và Trí tuệ dữ liệu, gồm 4 bộ phận: ▲Bộ phận tuân thủ AI ▲Bộ phận chiến lược AI theo ngành dọc ▲Bộ phận an ninh mạng & ứng phó khủng hoảng ▲Bộ phận pháp chứng kỹ thuật số & e-discovery, nhằm xử lý tổng thể các rủi ro pháp lý liên quan đến trí tuệ nhân tạo.

Các bộ phận phối hợp cung cấp hỗ trợ trong việc rà soát tuân thủ khi áp dụng và vận hành AI, thiết kế chiến lược AI có tính đến đặc điểm của từng ngành, ứng phó với sự cố an ninh mạng, phân tích chứng cứ điện tử và rà soát dữ liệu quy mô lớn.

Qua đó, Daeryun hỗ trợ doanh nghiệp ứng phó với tranh chấp phức tạp về AI và môi trường quản lý có sự kết hợp giữa công nghệ, dữ liệu và pháp luật.

Việc ứng phó với Đạo luật khung về AI có thể tạo cơ hội cho doanh nghiệp đã chuẩn bị, nhưng cũng có thể trở thành rủi ro nghiêm trọng đối với doanh nghiệp chưa có sự chuẩn bị.

Doanh nghiệp nên thực hiện đánh giá trước và xây dựng chiến lược ứng phó theo từng giai đoạn phù hợp với cơ cấu sử dụng trí tuệ nhân tạo của mình.