MỤC LỤC
- 1. Đạo luật khung về AI | Hàn Quốc xây dựng hệ thống quản lý AI sau EU
- 2. Đạo luật khung về AI | Định nghĩa pháp lý và 5 nội dung chính
- 3. Đạo luật khung về AI | Định hướng tăng cường tiêu chuẩn đạo đức và trách nhiệm của Chính phủ
- - Áp đặt nghĩa vụ minh bạch·thông báo·bảo vệ người sử dụng đối với doanh nghiệp
- 4. Đạo luật khung về AI | Tổng hợp vai trò, chính sách hỗ trợ của Chính phủ
- 5. Đạo luật khung về AI | Nội dung doanh nghiệp cần chuẩn bị và chiến lược ứng phó cốt lõi
- - Bảo đảm an toàn và trách nhiệm trong giai đoạn cung cấp dịch vụ
- - Hoàn thiện hệ thống tuân thủ toàn cầu phù hợp với xu hướng quản lý AI trong và ngoài Hàn Quốc
- - Tăng cường đào tạo và quy trình về đạo đức·bảo mật·vận hành AI trên toàn doanh nghiệp
- 6. Đạo luật khung về AI | Năng lực cạnh tranh trong ngành cần dựa trên hiểu biết về AI
1. Đạo luật khung về AI | Hàn Quốc xây dựng hệ thống quản lý AI sau EU
Đạo luật khung về AI, tức 「Đạo luật khung về phát triển trí tuệ nhân tạo và xây dựng nền tảng tin cậy」, đạo luật toàn diện đầu tiên của Hàn Quốc về quản lý trí tuệ nhân tạo, sẽ có hiệu lực từ năm sau.
Theo đó, Hàn Quốc sẽ trở thành quốc gia thứ hai sau EU xây dựng một hệ thống quản lý AI toàn diện.
Đạo luật khung về AI hướng đến sự cân bằng giữa hai trụ cột là phát triển ngành công nghiệp và bảo vệ người sử dụng, quản lý rủi ro.
Do đó, phần lớn doanh nghiệp cung cấp dịch vụ dựa trên AI trong các lĩnh vực như sản xuất, nền tảng, tài chính và chăm sóc sức khỏe sẽ chịu ảnh hưởng trực tiếp.
Chi phí ứng phó và rủi ro pháp lý có thể chênh lệch đáng kể tùy thuộc vào mức độ chuẩn bị trước.
Phần dưới đây trình bày những nội dung cốt lõi của Đạo luật khung về AI và các biện pháp ứng phó thiết thực mà doanh nghiệp cần chuẩn bị từ bây giờ.
2. Đạo luật khung về AI | Định nghĩa pháp lý và 5 nội dung chính
Đạo luật khung về AI của Hàn Quốc quy định trực tiếp các khái niệm cốt lõi nhằm làm rõ tiêu chuẩn về quản lý, bảo vệ và trách nhiệm trong môi trường công nghệ AI biến đổi nhanh chóng.
Điều 2 đưa ra các định nghĩa cơ bản sau đây, tập trung vào hệ thống trí tuệ nhân tạo.
∙ Trí tuệ nhân tạo
: Việc hiện thực hóa bằng phương thức điện tử các năng lực trí tuệ của con người như học tập, suy luận, nhận thức, phán đoán và hiểu ngôn ngữ
∙ Trí tuệ nhân tạo có ảnh hưởng lớn
: Hệ thống trí tuệ nhân tạo có ảnh hưởng đáng kể hoặc có nguy cơ gây rủi ro đối với tính mạng, sự an toàn thân thể và các quyền cơ bản của con người
∙ Trí tuệ nhân tạo tạo sinh
: Hệ thống trí tuệ nhân tạo mô phỏng cấu trúc và đặc điểm của dữ liệu đầu vào để tạo ra văn bản, âm thanh, hình ảnh, video và nhiều loại kết quả khác
∙ Ngành công nghiệp trí tuệ nhân tạo
: Ngành phát triển, chế tạo, sản xuất hoặc phân phối các sản phẩm sử dụng trí tuệ nhân tạo hoặc công nghệ trí tuệ nhân tạo, hay cung cấp các dịch vụ liên quan
∙ Chủ thể kinh doanh trí tuệ nhân tạo
: Pháp nhân, tổ chức, cá nhân hoặc cơ quan nhà nước thuộc một trong các trường hợp được liệt kê và thực hiện hoạt động kinh doanh liên quan đến ngành công nghiệp trí tuệ nhân tạo
Theo đó, không chỉ phần mềm AI mà cả robot tích hợp AI, thiết bị tự động hóa dựa trên cảm biến và thiết bị biên đều có thể thuộc đối tượng điều chỉnh.
Các quy định định nghĩa rõ ràng giúp doanh nghiệp xác định “dịch vụ nào của mình là AI và thuộc nhóm nào”.
3. Đạo luật khung về AI | Định hướng tăng cường tiêu chuẩn đạo đức và trách nhiệm của Chính phủ
Điều 27 Đạo luật khung về AI quy định rõ Chính phủ là chủ thể chịu trách nhiệm giải quyết các vấn đề đạo đức AI.
Theo đó, Chính phủ có thể xây dựng và công bố các nguyên tắc đạo đức AI phản ánh những yếu tố sau.
∙ Độ tin cậy
∙ Khả năng tiếp cận và tính công bằng
∙ Phẩm giá con người
∙ Giá trị cộng đồng
Bộ trưởng Bộ Khoa học, Công nghệ Thông tin và Truyền thông Hàn Quốc còn có trách nhiệm xây dựng biện pháp thực hiện để áp dụng thực chất các nguyên tắc đạo đức và nâng cao nhận thức đạo đức trong toàn xã hội thông qua giáo dục, tuyên truyền.
Các nguyên tắc này dự kiến cũng sẽ trở thành tiêu chuẩn để doanh nghiệp xây dựng chính sách AI và hướng dẫn nội bộ.
Áp đặt nghĩa vụ minh bạch·thông báo·bảo vệ người sử dụng đối với doanh nghiệp
Điều 31 Đạo luật khung về AI đặt ra các nghĩa vụ cốt lõi sau đây đối với chủ thể kinh doanh AI.
Đặc biệt, việc bảo đảm tính minh bạch là bắt buộc khi sử dụng AI có ảnh hưởng lớn hoặc AI tạo sinh.
1. Nghĩa vụ bảo đảm tính minh bạch
▷ Ghi rõ kết quả do AI tạo sinh tạo ra
▷ Trường hợp cung cấp “kết quả ảo” như hình ảnh hoặc âm thanh tương tự thực tế
▷ Có dấu hiệu hoặc thông báo để người sử dụng có thể nhận biết ngay
Hành vi vi phạm có thể bị phạt tiền hành chính đến 30 triệu won Hàn Quốc, vì vậy doanh nghiệp cần chuẩn bị trước các tiêu chuẩn về UI/UX, nội dung thông báo và hướng dẫn dành cho khách hàng.
2. Nghĩa vụ quản lý rủi ro ở mức cao
Điều 32 Đạo luật khung về AI đặt ra nghĩa vụ bảo đảm an toàn dựa trên toàn bộ vòng đời AI (Life Cycle) đối với chủ thể kinh doanh AI.
Đặc biệt, các mô hình AI quy mô lớn có tổng khối lượng tính toán dùng cho huấn luyện vượt tiêu chuẩn được quy định trong nghị định của Tổng thống Hàn Quốc sẽ phải tuân theo tiêu chuẩn an toàn nghiêm ngặt hơn.
Các nghĩa vụ chính mà doanh nghiệp phải thực hiện gồm có:
∙ Xây dựng biện pháp giảm thiểu rủi ro để phòng ngừa sự cố
∙ Thiết lập hệ thống liên tục giám sát sự cố an toàn và ứng phó nhanh chóng
∙ Định kỳ nộp thông tin liên quan đến an toàn cho Chính phủ (Bộ trưởng Bộ Khoa học, Công nghệ Thông tin và Truyền thông Hàn Quốc)
4. Đạo luật khung về AI | Tổng hợp vai trò, chính sách hỗ trợ của Chính phủ
Đạo luật khung về AI cũng quy định trách nhiệm của Chính phủ.
∙ Bảo đảm an toàn AI (vận hành Viện Nghiên cứu An toàn Trí tuệ nhân tạo)
∙ Thúc đẩy phát triển công nghệ, hỗ trợ ngành công nghiệp và tiêu chuẩn hóa
∙ Đào tạo nhân lực chuyên môn và thực hiện chính sách thu hút nhân tài nước ngoài
∙ Vận hành hệ thống quản lý và giám sát liên quan đến AI
Đặc biệt, kể từ khi dự thảo nghị định thi hành được chính thức công bố lấy ý kiến lập pháp vào tháng 11 năm 2025, các quy định cụ thể và mang tính thực tiễn về tiêu chí xác định AI có ảnh hưởng lớn, nghĩa vụ thông báo đối với kết quả của AI tạo sinh, nghĩa vụ bảo đảm an toàn và đánh giá tác động của trí tuệ nhân tạo đã bắt đầu được xây dựng.
Chính phủ đang thu thập rộng rãi ý kiến của giới chuyên môn và các ngành liên quan, đồng thời dự kiến áp dụng giai đoạn hướng dẫn về phạt tiền hành chính kéo dài ít nhất 1 năm trong thời kỳ đầu để doanh nghiệp có thời gian chuẩn bị.
Điều này cho thấy “định hướng quản lý-định hướng hỗ trợ-tiêu chuẩn đạo đức-tiêu chuẩn giám sát của Chính phủ” đang được hiện thực hóa trong một khuôn khổ thống nhất đối với doanh nghiệp.
Do đó, các doanh nghiệp tư nhân cũng cần sớm hoàn thiện chiến lược AI nội bộ, quy trình quản lý rủi ro và hệ thống thông báo minh bạch phù hợp với khuôn khổ này.
5. Đạo luật khung về AI | Nội dung doanh nghiệp cần chuẩn bị và chiến lược ứng phó cốt lõi
Khi Đạo luật khung về AI có hiệu lực, doanh nghiệp sẽ phải chứng minh trách nhiệm, tính minh bạch và độ an toàn trong quá trình phát triển, vận hành AI.
Đặc biệt, doanh nghiệp xử lý AI có rủi ro cao hoặc ảnh hưởng lớn sẽ đối mặt với nguy cơ bị xử lý và phải bồi thường thiệt hại cao hơn nếu không chuẩn bị đầy đủ, do đó cần có chiến lược ứng phó từ sớm.
Trong thời kỳ áp dụng Đạo luật khung về AI, trọng tâm là xây dựng hệ thống quản lý phòng ngừa áp dụng các tiêu chuẩn pháp lý và đạo đức ngay từ giai đoạn đầu phát triển AI.
Khi thu thập dữ liệu huấn luyện, doanh nghiệp phải kiểm tra kỹ nguy cơ xâm phạm quyền tác giả. Do Hàn Quốc không có điều khoản miễn trách nhiệm về TDM (khai thác văn bản và dữ liệu), doanh nghiệp phải xem xét liệu việc sử dụng có đáp ứng tiêu chuẩn tại Điều 35-5 Luật Bản quyền tác giả của Hàn Quốc (sử dụng tác phẩm một cách hợp lý) hay không.
Việc tuân thủ Luật Bảo vệ thông tin cá nhân của Hàn Quốc cũng phải là yêu cầu cơ bản. Doanh nghiệp cần thực hiện có hệ thống các yêu cầu pháp lý trong từng giai đoạn xử lý thông tin, như xử lý dưới dạng bút danh hoặc ẩn danh, thu thập sự đồng ý và xác định căn cứ hợp pháp.
Bên cạnh đó, cần xây dựng hệ thống kiểm tra bộ dữ liệu để giảm thiểu thiên lệch thuật toán (Bias), áp dụng XAI (trí tuệ nhân tạo có khả năng giải thích, công nghệ giải thích quy trình ra quyết định của AI theo cách con người có thể hiểu được) và kiểm chứng độ chính xác dựa trên các chỉ số hiệu suất (như F1-score).
Doanh nghiệp cũng cần sớm xác định AI đang được phát triển có thuộc nhóm trí tuệ nhân tạo có ảnh hưởng lớn hay không, đồng thời kiểm tra các nghĩa vụ bổ sung theo Đạo luật khung về AI, như bảo đảm khả năng can thiệp của con người.
Bảo đảm an toàn và trách nhiệm trong giai đoạn cung cấp dịch vụ
Ở giai đoạn cung cấp mô hình AI dưới dạng dịch vụ thực tế, tính hợp pháp và an toàn của kết quả đầu ra cũng như việc bảo vệ người sử dụng là những vấn đề trọng tâm.
Cần có hệ thống lọc và kiểm chứng để ngăn ngừa từ trước nguy cơ nội dung do AI tạo ra xâm phạm quyền tác giả, có mức độ tương đồng với tác phẩm hiện có hoặc tạo ra thông tin sai lệch do hiện tượng ảo giác.
Doanh nghiệp cũng phải có biện pháp kỹ thuật để ngăn chặn việc tạo ra nội dung bất hợp pháp hoặc có hại như nội dung deepfake và phát ngôn thù ghét.
Do dữ liệu đầu vào của người sử dụng (prompt) có thể chứa thông tin cá nhân, doanh nghiệp cần hoàn thiện chính sách vận hành đáp ứng đầy đủ các yêu cầu của Luật Bảo vệ thông tin cá nhân của Hàn Quốc về sự đồng ý, nguyên tắc thu thập tối thiểu, giới hạn mục đích và bảo đảm quyền của người sử dụng (quyền yêu cầu giải thích, quyền từ chối, quyền yêu cầu xem xét lại, v.v.).
Cũng cần xây dựng hệ thống xử lý khiếu nại và khắc phục thiệt hại để tăng cường trách nhiệm trong giai đoạn cung cấp dịch vụ.
Hoàn thiện hệ thống tuân thủ toàn cầu phù hợp với xu hướng quản lý AI trong và ngoài Hàn Quốc
Doanh nghiệp không chỉ phải tuân thủ Đạo luật khung về AI của Hàn Quốc mà còn phải xây dựng hệ thống tuân thủ để đáp ứng nhiều khuôn khổ quản lý toàn cầu như EU AI Act và hướng dẫn của FTC Hoa Kỳ.
Đặc biệt, doanh nghiệp tiến vào thị trường EU cần chuẩn bị từ sớm vì phải đáp ứng các điều kiện nghiêm ngặt như phân loại rủi ro, chứng nhận CE, xây dựng hệ thống quản lý chất lượng (QMS) và nghĩa vụ minh bạch.
Tại Hàn Quốc, doanh nghiệp bắt buộc phải thực hiện nghĩa vụ xác định AI có ảnh hưởng lớn, bảo đảm an toàn và minh bạch, đồng thời tuân thủ nguyên tắc lấy con người làm trung tâm. Vì vậy, cần vận hành chính sách tuân thủ tích hợp có tính đến cả quy định trong nước và nước ngoài.
Tăng cường đào tạo và quy trình về đạo đức·bảo mật·vận hành AI trên toàn doanh nghiệp
AI không chỉ là vấn đề của bộ phận phát triển, vì vậy cần có hệ thống đào tạo về đạo đức và bảo mật trong toàn doanh nghiệp.
Cần tổ chức đào tạo thường xuyên để các nhà phát triển, nhân viên lập kế hoạch, tiếp thị, CS và vận hành đều hiểu được ▲nguyên tắc đạo đức AI, ▲tiêu chuẩn xử lý dữ liệu, ▲quy định về quyền tác giả và thông tin cá nhân, ▲nghĩa vụ thông báo theo Đạo luật khung về AI.
Đặc biệt, quy trình bảo đảm quyền của người sử dụng áp dụng cho hoạt động xử lý thông tin cá nhân tự động phải được phối hợp chặt chẽ với bộ phận vận hành và CS.
Ngoài ra, sau khi được phát triển, mô hình AI có thể gặp hiện tượng trôi mô hình khiến hiệu suất suy giảm theo thời gian.
Do đó, doanh nghiệp phải định kỳ kiểm chứng hiệu suất, kiểm tra thiên lệch, thử nghiệm an toàn và thực hiện quy trình huấn luyện lại, đồng thời xây dựng riêng phương án ứng phó sự cố và kế hoạch khẩn cấp.
Hệ thống cho phép khôi phục nhanh khi xảy ra sự cố như mô hình hoạt động sai hoặc bị xâm phạm bảo mật cũng là yếu tố cốt lõi để giảm trách nhiệm pháp lý.
Hệ thống phân tích phản hồi của người sử dụng và áp dụng vào quá trình cải thiện mô hình cũng là yếu tố cần thiết để nâng cao độ tin cậy của doanh nghiệp.
Xem thêm
6. Đạo luật khung về AI | Năng lực cạnh tranh trong ngành cần dựa trên hiểu biết về AI
Chính phủ đang hoàn thiện định hướng chính sách, tiêu chuẩn an toàn, hoạt động tiêu chuẩn hóa và hệ thống giám sát với trọng tâm là Ủy ban Trí tuệ nhân tạo Quốc gia và Viện Nghiên cứu An toàn Trí tuệ nhân tạo.
Do đó, doanh nghiệp cần kết nối các chính sách quốc gia này với chiến lược AI nội bộ để thiết lập hệ thống quản trị AI.
Doanh nghiệp cần xây dựng cơ chế phối hợp giữa các bộ phận chức năng như phát triển công nghệ, quản lý dữ liệu, pháp chế và tuân thủ, bảo mật, lập kế hoạch, đồng thời vận hành các quy định nội bộ được lập thành văn bản để giảm thiểu chi phí ứng phó quy định.
Việc Đạo luật khung về AI có hiệu lực mang ý nghĩa vượt ra ngoài phạm vi tăng cường quản lý và có thể thúc đẩy quá trình chuyển đổi sang “cơ cấu thị trường trong đó doanh nghiệp sử dụng AI an toàn và có trách nhiệm giữ vai trò dẫn dắt”.
Năng lực công nghệ không còn là yếu tố duy nhất; quản lý dữ liệu, tính minh bạch, kiểm soát chất lượng và tuân thủ tiêu chuẩn đạo đức sẽ trở thành các yếu tố cạnh tranh mới.
Đặc biệt, đối với doanh nghiệp sử dụng AI có ảnh hưởng lớn hoặc AI tạo sinh, năng lực ứng phó quy định trong toàn bộ vòng đời, từ nghĩa vụ thông báo → bảo đảm an toàn → bảo vệ thông tin cá nhân → giám sát liên tục, sẽ trở thành tài sản cốt lõi quyết định mức độ tin cậy đối với doanh nghiệp.
Nếu có thắc mắc liên quan đến kiểm soát nội bộ về AI, quản lý rủi ro, xác định AI có ảnh hưởng lớn hoặc ứng phó rủi ro pháp lý trong tương lai, doanh nghiệp có thể đề nghị luật sư chuyên về doanh nghiệp và có khả năng tư vấn trong lĩnh vực công nghiệp trí tuệ nhân tạo đánh giá hệ thống vận hành AI phù hợp với đặc điểm của mình.
Xem thêm
Xem nội dung video liên quan
đến vụ việc này.
Luật cơ bản về AI, hãy xem qua video
