AI/IT

AI là viết tắt của “Artificial Intelligence”, dùng để chỉ công nghệ trí tuệ nhân tạo giúp máy tính có khả năng tư duy và học tập tương tự con người.

AI bao gồm nhiều công nghệ như học máy, xử lý ngôn ngữ tự nhiên, nhận dạng giọng nói và nhận dạng hình ảnh, đồng thời đang tác động đến ngày càng nhiều ngành công nghiệp.

AI có thể tự học, dự đoán và đưa ra quyết định dựa trên dữ liệu.

IT là viết tắt của “Information Technology”, dùng để chỉ công nghệ thông tin hỗ trợ việc thu thập, lưu trữ, truyền tải và xử lý thông tin, đồng thời bao quát toàn bộ các công nghệ liên quan đến máy tính, phần mềm và mạng.

IT đã trở thành yếu tố cốt lõi giúp nâng cao hiệu quả hoạt động của doanh nghiệp, cải thiện trải nghiệm khách hàng và thúc đẩy đổi mới trong nhiều ngành công nghiệp.

Doanh nghiệp phát triển hoặc vận hành dịch vụ và hệ thống dựa trên AI phải bảo đảm các nguyên tắc đạo đức AI, khả năng giải thích, không phân biệt đối xử và tính minh bạch.

Đạo luật AI của EU năm 2024, Luật Khung về AI của Hàn Quốc (đã công bố dự thảo lập pháp) và Khung quản lý rủi ro AI của NIST cũng yêu cầu tính minh bạch của AI, phòng ngừa thiên lệch dữ liệu và khả năng giải thích thuật toán như những tiêu chuẩn thiết yếu.

Do đó, khi phát triển mô hình AI cần ① kiểm tra trước nguy cơ thiên lệch của tập dữ liệu, ② lập tài liệu bảo đảm khả năng giải thích của AI, ③ áp dụng quy trình kiểm chứng đạo đức AI, ④ chỉ định người phụ trách AI và vận hành ủy ban đạo đức.

Khi thu thập, phân tích hoặc sử dụng thông tin cá nhân trong quá trình phát triển và vận hành AI, doanh nghiệp phải tuân thủ Luật Bảo vệ thông tin cá nhân của Hàn Quốc, Luật của Hàn Quốc về mạng thông tin và truyền thông cùng các quy định liên quan.

Đặc biệt, nếu thu thập thông tin nhận dạng cá nhân, hình ảnh hoặc thông tin vị trí làm dữ liệu huấn luyện AI mà không đáp ứng yêu cầu về sự đồng ý và biện pháp khử định danh, doanh nghiệp có thể bị áp dụng khoản tiền phạt bổ sung hoặc xử phạt hình sự.

Do đó, cần ① thực hiện đánh giá tác động về thông tin cá nhân đối với tập dữ liệu huấn luyện AI, ② cụ thể hóa văn bản đồng ý thu thập và sử dụng thông tin cá nhân, ③ áp dụng biện pháp khử định danh dữ liệu và đánh giá tính phù hợp, ④ áp dụng cơ chế bảo vệ thông tin cá nhân ngay từ khâu thiết kế hệ thống AI (Privacy by Design).

Nếu dịch vụ AI phát sinh sự phân biệt đối xử ngoài dự kiến dựa trên thuật toán về chủng tộc, giới tính, độ tuổi hoặc nơi xuất thân, doanh nghiệp có thể phải đối mặt với sự chỉ trích của xã hội và các chế tài pháp lý.

Do đó, cần ① vận hành quy trình phân tích kết quả quyết định của AI và đánh giá thiên lệch, ② xây dựng tiêu chuẩn kiểm tra tính công bằng của thuật toán, ③ xây dựng tập dữ liệu giúp giảm thiểu rủi ro thiên lệch, ④ định kỳ thực hiện kiểm toán đạo đức AI.

Các vấn đề về chủ thể nắm giữ quyền tác giả và hành vi xâm phạm quyền liên quan đến dữ liệu huấn luyện AI cũng như nội dung do AI tạo ra đang thường xuyên phát sinh.

Những vấn đề trọng tâm gồm khả năng bảo hộ quyền tác giả đối với nội dung do AI tạo ra, khả năng sử dụng trái phép tác phẩm của người khác để huấn luyện AI và chủ thể nắm giữ quyền đối với sản phẩm đầu ra của AI.

Để phòng ngừa các rủi ro này, cần ① rà soát quyền và quản lý giấy phép khi thu thập dữ liệu huấn luyện AI, ② ký kết hợp đồng xác định chủ thể nắm giữ quyền đối với sản phẩm do AI tạo ra, ③ kiểm tra trước nguy cơ xâm phạm quyền tác giả của dữ liệu huấn luyện AI, ④ quy định rõ điều khoản về chủ thể nắm giữ quyền trong điều khoản sử dụng nội dung AI.

Khi xảy ra sự cố tấn công mạng, mã độc tống tiền hoặc rò rỉ thông tin cá nhân đối với hệ thống AI và dịch vụ IT, trách nhiệm hình sự và trách nhiệm bồi thường thiệt hại có thể phát sinh theo Luật của Hàn Quốc về mạng thông tin và truyền thông và Luật Bảo vệ thông tin cá nhân của Hàn Quốc.

Đặc biệt, các biện pháp ứng phó về an ninh mạng là cần thiết đối với doanh nghiệp vận hành dịch vụ SaaS dựa trên AI, hạ tầng đám mây hoặc nhà máy thông minh.

Để thực hiện điều này, cần ① đạt chứng nhận Hệ thống quản lý an toàn thông tin (ISMS), ② kiểm tra lỗ hổng của hệ thống AI, ③ xây dựng hướng dẫn ứng phó với mối đe dọa bảo mật AI, ④ xây dựng kịch bản ứng phó với sự cố rò rỉ thông tin cá nhân.

Doanh nghiệp nền tảng và IT có thể phải chịu khoản tiền phạt bổ sung hoặc lệnh khắc phục theo Luật của Hàn Quốc về điều chỉnh độc quyền và thương mại công bằng nếu lạm dụng vị thế ưu thế trong giao dịch với doanh nghiệp tham gia nền tảng hoặc nhà cung cấp nội dung, thao túng phí quảng cáo hay thứ hạng tìm kiếm hoặc đơn phương thay đổi điều kiện giao dịch.

Đặc biệt, việc bảo đảm tính công bằng của các hệ thống đề xuất, quảng cáo và định giá dựa trên thuật toán AI là một vấn đề quan trọng.

Để xử lý vấn đề này, cần ① bảo đảm tính minh bạch của thuật toán, ② sử dụng hợp đồng mẫu với doanh nghiệp tham gia nền tảng, ③ kiểm tra trước các hành vi giao dịch không công bằng trên nền tảng, ④ vận hành chương trình tự nguyện tuân thủ quy định thương mại công bằng đối với nền tảng.

Dịch vụ sử dụng trí tuệ nhân tạo (AI) đi kèm với nhiều rủi ro pháp lý như vấn đề xác định chủ thể nắm giữ quyền đối với “sản phẩm do AI tạo ra” và hành vi vi phạm các chuẩn mực về “đạo đức AI”.

Đặc biệt, khi AI được sử dụng để tự động đưa ra quyết định cho người dùng hoặc trong việc ký kết hợp đồng, thẩm định khoản vay, tính phí bảo hiểm hay đánh giá nhân sự, vấn đề xác định chủ thể chịu trách nhiệm pháp lý đối với thiệt hại của người tiêu dùng do quyết định sai là rất quan trọng.

Tại Hàn Quốc, pháp luật riêng về AI vẫn chưa được ban hành rõ ràng, nhưng trách nhiệm liên quan đến dịch vụ AI được xem xét theo các luật hiện hành như 「Luật Bảo vệ thông tin cá nhân của Hàn Quốc」, 「Luật của Hàn Quốc về điều chỉnh độc quyền và thương mại công bằng」 và 「Luật Bản quyền tác giả của Hàn Quốc」.

Doanh nghiệp cần kiểm tra cấu trúc ra quyết định của thuật toán AI, khả năng thiên lệch dữ liệu và nguy cơ sử dụng sai hoặc lạm dụng, đồng thời xây dựng điều khoản cung cấp dịch vụ AI và quy trình thông báo để giảm thiểu rủi ro pháp lý.

Việc thành lập ủy ban đạo đức AI và áp dụng chế độ báo cáo đánh giá tác động của AI cũng là biện pháp hữu hiệu để phòng ngừa tranh chấp pháp lý.

Trong quá trình thu thập và sử dụng thông tin cá nhân cũng như dữ liệu đã được khử định danh để cải thiện hiệu suất của dịch vụ AI, doanh nghiệp phải tuân thủ 「Luật Bảo vệ thông tin cá nhân của Hàn Quốc」 và 「Luật của Hàn Quốc về mạng thông tin và truyền thông」.

Đặc biệt, khi sử dụng thông tin cá nhân làm dữ liệu huấn luyện AI, doanh nghiệp phát sinh các nghĩa vụ như thực hiện thủ tục xin ý kiến đồng ý của chủ thể thông tin, xác định rõ mục đích thu thập và sử dụng, không sử dụng ngoài mục đích và ký kết hợp đồng ủy thác xử lý .

Doanh nghiệp cần xây dựng cơ chế quản trị dữ liệu có hệ thống, bao gồm thực hiện “đánh giá tác động về thông tin cá nhân” đối với dữ liệu huấn luyện và dữ liệu vận hành dịch vụ AI, tuân thủ “hướng dẫn giả danh hóa dữ liệu” và công khai “chính sách xử lý dữ liệu AI”, nhằm phòng ngừa tranh chấp pháp lý.

Các dịch vụ IT như dịch vụ đề xuất dựa trên AI, hệ thống quyết định tự động và dịch vụ phân tích dựa trên dữ liệu có thể ảnh hưởng đáng kể đến người tiêu dùng, vì vậy phải đáp ứng các yêu cầu về điều khoản dịch vụ, thủ tục xin ý kiến đồng ý của người dùng và thông báo giới hạn của dịch vụ.

Đặc biệt, cần thông báo rõ đề xuất hoặc quyết định của AI chỉ là thông tin tham khảo hay là quyết định làm phát sinh nghĩa vụ pháp lý hoặc kinh tế, đồng thời thông tin về khả năng dịch vụ AI gặp trục trặc hoặc sai sót.

Nếu không thực hiện đầy đủ, doanh nghiệp có thể phải bồi thường thiệt hại cho người tiêu dùng và chịu trách nhiệm bồi thường do vi phạm 「Luật Thương mại điện tử của Hàn Quốc」.

Vì vậy, doanh nghiệp nên rà soát điều khoản sử dụng dịch vụ AI/IT, đồng thời quy định rõ các điều khoản giới hạn trách nhiệm pháp lý và giới hạn của dịch vụ.

Văn bản, hình ảnh, bản ghi âm, video do AI tạo ra đặt ra các vấn đề pháp lý về điều kiện có tính sáng tạo, việc xác định tác giả và khả năng được bảo hộ quyền tác giả.

Theo pháp luật Hàn Quốc, AI không phải là thể nhân nên không được công nhận là tác giả, và quyền đối với sản phẩm được tạo ra nhiều khả năng thuộc về cá nhân hoặc pháp nhân vận hành AI.

Tuy nhiên, nếu AI học từ tác phẩm của bên thứ 3 rồi biến đổi, tái xử lý hoặc tái tạo tương tự tác phẩm đó thì có thể phát sinh hành vi xâm phạm quyền tác giả.

Doanh nghiệp phải thiết lập quy trình rà soát tính hợp pháp của dữ liệu huấn luyện AI, khả năng đăng ký quyền tác giả đối với sản phẩm được tạo ra, việc có xâm phạm quyền của bên thứ 3 hay không và giấy phép sử dụng.

Cũng cần thiết lập trước điều khoản miễn trừ trách nhiệm đối với nội dung do AI tạo ra và quy trình yêu cầu xóa, chỉnh sửa nội dung.

Do dịch vụ AI/IT ngày càng mang tính toàn cầu, việc lưu trữ thông tin cá nhân trên máy chủ đám mây ở nước ngoài hoặc chia sẻ dữ liệu với nhà cung cấp dịch vụ nước ngoài đang gia tăng.

Trong trường hợp này, theo 「Luật Bảo vệ thông tin cá nhân của Hàn Quốc」, doanh nghiệp phải thực hiện các thủ tục chặt chẽ như xin ý kiến đồng ý của chủ thể thông tin, thông báo mục đích chuyển dữ liệu ra nước ngoài và thông tin về bên nhận ủy thác, đánh giá tính phù hợp và xây dựng kế hoạch bảo vệ.

Doanh nghiệp cần kiểm soát rủi ro bằng cách xác định dữ liệu thuộc diện chuyển ra nước ngoài, ký kết hợp đồng chuyển dữ liệu, đánh giá tác động của việc chuyển dữ liệu ra nước ngoài và xây dựng kế hoạch bảo vệ dữ liệu. Mức độ áp dụng biện pháp bảo vệ của nhà cung cấp dịch vụ đám mây nước ngoài cũng cần được kiểm tra định kỳ.

Các dịch vụ đề xuất bằng AI, trung tâm mua sắm trực tuyến sử dụng AI và dịch vụ ứng dụng phải tuân thủ các quy định về quảng cáo và ghi nhãn trên môi trường trực tuyến.

Quảng cáo sai sự thật, phóng đại hoặc gây nhầm lẫn; quảng cáo lạm dụng thông tin cá nhân; và việc không ghi rõ tính chất quảng cáo của nội dung do dịch vụ AI tự động đề xuất có thể bị áp dụng khoản tiền phạt bổ sung và xử phạt hình sự do vi phạm 「Luật của Hàn Quốc về ghi nhãn và quảng cáo công bằng」.

Đặc biệt, do giải pháp quảng cáo dựa trên AI thực hiện việc nhắm mục tiêu tự động và quảng cáo cá nhân hóa nên có khả năng cao gây hiểu nhầm cho người tiêu dùng. Vì vậy, doanh nghiệp phải thông báo rõ đó là quảng cáo và có được sự đồng ý của người dùng.

Doanh nghiệp cần rà soát nội dung quảng cáo, phương thức hiển thị, tính minh bạch của quy trình đề xuất AI, phạm vi người tiêu dùng mục tiêu của quảng cáo và tài liệu giải thích thuật toán AI để phòng ngừa rủi ro vi phạm.

1. Yêu cầu tuân thủ pháp lý liên quan đến phát triển và vận hành dịch vụ AI

□Điều khoản sử dụng dịch vụ AI và chính sách xử lý thông tin cá nhân có thông báo về chức năng quyết định tự động của AI cùng các giới hạn của chức năng này hay không

□Đã áp dụng quy tắc đạo đức AI và quy trình đánh giá tác động của AI đối với quyền con người hay chưa

□Đã kiểm tra tình trạng phân biệt đối xử, thiên lệch và sai lệch trong quá trình phát triển, vận hành thuật toán AI cũng như xây dựng hệ thống quản lý rủi ro hay chưa

2. Bảo vệ thông tin cá nhân và quản lý dữ liệu
□Đã kiểm tra dữ liệu huấn luyện AI có chứa thông tin cá nhân hay không và có được văn bản đồng ý hay chưa

□Đã tuân thủ quy trình khử định danh, giả danh hóa và không sử dụng ngoài mục đích hay chưa

□Đã xây dựng hợp đồng ủy thác xử lý thông tin cá nhân và hệ thống quản lý bên nhận ủy thác hay chưa

3. Bảo hộ pháp lý đối với sản phẩm do AI tạo ra và rủi ro về quyền tác giả
□Đã xác định chủ thể nắm giữ quyền tác giả đối với nội dung do AI tạo ra và xây dựng hướng dẫn nội bộ hay chưa

□Đã có giấy phép hợp pháp đối với tác phẩm gốc được AI sử dụng để huấn luyện hay chưa

□Đã xây dựng quy trình xử lý yêu cầu xóa hoặc sửa nội dung AI của người dùng hay chưa

□Đã quy định điều khoản giới hạn trách nhiệm pháp lý liên quan đến sản phẩm do AI tạo ra trong điều khoản dịch vụ hay chưa

4. Tuân thủ quy định về quảng cáo và ghi nhãn đối với dịch vụ AI/IT
□Đã ghi rõ và thông báo tính chất quảng cáo của dịch vụ đề xuất, quyết định tự động và quảng cáo dựa trên AI hay chưa

□Đã kiểm tra trước quảng cáo sai sự thật, phóng đại hoặc gây nhầm lẫn cũng như nội dung quảng cáo có nguy cơ khiến người dùng hiểu sai hay chưa

□Đã có văn bản đồng ý về việc thu thập và sử dụng thông tin cá nhân cho quảng cáo nhắm mục tiêu được cá nhân hóa hay chưa

5. Xây dựng hệ thống quản trị có đạo đức về AI/IT
□Đã xây dựng quy tắc đạo đức AI và vận hành ủy ban đạo đức AI nội bộ hay chưa

□Đã định kỳ đánh giá rủi ro về tác động xã hội, quyền con người và phân biệt đối xử của dịch vụ AI hay chưa

□Đã lập và công khai báo cáo đánh giá đạo đức AI hay chưa

6. Bảo vệ thông tin và quản lý an ninh

□Đã định kỳ kiểm tra lỗ hổng bảo mật của hệ thống AI·IT và vận hành hệ thống ứng phó rủi ro hay chưa

□Đã xây dựng hướng dẫn ứng phó và thành lập đội ứng phó khẩn cấp khi xảy ra sự cố rò rỉ thông tin hay chưa