MỤC LỤC
- 1. Bảo mật AI | AI tạo sinh, con đường rò rỉ dữ liệu và công nghệ phổ biến nhất nhưng khó nhận thấy
- - Sự thay đổi của phương thức rò rỉ
- 2. Bảo mật AI | Nguy cơ chuyển từ vấn đề kỹ thuật thành rủi ro quản trị
- - Rò rỉ thông tin mật từ dữ liệu đầu vào
- - Tấn công chèn câu lệnh và tấn công đối kháng
- - Cơ cấu trách nhiệm không rõ ràng
- 3. Bảo mật AI | Trọng tâm của cơ chế quản trị dữ liệu AI doanh nghiệp cần xây dựng
- - Cơ cấu ngăn dữ liệu truyền ra bên ngoài
- - Kiểm soát kỹ thuật chặn dữ liệu ngay từ giai đoạn nhập
- - Quản lý dựa trên vòng đời AI
- - Xác định rõ chủ thể chịu trách nhiệm
- 4. Bảo mật AI | Thời đại mức độ bảo mật chi phối uy tín doanh nghiệp và đánh giá đầu tư
- - AI không phải là đối tượng cần ngăn cấm mà là tài sản quản trị cần được kiểm soát
1. Bảo mật AI | AI tạo sinh, con đường rò rỉ dữ liệu và công nghệ phổ biến nhất nhưng khó nhận thấy
Lý do bảo mật AI trở nên quan trọng là rất rõ ràng.
AI tạo sinh đã trở thành “công cụ năng suất thường nhật” được sử dụng phổ biến tại nơi làm việc, nhưng đồng thời cũng nhanh chóng trở thành con đường rò rỉ dữ liệu và công nghệ khó kiểm soát nhất đối với doanh nghiệp.
Vấn đề là nhiều doanh nghiệp vẫn chỉ coi AI là một công cụ làm việc.
Tuy nhiên, trên thực tế, AI đang đóng vai trò như một hạ tầng rò rỉ mới nối tiếp email, USB và ổ cứng ngoài; do khó phát hiện và kiểm soát hơn các phương thức rò rỉ truyền thống, AI làm tăng đáng kể mức độ khó khăn trong ứng phó của doanh nghiệp.
Theo các phân tích gần đây về môi trường doanh nghiệp ở nước ngoài, một bộ phận đáng kể người lao động đã sử dụng các công cụ AI tạo sinh.
Vấn đề là nhiều người trong số họ sử dụng AI thông qua tài khoản cá nhân nằm ngoài phạm vi quản lý và kiểm soát của doanh nghiệp.
Sự thay đổi của phương thức rò rỉ
Việc công nghệ bị rò rỉ theo những phương thức khó phát hiện bằng hệ thống bảo mật hiện có cũng làm tăng mức độ khó khăn trong ứng phó.
Các hệ thống bảo mật hiện có được thiết kế chủ yếu để kiểm soát việc tải lên hoặc lưu tệp, nhưng phần lớn trường hợp rò rỉ dữ liệu và công nghệ trên thực tế xảy ra khi sao chép, dán và nhập câu lệnh, thay vì thông qua tệp.
∙ Một phần đáng kể trong số đó sử dụng tài khoản cá nhân
∙ Thông tin bị rò rỉ qua bảng nhớ tạm, một “kênh không có tệp”
∙ Các hệ thống DLP và nhật ký bảo mật hiện có khó phát hiện được hành vi này
Do đó, doanh nghiệp không những không ngăn chặn được rò rỉ mà còn có thể không nhận biết được rằng thông tin đã bị rò rỉ.
Trong quá trình sử dụng AI, quy trình làm việc thiếu khả năng quan sát và kiểm soát trở thành yếu tố rủi ro lớn hơn bản thân công nghệ.
Trên thực tế, trong môi trường doanh nghiệp ở nước ngoài đã ghi nhận những trường hợp cấu trúc thuật toán cốt lõi bị lộ ra bên ngoài chỉ do nhập câu lệnh AI trong quá trình rà soát mã nguồn hoặc sắp xếp tài liệu kỹ thuật.
2. Bảo mật AI | Nguy cơ chuyển từ vấn đề kỹ thuật thành rủi ro quản trị
Đối với vấn đề bảo mật AI, rò rỉ dữ liệu và công nghệ do AI tạo sinh gây ra hiện cần được nhìn nhận không phải là một sự cố đơn lẻ mà là rủi ro quản trị mang tính cơ cấu.
Các dạng nguy cơ điển hình bao gồm:
Rò rỉ thông tin mật từ dữ liệu đầu vào
Ngay khi nhân viên nhập thông tin mật vào câu lệnh, thông tin đó có thể nằm ngoài phạm vi kiểm soát của doanh nghiệp.
Tùy theo cách vận hành của dịch vụ AI, khó có thể loại trừ hoàn toàn khả năng thông tin được nhập sẽ được sử dụng làm dữ liệu nhật ký hoặc dữ liệu phân tích.
Tấn công chèn câu lệnh và tấn công đối kháng
Đây là phương thức tấn công sử dụng dữ liệu đầu vào từ bên ngoài để dụ AI tiết lộ dữ liệu ngoài ý muốn hoặc vượt qua các quy tắc nội bộ.
Rủi ro đặc biệt gia tăng trong các công việc tự động hóa như hỗ trợ khách hàng, tóm tắt tài liệu và kiểm tra mã nguồn.
Rủi ro này có thể vượt ra ngoài phạm vi một sự cố bảo mật nhỏ và dẫn đến việc doanh nghiệp phải gánh chịu trách nhiệm pháp lý hoặc trách nhiệm theo hợp đồng ngoài ý muốn trong quá trình ra quyết định tự động.
Cơ cấu trách nhiệm không rõ ràng
Kết quả đầu ra của AI xuất hiện dưới dạng ‘sản phẩm tạo sinh cấp 2’, nên về sau rất khó chứng minh tính đồng nhất với công nghệ gốc, đường dẫn rò rỉ và chủ thể chịu trách nhiệm.
Theo đó, doanh nghiệp có thể phải đối mặt với các rủi ro quản trị sau đây.
∙ Bị đánh giá là doanh nghiệp quản lý bảo mật chưa đầy đủ trong quá trình đầu tư và hợp tác
∙ Rủi ro vi phạm quy định liên quan đến thông tin cá nhân và công nghệ công nghiệp
∙ Lỗ hổng mang tính cơ cấu khiến doanh nghiệp không thể ngăn ngừa tái diễn ngay cả sau sự cố
Bảo mật AI hiện không còn chỉ thuộc phạm vi của bộ phận bảo vệ thông tin hoặc một người phụ trách cụ thể mà đang trở thành rủi ro quản trị cần được kiểm soát trên toàn doanh nghiệp.
3. Bảo mật AI | Trọng tâm của cơ chế quản trị dữ liệu AI doanh nghiệp cần xây dựng
Để bảo đảm an toàn AI, một số doanh nghiệp lựa chọn cấm hoàn toàn việc sử dụng AI tạo sinh, nhưng đây khó có thể là giải pháp thực tế.
Trong một tổ chức đã trải nghiệm hiệu suất và tốc độ mà AI mang lại, ngay khi việc sử dụng AI bị cấm hoàn toàn, hoạt động này sẽ chuyển từ hệ thống chính thức sang AI ngầm (Shadow AI).
AI ngầm là việc nhân viên sử dụng tài khoản cá nhân hoặc dịch vụ AI bên ngoài khi chưa được doanh nghiệp phê duyệt hoặc quản lý.
Trong trường hợp này, doanh nghiệp không thể ghi lại hoặc giám sát dữ liệu đầu vào và đầu ra, đồng thời cũng khó xác định sau đó thông tin nào đã được cung cấp ra bên ngoài qua con đường nào.
Đặc biệt, khi dữ liệu nhạy cảm như mã nguồn, tài liệu kỹ thuật và thông tin khách hàng được nhập vào câu lệnh mà không có biện pháp kiểm soát riêng, chính sách bảo mật và hệ thống kiểm soát nội bộ có thể bị vô hiệu hóa trên thực tế.
Điều này làm phát sinh hệ quả là cơ chế kiểm soát biến mất, trong khi rủi ro lại gia tăng.
Vì vậy, điều cần thiết không phải là cấm sử dụng mà là xây dựng cơ cấu sử dụng có thể kiểm soát, tức cơ chế quản trị dữ liệu.
Quản trị dữ liệu là gì?
Trong môi trường AI, trọng tâm của quản trị dữ liệu là một cơ cấu kiểm soát tích hợp, bao gồm phạm vi dữ liệu đầu vào và đầu ra của AI, điều kiện sử dụng cũng như phương thức ghi nhận và giám sát.
Để ngăn chặn rò rỉ thông qua AI, trước hết cần xác định những gì thuộc đối tượng cần bảo vệ.
Nếu chưa xác định phạm vi công nghệ và dữ liệu cốt lõi, các biện pháp kiểm soát khó tránh khỏi chỉ mang tính hình thức.
Nếu thiếu tiền đề này, bất kỳ hệ thống hoặc chính sách bảo mật nào cũng khó phát huy hiệu quả thực tế.
Cơ cấu ngăn dữ liệu truyền ra bên ngoài
Khi sử dụng trực tiếp AI tạo sinh công khai, nội dung do nhân viên nhập sẽ được truyền đến máy chủ của dịch vụ bên ngoài thay vì được lưu giữ trong nội bộ doanh nghiệp.
Trong quá trình này, doanh nghiệp khó có thể trực tiếp xác minh hoặc kiểm soát dữ liệu được lưu trữ và xử lý ở đâu, cũng như có được sử dụng lại để huấn luyện hay không.
Ngược lại, trong môi trường tại chỗ, nơi doanh nghiệp đặt máy chủ riêng và chỉ vận hành AI trong hệ thống nội bộ, hoặc trong cơ cấu Private AI dựa trên VPC chuyên dụng, nơi AI được vận hành trong một không gian độc lập dành riêng cho doanh nghiệp dù sử dụng đám mây bên ngoài, doanh nghiệp có thể trực tiếp quản lý phạm vi lưu trữ, xử lý và truy cập dữ liệu.
Do có thể kiểm soát để ngăn dữ liệu bị rò rỉ ra bên ngoài, cơ cấu này hiện đã trở thành điều kiện cơ bản thay vì một lựa chọn.
Kiểm soát kỹ thuật chặn dữ liệu ngay từ giai đoạn nhập
Chỉ dựa vào chính sách hoặc cam kết là chưa đủ.
Để ngăn ngừa sai sót, cần có cơ chế chặn mang tính kỹ thuật, vượt ra ngoài phạm vi “kỷ luật”.
∙ Che dữ liệu hoặc hạn chế nhập thông tin cá nhân và công nghệ cốt lõi
∙ Kiểm soát chính hành vi sao chép và dán
Quản lý dựa trên vòng đời AI
Cơ chế kiểm soát phải hoạt động trong toàn bộ các giai đoạn thu thập dữ liệu–huấn luyện–suy luận–hủy bỏ.
∙ Cơ cấu gỡ học (Unlearning) cho phép loại bỏ riêng dữ liệu cụ thể khi cần thiết
∙ Phân cấp quyền truy cập theo vai trò và tự động thu hồi quyền
Xác định rõ chủ thể chịu trách nhiệm
Rò rỉ công nghệ và dữ liệu do AI tạo sinh hiện là lĩnh vực cần xác định rõ trách nhiệm.
Cần xác định chủ thể chịu trách nhiệm về chính sách sử dụng AI, kiểm soát truy cập và ứng phó sự cố, đồng thời đưa các nội dung liên quan đến AI vào hệ thống bảo mật hiện có như ISMS-P.
Điều này liên quan trực tiếp đến cơ chế bảo vệ pháp lý nhằm chứng minh rằng doanh nghiệp đã thực hiện đầy đủ trách nhiệm quản lý khi xảy ra sự cố.
4. Bảo mật AI | Thời đại mức độ bảo mật chi phối uy tín doanh nghiệp và đánh giá đầu tư
Tương tự như việc rò rỉ công nghệ đã lan rộng thành rủi ro của toàn ngành, mức độ bảo mật AI hiện bắt đầu trở thành một tiêu chí đánh giá doanh nghiệp, vượt ra ngoài phạm vi từng sự cố riêng lẻ.
▶ Kiểm tra mức độ kiểm soát sử dụng AI trong quá trình thẩm định đầu tư
▶ Tăng cường yêu cầu bảo mật trong quá trình hợp tác quốc tế và chuyển dữ liệu
▶ Việc không đáp ứng quy định có thể chuyển thành vấn đề trách nhiệm quản trị
Điều quan trọng là phải xác định và quản lý phạm vi sử dụng AI cũng như chủ thể chịu trách nhiệm.
AI không phải là đối tượng cần ngăn cấm mà là tài sản quản trị cần được kiểm soát
AI vừa là công cụ nâng cao năng lực cạnh tranh của doanh nghiệp, vừa có thể trở thành con đường rò rỉ thông tin nhanh nhất nếu không được kiểm soát.
Theo đó, cần đồng thời rà soát cơ cấu ra quyết định và hệ thống trách nhiệm của tổ chức.
Để ứng phó với những thay đổi này, Công ty Luật Daeryun đã thành lập Nhóm AI và Data Intelligence, đồng thời xây dựng hệ thống phân tích vụ việc và ứng phó rủi ro dựa trên dữ liệu, kết nối ▲tuân thủ AI ▲chiến lược AI theo từng ngành ▲an ninh mạng và ứng phó khủng hoảng ▲giám định kỹ thuật số&e-discovery.
Nếu cần rà soát cơ cấu sử dụng AI, đánh giá rủi ro rò rỉ dữ liệu hoặc thiết kế cơ chế quản trị AI nội bộ, doanh nghiệp có thể xem xét chiến lược ứng phó thông qua đánh giá tích hợp từ góc độ giải pháp bảo mật và rủi ro quản trị.
