AI安全 | AI是否成为数据与技术泄露的捷径？构建防范系统是当务之急

技术泄露正以现有安全体系难以捕捉的方式发生，这一点同样加大了应对的难度。

现有安全体系是以文件上传或存储行为为中心设计的，但实际的数据与技术泄露有相当一部分并非通过文件，而是发生在复制粘贴，即提示词（prompt）输入的过程中。

结果，企业不仅无法阻止泄露，甚至还会陷入连泄露事实都无法察觉的状态。

因此，在AI使用过程中，相比技术本身，可见性和管控被削弱的业务流程才是更大的风险因素。

实际上，在海外企业环境中，也有报告显示，在开发代码审查或技术文档整理过程中，仅通过AI提示词输入，核心算法结构便被暴露至外部的案例。

员工将机密信息输入提示词的瞬间，该信息便可能脱离企业的管控范围。

根据AI服务的运营方式，难以完全排除输入信息被用作日志与分析数据的可能性。

这是通过外部输入诱使AI暴露非预期数据或绕过内部规则的攻击方式。

尤其在客户应对、文档摘要、代码验证等自动化业务中，风险会更大。

这可能超出小规模安全事故的范畴，进而演变为在自动化决策过程中使企业承担非预期法律与合同责任的风险。

AI输出物以‘二次生成物’的形式呈现，因此事后极难证明其与原始技术的同一性、泄露途径以及责任主体。

由此，企业可能面临如下经营风险。

AI安全如今已不再局限于信息保护部门或特定责任人的领域，而是正扩展为需要在全公司层面管理的经营风险。

在直接使用公开型生成式AI的情况下，员工输入的内容会被传输到外部服务的服务器，而非企业内部。

在此过程中，该数据存储于何处、如何被处理，乃至是否再次被用于训练，企业都难以直接确认或管控。

相反，在企业自建服务器、仅在内部系统中运营AI的本地部署（on-premise）环境，或者即便使用外部云，在仅为企业分离出的独立空间中运营AI的基于专用VPC的Private AI结构下，企业都可以直接管理数据的存储、处理与访问范围。

这种结构能够管控数据不外泄，因此如今已成为一种基本前提，而非可选项。

仅凭政策或承诺存在局限。

为防止失误，需要超越‘规范’的物理性制动装置。

在数据收集—训练—推理—销毁的全部阶段，管控都应发挥作用。

由生成式AI引发的技术与数据泄露，如今已成为要求明确设定责任的领域。

需要设定AI使用政策、访问管控、事故应对的责任主体，并将AI项目纳入ISMS-P等现有安全体系。

这也与事故发生时企业为证明自身已尽到管理责任的法律防御结构直接相关。

AI既是提升企业竞争力的工具，同时在未受管控的情况下，也可能成为最快的信息泄露途径。

因此，同时审查组织的决策结构与责任体系十分重要。

大倫律師事務所为应对这些变化，成立了AI·数据智能部门，构建了将▲AI合规▲各产业AI战略▲网络安全与危机应对▲数字取证&e-Discovery相连接、以数据为中心的案件分析及风险应对体系。

如果您需要AI使用结构审查、数据泄露风险诊断或企业内部AI治理设计，建议通过安全解决方案及经营风险视角的综合诊断来审视应对策略。