人工智能基本法 | 明年1月施行在即及企业准备事项

《人工智能基本法》，即韩国首部综合性人工智能监管法律《关于人工智能发展和构建信赖基础等的基本法》，将从明年起施行。

由此，韩国将继欧盟之后成为第二个建立综合性AI监管体系的国家。

《人工智能基本法》旨在平衡产业发展与用户保护、风险管理两大方面。

因此，制造、平台、金融、医疗健康等领域中提供AI服务的大多数企业都将受到直接影响。

企业是否提前做好准备，可能会导致应对成本和监管风险出现较大差异。

下文将梳理《人工智能基本法》的核心内容，以及企业目前需要准备的切实应对策略。

为在迅速变化的AI技术环境中明确监管、保护与责任标准，《人工智能基本法》直接规定了相关核心概念。

第2条以人工智能系统为中心提出了以下基本定义。

∙ 人工智能

：以电子方式实现人类所具有的学习、推理、感知、判断和语言理解等智能能力

∙ 高影响人工智能

：对人的生命、身体安全及基本权利产生重大影响或可能造成风险的人工智能系统

∙ 生成式人工智能

：模仿输入数据的结构和特征，生成文字、声音、图片、视频及其他各类成果的人工智能系统

∙ 人工智能产业

：开发、制造、生产或流通人工智能或运用人工智能技术的产品，或者提供相关服务的产业

∙ 人工智能经营者

：从事人工智能产业相关业务，且属于下列各项之一的法人、团体、个人及国家机关等

据此，不仅AI软件，搭载AI软件的机器人、基于传感器的自动化装置及边缘设备等也都可能成为监管对象。

根据明确的定义条款，企业能够识别“我们的服务中哪些属于AI，又属于哪一类别”。

《人工智能基本法》第27条明确规定，政府是解决AI伦理问题的主体。

据此，政府可以制定并公布体现以下要素的AI伦理原则。

此外，韩国科学技术信息通信部长官将为切实落实伦理原则制定实践方案，并负责通过教育和宣传在全社会普及伦理意识。

这些原则也将成为企业制定AI政策及内部指南的标准。

《人工智能基本法》也规定了政府的责任。

尤其是从2025年11月起，《施行令》制定案正式发布立法预告后，关于高影响AI判断标准、生成式AI成果告知义务、确保安全性的义务及人工智能影响评估等具体实务规定开始逐步制定。

政府正在广泛听取产业界及专家意见，并计划在初期设置至少1年的行政罚款指导期，为企业留出准备时间。

这意味着对企业而言，“政府的监管方向—扶持方向—伦理标准—监督标准”正在同一框架内逐步落地。

因此，民营企业也需要据此迅速完善内部AI战略、风险管理流程及透明度告知体系等。

随着《人工智能基本法》施行，企业将面临需要证明AI开发和运营具有责任性、透明度与安全性的环境。

尤其是涉及高风险、高影响AI的企业，准备不足时受到制裁及承担损害赔偿的风险将会增大，因此需要采取先行应对策略。

在《人工智能基本法》时代，从AI开发初期即适用法律和伦理标准的预防性管理体系至关重要。

获取训练数据时，应彻底核查是否侵犯著作权。由于韩国没有TDM（文本与数据挖掘）免责条款，因此必须审查是否符合韩国《著作权法》第35条之5（著作物的合理使用）规定的标准。

此外，应以遵守韩国《个人信息保护法》为基本要求，系统履行假名化与匿名化处理、取得同意及判断合法依据等各信息处理阶段的法律要求。

同时还应建立 旨在尽量减少算法偏差（Bias）的数据集审核、引入XAI（可解释人工智能，即以人类能够理解的方式说明AI决策过程的技术），以及基于性能指标（F1-score等）的准确性验证体系。

还应尽早判断正在开发的AI是否属于高影响人工智能，并检查是否履行《人工智能基本法》要求的确保人工介入可能性等附加义务。

政府正以国家人工智能委员会和人工智能安全研究所为中心，完善政策方向、安全标准、标准化及监督体系。

因此，企业需要将这些国家政策与内部AI战略相衔接，建立AI治理体系。

企业需要建立技术开发、数据管理、法务与合规、安全、企划等职能部门之间的协作机制，并实施成文的内部规定，才能尽量降低监管应对成本。

《人工智能基本法》的施行不仅意味着加强监管，也可期待市场向“安全、负责任地使用AI的企业引领市场的结构”转变。

仅凭技术能力已不再足够，数据管理、透明度、质量控制及遵守伦理标准等将成为新的竞争要素。

尤其是使用高影响AI、生成式AI的企业，从告知义务 → 确保安全性 → 个人信息保护 → 持续监控，全生命周期的监管应对能力将成为决定企业可信度的核心资产。

如对AI相关内部控制、风险管理、高影响AI判断或今后应对监管风险存在疑问，建议请能够提供人工智能产业咨询的企业专业律师，对企业的AI运营体系进行定制化诊断。