AI/IT

AI是‘Artificial Intelligence’的缩写，指使计算机能够像人一样思考和学习的人工智能技术。

它涵盖机器学习、自然语言处理、语音识别、图像识别等多种技术，正逐渐影响众多产业。

AI能够基于数据自主学习、预测并作出决策。

IT是‘Information Technology’的缩写，指涵盖与计算机、软件、网络相关的整体技术，支持信息的收集、存储、传输、处理等的信息技术。

IT正逐渐成为提升企业运营效率、改善客户体验并在各产业领域带来创新的核心要素。

开发·运营基于AI的服务或系统的企业，必须确保AI伦理原则、可解释性、禁止歧视和透明性。

2024年欧盟《AI法案》、韩国《AI基本法》（立法预告）、NIST AI风险管理指南等，也将AI透明性、防止数据偏见、算法可解释性作为必备标准加以要求。

因此，在开发AI模型时，需要 ① 事先检查数据集偏见，② 编制确保AI可解释性的文件，③ 引入AI伦理验证流程，④ 指定AI负责人并运营伦理委员会。

在开发·运营AI过程中收集、分析、利用个人信息时，必须遵守《个人信息保护法》《信息通信网法》等。

尤其是将个人识别信息、影像、位置信息等作为AI学习用数据加以收集时，若不满足同意要件和去识别化措施要件，将成为课征金、刑事处罚的对象。

因此，① 对AI学习用数据集实施个人信息影响评估，② 细化个人信息收集及利用同意书，③ 采取数据去识别化措施并进行适当性审查，④ 引入AI系统个人信息保护设计（Privacy by Design）必不可少。

当AI服务中出现非本意的种族、性别、年龄、出生地等算法歧视时，企业将受到社会谴责和法律制裁。

因此，需要① 运营AI决策结果分析与偏见审查流程，② 制定算法公正性检查标准，③ 构建缓解偏见风险的数据集，④ 定期实施AI伦理审计。

AI学习用数据及生成式AI内容的著作权归属、权利侵害问题频繁发生。

AI所生成内容是否受著作权保护、能否擅自学习他人著作物、AI成果物的权利归属问题，都是主要争议点。

为防范该风险，需要① 收集AI学习用数据时进行权利审查及许可管理，② 签订AI生成物权利归属合同，③ 事先审查AI学习数据是否侵犯著作权，④ 在AI内容使用条款中明确权利归属条款。

AI系统及IT服务发生黑客攻击、勒索软件、个人信息泄露事故时，将依据《信息通信网法》《个人信息保护法》产生刑事处罚、损害赔偿责任。

尤其对于运营基于AI的SaaS服务、云基础设施、智能工厂的企业而言，网络安全应对必不可少。

为此，需要① 获得信息保护管理体系（ISMS）认证，② 针对AI系统进行漏洞检查，③ 制定AI安全威胁应对手册，④ 构建应对泄露事故的个人信息泄露应对预案。

平台·IT企业若对入驻商家·内容供应商发生滥用交易上优越地位、操纵广告手续费·搜索排名、单方变更交易条件等行为，将成为《公平交易法》上课征金、责令改正的对象。

尤其是确保基于AI算法的推荐·广告·定价系统的公正性成为问题所在。

为解决这一问题，需要① 确保算法透明性，② 与入驻企业使用标准合同书，③ 事先检查平台交易中的不公平行为，④ 运营平台公平交易自律遵守项目。

运用人工智能（AI）的服务 伴随着‘AI生成物’的法律归属问题，以及违反‘AI伦理’规范等多种法律风险。

尤其是当AI向用户自动提供决策，或被用于签订合同、贷款审查、保险费率计算、人事评价等情形时，若因错误决策导致消费者受损，该法律责任归属于谁便十分重要。

韩国国内目前尚未制定明确的AI法律，但会通过《个人信息保护法》《公平交易法》《著作权法》等现行法律来追究AI服务的责任所在。

企业应检查AI算法的决策结构、是否存在数据偏见、误用·滥用可能性等，并制定AI服务提供条款及告知程序，以将法律责任范围降至最低。

此外，引入AI伦理委员会、AI影响评估报告书制度，也是预防法律纠纷的有效方法。

为提升AI服务性能而收集·利用个人信息及去识别化数据的过程中，必须遵守《个人信息保护法》《信息通信网法》。

尤其是将个人信息用作AI学习数据时，会产生信息主体的同意程序、明确收集·利用目的、禁止目的外利用、签订处理委托合同书的义务 等。

企业只有对AI学习数据及服务运营数据实施‘个人信息影响评估’、遵守‘数据假名化指南’、公开‘AI数据处理方针’等，构建系统性的数据治理，才能预防法律纠纷。

基于AI的推荐服务、自动决策系统、基于数据的分析服务等IT服务可能对消费者产生重要影响，因此负有服务条款、用户同意程序、告知服务局限的义务。

尤其必须明确告知AI的推荐·决策是单纯的参考信息，还是伴随法律·经济义务的决定，并说明AI服务出现故障或错误的可能性。

若对此有所疏忽，可能因违反《电子商务法》而产生消费者损失补偿、损害赔偿责任。

因此，企业宜完善AI/IT服务的使用条款，并明确纳入法律免责条款及服务局限事项。

AI生成的文本、图像、音源、影像等，其创作性要件、著作者归属问题、是否受著作权保护是法律争议点。

依据韩国国内法，AI并非自然人，因此不被认定为创作者，生成物的权利很可能归属于运营AI的人或法人。

但若AI学习第三方的著作物，并对其进行变形·再加工或相似地再现，则可能发生著作权侵害。

企业必须建立AI学习数据合法性审查、生成物著作权登记可能性、是否侵害第三方权利的检查、许可审查等程序。

此外，还需事先设定针对AI生成内容的免责条款以及内容删除·修改请求程序。

随着AI/IT服务的全球化，将个人信息存储于海外云服务器或与外国服务运营商共享数据的情况正在增多。

这种情况下，须依据《个人信息保护法》履行信息主体同意、告知境外转移目的及受托人信息、适当性评估、制定保护措施计划等严格的程序。

企业应通过识别境外转移对象数据、签订转移合同书、境外转移影响评估、制定数据保护措施计划来控制风险，并定期检查海外云服务运营商的保护措施水平。

AI推荐服务、AI购物商城、应用程序服务等，必须遵守线上广告·标识规定。

虚假·夸大·欺骗广告、个人信息误用滥用广告、AI自动推荐服务实质上的广告性内容标识违规，将因违反《关于标识·广告公平化的法律》而成为课征金和刑事处罚的对象。

尤其是基于AI的广告解决方案会进行自动定向、个人定制广告，因此引发消费者误解的可能性较高，须明确告知其为广告并获得用户同意。

企业应整理广告文案、标识方式、AI推荐流程透明性、广告对象消费者范围、AI算法说明资料，以事先阻断违规风险。

1. AI服务开发·运营相关法律遵守事项

□AI服务使用条款、个人信息处理方针中是否告知AI自动决策功能及局限

□是否引入AI伦理规范、AI人权影响评估程序

□是否在AI算法开发·运营过程中检查歧视、偏见、扭曲情况并建立风险管理体系

2. 个人信息保护及数据管理
□是否确认AI学习用数据中包含个人信息并取得同意书

□是否遵守去识别化措施、假名处理、禁止目的外利用的程序

□是否签订个人信息处理委托合同书并构建受托人管理体系

3. AI生成物法律保护及著作权风险
□是否理清AI生成内容的著作权归属关系并制定公司内部指南

□是否为AI学习的原著作物取得合法许可

□是否建立针对AI内容的用户删除请求、修改请求的应对程序

□是否在服务条款中明示AI生成物相关的法律免责条款

4. AI/IT服务广告·标识遵守
□基于AI的推荐、自动决策、广告服务是否进行广告性标识及告知

□是否事先检查虚假·夸大·欺骗广告以及可能引起用户误认的广告文案

□是否取得定制化定向广告的个人信息收集·利用同意书

5. AI/IT伦理经营体系构建
□是否运营AI伦理规范及公司内部AI伦理委员会

□是否对AI服务的社会影响、人权·歧视风险进行定期风险诊断

□是否编制AI伦理性审查报告书并对外公开

6. 信息保护及安全管理

□是否定期检查AI·IT系统安全漏洞并运营风险应对体系

□发生信息泄露事故时是否配备应对手册及应急响应团队