“每个人的 Ghibli 个人资料被泄露可以吗？”...聊天 GPT 和隐私侵权

金泰焕律师事务所大纶知识产权律师问答

如今，使用 ChatGPT 创建 Ghibli 风格的个人资料很流行。可爱又温暖的插图让你一看到它们就会微笑，但一想到人工智能 (AI) 可以学习原始照片并将其用于其他目的，也会让人感到害怕。自 2022 年 11 月推出以来，生成式 AI ChatGPT 不断提出与个人信息管理相关的问题。这是因为人工智能在使用服务时会学习并存储个人信息，因此无法避免隐私侵犯问题。

AI学习过程中会出现个人信息保护问题。人工智能在处理文本和图像等非结构化数据时学习模式、结构和排列。此时，AI可能并没有意识到居民登记号码、地址、健康信息等属于敏感个人信息。因此，在记忆和重印所学信息的过程中，信息可能会暴露。由于这些因素，存在个人信息泄露或信息主体权利受到侵犯的可能性。

我们听取了一位专门从事知识产权工作的律师关于与此相关的法律问题和对策的看法。这是与金泰焕律师事务所（大纶）知识产权专业律师的问答交流。

▶ 如果AI模型学习并使用个人信息，是否会违反个人信息保护法？

如果人工智能模型学习并利用个人的个人信息，这可能会成为违反个人信息保护法的问题。根据《个人信息保护法》，收集、使用、提供个人信息必须有合法的法律依据。 《个人资料保护法》第十五条规定收集、使用个人资料，必须经资料主体同意或法定要求。

该法第 15 条和第 17 条限制为预定目的以外的目的使用或提供个人信息。本案的问题部分可以看作是“信息主体的同意”。在处理个人信息时，必须首先获得信息主体的同意。但是，如果AI模型学习到的数据中包含的个人信息已经是公开信息，则可能存在未经同意即可处理的情况，因此需要进行审查。

另一个问题取决于如何承认个人信息处理者的合法利益。处理个人信息的目的必须基于合理合法的业务需要，且该目的必须被评估为优先于信息主体的权益。

换句话说，无论个人信息处理者的利益有多大，如果个人信息的使用方式对信息主体造成过度侵害或者以信息主体不期望的方式使用，则“合法利益”不被承认。在这种情况下，如果将个人信息用于人工智能学习或二次利用，违反个人信息保护法的可能性就会增加。

个人信息提供通知字体即使太小也是违法的

▶ 随着科学技术的发展，个人信息处理的问题越来越多。如果您遭遇个人信息泄露，您的应对措施是什么？

应对个人信息泄露造成的损害可采取的法律措施包括行政机构的罚款或附加费、民事损害索赔和刑事指控。事实上，韩国尚未开展与人工智能相关的代表性诉讼，这使其成为一个难题。对于个人信息相关问题，可以举具有代表性的刑事案件“Homeplus案”（最高法第2016Do13263号判决，2017年4月7日宣判）为例。本案系为抽奖活动收集及提供个人资料过程中，未妥善执行个人资料保护法第十五条之告示，且未妥善遵守个人资料保护法第十七条规定之事件。

尤其是关于提供个人信息的告知书采用小字书写，消费者难以完整阅读并同意。这违反了法律在获得信息主体同意的过程中必须明确告知并同意的要求。最终，Homeplus及其负责人依据个人资料保护法第七十二条第二项、第五十九条第一项规定追究刑事责任。本案因“未经同意”、“通知不明确”而违反个人信息保护法，可以说是为今后类似案件树立法律标准的重要先例。

▶ 对于作为个人信息处理者的人工智能服务提供商，他们应该制定什么策略来遵守个人信息保护法等相关法律？

AI模型学习和使用个人信息的过程有可能违反个人信息保护法。因此，人工智能开发者和服务提供者必须明确合法的法律依据，彻底确保安全，保障信息主体的权利。即使在处理根据个人信息保护法披露的个人信息时，也必须遵守法律依据和安全标准，并且明确获得信息主体的同意很重要。

必须建立并彻底管理特定的同意程序，以确保个人信息不会被用于处理目的以外的目的。还必须加强安全措施，防止个人信息泄露。确保安全必须包括个人信息保护法第29条规定的与建立内部管理计划和保存访问记录相关的技术、管理和物理措施。

[查看全文]
“每个人都可以泄露原始的 Ghibli 个人资料吗？”...聊天 GPT 和个人信息侵权（链接）