«Все ли в порядке, если их профиль Ghibli стал известен?»... Чат GPT и нарушение конфиденциальности

Вопросы и ответы с Ким Тэ Хваном, адвокатом, специализирующимся на правах интеллектуальной собственности юридической фирмы Дэрюн

В наши дни популярно создавать профили в стиле Ghibli с помощью ChatGPT. Милые и теплые иллюстрации заставят вас улыбнуться, как только вы их увидите, но может быть страшно подумать, что искусственный интеллект (ИИ) может изучить оригинальные фотографии и использовать их для других целей. С момента своего запуска в ноябре 2022 года генеративный ИИ ChatGPT постоянно поднимает вопросы, связанные с управлением личной информацией. Это связано с тем, что ИИ изучает и хранит личную информацию при использовании службы, поэтому он не может быть свободен от проблем, связанных с нарушением конфиденциальности.

Проблемы с защитой личной информации возникают в процессе обучения ИИ. ИИ изучает шаблоны, структуры и механизмы при обработке неструктурированных данных, таких как текст и изображения. В настоящее время ИИ может не знать, что регистрационные номера жителей, адреса, медицинская информация и т. д. являются конфиденциальной личной информацией. Поэтому информация может раскрыться в процессе запоминания и перепечатывания изученной информации. Из-за этих факторов существует вероятность утечки личной информации или нарушения прав субъекта информации.

Мы выслушали юриста, специализирующегося на правах интеллектуальной собственности, о юридических вопросах и мерах противодействия, связанных с этим. Это обмен вопросами и ответами с Ким Тэ Хваном, юристом, специализирующимся на правах интеллектуальной собственности юридической фирмы Дэрюн.

▶ Если модель ИИ узнала и использовала индивидуальную информацию, может ли это быть нарушением Закона о защите личной информации?

Если модель ИИ изучает и использует личную информацию человека, это может стать проблемой как нарушение Закона о защите личной информации. Согласно Закону о защите личной информации, для сбора, использования и предоставления личной информации необходима законная правовая основа. Статья 15 Закона о защите личной информации предусматривает, что при сборе и использовании личной информации должно соблюдаться согласие субъекта информации или требования законодательства.

Статьи 15 и 17 того же Закона ограничивают использование или предоставление личной информации в целях, отличных от предусмотренных. Проблемную часть в этом случае можно рассматривать как «согласие субъекта информации». Для обработки личной информации необходимо сначала получить согласие субъекта данных. Однако если личная информация, включенная в данные, полученные моделью ИИ, уже является общедоступной информацией, могут быть случаи, когда она может быть обработана без согласия, поэтому проверка необходима.

Другой вопрос зависит от того, как признать законные интересы обработчика персональной информации. Цель обработки персональной информации должна основываться на разумных и законных нуждах бизнеса, а цель должна оцениваться как имеющая приоритет над правами или интересами субъекта информации.

Другими словами, как бы ни были велики интересы обработчика персональной информации, если персональная информация используется таким образом, что вызывает чрезмерное ущемление субъекта информации или таким образом, которого субъект информации не ожидает, «законный интерес» не признается. В этой ситуации, если личная информация используется для обучения ИИ или вторичного использования, вероятность нарушения Закона о защите личной информации возрастает.

Шрифт уведомления о предоставлении личной информации является незаконным, даже если он слишком мелкий.

▶ С развитием науки и технологий возрастают проблемы с обработкой личной информации. Если вы столкнулись с утечкой личной информации, каковы ваши меры противодействия?

Правовые меры, которые могут быть приняты для реагирования на ущерб от утечки личной информации, включают штрафы или дополнительные сборы со стороны административных органов, гражданские иски о возмещении ущерба и уголовные обвинения. Фактически, представительные иски, связанные с ИИ, в Корее еще не проводились, что делает этот вопрос сложным. Что касается вопросов, связанных с личной информацией, то в качестве примера можно привести дело Homeplus (решение Верховного суда 2016Do13263, приговор от 7 апреля 2017 года), показательное уголовное дело. Речь идет об инциденте, когда в процессе сбора и предоставления личной информации для проведения лотереи не были должным образом реализованы уведомления, предусмотренные статьей 15 Закона о защите личной информации, а также не были должным образом соблюдены положения статьи 17 Закона о защите личной информации.

В частности, уведомление о предоставлении личной информации было написано мелкими буквами, что затрудняло его полное прочтение и согласие потребителями. Это нарушает требование законодательства о том, что в процессе получения согласия от субъекта информации необходимо предоставить четкое уведомление и согласие. В конечном итоге Homeplus и ответственное лицо были привлечены к уголовной ответственности в соответствии с пунктом 2 статьи 72 и пунктом 1 статьи 59 Закона о защите личной информации. Этот случай является нарушением Закона о защите личной информации из-за «отсутствия согласия» и «нечеткого уведомления» и, можно сказать, является важным прецедентом, устанавливающим правовые стандарты для подобных случаев в будущем.

▶ В случае с поставщиками услуг искусственного интеллекта, которые являются обработчиками личной информации, какие стратегии им следует разработать для соблюдения соответствующих законов, таких как Закон о защите личной информации?

Процесс обучения модели ИИ и использования личной информации может привести к нарушению законов о защите личной информации. Поэтому разработчики ИИ и поставщики услуг должны разъяснить законные правовые основания и тщательно обеспечить безопасность и гарантировать права субъектов информации. Даже при обработке персональных данных, раскрываемых в соответствии с Законом о защите персональных данных, необходимо соблюдать правовую основу и нормы безопасности, а также важно четко получить согласие субъекта информации.

Необходимо установить и тщательно контролировать специальную процедуру согласия, чтобы гарантировать, что личная информация не будет использоваться или предоставляться для целей, отличных от цели, для которой она была обработана. Меры безопасности также должны быть усилены для предотвращения утечек личной информации. Обеспечение безопасности должно включать технические, управленческие и физические меры, связанные с созданием плана внутреннего управления и ведением учета доступа, как указано в статье 29 Закона о защите личной информации.

[Посмотреть статью полностью]
"Все ли могут слить исходный профиль Ghibli?"... Чат GPT и нарушение прав на личную информацию (ссылка)