AI/IT

AI — аббревиатура от «Artificial Intelligence», означающая технологию искусственного интеллекта, которая позволяет компьютеру мыслить и обучаться подобно человеку.

Она включает различные технологии, такие как машинное обучение, обработка естественного языка, распознавание речи и изображений, и оказывает влияние на все большее число отраслей.

AI способен самостоятельно обучаться на основе данных, делать прогнозы и принимать решения.

IT — аббревиатура от «Information Technology», означающая информационные технологии, охватывающие весь комплекс технологий, связанных с компьютерами, программным обеспечением и сетями, и обеспечивающие сбор, хранение, передачу и обработку информации.

IT стали ключевым фактором, который повышает операционную эффективность компаний, улучшает клиентский опыт и способствует инновациям в различных отраслях.

Компании, разрабатывающие и эксплуатирующие сервисы или системы на основе AI, должны обеспечивать соблюдение этических принципов AI, объяснимость, недопущение дискриминации и прозрачность.

Акт ЕС об искусственном интеллекте 2024 года, проект Рамочного закона Республики Корея об искусственном интеллекте на стадии предварительного опубликования и Рамочная программа NIST по управлению рисками AI также устанавливают обязательные критерии прозрачности AI, предотвращения предвзятости данных и объяснимости алгоритмов.

Поэтому при разработке модели AI необходимы ① предварительная проверка набора данных на предвзятость, ② подготовка документации, обеспечивающей объяснимость AI, ③ внедрение процесса проверки соблюдения этических принципов AI, ④ назначение ответственного за AI и деятельность комитета по этике.

При сборе, анализе и использовании персональных данных в процессе разработки и эксплуатации AI необходимо соблюдать Закон Республики Корея о защите персональных данных, Закон Республики Корея об информационно-коммуникационных сетях и другие применимые нормативные акты.

Если для обучения AI собираются идентифицирующие личность сведения, изображения, данные о местоположении и иная подобная информация, несоблюдение требований к получению согласия и обезличиванию может повлечь денежное взыскание за нарушение административных норм и уголовное наказание.

Поэтому обязательными являются ① проведение оценки влияния на защиту персональных данных в отношении наборов данных для обучения AI, ② конкретизация согласия на сбор и использование персональных данных, ③ обезличивание данных и проверка достаточности соответствующих мер, ④ внедрение в систему AI принципа встроенной защиты персональных данных (Privacy by Design).

Если сервис AI допускает непреднамеренную алгоритмическую дискриминацию по признаку расы, пола, возраста, места происхождения или иным признакам, компания может столкнуться с общественной критикой и правовыми санкциями.

Поэтому необходимы ① анализ результатов решений AI и функционирование процесса проверки предвзятости, ② установление критериев проверки справедливости алгоритмов, ③ формирование наборов данных для снижения риска предвзятости, ④ проведение регулярного аудита соблюдения этических принципов AI.

Часто возникают вопросы о принадлежности авторских прав на данные для обучения AI и контент, созданный генеративным AI, а также о нарушении соответствующих прав.

К числу основных вопросов относятся возможность охраны авторским правом контента, созданного AI, допустимость обучения AI без разрешения на произведениях третьих лиц и принадлежность прав на результаты работы AI.

Для предотвращения этих рисков необходимы ① проверка прав и управление лицензиями при сборе данных для обучения AI, ② заключение договоров о принадлежности прав на материалы, созданные AI, ③ предварительная проверка данных для обучения AI на предмет нарушения авторских прав, ④ четкое закрепление принадлежности прав в условиях использования контента AI.

В случае взлома систем AI или IT-сервисов, атак с использованием программ-вымогателей либо утечки персональных данных могут возникнуть уголовная ответственность и обязанность возместить вред в соответствии с Законом Республики Корея об информационно-коммуникационных сетях и Законом Республики Корея о защите персональных данных.

Меры кибербезопасности особенно необходимы компаниям, эксплуатирующим сервисы SaaS на основе AI, облачную инфраструктуру и умные фабрики.

Для этого необходимы ① получение сертификации системы управления информационной безопасностью (ISMS), ② проверка уязвимостей систем AI, ③ разработка руководства по реагированию на угрозы безопасности AI, ④ разработка сценария реагирования на утечку персональных данных.

Если платформенные и IT-компании злоупотребляют преобладающим положением в отношениях с продавцами, представленными на платформе, и поставщиками контента, манипулируют комиссией за рекламу или поисковым рейтингом либо в одностороннем порядке изменяют условия сделок, к ним могут применяться денежные взыскания и предписания об устранении нарушений в соответствии с Законом Республики Корея о регулировании монополий и справедливой торговле.

Особое значение имеет обеспечение справедливости рекомендательных, рекламных и ценообразующих систем на основе алгоритмов AI.

Для решения этих вопросов необходимы ① обеспечение прозрачности алгоритмов, ② использование типовых договоров с продавцами, представленными на платформе, ③ предварительная проверка на наличие недобросовестных действий в платформенных сделках, ④ реализация программы добровольного соблюдения правил справедливой торговли на платформе.

Сервисы, использующие искусственный интеллект (AI), сопровождаются различными правовыми рисками, включая вопросы правовой принадлежности «материалов, созданных AI», и нарушения норм этики AI.

Если AI автоматически предлагает пользователю решение либо используется для заключения договоров, оценки заявок на кредитование, расчета страховых тарифов или оценки персонала, при причинении ущерба потребителю вследствие ошибочного решения существенное значение имеет определение лица, несущего юридическую ответственность.

В Республике Корея специальный закон, четко регулирующий AI, пока не принят, однако ответственность в связи с сервисами AI определяется на основании действующих нормативных актов, включая Закон Республики Корея о защите персональных данных, Закон Республики Корея о регулировании монополий и справедливой торговле и Закон Республики Корея об авторском праве.

Компаниям необходимо проверять структуру принятия решений алгоритмами AI, наличие предвзятости данных и возможность ненадлежащего или неправомерного использования, а также разрабатывать условия предоставления сервисов AI и процедуры уведомления, чтобы снизить риски привлечения к юридической ответственности.

Внедрение комитета по этике AI и системы отчетов об оценке воздействия AI также может способствовать предотвращению правовых споров.

При сборе и использовании персональных и обезличенных данных для повышения эффективности сервиса AI необходимо соблюдать Закон Республики Корея о защите персональных данных и Закон Республики Корея об информационно-коммуникационных сетях.

При использовании персональных данных для обучения AI возникают, в частности, обязанности по проведению процедуры получения согласия субъекта данных, четкому определению целей сбора и использования, запрету использования не по назначению и заключению договора о поручении обработки данных .

Для предотвращения правовых споров компаниям необходимо создать системную структуру управления данными, включая проведение «оценки влияния на защиту персональных данных» в отношении данных для обучения AI и эксплуатации сервиса, соблюдение «руководства по псевдонимизации данных» и опубликование «политики обработки данных AI».

IT-сервисы, включая рекомендательные сервисы на основе AI, системы автоматизированного принятия решений и сервисы анализа данных, могут существенно влиять на потребителей, поэтому в их отношении действуют требования к условиям предоставления сервиса, процедуре получения согласия пользователей и уведомлению об ограничениях сервиса.

Необходимо четко сообщать, являются ли рекомендации и решения AI исключительно справочной информацией либо решениями, влекущими правовые или экономические обязанности, а также предупреждать о возможности сбоев или ошибок сервиса AI.

Ненадлежащее исполнение этих обязанностей может повлечь обязанность компенсировать ущерб потребителям и возместить вред вследствие нарушения Закона Республики Корея об электронной торговле.

Поэтому компаниям целесообразно актуализировать условия использования сервисов AI/IT и четко включать в них положения об ограничении юридической ответственности и пределах возможностей сервиса.

В отношении текстов, изображений, аудиоматериалов и видеоматериалов, созданных AI, правовыми вопросами являются соответствие критериям творческого характера, определение автора и возможность авторско-правовой охраны.

По законодательству Республики Корея AI не является физическим лицом и поэтому не может быть признан автором; права на созданные материалы, вероятнее всего, принадлежат физическому или юридическому лицу, эксплуатировавшему AI.

Однако если AI обучается на произведениях третьих лиц, изменяет, перерабатывает или воспроизводит их сходным образом, это может привести к нарушению авторских прав.

Компаниям необходимо разработать процедуры проверки законности данных для обучения AI, возможности регистрации авторских прав на созданные материалы, нарушения прав третьих лиц и условий лицензирования.

Также необходимо заранее установить в отношении контента, созданного AI, условия об ограничении ответственности и процедуры рассмотрения запросов на удаление или изменение контента.

В связи с глобализацией сервисов AI/IT все чаще персональные данные хранятся на зарубежных облачных серверах или передаются иностранным поставщикам услуг.

В таких случаях Закон Республики Корея о защите персональных данных требует соблюдения строгих процедур, включая получение согласия субъекта данных, уведомление о цели трансграничной передачи и сведениях о получателе, оценку достаточности защиты и разработку плана защитных мер.

Компаниям необходимо контролировать риски посредством идентификации данных, подлежащих трансграничной передаче, заключения договора о передаче, проведения оценки воздействия трансграничной передачи и разработки плана мер по защите данных. Уровень защитных мер зарубежного поставщика облачных услуг также следует регулярно проверять.

Рекомендательные сервисы AI, интернет-магазины на основе AI, приложения и иные подобные сервисы должны соблюдать правила рекламы и маркировки в интернете.

Ложная, преувеличенная или вводящая в заблуждение реклама, реклама с неправомерным использованием персональных данных, а также отсутствие рекламной маркировки фактически рекламного контента в сервисе автоматических рекомендаций AI являются нарушениями Закона Республики Корея о добросовестной маркировке и рекламе и могут повлечь денежное взыскание и уголовное наказание.

Поскольку рекламные решения на основе AI используют автоматический таргетинг и персонализированную рекламу, они с высокой вероятностью могут ввести потребителей в заблуждение. Поэтому необходимо четко указывать рекламный характер контента и получать согласие пользователей.

Для предварительного предотвращения рисков нарушения компаниям необходимо систематизировать рекламные формулировки, способы маркировки, сведения о прозрачности рекомендательного процесса AI, категории потребителей, которым адресована реклама, и пояснительные материалы об алгоритмах AI.

1. Правовые требования к разработке и эксплуатации сервисов AI

□Указаны ли в условиях использования сервиса AI и политике обработки персональных данных функции и ограничения автоматизированного принятия решений AI

□Внедрены ли нормы этики AI и процедура оценки влияния AI на права человека

□Проверяются ли дискриминация, предвзятость и искажения при разработке и эксплуатации алгоритмов AI и создана ли система управления соответствующими рисками

2. Защита персональных данных и управление данными
□Проверено ли наличие персональных данных в данных для обучения AI и получено ли соответствующее согласие

□Соблюдаются ли процедуры обезличивания и псевдонимизации, а также запрет использования данных не по назначению

□Заключен ли договор о поручении обработки персональных данных и создана ли система управления лицами, которым поручена обработка

3. Правовая охрана материалов, созданных AI, и риски нарушения авторских прав
□Урегулирована ли принадлежность авторских прав на контент, созданный AI, и разработано ли внутреннее руководство

□Получены ли надлежащие лицензии на исходные произведения, используемые для обучения AI

□Разработаны ли процедуры рассмотрения запросов пользователей на удаление или изменение контента AI

□Включены ли в условия использования сервиса положения об ограничении юридической ответственности в связи с материалами, созданными AI

4. Соблюдение требований к рекламе и маркировке сервисов AI/IT
□Нанесена ли рекламная маркировка и предоставлены ли уведомления в отношении рекомендаций, автоматизированных решений и рекламных сервисов на основе AI

□Проведена ли предварительная проверка на наличие ложной, преувеличенной или вводящей в заблуждение рекламы и рекламных формулировок, способных вызвать ошибочное представление у пользователей

□Получено ли согласие на сбор и использование персональных данных для персонализированной таргетированной рекламы

5. Создание системы этичного управления AI/IT
□Действуют ли нормы этики AI и внутренний комитет по этике AI

□Проводится ли регулярная диагностика социальных последствий сервиса AI и рисков для прав человека и недопущения дискриминации

□Подготавливается ли отчет о проверке этичности AI и публикуется ли он

6. Защита информации и управление безопасностью

□Проводятся ли регулярные проверки систем AI/IT на уязвимости безопасности и действует ли система реагирования на риски

□Разработано ли руководство по реагированию на утечку информации и сформирована ли группа экстренного реагирования