CONTENTS
- 1. Рамочный закон об ИИ | Республика Корея формирует систему регулирования ИИ вслед за ЕС
- 2. Рамочный закон об ИИ | Юридические определения и 5 ключевых положений
- 3. Рамочный закон об ИИ | Этические стандарты государства и усиление ответственности
- - Обязанности компаний по обеспечению прозрачности, уведомлению и защите пользователей
- 4. Рамочный закон об ИИ | Роль государства, меры поддержки и основные направления политики
- 5. Рамочный закон об ИИ | Основные меры и стратегия подготовки компаний
- - Обеспечение безопасности и ответственности на этапе предоставления услуг
- - Совершенствование глобальной системы комплаенса с учетом тенденций регулирования ИИ в Республике Корея и за рубежом
- - Усиление корпоративного обучения и процедур в области этики ИИ, безопасности и эксплуатации
- 6. Рамочный закон об ИИ | Конкурентоспособность в отрасли должна основываться на грамотности в области ИИ
1. Рамочный закон об ИИ | Республика Корея формирует систему регулирования ИИ вслед за ЕС
Рамочный закон об ИИ, то есть первый в Республике Корея комплексный закон о регулировании искусственного интеллекта — «Рамочный закон о развитии искусственного интеллекта и формировании основы доверия», — вступит в силу со следующего года.
В результате Республика Корея станет второй после ЕС юрисдикцией, сформировавшей комплексную систему регулирования ИИ.
Рамочный закон об ИИ направлен на обеспечение баланса между развитием отрасли, с одной стороны, и защитой пользователей и управлением рисками — с другой.
В связи с этим закон непосредственно затронет большинство компаний, предоставляющих услуги на основе ИИ, в том числе в производственной, платформенной, финансовой и медицинской сферах.
Расходы на соблюдение требований и регуляторные риски могут существенно различаться в зависимости от заблаговременной подготовки.
Ниже рассматриваются ключевые положения Рамочного закона об ИИ и практические меры, которые компаниям следует принять уже сейчас.
2. Рамочный закон об ИИ | Юридические определения и 5 ключевых положений
Рамочный закон об ИИ непосредственно закрепляет ключевые понятия, чтобы установить четкие критерии регулирования, защиты и ответственности в условиях стремительного развития технологий ИИ.
В статье 2 приводятся следующие основные определения, относящиеся к системам искусственного интеллекта.
∙ Искусственный интеллект
: реализация электронными средствами присущих человеку интеллектуальных способностей, включая обучение, рассуждение, восприятие, принятие решений и понимание языка
∙ Искусственный интеллект со значительным воздействием
: система искусственного интеллекта, способная оказать существенное воздействие на жизнь и физическую безопасность человека или его основные права либо создать соответствующий риск
∙ Генеративный искусственный интеллект
: система искусственного интеллекта, которая имитирует структуру и характеристики введенных данных и создает тексты, звуки, изображения, видеоматериалы и иные разнообразные результаты
∙ Отрасль искусственного интеллекта
: отрасль, в которой разрабатываются, изготавливаются, производятся или распространяются продукты с использованием искусственного интеллекта или технологий искусственного интеллекта либо предоставляются связанные с ними услуги
∙ Оператор в сфере искусственного интеллекта
: юридическое лицо, организация, физическое лицо, государственный орган или иной субъект, ведущий деятельность, связанную с отраслью искусственного интеллекта, и относящийся к одной из следующих категорий
В связи с этим регулирование может распространяться не только на программное обеспечение ИИ, но и на оснащенных им роботов, сенсорные автоматизированные устройства и периферийные вычислительные устройства.
Закрепление четких определений позволяет компаниям определить, какие из их услуг относятся к ИИ и к какой категории они принадлежат.
3. Рамочный закон об ИИ | Этические стандарты государства и усиление ответственности
Статья 27 Рамочного закона об ИИ прямо устанавливает, что государство отвечает за решение этических вопросов, связанных с ИИ.
В связи с этим государство может разработать и опубликовать этические принципы в сфере ИИ, учитывающие следующие элементы.
∙ Надежность
∙ Доступность и справедливость
∙ Человеческое достоинство
∙ Ценности общества
Министр науки и информационно-коммуникационных технологий Республики Корея также будет отвечать за разработку практических мер по применению этических принципов и распространение этической осведомленности в обществе посредством обучения и информирования.
Эти положения также станут для компаний ориентиром при разработке политики в сфере ИИ и внутренних руководящих правил.
Обязанности компаний по обеспечению прозрачности, уведомлению и защите пользователей
Статья 31 Рамочного закона об ИИ возлагает на операторов в сфере ИИ следующие основные обязанности.
Обеспечение прозрачности обязательно, в частности, при использовании ИИ со значительным воздействием или генеративного ИИ.
1. Обязанность обеспечить прозрачность
▷ Четкое обозначение результата, созданного генеративным ИИ
▷ При предоставлении «виртуальных результатов», включая изображения или аудиоматериалы, сходные с реальными
▷ Обязательное обозначение или уведомление, позволяющее пользователю сразу распознать такие результаты
За нарушение может быть наложен административный штраф в размере до 30 миллионов южнокорейских вон, поэтому компаниям следует заранее привести в соответствие интерфейсы UI/UX, формулировки уведомлений и стандарты информирования клиентов.
2. Обязанность по усиленному управлению рисками
Статья 32 Рамочного закона об ИИ возлагает на операторов в сфере ИИ обязанность обеспечивать безопасность на протяжении всего жизненного цикла (Life Cycle) ИИ.
К крупным моделям ИИ, совокупный объем вычислений при обучении которых превышает установленный указом президента порог, будут применяться усиленные требования безопасности.
К основным обязанностям компаний относятся следующие.
∙ Разработка мер по снижению рисков для предотвращения происшествий
∙ Создание системы постоянного мониторинга происшествий, связанных с безопасностью, и оперативного реагирования
∙ Регулярное представление государству, в лице министра науки и информационно-коммуникационных технологий Республики Корея, сведений о безопасности
4. Рамочный закон об ИИ | Роль государства, меры поддержки и основные направления политики
Рамочный закон об ИИ также устанавливает обязанности государства.
∙ Обеспечение безопасности ИИ (деятельность Института безопасности искусственного интеллекта)
∙ Содействие развитию технологий, поддержка промышленности и стандартизация
∙ Подготовка специалистов и реализация политики по привлечению кадров из-за рубежа
∙ Функционирование системы регулирования и надзора в сфере ИИ
В частности, с 11-го месяца 2025 года, когда проект подзаконного акта был официально опубликован для общественного обсуждения, начали разрабатываться конкретные практические положения о критериях отнесения систем к ИИ со значительным воздействием, обязанности уведомлять о результатах генеративного ИИ, обязанности обеспечивать безопасность и оценке воздействия искусственного интеллекта.
Правительство проводит широкие консультации с представителями отрасли и экспертами, а также планирует установить первоначальный разъяснительный период продолжительностью не менее 1 года в отношении административных штрафов, чтобы предоставить компаниям время для подготовки.
Для компаний это означает, что «направления государственного регулирования — меры поддержки — этические стандарты — стандарты надзора» реализуются в рамках единой системы.
В связи с этим частным компаниям также следует оперативно привести в соответствие внутреннюю стратегию в сфере ИИ, процессы управления рисками и систему информирования для обеспечения прозрачности.
5. Рамочный закон об ИИ | Основные меры и стратегия подготовки компаний
С вступлением в силу Рамочного закона об ИИ компании должны будут подтверждать ответственное, прозрачное и безопасное осуществление разработки и эксплуатации ИИ.
Для компаний, работающих с ИИ высокого риска или ИИ со значительным воздействием, недостаточная подготовка может привести к повышенному риску санкций и возмещения вреда, поэтому им требуется заблаговременная стратегия соблюдения требований.
В условиях действия Рамочного закона об ИИ ключевое значение приобретает система превентивного управления, предусматривающая применение юридических и этических стандартов с начального этапа разработки ИИ.
При сборе обучающих данных необходимо тщательно проверять наличие нарушений авторских прав. Поскольку в Республике Корея отсутствует исключение для TDM (интеллектуального анализа текстов и данных), требуется проверить соблюдение критериев статьи 35-5 Закона Республики Корея об авторском праве, регулирующей добросовестное использование произведений.
Соблюдение Закона Республики Корея о защите персональных данных также должно быть основным требованием. На каждом этапе обработки информации следует системно выполнять юридические требования, включая псевдонимизацию и обезличивание, получение согласия и определение законных оснований обработки.
Одновременно следует организовать проверку наборов данных для минимизации алгоритмической предвзятости (Bias), внедрить XAI (объяснимый искусственный интеллект — технологию, позволяющую человеку понимать процесс принятия решений ИИ) и создать систему проверки точности на основе показателей эффективности, включая F1-score.
Необходимо на раннем этапе определить, относится ли разрабатываемая система к ИИ со значительным воздействием, и проверить соблюдение дополнительных обязанностей, установленных Рамочным законом об ИИ, включая возможность вмешательства человека.
Обеспечение безопасности и ответственности на этапе предоставления услуг
На этапе предоставления модели ИИ в составе реальной услуги основными вопросами становятся законность и безопасность результатов, а также защита пользователей.
Требуются системы фильтрации и проверки, позволяющие заблаговременно предотвращать возможные нарушения авторских прав контентом, созданным ИИ, чрезмерное сходство с существующими произведениями и появление ложной информации вследствие галлюцинаций модели.
Следует также предусмотреть технические меры для предотвращения создания незаконного или вредоносного контента, включая дипфейки и высказывания, разжигающие ненависть.
Поскольку вводимые пользователями данные (промпты) могут содержать персональные данные, необходимо разработать операционную политику, соответствующую всем требованиям Закона Республики Корея о защите персональных данных, включая получение согласия, минимизацию сбора данных, ограничение целей обработки и обеспечение прав пользователей, в том числе права требовать разъяснений, отказаться от обработки и потребовать пересмотра решения.
Для повышения ответственности на этапе предоставления услуги также следует создать системы рассмотрения жалоб и возмещения вреда.
Совершенствование глобальной системы комплаенса с учетом тенденций регулирования ИИ в Республике Корея и за рубежом
Компаниям необходимо создать систему соблюдения требований, учитывающую не только Рамочный закон Республики Корея об ИИ, но и различные зарубежные системы регулирования, включая Регламент ЕС об искусственном интеллекте (EU AI Act) и руководящие положения Федеральной торговой комиссии США (FTC).
Компаниям, выходящим на рынок ЕС, требуется заблаговременная подготовка, поскольку они должны выполнять строгие условия, включая классификацию по уровню риска, сертификацию CE, создание системы управления качеством (QMS) и соблюдение требований прозрачности.
В Республике Корея обязательны выявление ИИ со значительным воздействием, обеспечение безопасности и прозрачности, а также соблюдение принципа ориентации на человека. В связи с этим компаниям следует применять единую политику комплаенса, одновременно учитывающую корейское и зарубежное регулирование.
Усиление корпоративного обучения и процедур в области этики ИИ, безопасности и эксплуатации
Поскольку вопросы ИИ касаются не только подразделений разработки, необходима корпоративная система обучения в области этики и информационной безопасности.
Разработчикам, специалистам по планированию, маркетингу, обслуживанию клиентов (CS) и эксплуатации необходимо регулярно проходить обучение, позволяющее понимать ▲этические принципы ИИ, ▲стандарты обработки данных, ▲требования в области авторских прав и персональных данных, ▲обязанности по уведомлению, установленные Рамочным законом об ИИ.
Процедуры обеспечения прав пользователей при автоматизированной обработке персональных данных должны быть тесно интегрированы с работой операционных подразделений и подразделений обслуживания клиентов (CS).
После разработки модели ИИ с течением времени может возникнуть проблема дрейфа модели, приводящая к снижению ее эффективности.
Поэтому необходимы регулярная проверка эффективности, оценка предвзятости, тестирование безопасности и процедуры повторного обучения. Также следует отдельно разработать порядок реагирования на происшествия и план действий в чрезвычайных ситуациях.
Система оперативного восстановления при сбоях модели, нарушениях информационной безопасности и иных происшествиях также имеет существенное значение для снижения юридической ответственности.
Система анализа отзывов пользователей и учета результатов анализа при совершенствовании модели также необходима для повышения доверия к компании.
6. Рамочный закон об ИИ | Конкурентоспособность в отрасли должна основываться на грамотности в области ИИ
Государство совершенствует направления политики, стандарты безопасности, стандартизацию и систему надзора при участии Национального комитета по искусственному интеллекту и Института безопасности искусственного интеллекта.
В связи с этим компаниям следует создать систему управления ИИ, согласовав внутреннюю стратегию в сфере ИИ с государственной политикой.
Для минимизации расходов на соблюдение регуляторных требований необходимо организовать взаимодействие между подразделениями, отвечающими за разработку технологий, управление данными, юридические вопросы и комплаенс, безопасность и планирование, а также применять документированные внутренние правила.
Вступление в силу Рамочного закона об ИИ означает не только усиление регулирования. Можно ожидать перехода к структуре рынка, в которой ведущие позиции занимают компании, безопасно и ответственно использующие ИИ.
Одних лишь технических возможностей уже недостаточно: новыми факторами конкурентоспособности становятся управление данными, прозрачность, контроль качества и соблюдение этических стандартов.
Для компаний, использующих ИИ со значительным воздействием или генеративный ИИ, способность соблюдать требования на протяжении всего жизненного цикла — от уведомления и обеспечения безопасности до защиты персональных данных и постоянного мониторинга — становится ключевым активом, определяющим доверие к компании.
При наличии вопросов, связанных с внутренним контролем в сфере ИИ, управлением рисками, определением ИИ со значительным воздействием или подготовкой к будущим регуляторным рискам, можно получить индивидуальную оценку корпоративной системы эксплуатации ИИ у юриста, специализирующегося на сопровождении бизнеса и консультировании в сфере искусственного интеллекта.
Связанные новости
Watch related video content
for this case study.
Базовый закон об AI: ознакомьтесь в видеоформате
