CONTENTS
- 1. Основной закон об ИИ | Обзор системы и нормативно-правовая среда
- - Законодательное закрепление системы государственного управления
- - Структура сочетания развития отрасли и регулирования
- - Ключевые направления регулирования
- 2. Базовый закон об ИИ | Признание ИИ высокого риска и ключевые обязанности
- - Критерии отнесения к ИИ высокого риска
- - Важность механизма участия человека
- - Обязанности по контролю, возлагаемые на предпринимателя
- 3. Базовый закон об ИИ | Риски, влияющие на управление компанией
- - Административные риски
- - Гражданская ответственность и репутационные риски
- 4. Базовый закон об ИИ | Поэтапная стратегия реагирования для компаний
- - Этап диагностики текущего использования искусственного интеллекта
- - Этапы построения системы комплаенса
- - Реагирование на споры и расследования и этап усовершенствования
- 5. Базовый закон об ИИ | Управление рисками и необходимость юридической консультации
- - Предварительная диагностика и консультирование по проектированию структуры
- - Реагирование на регулирование и защита при расследовании
- - Построение устойчивого управления искусственным интеллектом
- - Сильные стороны юридической фирмы «Дэрюн»
1. Основной закон об ИИ | Обзор системы и нормативно-правовая среда
Официальное название Основного закона ИИ —«Основной закон о развитии искусственного интеллекта и создании базы доверия и т.д.»(сокращенное название: Основной закон об искусственном интеллекте),Действует с 22 января 2026 г.Это сделано.
Цель состоит в том, чтобы защитить права и достоинство граждан и повысить национальную конкурентоспособность путем определения основных вопросов, необходимых для устойчивого развития искусственного интеллекта и создания трастового фонда.
Законодательное закрепление системы государственного управления
Закон учреждает Национальный комитет по стратегии в области искусственного интеллекта под председательством президента и предусматривает, что базовый план искусственного интеллекта будет разрабатываться каждые три года, создавая структуру для комплексного управления национальной политикой в области искусственного интеллекта и нормативными стандартами.
ЭтоЦель состоит в том, чтобы обеспечить согласованность путем объединения политики и правил, которые были разбросаны по министерствам, в одну систему.нет, смотри.
С точки зрения компании это означает, что представлены четкие стандарты и формализована юридическая ответственность за соблюдение этих стандартов.
Структура сочетания развития отрасли и регулирования
Закон не преследует цели безусловного регулированияПримите сбалансированную модель, сочетающую в себе политику продвижения отрасли, такую как поддержка исследований и разработок (НИОКР), создание эмпирической основы и сбор данных для обучения.Я делаю это.
Соответственно, хотя компании имеют возможность пользоваться политической поддержкой, они также несут юридическую ответственность за использование искусственного интеллекта, не обеспечивающего безопасность и надежность.
Ключевые направления регулирования
Основным нормативным актом, который напрямую влияет на корпоративную практику, является Рамочный закон об искусственном интеллекте.Состоит из заявленного обязательства по обеспечению прозрачности, обязательства по обеспечению безопасности и ответственности высокоэффективных бизнес-операторов искусственного интеллекта.Оно работает.
Это структура, которая шаг за шагом определяется подзаконными актами и руководящими принципами.Важна превентивная подготовка, адаптированная к системе выражения соболезнований.делать.
Обязательство обеспечивать прозрачность в области искусственного интеллекта (статья 31)
Обязанность обеспечивать безопасность искусственного интеллекта (статья 32)
Обязанности высокоэффективных бизнес-операторов искусственного интеллекта (статья 34)
2. Базовый закон об ИИ | Признание ИИ высокого риска и ключевые обязанности
Отправной точкой реагирования на Основной закон ИИ является«Квалифицируется ли наш сервис как высокоэффективный искусственный интеллект?»оценивается структурно.
В зависимости от результатов этой классификации варьируется уровень управления рисками, уведомления/разъяснения, защиты пользователей, надзора/приостановки и документации, которую должна подготовить компания. Сначала необходимо подтвердить «объем соответствия» посредством диагностики применимости, а затем разработать дорожную карту реализации.
Критерии отнесения к ИИ высокого риска
Рамочный закон об искусственном интеллекте определяет высокоэффективный искусственный интеллект следующим образом.
Что такое высокоэффективный искусственный интеллект? (Статья 2 Рамочного закона об искусственном интеллекте)
ex) При использовании в сферах, перечисленных законом, таких как энергоснабжение, процесс производства питьевой воды, создание и функционирование систем предоставления и использования медицинских услуг, а также разработка и использование медицинских устройств и цифровых медицинских устройств.
СоответственноПроверьте, оказывают ли возможности искусственного интеллекта компании «существенное влияние» на основной процесс принятия решений в соответствующей области.Вы должны это сделать.
особенноОсобое внимание необходимо, когда автоматизированная оценка, классификация и принятие решений выполняются в основных отраслях, таких как подбор персонала, управление персоналом, финансовые услуги, здравоохранение и энергетика.делать.
Важность механизма участия человека
Объем применимых обязательств может варьироваться в зависимости от того, структурирован ли искусственный интеллект для принятия окончательного решения без вмешательства человека или он устроен так, чтобы люди могли его просматривать, изменять или прекращать.
Поэтому компаниям необходимо наладить рабочие процессы, предполагающие управляемость человеком, начиная с этапа проектирования системы искусственного интеллекта.
Обязанности по контролю, возлагаемые на предпринимателя
Компании, использующие высокоэффективный искусственный интеллектСоздать систему управления рисками для всего цикла искусственного интеллекта и четко уведомлять пользователей о фактах использования искусственного интеллекта и основаниях для принятия решений.Вы должны это сделать.
Кроме того, необходимо подготовить конкретные защитные меры, такие как предотвращение алгоритмической предвзятости, установление процедур устранения ущерба, а также обеспечение человеческого надзора и систем аварийного отключения, а содержание должно быть подготовлено и сохранено в документах, связанных с безопасностью и доверием.
3. Базовый закон об ИИ | Риски, влияющие на управление компанией
С введением в действие Основного закона об искусственном интеллекте компании будут нести ответственность за обеспечение безопасности и надежности на всех этапах планирования, разработки, обучения, эксплуатации и использования искусственного интеллекта.
В частности, успех или неудача мер регулирования, скорее всего, будет определяться тем, «что было сделано и с помощью каких стандартов можно объяснить в документации», а не тем, «что было сделано».
Административные риски
В Рамочном законе об искусственном интеллекте больше внимания уделяется методам административного контроля, таким как приостановление нарушений и корректирующие действия после расследования, а не наказанию.
В частности, если вы не уведомите об использовании высокоэффективного искусственного интеллекта или генеративного искусственного интеллекта или не выполните управленческие обязательства, предусмотренные законом, могут быть наложены исправительные приказы, установление фактов и административные санкции.
Виды серьезных нарушений обязательств и размер штрафов
Тип нарушения | Серьезные нарушения | Тонкий уровень |
Неуведомление об использовании искусственного интеллекта | Если пользователь не уведомлен о том, что результаты были сгенерированы, приняты или рекомендованы с помощью искусственного интеллекта | Менее 30 миллионов вон |
Внутренний агент не назначен | Если внутренний агент не назначен, несмотря на соблюдение определенных требований | |
Несоблюдение приказов об остановке/коррекции | Несоблюдение приказа о приостановлении или исправлении, изданного надзорным органом |
Кроме того, это означает, что не только само решение, но и факты, представление данных и выполнение внутренних распоряжений по улучшению процессов должны быть добросовестно реализованы, а затраты на расследование и корректирующее реагирование могут вскоре превратиться в управленческий риск компании.
Гражданская ответственность и репутационные риски
Если основные права пользователя нарушены или обязательство по защите личной информации нарушено из-за предвзятого суждения или ошибки искусственного интеллекта, компания должнаПодан иск о возмещении ущербаВы можете это сделать.
Кроме того, соблюдение Основного закона об искусственном интеллекте будет служить важным критерием при определении корпоративной халатности, и в случае возникновения этических разногласийДолгосрочный ущерб корпоративному авторитету и ценности брендамогу дать.
В частности, искусственный интеллект склонен к взрывному росту внешних рисков, сочетающих в себе проблемы «этики, дискриминации и безопасности» всего с одним несчастным случаем.
Соответственно, необходима стратегия для внедрения механизмов доверия, таких как уведомление пользователей, объяснимость, возмещение ущерба и человеческий контроль, в опыт использования продуктов/услуг и операционную политику.
4. Базовый закон об ИИ | Поэтапная стратегия реагирования для компаний
В соответствии с Законом о системе искусственного интеллекта более эффективно использовать поэтапный подход в зависимости от уровня использования искусственного интеллекта в компании, организационной структуры и характеристик услуг, а не подход с использованием единого контрольного списка.
В частности, в зависимости от первоначального реагирования и уровня подготовки может варьироваться объем ответственности и интенсивность санкций, которые компания понесет в случае будущего административного расследования или спора.
Поэтому необходимо точно диагностировать текущее положение компании, а затем разработать пошаговую стратегию реагирования.
Этап диагностики текущего использования искусственного интеллекта
Неспособность понять, включен ли искусственный интеллект в системы компании или внешние решения.Компании создают внутреннюю инвентаризацию искусственного интеллекта, чтобы сначала определить статус использования искусственного интеллекта.Вы должны это сделать.
Ключевым моментом на этом этапе является определение того, как искусственный интеллект влияет на структуру принятия решений компании, а также на права и возможности клиентов.
∙ Организация процессов сбора, обработки, обучения и использования данных и назначение ответственных отделов
∙ Высокоэффективные возможности искусственного интеллекта 1-я классификация (на основе области, воздействия и уровня автоматизации)
∙ Классификация сервисов по работе с клиентами и внутренних систем принятия решений
Этапы построения системы комплаенса
Расширение внедрения искусственного интеллекта или запуск новых сервисовКомпании разрабатывают общекорпоративную систему соответствия требованиям посредством сотрудничества между юридическими, ИТ-отделами, отделами кадров и безопасности.Вы должны это сделать.
Важно заранее проверить, применимо ли это к высокоэффективному искусственному интеллекту, и установить внутренние правила управления результатами генеративного искусственного интеллекта, стандарты использования данных и процедуры вмешательства человека.
∙ Установление процедур уведомления и разъяснений при использовании искусственного интеллекта
∙ Создание процессов проверки безопасности, управления предвзятостью и реагирования на ошибки
∙ Создание системы проверки, ограничения использования и управления журналами результатов генеративного искусственного интеллекта
Реагирование на споры и расследования и этап усовершенствования
В случаях, когда произошли жалобы, связанные с ИИ, несчастные случаи или уже была поднята возможность расследования со стороны надзорного органа,Необходим стратегический ответ для минимизации уровня санкций путем проверки возможности применения нормативной приостановки и документирования усилий по обеспечению безопасности.делать.
В долгосрочной перспективе мы должны выйти за рамки разовых мер реагирования и создать устойчивое управление искусственным интеллектом посредством регулярного обучения этике, мониторинга ухудшения производительности моделей и системы реагирования на изменения в законах и руководящих принципах.
∙ Разработка сценариев реагирования надзорных органов по установлению фактов и внутренней системы реагирования
∙ Регуляризация обучения этике и соблюдению требований в области искусственного интеллекта, а также проведение процедур внутренней проверки
∙ Постоянное обновление внутренних правил в соответствии с изменениями в законах и руководящих принципах
5. Базовый закон об ИИ | Управление рисками и необходимость юридической консультации
Основной закон искусственного интеллекта Управление рисками — это вопрос создания системы управления, которая проникает в технологии искусственного интеллекта, данные и общие организационные операции.
Однако существуют реальные ограничения для того, чтобы компания могла интерпретировать законы, понимать технические структуры и самостоятельно разрабатывать системы доказательств.
Соответственно, важно с самого начала подготовить стратегию систематического реагирования посредством профессиональных юридических консультаций.
Предварительная диагностика и консультирование по проектированию структуры
Юридическая фирма Дэрюн определяет, является ли система искусственного интеллекта компании высокоэффективным искусственным интеллектом, и предоставляет консультации на этапе структурного проектирования для минимизации юридических рисков.
∙ Сопоставление обязательств и определение объемов соответствия требованиям прозрачности, безопасности и высокоэффективных обязанностей
∙ Проверка юридической приемлемости человеческого вмешательства и структур прерывания
∙ Анализ разделения ответственности за внешние решения, API и структуры использования облака
Реагирование на регулирование и защита при расследовании
В рамках подготовки к возможности установления фактов, исправительных предписаний и административных санкций со стороны надзорных органов.Систематически проверять, выполнила ли компания свои обязательства, и устанавливать стратегии реагирования на расследования и логику правовой защиты.делать.
∙ Проверка и поддержание доказательной силы внутренних документов, журналов и отчетов
∙ Разработка плана реализации корректирующих действий и разработка мер по предотвращению повторения
∙ Установление логики реагирования на споры о компенсации гражданского ущерба
Построение устойчивого управления искусственным интеллектом
Помимо краткосрочных мер регулирования, мы поддерживаем стабильный рост компаний, внедряя этические стандарты искусственного интеллекта, модернизируя систему управления рисками и постоянно отслеживая изменения в законодательстве и руководящих принципах.
∙ Создание системы непрерывного мониторинга снижения производительности модели и возникновения предвзятости
∙ Мониторинг изменений в законах и руководящих принципах, а также отражения внутренних правил
∙ Разработка системы регулярных проверок и аудита для высокоэффективных целей искусственного интеллекта
Сильные стороны юридической фирмы «Дэрюн»
Юридическая фирма Дэрюн создала группу по искусственному интеллекту и анализу данных для комплексного реагирования на юридические риски, связанные с искусственным интеллектом, через систему из четырех отделов, состоящую из ▲Отдела соответствия ИИ, ▲Отдела вертикальной стратегии ИИ, ▲Отдела кибербезопасности и реагирования на кризисы, ▲Отдела цифровой криминалистики и электронного обнаружения.
Каждый отдел предоставляет органически связанную помощь, начиная от проверки соответствия процесса внедрения и эксплуатации искусственного интеллекта, разработки стратегии искусственного интеллекта, отражающей отраслевые особенности, реагирования на инциденты кибербезопасности, анализа электронных доказательств и крупномасштабного анализа данных.
Благодаря этому мы помогаем компаниям эффективно реагировать на сложные споры в области искусственного интеллекта и нормативно-правовую среду, сочетающую в себе технологии, данные и закон.
Реакция на Закон о системе искусственного интеллекта — это возможность для подготовленных компаний, но может стать фатальным риском для неподготовленных компаний.
Мы рекомендуем вам подготовить упреждающую диагностику и пошаговую стратегию реагирования, адаптированную к структуре использования искусственного интеллекта в вашей компании.
Связанные новости
