Рамочный закон об искусственном интеллекте

Закон предусматривает создание Национального комитета по стратегии в области искусственного интеллекта под председательством президента и разработку основного плана в области искусственного интеллекта каждые 3 года, формируя тем самым систему комплексного управления государственной политикой и регуляторными стандартами в этой сфере.

Это направлено на объединение ранее разрозненных по ведомствам мер политики и регулирования в единую систему для обеспечения их согласованности.

Для компаний это означает, что одновременно с установлением четких стандартов были официально закреплены юридические обязанности по их соблюдению.

Закон не направлен на безусловное усиление регулирования, а предусматривает сбалансированную модель, сочетающую поддержку исследований и разработок (R&D), создание условий для экспериментального применения и формирование массивов данных для обучения с другими мерами содействия развитию отрасли.

В связи с этим компании получают возможность пользоваться мерами государственной поддержки, но одновременно несут юридическую ответственность за применение искусственного интеллекта без обеспечения его безопасности и надежности.

Основные правила, непосредственно влияющие на деятельность компаний, включают закрепленные Рамочным законом об искусственном интеллекте обязанности по обеспечению прозрачности и безопасности, а также обязанности операторов искусственного интеллекта с высоким уровнем воздействия.

Поскольку эти требования будут поэтапно конкретизироваться в подзаконных актах и руководящих документах, необходимо заблаговременно подготовиться с учетом структуры положений закона.

Обязанность по обеспечению прозрачности искусственного интеллекта (статья 31)

Обязанность по обеспечению безопасности искусственного интеллекта (статья 32)

Обязанности операторов искусственного интеллекта с высоким уровнем воздействия (статья 34)

Рамочный закон об искусственном интеллекте определяет искусственный интеллект с высоким уровнем воздействия следующим образом.

Что такое искусственный интеллект с высоким уровнем воздействия? (статья 2 Рамочного закона об искусственном интеллекте)

В связи с этим необходимо также проверить, оказывает ли функция ИИ компании «существенное влияние» на основной процесс принятия решений в соответствующей сфере.

Особое внимание требуется, если автоматизированные оценка, классификация или принятие решений осуществляются в таких ключевых отраслях, как подбор персонала и управление кадрами, финансовые услуги, здравоохранение и энергетика.

Объем применимых обязанностей может различаться в зависимости от того, принимает ли искусственный интеллект окончательное решение без участия человека или предусмотрена возможность проверки, изменения либо отмены такого решения человеком.

Поэтому компаниям необходимо уже на этапе проектирования системы искусственного интеллекта создавать рабочие процессы, предусматривающие возможность человеческого контроля.

Компании, эксплуатирующие искусственный интеллект с высоким уровнем воздействия, должны создать систему управления рисками на протяжении всего жизненного цикла искусственного интеллекта и четко уведомлять пользователей о его применении и основаниях принятых решений.

Они также должны предусмотреть конкретные меры защиты, включая предотвращение алгоритмической предвзятости, установление процедур возмещения вреда, обеспечение человеческого контроля и механизма экстренной остановки, а также оформлять и хранить соответствующую документацию по безопасности и надежности.

Рамочный закон об искусственном интеллекте характеризуется преимущественным применением административных мер контроля, включая предписания о прекращении нарушений и их устранении по результатам проверки, а не уголовных наказаний.

В частности, если пользователи не были уведомлены о применении искусственного интеллекта с высоким уровнем воздействия или генеративного искусственного интеллекта либо не были исполнены предусмотренные законом обязанности по управлению, могут последовать предписание об устранении нарушений, проверка фактических обстоятельств и административные санкции.

Основные виды нарушений обязанностей и размеры административных штрафов

Компания должна надлежащим образом исполнять требования, касающиеся не только самих административных мер, но и установления фактических обстоятельств, представления материалов и выполнения предписаний по совершенствованию внутренних процессов. Расходы на прохождение проверок и исполнение предписаний могут непосредственно стать риском для управления компанией.

Если вследствие предвзятого решения или ошибки искусственного интеллекта нарушены основные права пользователя либо обязанности по защите персональных данных, компания может столкнуться с иском о возмещении вреда.

Соблюдение Рамочного закона об искусственном интеллекте также станет существенным критерием при установлении вины компании, а этические споры могут долгосрочно отразиться на доверии к компании и стоимости ее бренда.

Даже единичный инцидент, связанный с искусственным интеллектом, может быстро вызвать совокупные внешние риски в сфере этики, дискриминации и безопасности.

В связи с этим требуется интегрировать механизмы обеспечения доверия, включая уведомление пользователей, объяснимость, возмещение вреда и человеческий контроль, в пользовательский опыт продукта/услуги и внутренние правила эксплуатации.

Компаниям, которые не установили, используется ли искусственный интеллект в их собственных системах или сторонних решениях, необходимо создать внутренний реестр ИИ и в первую очередь определить текущее состояние его применения.

На этом этапе основное значение имеет выявление влияния искусственного интеллекта на структуру принятия решений компанией, а также на права и возможности клиентов.

Компаниям, расширяющим применение искусственного интеллекта или готовящимся к запуску новой услуги, необходимо разработать корпоративную систему комплаенса при взаимодействии юридического, ИТ, кадрового подразделений и подразделения информационной безопасности.

Следует заранее проверить, относится ли система к искусственному интеллекту с высоким уровнем воздействия, и закрепить во внутренних правилах порядок управления результатами генеративного искусственного интеллекта, критерии использования данных и процедуры участия человека.

Если уже поступили жалобы, связанные с искусственным интеллектом, произошел инцидент или возникла вероятность проверки надзорным органом, требуется стратегическое реагирование, предусматривающее проверку возможности применения регуляторного переходного периода и наличия документации о принятых мерах по обеспечению безопасности для снижения строгости санкций.

В долгосрочной перспективе необходимо не ограничиваться разовыми мерами, а создать устойчивую систему управления искусственным интеллектом посредством регулярного обучения по вопросам этики, мониторинга ухудшения характеристик моделей и системы реагирования на изменения законодательства и руководящих документов.

Дэрюн оценивает, относится ли система искусственного интеллекта компании к ИИ с высоким уровнем воздействия, и консультирует начиная с этапа проектирования ее структуры в целях снижения правовых рисков.

В рамках подготовки к проверке фактических обстоятельств надзорным органом, предписанию об устранении нарушений и возможным административным санкциям систематизируется информация об исполнении компанией своих обязанностей, разрабатывается стратегия реагирования на проверку и формируются правовые аргументы для защиты.

Помимо реагирования на текущие регуляторные требования, обеспечивается поддержка стабильного развития компании посредством внедрения этических стандартов в сфере искусственного интеллекта, совершенствования системы управления рисками и постоянного мониторинга изменений законодательства и руководящих документов.

Дэрюн создала группу по искусственному интеллекту и анализу данных, включающую 4 подразделения: ▲ отдел комплаенса в сфере ИИ ▲ отдел стратегии вертикального ИИ ▲ отдел кибербезопасности & реагирования на кризисы ▲ отдел цифровой криминалистики & электронной раскрываемости данных. Эта структура обеспечивает комплексное реагирование на правовые риски, связанные с искусственным интеллектом.

Подразделения оказывают взаимосвязанную поддержку, охватывающую проверку соблюдения требований при внедрении и эксплуатации искусственного интеллекта, разработку стратегий ИИ с учетом отраслевой специфики, реагирование на инциденты в сфере кибербезопасности, анализ электронных доказательств и проверку крупных массивов данных.

Это позволяет оказывать компаниям практическую поддержку при разрешении комплексных споров и соблюдении регуляторных требований в сфере искусственного интеллекта, сочетающей технологии, данные и право.

Соблюдение Рамочного закона об искусственном интеллекте может создать возможности для подготовленных компаний и повлечь существенные риски для компаний, не принявших необходимых мер.

Рекомендуется заблаговременно провести оценку и разработать поэтапную стратегию с учетом структуры применения искусственного интеллекта в компании.