Этика ИИ

Искусственный интеллект благодаря высокой степени автономности и способности к обучению может выдавать результаты, выходящие за пределы человеческого прогнозирования и контроля, поэтому требуется учитывать этические и правовые аспекты ответственности за результаты и возможности их контроля.

В частности, выполнение искусственным интеллектом функций оценки, выдачи рекомендаций, классификации и отбора может влиять на права и возможности заинтересованных лиц.

Поэтому уже на этапе проектирования необходимо сформировать структуру человеческого контроля, определить ответственных субъектов и предусмотреть меры безопасности.

Значимость этики ИИ неоднократно подтверждалась уже произошедшими событиями и больше не является предметом обсуждения лишь потенциальных рисков.

Аварии в таких критически важных для безопасности сферах, как автономное вождение, убытки вследствие автоматизированных решений в финансовой и инвестиционной деятельности, а также дискриминационные результаты, обусловленные предвзятостью данных, показывают, что пренебрежение этическими принципами со стороны компании может привести к спорам об ответственности и утрате доверия.

Проблемы этики ИИ имеют выраженную тенденцию к углублению и расширению уже существующих проблем интернет-этики, таких как утечка персональных данных, нарушение неприкосновенности частной жизни и неравенство в доступе к информации.

В связи с этим ограничение мерами реагирования после наступления события неизбежно увеличивает масштаб ущерба, поэтому требуется этическое управление, основанное на предварительной проверке и предотвращении рисков.

Обсуждение этики ИИ тесно связано со стандартизацией этических норм, включая разработку соответствующих руководящих принципов. В процессе формирования международных стандартов уровень этического управления в компании может влиять на доверие рынка и ее конкурентоспособность при заключении договоров.

Высшей ценностью этики ИИ является человечность (Humanity), а основными принципами ее реализации выступают уважение человеческого достоинства, общественное благо и целесообразность технологий.

В деятельности компаний эти принципы должны конкретизироваться в форме предотвращения происшествий в сфере безопасности и нарушений прав человека, обеспечения доступности для социально уязвимых лиц и групп, а также проверки правомерности целей и контроля сферы применения.

Следует также учитывать возможность противоречий между принципами и фиксировать документально компромиссные решения, соответствующие контексту конкретного сервиса.

10 ключевых требований включают обеспечение прав человека, защиту неприкосновенности частной жизни, уважение разнообразия, недопущение причинения вреда, общественную направленность, солидарность, управление данными, ответственность, безопасность и прозрачность.

Компаниям необходимо преобразовать их в операционные стандарты с учетом того, с помощью каких мер контроля обеспечивается их выполнение.

Например, уважение разнообразия должно быть связано с проверкой репрезентативности данных и предвзятости, проектированием доступности и политикой минимизации дискриминации.

Для практической реализации прозрачности требуется уведомлять пользователей, определять уровень объяснимости, заблаговременно информировать о рисках и мерах предосторожности, а также обеспечивать работу каналов для обращений и возражений.

Ответственность должна обеспечиваться посредством определения ролей и полномочий, распределения ответственности при использовании внешних решений, а также протоколов реагирования и системы отчетности при происшествиях.

Недостаточная репрезентативность обучающих данных или заложенные при проектировании допущения могут привести к неблагоприятным последствиям для определенных групп и вызвать вопросы о дискриминации.

Особенно в таких чувствительных сферах, как подбор персонала, оценка, кредитование, страхование и здравоохранение, существует высокая вероятность возникновения требований об обосновании и разъяснении результатов, поэтому необходимо заранее проводить проверку и устанавливать критерии для урегулирования возможных споров.

Если в процессе разработки и эксплуатации ИИ персональные данные собираются, объединяются, используются либо обрабатываются не по назначению, это может повлечь риски нарушения нормативных требований и Возмещения вреда (ущерба).

Поэтому меры контроля данных, включая минимизацию данных, контроль прав доступа, обезличивание и правила хранения и уничтожения, должны проектироваться одновременно с требованиями этики.

Сбои, галлюцинации, ошибки, уязвимости безопасности и чрезмерное доверие к автоматизированным решениям могут привести к происшествиям.

При наступлении происшествия неспособность объяснить, почему был получен соответствующий результат и какие меры контроля применялись, может повлиять на оценку неосторожности (вины) компании и уровня доверия к ней.

Поэтому необходимы системы мониторинга производительности, оценки рисков, человеческого контроля, аварийной остановки, ведения журналов событий и документирования.

Компании следует прежде всего определить, где ИИ используется в ее сервисах и внутренних процессах, выявить проблемы предвзятости, неприкосновенности частной жизни, безопасности и прозрачности с учетом потоков данных и точек автоматизированного принятия решений, а затем установить их приоритетность.

Для эффективного управления целесообразно разграничивать сервисы взаимодействия с клиентами и внутренние системы принятия решений, дифференцируя уровни риска и строгость мер контроля.

Направления содействия Дэрюн

Для преобразования этических принципов и ключевых требований во внутренние правила и процессы необходимо актуализировать руководящие принципы этики, стандарты управления данными и эксплуатации моделей, политику уведомления и предоставления разъяснений, процедуры подачи возражений и возмещения вреда, а также регламент реагирования на происшествия.

При использовании внешних решений и API необходимо также четко определить распределение ответственности и объем проверки в договорах и операционных процедурах.

Направления содействия Дэрюн

На этапе эксплуатации необходимо поддерживать эффективность системы посредством мониторинга предвзятости и снижения производительности, проверки безопасности, мер информационной безопасности, хранения журналов событий и записей о принятии решений, а также регулярного обучения.

При каждом внедрении нового сервиса или изменении нормативной среды необходимо повторно проводить оценку воздействия и принимать корректирующие меры, последовательно развивая этическое управление в устойчивой форме.

Направления содействия Дэрюн

Дэрюн располагает группой по ИИ и аналитике данных и содействует реализации этики ИИ не в форме декларации, а в виде комплаенса, соблюдение которого может быть подтверждено документально.

Сочетание проверки комплаенса ИИ, разработки отраслевых стратегий, реагирования на происшествия в сфере кибербезопасности и возможностей Цифровой криминалистики (форензики) позволяет предоставлять комплексное содействие от диагностики этических рисков до реагирования на происшествия.

В частности, предоставляется практическое юридическое консультирование по диагностике возможных проблем предвзятости, неприкосновенности частной жизни, безопасности и прозрачности на всех этапах использования ИИ с учетом структуры сервиса и потоков данных, а также по их отражению во внутренних правилах и операционных мерах контроля.

Во взаимодействии со специалистами по кибербезопасности, кризисному реагированию и Цифровой криминалистике (форензике) также оказывается содействие в установлении фактических обстоятельств происшествия, формировании системы подтверждающих материалов и документировании мер реагирования, чтобы компания могла перевести этические риски в контролируемую область управления.

Если требуется соответствующая проверка или практическое юридическое консультирование, можно обратиться за содействием к юристу, специализирующемуся на корпоративных вопросах.