Этика искусственного интеллекта (ИИ)

Искусственный интеллект может давать результаты, выходящие за рамки человеческого прогнозирования и контроля, благодаря своей высокой степени автономности и способности к обучению, поэтому этические и юридические соображения, касающиеся ответственности и управляемости результатов, имеют важное значение.

особенноКогда искусственный интеллект выполняет функции суждения, такие как оценка, рекомендации, классификация и отбор, это влияет на права и возможности заинтересованных сторон.Это может повлиять на вас.

Соответственно, на этапе проектирования крайне важно иметь структуру человеческого контроля, ответственных сторон и устройств безопасности.

Важность этики ИИ неоднократно подтверждается уже произошедшими событиями, а не «обсуждениями возможностей».

Несчастные случаи в сферах безопасности, таких как автономное вождение, убытки из-за автоматизированных решений в финансовой и инвестиционной сферах, а также дискриминационные результаты из-за предвзятости данных показывают, что пренебрежение этическими принципами компании может привести к спору об ответственности и подрыву доверия.

Проблемы этики ИИ имеют сильную тенденцию к углублению и расширению в качестве расширения существующей интернет-этики, такой как утечка личной информации, вторжение в частную жизнь и пробелы в доступе к информации.

к настоящемуЕсли мы будем реагировать только так, как это было в прошлом, масштабы ущерба неизбежно возрастут, и потребуется этическое управление, основанное на упреждающих проверках и предотвращении.Оно работает.

Дискуссии об этике ИИ тесно связаны со «стандартизацией этики», включая создание руководящих принципов этики, а уровень этического управления, который компания использует в процессе формирования глобальных стандартов, может повлиять на доверие рынка и конкурентоспособность контрактов.

Высшей ценностью этики ИИ является человечность, а основные принципы ее реализации включают принцип человеческого достоинства, принцип общественного блага общества и принцип целенаправленности технологий.

В корпоративной практикеЭти принципы воплощаются в форме предотвращения несчастных случаев и нарушений прав человека, обеспечения доступности для социально слабых и уязвимых слоев населения, контроля законности цели и сферы использования.Должно быть, так оно и есть.

Кроме того, учитывая, что могут возникнуть конфликты между принципами, важны компромисс и документация, соответствующая контексту службы.

10 основных требований включают защиту прав человека, защиту частной жизни, уважение разнообразия, ненарушение прав, публичность, солидарность, управление данными, ответственность, безопасность и прозрачность.

КомпанияПереход от подхода «какие меры контроля мы реализуем» к операционным критериямВы должны это сделать.

Например, уважение многообразия должно быть связано с проверкой репрезентативности данных, проверкой предвзятости, разработкой доступности и политикой минимизации дискриминации.

С другой стороны, прозрачность должна быть эффективной посредством уведомления пользователей, определения уровня объяснимости, предварительного уведомления о рисках и мерах предосторожности, а также работы каналов запросов и возражений.

Кроме того, подотчетность должна быть реализована путем определения ролей и полномочий, разделения ответственности при использовании внешних решений, а также протоколов реагирования и систем отчетности при возникновении инцидентов.

Если недостаточная репрезентативность обучающих данных или проектных предположений приводит к неблагоприятным результатам для определенных групп, это может перерасти в проблему дискриминации.

Особенно подбор персонала, оценка, кредит, страхование, медицинское обслуживание и т. д.В деликатных областях вас, скорее всего, попросят обосновать и объяснить результаты.Необходима предварительная проверка и установление стандартов реагирования на споры.

Если личная информация собирается, объединяется или используется в процессе разработки и эксплуатации ИИ или используется для других целей, может возникнуть риск нарушения нормативных требований и возмещения ущерба.

таким образомРазработайте средства управления данными, такие как минимизация данных, контроль доступа, деидентификация и стандарты хранения/уничтожения, а также этические требования.Вы должны это сделать.

Сбои, галлюцинации, ошибки, уязвимости безопасности и чрезмерная уверенность в автоматизированном принятии решений могут привести к несчастным случаям.

Кроме того, при возникновении аварииНеспособность объяснить, «почему был получен результат и какие средства контроля были приняты», влияет на суждение компании о неисправности и оценку надежности.Это может повлиять на вас.

Поэтому необходимы мониторинг производительности, оценка рисков, контроль со стороны человека, аварийное отключение, а также системы регистрации и документации.

Компании должны сначала организовать, где ИИ будет использоваться в их услугах и внутренних операциях, и установить приоритеты, выявляя проблемы предвзятости, конфиденциальности, безопасности и прозрачности на основе потоков данных и точек принятия решений по автоматизации.

В частности, эффективно проводить различие между службами контакта с клиентами и внутренними системами принятия решений, а также применять разные уровни риска и силы контроля.

Поле помощи Дэрюн

Чтобы преобразовать этические принципы и основные требования во внутренние правила и процессы, необходимо реорганизовать этические руководящие принципы, стандарты управления данными, стандарты типовых операций, политику уведомления и разъяснений, процедуры разрешения возражений и возмещения ущерба, а также руководства по реагированию на несчастные случаи.

Кроме того, при использовании внешних решений или API разделение обязанностей и объем проверки должны быть уточнены в контрактах и ​​операционных процедурах.

Поле помощи Дэрюн

На этапе эксплуатации эффективность должна поддерживаться за счет мониторинга ошибок и снижения производительности, проверок безопасности, контроля безопасности, сохранения журналов и записей о решениях, а также регулярного обучения.

В частности, этическое управление должно быть повышено до устойчивой формы путем повторения оценок воздействия и мер по улучшению всякий раз, когда внедряются новые услуги или меняются нормы.

Поле помощи Дэрюн

Юридическая фирма Дэрюн управляет группой по искусственному интеллекту и анализу данных и поддерживает внедрение этики искусственного интеллекта посредством «доказуемого соблюдения», а не «декларирования».

Органически связывая проверку соответствия ИИ, разработку отраслевой стратегии, реагирование на инциденты кибербезопасности и возможности цифрового криминалистического анализа, мы предоставляем комплексную систему поддержки от диагностики этических рисков до реагирования на инциденты.

В частности, мы диагностируем проблемы предвзятости, конфиденциальности, безопасности и прозрачности, которые могут возникнуть на протяжении всего процесса использования ИИ в соответствии со структурой сервиса и потоком данных, и предоставляем практические советы по преобразованию их во внутренние правила и операционный контроль.

Кроме того, в области кибербезопасности, реагирования на кризисы и возможностей цифровой криминалистики мы помогаем компаниям превратить этические риски в контролируемую область управления, поддерживая организацию фактов, создание системы доказательств и документацию реагирования в случае аварии.

Если вы находитесь в ситуации, когда вам нужен соответствующий обзор и практический совет, пожалуйста, свяжитесь с корпоративным юристом в любое время.