AI/IT

ИИ — это аббревиатура от «искусственный интеллект».Технология искусственного интеллекта, которая позволяет компьютерам думать и учиться, как люди.означает.

Оно включает в себя множество технологий, таких как машинное обучение, обработка естественного языка, распознавание голоса и изображений, и все больше влияет на многие отрасли.

ИИ может учиться, прогнозировать и самостоятельно принимать решения на основе данных.

IT означает «информационные технологии».Информационные технологии, поддерживающие сбор, хранение, передачу и обработку информации, как концепция, охватывающая все технологии, связанные с компьютерами, программным обеспечением и сетями.означает.

ИТ стали ключевым фактором повышения эффективности корпоративной деятельности, улучшения качества обслуживания клиентов и стимулирования инноваций в различных отраслях.

Компании, которые разрабатывают и эксплуатируют услуги или системы на основе ИИ, должны обеспечивать этические принципы ИИ, объяснимость, недискриминацию и прозрачность.

Закон ЕС об искусственном интеллекте 2024 года, Основной закон Кореи об искусственном интеллекте (законодательное уведомление) и рекомендации NIST по управлению рисками в области искусственного интеллекта также требуют прозрачности искусственного интеллекта, предотвращения искажения данных и объяснимости алгоритмов в качестве основных стандартов.

Поэтому при разработке модели ИИ① Предварительная проверка на предмет предвзятости набора данных, ② Создать документы для обеспечения объяснимости ИИ, ③ Внедрить процесс проверки этики ИИ, ④ Назначить менеджера по ИИ и создать комитет по этикеВам это нужно.

При сборе, анализе и использовании личной информации в ходе разработки и эксплуатации ИИ необходимо соблюдать Закон о защите личной информации и Закон об информационно-коммуникационных сетях.

В частности, если вы собираете личную идентификационную информацию, видео, информацию о местоположении и т. д. в качестве данных обучения ИИ, вы будете подвергнуты штрафам и уголовному наказанию, если вы не выполните требования согласия и меры по деидентификации.

таким образом① Провести оценку влияния личной информации на наборы данных обучения ИИ, ② Указать форму согласия на сбор и использование личной информации, ③ Рассмотреть меры и целесообразность деидентификации данных, ④ Внедрить конфиденциальность системы ИИ задуманноЭто необходимо.

Если в сервисе искусственного интеллекта произойдет непреднамеренная алгоритмическая дискриминация, такая как раса, пол, возраст или место происхождения, компания подвергнется социальной критике и юридическим санкциям.

таким образом① Анализировать результаты принятия решений ИИ и осуществлять процесс проверки предвзятости, ② Установить стандарты проверки справедливости алгоритмов, ③ Создать набор данных по снижению риска предвзятости, ④ Проводить регулярные этические аудиты ИИтребуется.

Часто возникают проблемы присвоения авторских прав и нарушения прав на данные обучения ИИ и созданный контент ИИ.

Ключевые вопросы включают в себя: защищен ли контент, созданный ИИ, авторским правом, возможно ли несанкционированное изучение работ других людей и присвоение прав на результаты ИИ.

Чтобы предотвратить этот риск① Проверка прав и управление лицензиями при сборе данных обучения ИИ, ② Заключение договора о присвоении прав на продукт ИИ, ③ Предварительная проверка нарушения авторских прав на данные обучения ИИ, ④ Разъяснение положений о присвоении прав в условиях использования контента ИИтребуется.

В случае взлома, программ-вымогателей или утечки личной информации систем искусственного интеллекта и ИТ-сервисов наступает уголовное наказание и ответственность за ущерб в соответствии с Законом об информационных и коммуникационных сетях и Законом о защите личной информации.

В частности, меры кибербезопасности необходимы компаниям, эксплуатирующим SaaS-сервисы на базе искусственного интеллекта, облачную инфраструктуру и «умные» заводы.

для этого① Получить сертификат системы управления информационной безопасностью (ISMS), ② Проверить уязвимости системы ИИ, ③ Создать руководство по реагированию на угрозы безопасности ИИ, ④ Разработать сценарий реагирования на утечку личной информации при подготовке к инциденту с утечкойВам это нужно.

Платформенные и ИТ-компании подлежат штрафам и исправительным ордерам в соответствии с Законом о справедливой торговле, если они злоупотребляют своим превосходящим положением в транзакциях с магазинами или поставщиками контента, манипулируют рекламными сборами или рейтингами в поисковых системах или в одностороннем порядке изменяют условия транзакций.

В частности, проблемой является обеспечение справедливости систем рекомендаций, рекламы и ценообразования на основе алгоритмов ИИ.

Чтобы решить эту проблему① Обеспечение прозрачности алгоритмов, ② Использование стандартных контрактов с магазинами, ③ Предварительная проверка недобросовестной практики транзакций на платформе, ④ Управление автономной программой соответствия платформы справедливой торговлеВам это нужно.

Сервисы, использующие искусственный интеллект (ИИ)Вопросы юридической атрибуции «продуктов ИИ» и нарушения норм «этики ИИ» и т.д.Это связано с различными юридическими рисками.

В частности, когда ИИ обеспечивает автоматическое принятие решений пользователями или используется для заключения договоров, проверки кредита, расчета страховых ставок, оценки персонала и т. д., важно определить, кто несет юридическую ответственность в случае возникновения ущерба потребителю из-за неправильного решения.

Хотя в Корее еще не приняты четкие законы об искусственном интеллекте, ответственность за услуги искусственного интеллекта будет оцениваться с помощью действующих законов, таких как Закон о защите личной информации, Закон о справедливой торговле и Закон об авторском праве.

Компании должны проверить структуру принятия решений алгоритмами ИИ, наличие предвзятости в данных, возможность неправильного использования и злоупотреблений, а также установить условия предоставления услуг ИИ и процедуры уведомления, чтобы минимизировать юридическую ответственность.

Кроме того, внедрение комитета по этике ИИ и системы отчетов об оценке воздействия ИИ является эффективным способом предотвращения юридических споров.

Чтобы улучшить производительность услуг искусственного интеллекта, в процессе сбора и использования личной информации и обезличенных данных необходимо соблюдать «Закон о защите личной информации» и «Закон об информационных и коммуникационных сетях».

Особенно, когда личная информация используется в качестве данных для обучения ИИ.Порядок согласия субъекта информации, уточнение целей сбора и использования, запрет использования в иных целях, обязанность заключения договора передачи на обработкуи т. д. происходит.

Компании могут предотвратить юридические споры, установив систематическое управление данными, например, проводя «оценку воздействия личной информации» на данные обучения ИИ и данные о работе служб, соблюдая «руководящие принципы псевдонимизации данных» и раскрывая «политику обработки данных ИИ».

ИТ-услуги, такие как рекомендательные службы на основе искусственного интеллекта, системы автоматического принятия решений и службы анализа на основе данных, могут оказать существенное влияние на потребителей.Условия использования, процесс согласия пользователя, обязательство по уведомлению об ограничении обслуживанияимеет.

В частности, важно четко уведомлять, являются ли рекомендации и решения ИИ простой справочной информацией или решениями, влекущими за собой юридические или экономические обязательства, а также информировать о возможности сбоев или ошибок в работе службы ИИ.

Если вы проявите халатность в этом, вы можете быть привлечены к ответственности за потребительский ущерб и компенсацию ущерба в нарушение Закона об электронной торговле.

Поэтому компаниям рекомендуется пересмотреть условия предоставления услуг ИИ/ИТ и четко включить в них юридические заявления об отказе от ответственности и ограничения на услуги.

Текст, изображения, источники звука, видео и т. д., сгенерированные искусственным интеллектом.Требования к творчеству, вопросы указания автора, защита авторских правэто юридический вопрос.

Согласно внутреннему законодательству ИИ не является физическим лицом, поэтому он не признается создателем, а права на продукт, скорее всего, принадлежат лицу или корпорации, которые управляли ИИ.

Однако нарушение авторских прав может произойти, если ИИ изучает работу третьей стороны и преобразует, повторно обрабатывает или воспроизводит ее аналогичным образом.

Компании должны установить процедуры проверки законности данных обучения ИИ, проверить возможность регистрации авторских прав на продукт, проверить на предмет нарушения прав третьих лиц и проверить лицензии.

Также необходимо заранее установить условия отказа от ответственности в отношении контента, созданного ИИ, и процедуры запроса на удаление или изменение контента.

В связи с глобализацией ИИ/ИТ-услуг растет число случаев, когда личная информация хранится на зарубежных облачных серверах или данные передаются зарубежным поставщикам услуг.

В этом случае, в соответствии с Законом о защите личной информации, должны быть реализованы строгие процедуры, такие как согласие субъекта информации, уведомление о цели передачи за границу и информации доверительного управляющего, оценка адекватности и установление плана защиты.

Компании должны контролировать риски путем выявления данных, подлежащих передаче за границу, заключения соглашения о передаче, оценки последствий передачи за границу и разработки плана действий по защите данных, а также регулярно проверять уровень мер защиты зарубежных облачных операторов.

Рекомендательные службы искусственного интеллекта, торговые центры искусственного интеллекта, службы приложений и т. д. должны соответствовать правилам онлайн-рекламы и отображения.

Ложная, преувеличенная и вводящая в заблуждение реклама, реклама, в которой неправомерно используется личная информация, а также нарушения отображения фактического рекламного контента службами автоматических рекомендаций ИИ.подлежит штрафам и уголовному наказанию за нарушение Закона о добросовестной маркировке и рекламе.

В частности, рекламные решения на основе искусственного интеллекта могут вызвать непонимание потребителей, поскольку они осуществляют автоматический таргетинг и персонализированную рекламу, поэтому их необходимо четко уведомлять о том, что они являются рекламой и требуют согласия пользователя.

Компании должны предотвращать риск нарушений путем организации текста рекламы, метода отображения, прозрачности процесса рекомендаций ИИ, целевого круга потребителей рекламы и пояснительных материалов по алгоритмам ИИ.

1. Вопросы соблюдения законодательства, связанные с разработкой и эксплуатацией сервисов искусственного интеллекта.

□Функция автоматического принятия решения AI и уведомление об ограничениях в условиях обслуживания AI и политике обработки личной информации.

□Введен ли этический кодекс ИИ и процедура оценки воздействия ИИ на права человека?

□Проверьте наличие дискриминации, предвзятости и искажений в процессе разработки и эксплуатации алгоритма ИИ, а также наличие системы управления рисками.

2. Защита личной информации и управление данными
□Проверьте, включена ли личная информация в данные обучения ИИ и получено ли согласие.

□Соблюдаются ли процедуры деидентификации, псевдонимизации и запрета использования в других целях?

□Был ли заключен договор на обработку личной информации и система доверительного управления?

3. Правовая защита продуктов ИИ и риск авторских прав
□ Организовано ли присвоение авторских прав на контент, созданный искусственным интеллектом, и установлены ли внутренние правила?

□Узнает ли ИИ юридическую лицензию на оригинальное произведение?

□Были ли установлены процедуры реагирования на запросы пользователей об удалении и изменении контента ИИ?

□Указаны ли в условиях обслуживания юридические отказы от ответственности, связанные с продуктами ИИ?

4. Соответствие рекламе и отображению услуг AI/IT.
□Рекомендации на основе искусственного интеллекта, автоматическое принятие решения о том, следует ли отображать и уведомлять рекламные объекты о рекламных услугах.

□ Имеются ли ложные, преувеличенные или вводящие в заблуждение рекламные объявления и проверяются ли заранее рекламные фразы, которые могут ввести пользователей в заблуждение.

□Защищено ли согласие на сбор и использование личной информации для персонализированной таргетированной рекламы?

5. Создание системы этического управления ИИ/ИТ.
□Кодекс этики ИИ и действует ли внутренний комитет по этике ИИ.

□Проводится ли регулярная оценка рисков социального воздействия услуг ИИ, а также рисков, связанных с правами человека и дискриминацией?

□Подготавливается ли и публикуется ли отчет об этической проверке ИИ?

6. Защита информации и управление безопасностью

□Проводится ли регулярная проверка системы искусственного интеллекта/ИТ на наличие уязвимостей безопасности и действует ли система реагирования на риски?

□ Сформировано ли руководство по реагированию и группа экстренного реагирования в случае утечки информации