[Выстрел!] Одевался в школьную форму и даже просил сексуальных услуг…

«Драма ситуации с сексуальной эксплуатацией детей» распространяется на чат-платформе искусственного интеллекта
Персонажи, напоминающие несовершеннолетних, такие как детские бутылочки, школьная форма и т. д.
Даже подростки потребляют без ограничений из-за отсутствия регулирования.
Власти «Поступили соответствующие сообщения... Мониторинг порнографической информации»

В то время как сексуальная эксплуатация детей с использованием дипфейков искусственного интеллекта (ИИ) (передовая технология манипулирования изображениями) становится проблемой, ситуации сексуальной эксплуатации разыгрываются на чат-платформах.

Помимо демонстрации неуместных изображений, пользователи провоцируют сексуальные ситуации посредством разговоров в реальном времени с детскими персонажами, и это «воплощается».

14-го числа на платформе чата A, основанной на искусственном интеллекте, были обнаружены многие персонажи, которые кажутся несовершеннолетними, например, ребенок с бутылочкой, ученица в школьной форме и маленькая девочка. В некоторых случаях рекламные изображения даже изображают сексуальные действия.

Установлены определенные возрастные группы, такие как «ученица начальной школы» и «12-летняя девочка», а некоторые персонажи рекламируются с изображениями молодых девушек в нижнем белье.

Также есть описание, в котором говорится: «Его называли гениальным детским актером с детского сада, и он до сих пор учится в начальной школе», а также есть персонаж, изображающий ученика-подростка, сидящего в классе.

Эти персонажи искусственного интеллекта предназначены для немедленного реагирования в соответствии с запросами пользователей.

На Платформе А, когда я сказал «Привет» персонажу ростом 140 см, весом 25 кг и описанием «маленького тела, как у ученика начальной школы», было отправлено статусное сообщение, в котором говорилось: «Она осторожно схватила подол юбки чего-то похожего на школьную форму и начала кружиться вокруг тебя». После этого персонаж продолжал участвовать в неподходящих ситуациях, отправляя сообщения с явным призывом к сексуальной активности.

Платформа А — это чат-платформа, где вы можете общаться с персонажами, созданными с помощью ИИ. Возрастных ограничений для регистрации нет, и при настройке профиля требуются только лица в возрасте 14 лет и старше.

Пользователи могут создавать своих собственных персонажей с искусственным интеллектом или общаться в режиме реального времени с персонажами, созданными другими. Он используется для различных целей, таких как свидания, консультирование и ролевые игры. По сути, он доступен бесплатно, и если вы заплатите за него, вы сможете продолжить долгие и подробные разговоры, применив высокопроизводительную модель искусственного интеллекта.

Проблема в том, что некоторые пользователи злоупотребляют им для сексуальных разговоров или ситуаций сексуальной эксплуатации. При создании персонажа можно детально задать возраст, внешний вид, личность и т. д., поэтому создается много персонажей, напоминающих несовершеннолетних, например, носящих школьную форму или имеющих молодое телосложение.

По мере распространения спора Платформа А объявила в уведомлении от 12 числа: «Мы будем последовательно в частном порядке обрабатывать персонажей, которые по внешнему виду или ношению школьной формы приводят к неподобающим изображениям, которых можно принять за несовершеннолетних».

Однако даже после анонса многие персонажи второстепенных настроек по-прежнему доступны для поиска и общения. Хотя определенные ключевые слова или изображения могут быть заблокированы, сложно контролировать саму сексуальную ситуацию, которая ловко вызывается пользователями посредством разговоров с ИИ в режиме реального времени.

Даже в онлайн-сообществах, где собираются пользователи платформы А, делятся способами избежать репрессий.

Пользователи поделились статусами удаления и обнаружения несовершеннолетних персонажей, предупреждая друг друга: «Собираетесь ли вы заранее удалить Нончхэ?» и «Не волнуйтесь только потому, что это еще не стало приватным», имея в виду «Нонгкэ», сленговое обозначение персонажа с телосложением молодой девушки.

В письменном запросе от Yonhap News от 13 числа представитель Корейской комиссии по стандартам в области вещания и коммуникаций заявил: «В настоящее время сообщения, связанные с Платформой А, подтверждены» и «Сам комитет отслеживает непристойную информацию. Если на сайте будет подтвержден контент, нарушающий действующие законы и правила, мы планируем принять соответствующие меры путем обсуждения».

Но это не только платформа А.

На Платформе B заголовок чата «Твоя дочь» напоминает отношения между отцом и дочерью или сопровождается изображением, изображающим сексуальную активность, с использованием персонажа молодой девушки, которая значительно меньше взрослого мужчины.

Кроме того, на платформах C, D и E появились персонажи чата с изображением 10-летнего ученика начальной школы и 17-летнего ученика старшей школы в школьной форме.

Этот вид материалов сексуальной эксплуатации является типичным примером вредного контента, который использует отсутствие регулирования в отношении контента ИИ.

В настоящее время Илон Маск

Молодые люди также могут потреблять этот контент без каких-либо ограничений.

Чон Вон Хо, юрист юридической фирмы «Дэрюн», объяснил: «Даже если изображение или виртуальный персонаж, сгенерированный искусственным интеллектом, четко опознается как ребенок или подросток из-за школьной формы, молодого внешнего вида, студенческой обстановки и т. д., и если он выражает сексуальное поведение, как это предусмотрено в пункте 4 статьи 2 Закона о сексуальной защите детей и подростков, он может подлежать наказанию».

Однако адвокат Хео отметил: «Согласно действующему закону неясны границы относительно того, подлежат ли наказанию рисунки и мультфильмы, на которых просто изображены дети и подростки, или только выражения на уровне компьютерной графики, которые выглядят как настоящие дети». Он добавил: «Необходимо дополнить стандарт оценки «очевидности» для признания ребенка или подростка».

[Посмотреть статью полностью]
[Выстрел!] Одет в школьную форму и даже просил сексуальных услуг... (Ярлык)
Носить школьную форму и даже выдвигать сексуальные требования... «Драма ситуации с сексуальной эксплуатацией детей» распространяется на чат-платформе с искусственным интеллектом (ярлык)
"Сексуальная эксплуатация детей" с использованием искусственного интеллекта... Чат-платформа, где разворачивается ситуационная драма (ссылка)