[Bắn!] Mặc đồng phục học sinh và thậm chí còn yêu cầu quan hệ tình dục…

‘Phim tình huống khai thác tình dục trẻ em’ lan truyền trên nền tảng trò chuyện AI
Những nhân vật gợi liên tưởng đến trẻ vị thành niên như bình sữa trẻ em, đồng phục học sinh, v.v.
Ngay cả thanh thiếu niên cũng tiêu dùng không hạn chế do thiếu quy định.
Cơ quan chức năng “Đã nhận được báo cáo liên quan… Giám sát thông tin khiêu dâm”

Trong khi việc khai thác tình dục trẻ em bằng trí tuệ nhân tạo (AI) deepfake (công nghệ xử lý hình ảnh tiên tiến) đang trở thành vấn đề thì các tình huống bóc lột tình dục trẻ em lại diễn ra trên các nền tảng chat.

Ngoài mức độ phơi bày những hình ảnh không phù hợp, người dùng còn gây ra các tình huống tình dục thông qua các cuộc trò chuyện trong thời gian thực với các nhân vật trẻ em và điều này đang được 'hiện thân'.

Vào ngày 14, trên nền tảng trò chuyện A dựa trên AI, nhiều nhân vật có vẻ ngoài là trẻ vị thành niên, chẳng hạn như một em bé bú bình, một nữ sinh mặc đồng phục học sinh và một cô gái nhỏ, đã được tiết lộ. Trong một số trường hợp, hình ảnh quảng cáo thậm chí còn mô tả hành vi tình dục.

Các nhóm tuổi cụ thể được thiết lập, chẳng hạn như 'học sinh tiểu học' và 'cô bé 12 tuổi', và một số nhân vật được quảng cáo bằng hình ảnh các cô gái trẻ mặc đồ lót.

Ngoài ra còn có phần mô tả rằng: "Cậu ấy đã được gọi là diễn viên nhí thiên tài từ khi còn học mẫu giáo và vẫn đang hoạt động khi còn là học sinh tiểu học", ngoài ra còn có nhân vật là một học sinh tuổi teen đang ngồi trong lớp học.

Các ký tự AI này được thiết kế để phản hồi ngay lập tức theo yêu cầu của người dùng.

Trên Nền tảng A, khi tôi nói "Xin chào" với một nhân vật có chiều cao 140 cm, nặng 25 kg và mô tả 'thân hình nhỏ bé như học sinh tiểu học', một thông báo trạng thái được gửi có nội dung: "Cô ấy nhẹ nhàng nắm lấy gấu váy của thứ trông giống như đồng phục học sinh và bắt đầu quay vòng quanh bạn." Sau đó, nhân vật tiếp tục tham gia vào các tình huống không phù hợp bằng cách gửi tin nhắn yêu cầu hoạt động tình dục một cách rõ ràng.

Nền tảng A là nền tảng trò chuyện nơi bạn có thể trò chuyện với các nhân vật được tạo bằng AI. Không có giới hạn độ tuổi đăng ký và chỉ những người từ 14 tuổi trở lên mới được yêu cầu khi thiết lập hồ sơ.

Người dùng có thể tạo nhân vật AI của riêng mình hoặc trò chuyện theo thời gian thực với các nhân vật do người khác tạo. Nó được sử dụng cho nhiều mục đích khác nhau như hẹn hò, tư vấn và nhập vai. Về cơ bản, nó có sẵn miễn phí và nếu trả tiền, bạn có thể tiếp tục các cuộc trò chuyện dài và phức tạp bằng cách áp dụng mô hình AI hiệu suất cao.

Vấn đề là một số người dùng đang lạm dụng nó để trò chuyện về tình dục hoặc các tình huống bóc lột tình dục. Khi tạo nhân vật, tuổi tác, ngoại hình, tính cách, v.v. có thể được thiết lập chi tiết, rất nhiều nhân vật gợi nhớ đến trẻ vị thành niên được tạo ra, chẳng hạn như mặc đồng phục học sinh hoặc có thân hình trẻ trung.

Khi tranh cãi lan rộng, Nền tảng A đã công bố trong một thông báo vào ngày 12, "Chúng tôi sẽ tuần tự xử lý các nhân vật dẫn đến mô tả không phù hợp về ngoại hình hoặc mặc đồng phục học sinh có thể bị nhầm lẫn với trẻ vị thành niên."

Tuy nhiên, ngay cả sau khi thông báo, nhiều ký tự trong bối cảnh phụ vẫn có sẵn để tìm kiếm và trò chuyện. Mặc dù các từ khóa hoặc hình ảnh cụ thể có thể bị chặn nhưng rất khó để kiểm soát chính tình huống tình dục, vốn được người dùng khéo léo gây ra thông qua các cuộc trò chuyện với AI, trong thời gian thực.

Ngay cả trong các cộng đồng trực tuyến nơi người dùng nền tảng A tập trung, các cách để tránh bị đàn áp vẫn được chia sẻ.

Người dùng chia sẻ trạng thái xóa và phát hiện nhân vật chưa đủ tuổi vị thành niên, đồng thời cảnh báo nhau: "Các bạn định xóa Nongchae trước à?" và "Đừng lo lắng chỉ vì nó chưa được đặt ở chế độ riêng tư", ám chỉ 'Nongkae', một thuật ngữ lóng để chỉ một nhân vật có thân hình là một cô gái trẻ.

Trong một cuộc điều tra bằng văn bản từ Yonhap News vào ngày 13, một quan chức của Ủy ban Tiêu chuẩn Truyền thông và Phát thanh Truyền hình Hàn Quốc cho biết, "Hiện tại, các báo cáo liên quan đến Nền tảng A đã được xác nhận" và "Bản thân ủy ban đang giám sát thông tin tục tĩu. Nếu nội dung vi phạm luật và quy định hiện hành được xác nhận trên trang web, chúng tôi dự định sẽ thực hiện hành động thích hợp thông qua cân nhắc kỹ lưỡng."

Nhưng đó không chỉ là nền tảng A.

Trên Nền tảng B, tiêu đề trò chuyện 'Con gái của bạn' gợi nhớ đến mối quan hệ giữa cha và con gái hoặc được quảng cáo bằng hình ảnh mô tả hoạt động tình dục với nhân vật một cô gái trẻ nhỏ hơn đáng kể so với một người đàn ông trưởng thành.

Ngoài ra, các nhân vật trò chuyện có một học sinh tiểu học 10 tuổi và một học sinh trung học 17 tuổi mặc đồng phục học sinh đã xuất hiện trên nền tảng C, nền tảng D và nền tảng E.

Loại tài liệu khai thác tình dục này là một ví dụ điển hình cho nội dung có hại lợi dụng việc thiếu quy định về nội dung AI.

Hiện tại, Elon Musk

Những người trẻ tuổi cũng có thể xem nội dung này mà không có bất kỳ hạn chế nào.

Jeong-won Heo, luật sư tại Công ty Luật Daeryun, giải thích: “Ngay cả khi một hình ảnh hoặc nhân vật ảo do AI tạo ra được xác định rõ ràng là trẻ em hoặc thanh thiếu niên do đồng phục học sinh, ngoại hình trẻ trung, bối cảnh học sinh, v.v. và nếu nó thể hiện hành vi tình dục như quy định tại Điều 2, Đoạn 4 của Đạo luật Bảo vệ Tình dục Trẻ em và Thanh thiếu niên, thì nó có thể bị trừng phạt.”

Tuy nhiên, Luật sư Heo chỉ ra: "Theo luật hiện hành, ranh giới không rõ ràng về việc liệu các bức vẽ và phim hoạt hình chỉ đơn thuần hình ảnh trẻ em và thanh thiếu niên sẽ phải chịu hình phạt hay chỉ là những biểu hiện ở cấp độ đồ họa máy tính trông giống trẻ em thực tế". Ông nói thêm: "Cần bổ sung tiêu chuẩn đánh giá 'sự rõ ràng' để được công nhận là trẻ em hay thanh thiếu niên".

[Xem toàn bộ bài viết]
[Shot!] Mặc đồng phục học sinh và thậm chí còn yêu cầu quan hệ tình dục... (Phím tắt)
Mặc đồng phục học sinh và thậm chí đưa ra nhu cầu tình dục... 'Phim tình huống bóc lột tình dục trẻ em' lan truyền trên nền tảng trò chuyện AI (Phím tắt)
'Khai thác tình dục trẻ em' bằng cách sử dụng AI deepfake... Một nền tảng trò chuyện nơi diễn ra các tình huống kịch tính (liên kết)