AI/IT

AI adalah singkatan dari ‘Artificial Intelligence’ dan berarti teknologi kecerdasan buatan yang memungkinkan komputer berpikir dan belajar seperti manusia.

AI mencakup beragam teknologi seperti pembelajaran mesin, pemrosesan bahasa alami, pengenalan suara, dan pengenalan citra, serta semakin memengaruhi banyak industri.

AI dapat belajar secara mandiri, membuat prediksi, dan mengambil keputusan berdasarkan data.

IT adalah singkatan dari ‘Information Technology’ dan berarti teknologi informasi yang mendukung pengumpulan, penyimpanan, pengiriman, dan pemrosesan informasi sebagai suatu konsep yang mencakup seluruh teknologi terkait komputer, perangkat lunak, dan jaringan.

IT telah menjadi unsur utama yang meningkatkan efisiensi operasional perusahaan, memperbaiki pengalaman pelanggan, dan mendorong inovasi dalam berbagai bidang industri.

Perusahaan yang mengembangkan dan mengoperasikan layanan atau sistem berbasis AI harus memastikan penerapan prinsip etika AI, keterjelasan, nondiskriminasi, dan transparansi.

EU AI Act 2024, Undang-Undang Dasar AI Korea Selatan yang diumumkan sebagai rancangan legislasi, dan pedoman manajemen risiko AI NIST juga mensyaratkan transparansi AI, pencegahan bias data, dan keterjelasan algoritma sebagai standar wajib.

Oleh karena itu, dalam mengembangkan model AI diperlukan ① pemeriksaan awal terhadap bias set data, ② penyusunan dokumen yang memastikan keterjelasan AI, ③ penerapan proses verifikasi etika AI, serta ④ penunjukan penanggung jawab AI dan pengoperasian komite etika.

Undang-Undang Perlindungan Data Pribadi Korea Selatan, Undang-Undang Jaringan Informasi dan Komunikasi Korea Selatan, dan peraturan terkait lainnya wajib dipatuhi ketika data pribadi dikumpulkan, dianalisis, dan dimanfaatkan dalam pengembangan atau pengoperasian AI.

Secara khusus, apabila informasi identitas pribadi, citra, informasi lokasi, dan data lainnya dikumpulkan sebagai data pelatihan AI tanpa memenuhi persyaratan persetujuan dan langkah deidentifikasi, tindakan tersebut dapat dikenai sanksi administratif berupa pembayaran sejumlah uang dan penghukuman pidana.

Oleh karena itu, wajib dilakukan ① penilaian dampak perlindungan data pribadi terhadap set data pelatihan AI, ② perincian formulir persetujuan pengumpulan dan pemanfaatan data pribadi, ③ penerapan langkah deidentifikasi data dan peninjauan kelayakannya, serta ④ penerapan perlindungan data pribadi sejak tahap perancangan sistem AI (Privacy by Design).

Jika layanan AI menimbulkan diskriminasi algoritmik yang tidak disengaja berdasarkan ras, jenis kelamin, usia, daerah asal, atau faktor lainnya, perusahaan dapat menghadapi kecaman masyarakat dan sanksi hukum.

Oleh karena itu, diperlukan ① pengoperasian proses analisis hasil pengambilan keputusan AI dan peninjauan bias, ② penetapan standar pemeriksaan keadilan algoritma, ③ pembangunan set data untuk memitigasi risiko bias, serta ④ pelaksanaan audit etika AI secara berkala.

Persoalan mengenai kepemilikan hak cipta dan pelanggaran hak atas data pelatihan AI serta konten AI generatif sering terjadi.

Persoalan utama mencakup apakah konten buatan AI dilindungi hak cipta, apakah karya milik pihak lain dapat digunakan tanpa izin untuk melatih AI, dan siapa yang memiliki hak atas keluaran AI.

Untuk mencegah risiko ini, diperlukan ① peninjauan hak dan pengelolaan lisensi ketika mengumpulkan data pelatihan AI, ② penyusunan kontrak mengenai kepemilikan hak atas hasil buatan AI, ③ peninjauan awal atas kemungkinan pelanggaran hak cipta oleh data pelatihan AI, serta ④ penegasan klausul kepemilikan hak dalam syarat dan ketentuan penggunaan konten AI.

Jika terjadi peretasan, serangan ransomware, atau kebocoran data pribadi pada sistem AI dan layanan IT, penghukuman pidana dan tanggung jawab ganti rugi dapat timbul berdasarkan Undang-Undang Jaringan Informasi dan Komunikasi Korea Selatan dan Undang-Undang Perlindungan Data Pribadi Korea Selatan.

Secara khusus, respons keamanan siber wajib diterapkan oleh perusahaan yang mengoperasikan layanan SaaS berbasis AI, infrastruktur komputasi awan, dan pabrik pintar.

Untuk itu, diperlukan ① perolehan sertifikasi sistem manajemen keamanan informasi (ISMS), ② pemeriksaan kerentanan sistem AI, ③ penyusunan pedoman respons terhadap ancaman keamanan AI, serta ④ penyusunan skenario respons terhadap kebocoran data pribadi sebagai persiapan menghadapi insiden kebocoran.

Perusahaan platform dan IT dapat dikenai sanksi administratif berupa pembayaran sejumlah uang dan perintah perbaikan berdasarkan Undang-Undang Regulasi Monopoli dan Perdagangan yang Adil Korea Selatan jika terjadi penyalahgunaan kedudukan yang lebih kuat dalam transaksi terhadap penjual di platform atau penyedia konten, manipulasi biaya iklan atau peringkat pencarian, maupun perubahan sepihak terhadap ketentuan transaksi.

Secara khusus, persoalan yang dihadapi adalah memastikan keadilan sistem rekomendasi, periklanan, dan penetapan harga berbasis algoritma AI.

Untuk mengatasinya, diperlukan ① transparansi algoritma, ② penggunaan kontrak standar dengan penjual di platform, ③ pemeriksaan awal terhadap praktik transaksi platform yang tidak adil, serta ④ pengoperasian program kepatuhan mandiri terhadap aturan perdagangan yang adil bagi platform.

Layanan yang memanfaatkan kecerdasan buatan (AI) disertai beragam risiko hukum, termasuk persoalan kepemilikan hukum atas ‘hasil buatan AI’ dan pelanggaran norma ‘etika AI’.

Secara khusus, jika AI digunakan untuk secara otomatis memberikan keputusan kepada pengguna atau dalam pembuatan kontrak, penilaian pinjaman, penentuan tarif asuransi, evaluasi kepegawaian, dan bidang lainnya, penting untuk menentukan pihak yang memikul tanggung jawab hukum ketika keputusan yang keliru menyebabkan kerugian konsumen.

Meskipun belum terdapat undang-undang AI yang jelas di Korea Selatan, tanggung jawab atas layanan AI ditentukan berdasarkan hukum yang berlaku, seperti Undang-Undang Perlindungan Data Pribadi Korea Selatan, Undang-Undang Regulasi Monopoli dan Perdagangan yang Adil Korea Selatan, dan Undang-Undang Hak Cipta Korea Selatan.

Perusahaan harus memeriksa struktur pengambilan keputusan algoritma AI, kemungkinan bias data, serta potensi kesalahan penggunaan dan penyalahgunaan, kemudian menyiapkan syarat penyediaan layanan AI dan prosedur pemberitahuan untuk meminimalkan tanggung jawab hukum.

Penerapan komite etika AI dan sistem laporan penilaian dampak AI juga merupakan cara yang efektif untuk mencegah sengketa hukum.

Undang-Undang Perlindungan Data Pribadi Korea Selatan dan Undang-Undang Jaringan Informasi dan Komunikasi Korea Selatan wajib dipatuhi dalam proses pengumpulan dan penggunaan data pribadi serta data yang telah dideidentifikasi untuk meningkatkan kinerja layanan AI.

Secara khusus, penggunaan data pribadi sebagai data pelatihan AI menimbulkan kewajiban seperti melaksanakan prosedur persetujuan subjek data, memperjelas tujuan pengumpulan dan penggunaan, melarang penggunaan di luar tujuan, serta membuat kontrak penyerahan pemrosesan data .

Perusahaan harus membangun tata kelola data yang sistematis, antara lain dengan melaksanakan ‘penilaian dampak perlindungan data pribadi’ terhadap data pelatihan dan data operasional layanan AI, mematuhi ‘pedoman pseudonimisasi data’, serta memublikasikan ‘kebijakan pemrosesan data AI’, untuk mencegah sengketa hukum.

Layanan IT seperti layanan rekomendasi berbasis AI, sistem pengambilan keputusan otomatis, dan layanan analisis berbasis data dapat berdampak penting terhadap konsumen sehingga memiliki kewajiban terkait syarat layanan, prosedur persetujuan pengguna, dan pemberitahuan mengenai keterbatasan layanan.

Secara khusus, wajib dijelaskan secara tegas apakah rekomendasi atau keputusan AI hanya merupakan informasi rujukan atau keputusan yang menimbulkan kewajiban hukum atau ekonomi, serta diberitahukan bahwa layanan AI dapat mengalami malafungsi atau kesalahan.

Jika hal ini diabaikan, kewajiban memberikan kompensasi atas kerugian konsumen dan tanggung jawab ganti rugi dapat timbul akibat pelanggaran Undang-Undang Perdagangan Elektronik Korea Selatan.

Oleh karena itu, perusahaan sebaiknya menata syarat dan ketentuan penggunaan layanan AI/IT serta mencantumkan secara jelas klausul pembatasan tanggung jawab hukum dan keterbatasan layanan.

Teks, citra, rekaman suara, video, dan materi lainnya yang dihasilkan AI menimbulkan persoalan hukum mengenai persyaratan orisinalitas, kepemilikan status pencipta, dan perlindungan hak cipta.

Berdasarkan hukum Korea Selatan, AI bukan orang perseorangan sehingga tidak diakui sebagai pencipta, dan hak atas hasil tersebut kemungkinan besar dimiliki oleh orang atau badan hukum yang mengoperasikan AI.

Namun, pelanggaran hak cipta dapat terjadi jika AI mempelajari karya pihak ketiga, lalu mengubah, mengolah kembali, atau mereproduksinya dalam bentuk serupa.

Perusahaan wajib menyiapkan prosedur untuk meninjau keabsahan data pelatihan AI, kemungkinan pendaftaran hak cipta atas hasilnya, kemungkinan pelanggaran hak pihak ketiga, dan perizinan.

Ketentuan pembatasan tanggung jawab atas konten buatan AI serta prosedur permintaan penghapusan dan perubahan konten juga perlu ditetapkan sebelumnya.

Seiring dengan globalisasi layanan AI/IT, penyimpanan data pribadi pada server komputasi awan di luar negeri dan pembagian data dengan penyedia layanan asing semakin sering dilakukan.

Dalam hal ini, berdasarkan Undang-Undang Perlindungan Data Pribadi Korea Selatan, prosedur yang ketat harus dipenuhi, termasuk memperoleh persetujuan subjek data, memberitahukan tujuan transfer ke luar negeri dan informasi penerima data, melakukan penilaian kelayakan, serta menyusun rencana langkah perlindungan.

Perusahaan harus mengendalikan risiko dengan mengidentifikasi data yang akan ditransfer ke luar negeri, membuat kontrak transfer, melakukan penilaian dampak transfer ke luar negeri, dan menyusun rencana perlindungan data. Tingkat perlindungan yang diterapkan penyedia layanan komputasi awan asing juga harus diperiksa secara berkala.

Layanan rekomendasi AI, pusat perbelanjaan daring berbasis AI, layanan aplikasi, dan layanan lainnya wajib mematuhi ketentuan periklanan dan pelabelan daring.

Iklan palsu, berlebihan, atau menyesatkan; iklan yang menyalahgunakan data pribadi; serta pelanggaran kewajiban mencantumkan bahwa konten layanan rekomendasi otomatis AI pada hakikatnya merupakan iklan dapat dikenai sanksi administratif berupa pembayaran sejumlah uang dan penghukuman pidana karena melanggar Undang-Undang Pelabelan dan Periklanan yang Adil Korea Selatan.

Secara khusus, solusi periklanan berbasis AI melakukan penargetan otomatis dan periklanan yang dipersonalisasi sehingga berpotensi besar menyesatkan konsumen. Oleh karena itu, sifatnya sebagai iklan harus diberitahukan secara jelas dan persetujuan pengguna harus diperoleh.

Perusahaan harus menata redaksi iklan, metode pelabelan, transparansi proses rekomendasi AI, cakupan konsumen sasaran iklan, dan materi penjelasan algoritma AI untuk mencegah risiko pelanggaran sejak awal.

1. Persyaratan kepatuhan hukum terkait pengembangan dan pengoperasian layanan AI

□Apakah fungsi dan keterbatasan pengambilan keputusan otomatis AI telah diberitahukan dalam syarat penggunaan layanan AI dan kebijakan pemrosesan data pribadi

□Apakah norma etika AI dan prosedur penilaian dampak AI terhadap hak asasi manusia telah diterapkan

□Apakah diskriminasi, bias, dan distorsi dalam proses pengembangan serta pengoperasian algoritma AI telah diperiksa dan sistem manajemen risiko telah disiapkan

2. Perlindungan data pribadi dan pengelolaan data
□Apakah keberadaan data pribadi dalam data pelatihan AI telah diperiksa dan formulir persetujuan telah diperoleh

□Apakah prosedur deidentifikasi, pseudonimisasi, dan larangan penggunaan di luar tujuan telah dipatuhi

□Apakah kontrak penyerahan pemrosesan data pribadi dan sistem pengelolaan penerima penyerahan telah disusun

3. Perlindungan hukum atas hasil buatan AI dan risiko hak cipta
□Apakah hubungan kepemilikan hak cipta atas konten buatan AI telah ditata dan pedoman internal telah disiapkan

□Apakah lisensi yang sah atas karya asli yang digunakan untuk melatih AI telah diperoleh

□Apakah prosedur untuk menangani permintaan pengguna terkait penghapusan atau perubahan konten AI telah disusun

□Apakah klausul pembatasan tanggung jawab hukum terkait hasil buatan AI telah dicantumkan dalam syarat layanan

4. Kepatuhan periklanan dan pelabelan layanan AI/IT
□Apakah rekomendasi berbasis AI, pengambilan keputusan otomatis, dan layanan periklanan telah diberi label serta pemberitahuan sebagai iklan

□Apakah kemungkinan adanya iklan palsu, berlebihan, atau menyesatkan serta redaksi iklan yang berpotensi menimbulkan kesalahpahaman pengguna telah diperiksa sebelumnya

□Apakah formulir persetujuan pengumpulan dan penggunaan data pribadi untuk iklan bertarget yang dipersonalisasi telah diperoleh

5. Pembangunan sistem manajemen etis AI/IT
□Apakah norma etika AI telah ditetapkan dan komite etika AI internal telah dioperasikan

□Apakah diagnosis risiko berkala telah dilakukan terhadap dampak sosial layanan AI serta risiko terkait hak asasi manusia dan diskriminasi

□Apakah laporan peninjauan etika AI telah disusun dan dipublikasikan

6. Perlindungan informasi dan manajemen keamanan

□Apakah kerentanan keamanan sistem AI/IT diperiksa secara berkala dan sistem respons risiko dioperasikan

□Apakah pedoman respons dan tim tanggap darurat telah dibentuk untuk menghadapi insiden kebocoran informasi