Undang-Undang Dasar AI

Undang-undang tersebut membentuk Komite Strategi Kecerdasan Buatan Nasional yang diketuai oleh Presiden dan mewajibkan penyusunan rencana dasar kecerdasan buatan setiap 3 tahun, sehingga menciptakan struktur untuk mengelola kebijakan kecerdasan buatan dan standar regulasi secara terpadu pada tingkat nasional.

Hal ini dimaksudkan untuk menyatukan kebijakan dan regulasi yang sebelumnya tersebar di berbagai kementerian ke dalam satu sistem guna menjamin konsistensi.

Bagi perusahaan, hal ini berarti bahwa selain tersedianya standar yang jelas, tanggung jawab hukum untuk mematuhi standar tersebut juga telah diresmikan.

Undang-undang tersebut tidak mengarah pada regulasi tanpa syarat, tetapi menerapkan model berimbang yang secara bersamaan menjalankan kebijakan promosi industri, seperti dukungan penelitian dan pengembangan (R&D), pembentukan landasan untuk uji coba, serta pembangunan data pelatihan.

Dengan demikian, perusahaan memperoleh kesempatan untuk memanfaatkan dukungan kebijakan, tetapi juga menanggung tanggung jawab hukum atas penggunaan kecerdasan buatan yang tidak menjamin keamanan dan keandalan.

Ketentuan utama yang berdampak langsung pada praktik perusahaan terdiri atas kewajiban menjamin transparansi, kewajiban menjamin keamanan, dan tanggung jawab pelaku usaha AI berdampak tinggi yang ditetapkan secara tegas dalam “Undang-Undang Dasar Kecerdasan Buatan”.

Karena ketentuan tersebut disusun untuk diperinci secara bertahap melalui peraturan pelaksana dan pedoman, persiapan proaktif yang selaras dengan sistematika pasal sangatlah penting.

Kewajiban Menjamin Transparansi Kecerdasan Buatan (Pasal 31)

Kewajiban Menjamin Keamanan Kecerdasan Buatan (Pasal 32)

Tanggung Jawab Pelaku Usaha AI Berdampak Tinggi (Pasal 34)

Undang-Undang Dasar Kecerdasan Buatan mendefinisikan AI berdampak tinggi sebagai berikut.

Apakah AI berdampak tinggi itu? (Pasal 2 “Undang-Undang Dasar Kecerdasan Buatan”)

Oleh karena itu, perusahaan juga harus menilai apakah fungsi AI miliknya memberikan “pengaruh nyata” terhadap alur pengambilan keputusan utama dalam bidang tersebut.

Perhatian khusus diperlukan terutama apabila penilaian, klasifikasi, atau pengambilan keputusan otomatis dilakukan dalam bidang industri utama seperti perekrutan dan manajemen personalia, layanan keuangan, layanan kesehatan, serta energi.

Cakupan kewajiban yang berlaku dapat berbeda bergantung pada apakah kecerdasan buatan membuat keputusan akhir tanpa campur tangan manusia atau dirancang agar manusia dapat meninjau, mengubah, atau menghentikan keputusan tersebut.

Oleh karena itu, sejak tahap perancangan sistem kecerdasan buatan, perusahaan perlu membangun proses kerja yang berlandaskan pada kemungkinan pengendalian oleh manusia.

Perusahaan yang mengoperasikan AI berdampak tinggi harus membangun sistem manajemen risiko untuk seluruh siklus hidup kecerdasan buatan serta memberitahukan dengan jelas kepada pengguna mengenai penggunaan kecerdasan buatan dan dasar penilaiannya.

Selain itu, perusahaan harus menyediakan langkah perlindungan konkret, seperti pencegahan bias algoritma, prosedur pemulihan kerugian, pengawasan manusia, dan sistem penghentian darurat, serta menyusun dan menyimpan dokumentasinya sebagai dokumen terkait keamanan dan keandalan.

Undang-Undang Dasar Kecerdasan Buatan dijelaskan lebih menitikberatkan pada metode pengendalian administratif, seperti penghentian pelanggaran dan tindakan korektif berdasarkan pemeriksaan, daripada pemidanaan.

Secara khusus, perintah perbaikan, pemeriksaan fakta, dan sanksi administratif dapat dikenakan apabila pelaku usaha tidak memberitahukan penggunaan AI berdampak tinggi atau AI generatif, atau tidak melaksanakan kewajiban pengelolaan yang diwajibkan oleh undang-undang.

Jenis Pelanggaran Kewajiban Utama dan Besaran Denda Administratif

Selain pelaksanaan tindakan itu sendiri, perusahaan juga harus dengan sungguh-sungguh merangkum fakta, menyerahkan materi, dan melaksanakan perintah perbaikan proses internal. Hal ini berarti bahwa biaya penanganan pemeriksaan dan tindakan korektif dapat langsung beralih menjadi risiko manajemen perusahaan.

Apabila hak asasi pengguna dilanggar atau kewajiban perlindungan data pribadi tidak dipenuhi akibat penilaian yang bias atau kesalahan kecerdasan buatan, perusahaan dapat menghadapi gugatan ganti rugi.

Selain itu, kepatuhan terhadap Undang-Undang Dasar Kecerdasan Buatan akan menjadi standar penting dalam menentukan kelalaian perusahaan. Apabila timbul kontroversi etika, hal tersebut dapat menimbulkan dampak jangka panjang terhadap kepercayaan kepada perusahaan dan nilai merek.

Khususnya, satu insiden kecerdasan buatan saja dapat dengan mudah memicu risiko eksternal yang menggabungkan persoalan “etika, diskriminasi, dan keamanan”.

Oleh karena itu, diperlukan strategi untuk mengintegrasikan mekanisme kepercayaan, seperti pemberitahuan kepada pengguna, kemampuan untuk memberikan penjelasan, pemulihan kerugian, dan pengawasan manusia, ke dalam pengalaman produk atau layanan serta kebijakan operasional.

Perusahaan yang belum mengetahui apakah sistem internal atau solusi eksternalnya mengandung kecerdasan buatan harus terlebih dahulu mengidentifikasi kondisi penggunaan kecerdasan buatan dengan membangun inventaris AI internal.

Pada tahap ini, hal terpenting adalah mengidentifikasi bagaimana kecerdasan buatan memengaruhi struktur pengambilan keputusan perusahaan atau hak dan kesempatan pelanggan.

Perusahaan yang hendak memperluas penggunaan kecerdasan buatan atau meluncurkan layanan baru harus merancang sistem kepatuhan di seluruh perusahaan melalui kerja sama antara departemen hukum, TI, sumber daya manusia, dan keamanan.

Penting untuk menilai terlebih dahulu apakah sistem tersebut termasuk AI berdampak tinggi serta menyempurnakan ketentuan internal mengenai pengelolaan keluaran AI generatif, standar penggunaan data, dan prosedur campur tangan manusia.

Apabila telah timbul pengaduan atau insiden terkait kecerdasan buatan maupun kemungkinan pemeriksaan oleh badan pengawas, diperlukan penanganan strategis untuk meminimalkan tingkat sanksi dengan menilai kemungkinan penerapan penangguhan regulasi serta apakah upaya menjamin keamanan telah didokumentasikan.

Dalam jangka panjang, perusahaan harus membangun tata kelola kecerdasan buatan yang berkelanjutan melalui penyelenggaraan rutin pendidikan etika, pemantauan penurunan kinerja model, dan sistem penanganan perubahan peraturan perundang-undangan serta pedoman, bukan sekadar melakukan penanganan satu kali.

Firma Hukum Daeryun mendiagnosis apakah sistem kecerdasan buatan perusahaan termasuk AI berdampak tinggi dan memberikan nasihat sejak tahap perancangan struktur guna meminimalkan risiko hukum.

Untuk menghadapi kemungkinan pemeriksaan fakta, perintah perbaikan, dan sanksi administratif oleh badan pengawas, Firma Hukum Daeryun merangkum secara sistematis pelaksanaan kewajiban perusahaan serta menyusun strategi penanganan pemeriksaan dan argumentasi pembelaan hukum.

Kami mendukung pertumbuhan perusahaan yang stabil melalui internalisasi standar etika kecerdasan buatan, peningkatan sistem manajemen risiko, dan pemantauan berkelanjutan atas perubahan legislasi serta pedoman, yang melampaui penanganan regulasi jangka pendek.

Firma Hukum Daeryun telah membentuk Grup AI dan Inteligensi Data serta menangani risiko hukum terkait kecerdasan buatan secara komprehensif melalui sistem 4 departemen yang terdiri atas ▲Departemen Kepatuhan AI ▲Departemen Strategi AI Vertikal ▲Departemen Tanggap Krisis Keamanan Siber & ▲Departemen Forensik Digital & dan e-Discovery.

Setiap departemen memberikan bantuan yang terintegrasi secara erat, mulai dari peninjauan kepatuhan dalam proses penerapan dan pengoperasian kecerdasan buatan, perancangan strategi AI yang mempertimbangkan karakteristik setiap industri, penanganan insiden keamanan siber, hingga analisis bukti elektronik dan peninjauan data berskala besar.

Melalui layanan tersebut, kami membantu perusahaan agar dapat menangani secara nyata sengketa kecerdasan buatan yang kompleks dan lingkungan regulasi yang memadukan teknologi, data, dan hukum.

Penanganan Undang-Undang Dasar AI dapat menjadi peluang bagi perusahaan yang telah siap, tetapi dapat menjadi risiko yang sangat serius bagi perusahaan yang belum siap.

Kami menyarankan agar perusahaan Anda menyiapkan diagnosis proaktif dan strategi penanganan bertahap yang sesuai dengan struktur penggunaan kecerdasan buatannya.