Etika AI

Berdasarkan tingkat otonomi dan kemampuan belajarnya yang tinggi, kecerdasan buatan dapat menghasilkan keluaran yang melampaui cakupan prediksi dan kendali manusia sehingga pertimbangan etis dan hukum mengenai tanggung jawab atas hasil serta kemungkinan pengendaliannya mutlak diperlukan.

Khususnya, ketika kecerdasan buatan menjalankan fungsi penilaian seperti evaluasi, rekomendasi, klasifikasi, dan seleksi, hal tersebut dapat memengaruhi hak dan peluang para pemangku kepentingan.

Oleh karena itu, penyusunan struktur kendali manusia, pihak yang bertanggung jawab, dan mekanisme perlindungan sejak tahap perancangan merupakan hal yang utama.

Etika AI bukan sekadar “pembahasan mengenai kemungkinan”; arti pentingnya telah berulang kali dikonfirmasi melalui berbagai peristiwa yang benar-benar terjadi.

Insiden di bidang keselamatan seperti kendaraan otonom, kerugian akibat pengambilan keputusan otomatis di bidang keuangan dan investasi, serta hasil diskriminatif akibat bias data menunjukkan bahwa pengabaian prinsip etika oleh perusahaan dapat berujung pada perselisihan mengenai tanggung jawab dan runtuhnya kepercayaan.

Persoalan etika AI cenderung makin mendalam dan meluas sebagai kelanjutan dari etika internet yang telah ada, seperti kebocoran data pribadi, pelanggaran privasi, dan kesenjangan akses informasi.

Oleh karena itu, jika penanganan hanya dilakukan setelah kejadian seperti pada masa lalu, skala kerugian pasti dapat membesar sehingga diperlukan tata kelola etika yang berfokus pada pemeriksaan dan pencegahan secara proaktif.

Pembahasan etika AI berkaitan erat dengan “standardisasi etika”, termasuk penyusunan pedoman etika. Dalam proses pembentukan standar global, tingkat tata kelola etika yang dimiliki perusahaan dapat memengaruhi kepercayaan pasar dan daya saing dalam kontrak.

Nilai tertinggi etika AI adalah kemanusiaan (Humanity), sedangkan prinsip dasar untuk mewujudkannya meliputi prinsip martabat manusia, prinsip kepentingan umum masyarakat, dan prinsip kesesuaian teknologi dengan tujuannya.

Dalam praktik perusahaan, prinsip-prinsip tersebut harus diwujudkan secara konkret dalam bentuk pencegahan insiden keselamatan dan pelanggaran hak asasi manusia, jaminan aksesibilitas bagi kelompok yang secara sosial lemah atau rentan, legitimasi tujuan, serta pengendalian cakupan penggunaan.

Selain itu, dengan mempertimbangkan kemungkinan terjadinya pertentangan antarprinsip, kompromi yang sesuai dengan konteks layanan dan dokumentasinya menjadi hal penting.

Sepuluh persyaratan utama terdiri atas jaminan hak asasi manusia, perlindungan privasi, penghormatan terhadap keberagaman, larangan menimbulkan pelanggaran, kepentingan umum, solidaritas, pengelolaan data, akuntabilitas, keselamatan, dan transparansi.

Perusahaan harus mengubahnya menjadi standar operasional dari sudut pandang “pengendalian apa yang digunakan untuk menerapkannya”.

Sebagai contoh, penghormatan terhadap keberagaman harus dihubungkan dengan pemeriksaan keterwakilan data, pengujian bias, perancangan aksesibilitas, dan kebijakan untuk meminimalkan diskriminasi.

Sementara itu, transparansi harus diwujudkan secara efektif melalui pemberitahuan kepada pengguna, penetapan tingkat keterjelasan, penyampaian risiko dan hal yang perlu diperhatikan terlebih dahulu, serta pengoperasian saluran pertanyaan dan keberatan.

Selain itu, akuntabilitas harus diterapkan melalui penetapan peran dan kewenangan, pembagian tanggung jawab ketika menggunakan solusi eksternal, serta protokol penanganan dan sistem pelaporan ketika terjadi insiden.

Jika kurangnya keterwakilan data pelatihan atau asumsi dalam perancangan menimbulkan hasil yang merugikan kelompok tertentu, hal tersebut dapat berkembang menjadi persoalan diskriminasi.

Khususnya dalam bidang sensitif seperti perekrutan, evaluasi, pinjaman, asuransi, dan layanan medis, terdapat kemungkinan besar munculnya tuntutan atas legitimasi dan penjelasan hasil sehingga diperlukan verifikasi proaktif serta penetapan standar untuk menangani sengketa.

Jika data pribadi dikumpulkan, digabungkan, digunakan, atau dimanfaatkan di luar tujuannya dalam proses pengembangan dan pengoperasian AI, hal tersebut dapat disertai risiko pelanggaran regulasi dan ganti rugi.

Oleh karena itu, pengendalian pengelolaan data seperti minimalisasi data, pengendalian hak akses, deidentifikasi, serta standar penyimpanan dan pemusnahan harus dirancang bersama persyaratan etika.

Malafungsi, halusinasi, kesalahan, kerentanan keamanan, dan kepercayaan berlebihan terhadap pengambilan keputusan otomatis dapat menimbulkan insiden.

Selain itu, ketika terjadi insiden, ketidakmampuan menjelaskan “mengapa hasil tersebut muncul dan pengendalian apa yang telah diterapkan” dapat memengaruhi penilaian atas kelalaian perusahaan dan tingkat kepercayaannya.

Oleh karena itu, diperlukan sistem pemantauan kinerja, penilaian risiko, pengawasan manusia, penghentian darurat, log, dan dokumentasi.

Perusahaan harus terlebih dahulu menginventarisasi penggunaan AI dalam layanan dan pekerjaan internalnya, kemudian mengidentifikasi persoalan bias, privasi, keselamatan, serta transparansi berdasarkan aliran data dan titik pengambilan keputusan otomatis untuk menetapkan prioritas.

Khususnya, akan lebih efisien untuk membedakan layanan yang berinteraksi dengan pelanggan dari sistem pengambilan keputusan internal, lalu menerapkan tingkat risiko dan intensitas pengendalian yang berbeda.

Bidang dukungan Daeryun

Untuk mengubah prinsip etika dan persyaratan utama menjadi peraturan serta proses internal, perusahaan harus menyempurnakan pedoman etika, standar pengelolaan data, standar pengoperasian model, kebijakan pemberitahuan dan penjelasan, prosedur pengajuan keberatan dan pemulihan kerugian, serta panduan penanganan insiden.

Selain itu, ketika menggunakan solusi atau API eksternal, pembagian tanggung jawab dan cakupan verifikasi harus diperjelas melalui kontrak dan prosedur operasional.

Bidang dukungan Daeryun

Pada tahap operasional, efektivitas harus dipertahankan melalui pemantauan bias dan penurunan kinerja, pemeriksaan keselamatan, pengendalian keamanan, penyimpanan log dan catatan pengambilan keputusan, serta pelaksanaan pendidikan secara berkala.

Khususnya, setiap kali terdapat penerapan layanan baru atau perubahan norma, tata kelola etika harus ditingkatkan secara berkelanjutan dengan mengulangi penilaian dampak dan tindakan perbaikan.

Bidang dukungan Daeryun

Firma Hukum Daeryun mengoperasikan Grup AI dan Inteligensi Data serta memberikan dukungan agar etika AI dapat diterapkan bukan sekadar sebagai “pernyataan”, melainkan sebagai “kepatuhan yang dapat dibuktikan”.

Dengan menghubungkan secara terpadu peninjauan kepatuhan AI, penyusunan strategi khusus industri, penanganan insiden keamanan siber, dan kemampuan analisis forensik digital, Firma Hukum Daeryun menyediakan sistem dukungan tanpa terputus mulai dari diagnosis risiko etika hingga penanganan insiden.

Secara khusus, Firma Hukum Daeryun mendiagnosis persoalan bias, privasi, keselamatan, dan transparansi yang dapat timbul selama seluruh proses penggunaan AI berdasarkan struktur layanan dan aliran data, lalu memberikan konsultasi praktis untuk mengubahnya menjadi peraturan internal dan pengendalian operasional.

Selain itu, dengan menghubungkan kemampuan keamanan siber, penanganan krisis, dan forensik digital, Firma Hukum Daeryun memberikan dukungan dalam penetapan fakta ketika terjadi insiden, pembangunan sistem pembuktian, serta dokumentasi penanganan sehingga perusahaan dapat mengubah risiko etika menjadi bidang pengelolaan yang dapat dikendalikan.

Jika Anda memerlukan peninjauan terkait dan konsultasi praktis, silakan meminta dukungan pengacara spesialis perusahaan kapan saja.