Keamanan AI | Apakah AI menjadi jalan pintas kebocoran data dan teknologi? Pembangunan sistem pencegahan menjadi kebutuhan mendesak

Kebocoran teknologi juga terjadi dengan cara yang sulit dideteksi oleh sistem keamanan yang ada, dan hal ini semakin menyulitkan penanganannya.

Sistem keamanan yang ada dirancang dengan berfokus pada pengunggahan atau penyimpanan berkas. Namun, sebagian besar kebocoran data dan teknologi sebenarnya terjadi bukan melalui berkas, melainkan melalui proses salin dan tempel, yaitu ketika informasi dimasukkan ke dalam prompt.

Akibatnya, perusahaan bukan hanya tidak mampu mencegah kebocoran, tetapi juga berada dalam keadaan tidak menyadari bahwa kebocoran telah terjadi.

Dengan demikian, dalam proses penggunaan AI, alur kerja dengan visibilitas dan pengendalian yang melemah menjadi faktor risiko yang lebih besar daripada teknologinya sendiri.

Dalam lingkungan perusahaan di luar negeri, bahkan telah dilaporkan kasus ketika struktur algoritma inti terungkap kepada pihak luar hanya melalui pemasukan prompt AI dalam proses peninjauan kode pengembangan atau penataan dokumentasi teknis.

Ketika karyawan atau jajaran manajemen memasukkan informasi rahasia ke dalam prompt, informasi tersebut dapat keluar dari ranah kendali perusahaan.

Bergantung pada cara layanan AI dioperasikan, kemungkinan bahwa informasi yang dimasukkan akan digunakan sebagai log atau data analisis sulit dikesampingkan sepenuhnya.

Ini merupakan metode serangan yang melalui masukan eksternal mendorong AI mengungkapkan data yang tidak dimaksudkan untuk diungkapkan atau menghindari aturan internal.

Risikonya meningkat terutama dalam pekerjaan otomatis, seperti layanan pelanggan, peringkasan dokumen, dan verifikasi kode.

Hal ini dapat berkembang melampaui insiden keamanan kecil menjadi risiko yang membuat perusahaan menanggung tanggung jawab hukum atau kontraktual yang tidak dimaksudkan dalam proses pengambilan keputusan otomatis.

Keluaran AI muncul dalam bentuk "produk turunan", sehingga sangat sulit membuktikan kesamaannya dengan teknologi asli, jalur kebocoran, dan pihak yang bertanggung jawab setelah kejadian.

Oleh karena itu, perusahaan dapat menghadapi risiko manajemen berikut.

Keamanan AI kini tidak lagi terbatas pada ranah departemen keamanan informasi atau penanggung jawab tertentu, tetapi telah berkembang menjadi risiko manajemen yang harus dikelola di seluruh perusahaan.

Jika AI generatif terbuka digunakan secara langsung, informasi yang dimasukkan oleh karyawan dan jajaran manajemen akan dikirimkan bukan ke sistem internal perusahaan, melainkan ke server layanan eksternal.

Dalam proses ini, perusahaan sulit memeriksa atau mengendalikan secara langsung lokasi penyimpanan data tersebut, cara pemrosesannya, dan apakah data itu digunakan kembali untuk pelatihan.

Sebaliknya, dalam lingkungan lokal ketika perusahaan memiliki server sendiri dan mengoperasikan AI hanya di dalam sistem internal, atau dalam struktur AI Privat berbasis VPC khusus yang mengoperasikan AI di ruang independen yang dipisahkan khusus untuk perusahaan meskipun menggunakan komputasi awan eksternal, perusahaan dapat mengelola secara langsung lingkup penyimpanan, pemrosesan, dan akses data.

Karena memungkinkan pengendalian agar data tidak bocor ke luar, struktur semacam ini kini telah menjadi prasyarat mendasar, bukan sekadar pilihan.

Kebijakan atau pernyataan komitmen saja memiliki keterbatasan.

Untuk mencegah kesalahan, diperlukan mekanisme penghambat fisik yang melampaui sekadar "disiplin".

Pengendalian harus berfungsi pada seluruh tahap, mulai dari pengumpulan data, pelatihan, inferensi, hingga pemusnahan.

Kebocoran teknologi dan data akibat AI generatif kini merupakan bidang yang memerlukan penetapan tanggung jawab secara jelas.

Perusahaan perlu menetapkan pihak yang bertanggung jawab atas kebijakan penggunaan AI, pengendalian akses, dan penanganan insiden, serta memasukkan aspek AI ke dalam sistem keamanan yang ada, seperti ISMS-P.

Hal ini juga berkaitan langsung dengan struktur pembelaan hukum untuk membuktikan bahwa perusahaan telah memenuhi tanggung jawab pengelolaannya ketika terjadi insiden.

AI merupakan alat untuk meningkatkan daya saing perusahaan, tetapi sekaligus dapat menjadi jalur kebocoran informasi tercepat jika tidak dikendalikan.

Oleh karena itu, penting untuk meninjau struktur pengambilan keputusan dan sistem pertanggungjawaban organisasi secara bersamaan.

Untuk menanggapi perubahan ini, Firma Hukum Daeryun telah membentuk Grup Inteligensi AI dan Data serta membangun sistem analisis perkara dan penanganan risiko berbasis data yang memadukan ▲kepatuhan AI ▲strategi AI menurut sektor industri ▲keamanan siber dan penanganan krisis ▲forensik digital&e-discovery.

Jika Anda perlu meninjau struktur penggunaan AI, mendiagnosis risiko kebocoran data, atau merancang tata kelola AI internal, pertimbangkan untuk meninjau strategi penanganan melalui diagnosis terpadu dari sudut pandang solusi keamanan dan risiko manajemen.