أمن الذكاء الاصطناعي | هل يصبح الذكاء الاصطناعي طريقا مختصرا لتسرب البيانات والتقنيات؟ إنشاء منظومة للوقاية أولوية أساسية

يزيد من صعوبة الاستجابة أيضا وقوع تسرب التقنيات بطرق يصعب على أنظمة الأمن التقليدية رصدها.

صممت أنظمة الأمن التقليدية أساسا لمراقبة رفع الملفات أو حفظها، لكن نسبة كبيرة من حالات تسرب البيانات والتقنيات الفعلية تحدث أثناء النسخ واللصق، أي عند إدخال الموجّهات، لا من خلال الملفات.

ونتيجة لذلك، قد تجد الشركات نفسها غير قادرة على منع التسرب أو حتى إدراك وقوعه.

وبناء عليه، تشكل مسارات العمل التي تضعف فيها الرؤية والرقابة أثناء استخدام الذكاء الاصطناعي عامل خطر أكبر من التقنية ذاتها.

وقد وردت بالفعل في بيئات شركات خارج كوريا حالات انكشفت فيها البنية الأساسية لخوارزميات جوهرية إلى جهات خارجية بمجرد إدخالها في موجّهات الذكاء الاصطناعي أثناء مراجعة أكواد التطوير أو تنظيم الوثائق التقنية.

عندما يقوم الموظفون بإدخال معلومات سرية في موجّه، فقد تخرج هذه المعلومات من نطاق سيطرة الشركة.

ويصعب استبعاد احتمال استخدام المعلومات المدخلة في السجلات أو بيانات التحليل بصورة كاملة، إذ يتوقف ذلك على آلية تشغيل خدمة الذكاء الاصطناعي.

تتم هذه الهجمات من خلال مدخلات خارجية تدفع الذكاء الاصطناعي إلى كشف بيانات دون قصد أو إلى تجاوز القواعد الداخلية.

وتزداد المخاطر بوجه خاص في المهام المؤتمتة، مثل خدمة العملاء وتلخيص الوثائق والتحقق من الأكواد.

وقد يتجاوز ذلك نطاق الحوادث الأمنية الصغيرة ليؤدي إلى خطر تحمل الشركة مسؤوليات قانونية أو تعاقدية لم تقصدها في عمليات اتخاذ القرار المؤتمتة.

تظهر مخرجات الذكاء الاصطناعي في صورة «مخرجات ثانوية»، مما يجعل إثبات تطابقها مع التقنية الأصلية ومسار التسرب والجهة المسؤولة بعد وقوع الحادث أمرا بالغ الصعوبة.

وبناء عليه، قد تواجه الشركات المخاطر الإدارية الآتية.

لم يعد أمن الذكاء الاصطناعي مقتصرا على إدارة أمن المعلومات أو مسؤول محدد، بل أصبح خطرا إداريا يجب التعامل معه على مستوى الشركة بأكملها.

عند استخدام خدمات الذكاء الاصطناعي التوليدي المفتوحة كما هي، ترسل البيانات التي يدخلها الموظفون إلى خوادم خدمات خارجية بدلا من بقائها داخل الشركة.

وخلال هذه العملية، يصعب على الشركة التحقق المباشر من مكان تخزين هذه البيانات وكيفية معالجتها وما إذا كانت ستستخدم مجددا في التدريب، أو التحكم في ذلك.

أما في البيئة المحلية التي تشغل فيها الشركة الذكاء الاصطناعي داخل أنظمتها فقط باستخدام خوادمها الخاصة، أو في بنية الذكاء الاصطناعي الخاص (Private AI) القائمة على شبكة VPC مخصصة، حيث يشغل الذكاء الاصطناعي في مساحة مستقلة ومنفصلة للشركة وحدها حتى عند استخدام سحابة خارجية، فيمكن للشركة إدارة نطاق تخزين البيانات ومعالجتها والوصول إليها مباشرة.

وبفضل إمكانية ضبط البيانات لمنع تسربها إلى الخارج، أصبحت هذه البنية أساسا ضروريا وليست مجرد خيار.

للسياسات أو التعهدات وحدها حدود واضحة.

ويتطلب منع الأخطاء آليات تقنية مادية للكبح تتجاوز مجرد «الانضباط».

يجب أن تعمل الضوابط في جميع المراحل، من جمع البيانات وتدريبها والاستدلال بها إلى إتلافها.

أصبح تسرب التقنيات والبيانات بسبب الذكاء الاصطناعي مجالا يتطلب تحديدا واضحا للمسؤوليات.

ويلزم تحديد الجهات المسؤولة عن سياسات استخدام الذكاء الاصطناعي وضوابط الوصول والاستجابة للحوادث، وإدراج بنود الذكاء الاصطناعي ضمن أنظمة الأمن القائمة، مثل ISMS-P.

ويرتبط ذلك مباشرة بإطار الدفاع القانوني اللازم لإثبات وفاء الشركة بمسؤوليتها الإدارية عند وقوع حادث.

الذكاء الاصطناعي أداة تعزز القدرة التنافسية للشركات، لكنه قد يصبح في غياب الضوابط أحد أسرع مسارات تسرب المعلومات.

وبناء عليه، من المهم مراجعة هيكل اتخاذ القرار ومنظومة المسؤوليات داخل المؤسسة معا.

أطلقت شركة دايريون للمحاماة مجموعة الذكاء الاصطناعي وذكاء البيانات استجابة لهذه التغيرات، وأنشأت منظومة لتحليل القضايا والاستجابة للمخاطر بالاستناد إلى البيانات، تربط بين ▲الامتثال في مجال الذكاء الاصطناعي ▲استراتيجيات الذكاء الاصطناعي بحسب القطاعات ▲الأمن السيبراني والاستجابة للأزمات ▲التحليل الجنائي الرقمي&والاكتشاف الإلكتروني.

وعند الحاجة إلى مراجعة بنية استخدام الذكاء الاصطناعي أو تشخيص مخاطر تسرب البيانات أو تصميم حوكمة داخلية للذكاء الاصطناعي، يمكن تقييم استراتيجية الاستجابة من خلال تشخيص متكامل يراعي الحلول الأمنية والمخاطر الإدارية.