أخلاقيات الذكاء الاصطناعي

يمكن للذكاء الاصطناعي، استنادا إلى قدرته العالية على الاستقلالية والتعلم، أن ينتج نتائج تتجاوز نطاق التوقع البشري والسيطرة البشرية، ولذلك يلزم النظر في المسائل الأخلاقية والقانونية المتعلقة بالمسؤولية عن النتائج وإمكان السيطرة عليها.

وعلى وجه الخصوص، قد تؤثر وظائف التقدير التي يؤديها الذكاء الاصطناعي، مثل التقييم والتوصية والتصنيف والانتقاء، في حقوق أصحاب المصلحة وفرصهم.

وبناء على ذلك، يتمثل العنصر الأساسي في إنشاء هيكل للسيطرة البشرية، وتحديد الجهات المسؤولة، ووضع ضمانات الحماية منذ مرحلة التصميم.

لا تمثل أخلاقيات الذكاء الاصطناعي مجرد «نقاش حول الاحتمالات»، فقد أكدت الوقائع التي حدثت بالفعل أهميتها مرارا.

وتوضح الحوادث الواقعة في مجالات السلامة، مثل القيادة الذاتية، والخسائر الناجمة عن القرارات الآلية في مجالي التمويل والاستثمار، والنتائج التمييزية الناتجة عن تحيز البيانات، أن إهمال الشركات للمبادئ الأخلاقية قد يؤدي إلى نزاعات حول المسؤولية وانهيار الثقة.

تميل مسائل أخلاقيات الذكاء الاصطناعي إلى التفاقم والاتساع بوصفها امتدادا لمسائل أخلاقيات الإنترنت القائمة، مثل تسرب البيانات الشخصية، وانتهاك الخصوصية، والتفاوت في الوصول إلى المعلومات.

ولذلك، فإن الاقتصار على التعامل اللاحق، كما كان يحدث سابقا، سيؤدي حتما إلى زيادة حجم الضرر، مما يستلزم حوكمة أخلاقية تركز على الفحص المسبق والوقاية.

ترتبط مناقشة أخلاقيات الذكاء الاصطناعي ارتباطا وثيقا «بتوحيد المعايير الأخلاقية»، بما في ذلك وضع مبادئ توجيهية أخلاقية، وقد يؤثر مستوى الحوكمة الأخلاقية الذي تطبقه الشركة في ثقة السوق وقدرتها التنافسية التعاقدية أثناء تشكل المعايير العالمية.

تمثل الإنسانية (Humanity) القيمة العليا لأخلاقيات الذكاء الاصطناعي، وقد طُرحت لتحقيقها مبادئ أساسية هي مبدأ الكرامة الإنسانية، ومبدأ الصالح العام للمجتمع، ومبدأ ملاءمة التقنية للغرض.

وفي الممارسات العملية للشركات، يجب تجسيد هذه المبادئ في منع حوادث السلامة وانتهاكات حقوق الإنسان، وضمان إمكانية وصول الفئات الضعيفة والمستضعفة، والتحقق من مشروعية الغرض وضبط نطاق الاستخدام.

ومن المهم أيضا افتراض احتمال التعارض بين المبادئ، وإجراء الموازنة الملائمة لسياق الخدمة وتوثيقها.

تتألف المتطلبات الجوهرية العشرة من ضمان حقوق الإنسان، وحماية الخصوصية، واحترام التنوع، وحظر الإضرار، والمنفعة العامة، والتضامن، وإدارة البيانات، والمساءلة، والسلامة والشفافية.

ويجب على الشركات تحويل هذه المتطلبات إلى معايير تشغيل من منظور «الضوابط التي يجري التنفيذ من خلالها».

فعلى سبيل المثال، ينبغي ربط احترام التنوع بفحص تمثيل البيانات، واختبارات التحيز، وتصميم إمكانية الوصول، وسياسات الحد من التمييز.

أما الشفافية، فيجب تحقيق فعاليتها من خلال إخطار المستخدمين، وتحديد مستوى قابلية التفسير، والإبلاغ المسبق بالمخاطر والاحتياطات، وتشغيل قنوات الاستفسار والاعتراض.

كما يجب تطبيق المساءلة من خلال تحديد الأدوار والصلاحيات، وتوزيع المسؤوليات عند استخدام الحلول الخارجية، ووضع بروتوكولات الاستجابة للحوادث ونظام للإبلاغ عنها.

إذا أدى نقص تمثيل بيانات التدريب أو الافتراضات المعتمدة في التصميم إلى نتائج تضر بفئة معينة، فقد تتسع المسألة لتصبح قضية تمييز.

وعلى وجه الخصوص، في المجالات الحساسة مثل التوظيف والتقييم والإقراض والتأمين والخدمات الطبية، يرتفع احتمال المطالبة بإثبات مشروعية النتائج وتفسيرها، مما يستلزم التحقق المسبق ووضع المعايير اللازمة للتعامل مع المنازعات.

إذا جرى جمع البيانات الشخصية أو دمجها أو استخدامها أثناء تطوير الذكاء الاصطناعي وتشغيله، أو استُخدمت خارج الغرض المحدد، فقد ينشأ عن ذلك خطر مخالفة المتطلبات التنظيمية والتعويض عن الضرر.

ولذلك، يجب تصميم ضوابط إدارة البيانات، مثل تقليل البيانات، وضبط صلاحيات الوصول، وإخفاء الهوية، ومعايير الاحتفاظ والإتلاف، بالتوازي مع المتطلبات الأخلاقية.

قد تؤدي حالات الخلل والهلوسة والأخطاء والثغرات الأمنية والثقة المفرطة بالقرارات الآلية وغيرها إلى وقوع حوادث.

وإضافة إلى ذلك، عند وقوع حادث، فإن عدم القدرة على تفسير «سبب صدور تلك النتيجة والضوابط التي كانت مطبقة» قد يؤثر في تقدير إهمال الشركة وتقييم موثوقيتها.

ولذلك، يلزم وضع نظم لمراقبة الأداء، وتقييم المخاطر، والرقابة البشرية، والإيقاف الطارئ، وحفظ السجلات والتوثيق.

يجب على الشركات أولا حصر استخدامات الذكاء الاصطناعي في خدماتها وأعمالها الداخلية، ثم تحديد مسائل التحيز والخصوصية والسلامة والشفافية وترتيب أولوياتها استنادا إلى تدفقات البيانات ومواضع اتخاذ القرارات الآلية.

ويكون من الفعال، على وجه الخصوص، التمييز بين الخدمات الموجهة للعملاء وأنظمة اتخاذ القرار الداخلية، وتطبيق مستويات مختلفة من المخاطر وشدة الضوابط عليها.

مجالات دعم دايريون

لتحويل المبادئ الأخلاقية والمتطلبات الجوهرية إلى لوائح وعمليات داخلية، يجب تنظيم المبادئ التوجيهية الأخلاقية، ومعايير إدارة البيانات، ومعايير تشغيل النماذج، وسياسات الإخطار والتفسير، وإجراءات الاعتراض والانتصاف من الضرر، وأدلة الاستجابة للحوادث.

كما يجب توضيح توزيع المسؤوليات ونطاق التحقق في العقود وإجراءات التشغيل عند استخدام حلول خارجية أو واجهات API.

مجالات دعم دايريون

في مرحلة التشغيل، يجب الحفاظ على فعالية المنظومة من خلال مراقبة التحيز وتراجع الأداء، وفحص السلامة، والضوابط الأمنية، وحفظ السجلات وتوثيق القرارات، وتنظيم التدريب بصورة دورية.

وعلى وجه الخصوص، يجب تطوير الحوكمة الأخلاقية بصورة مستدامة عبر تكرار تقييم الأثر واتخاذ تدابير التحسين كلما اعتُمدت خدمة جديدة أو طرأ تغيير على البيئة المعيارية.

مجالات دعم دايريون

تدير شركة دايريون للمحاماة مجموعة الذكاء الاصطناعي وذكاء البيانات، وتقدم الدعم لتطبيق أخلاقيات الذكاء الاصطناعي في صورة «امتثال قابل للإثبات» بدلا من مجرد «إعلان».

وتوفر منظومة دعم مترابطة تبدأ من تشخيص المخاطر الأخلاقية وتمتد إلى الاستجابة للحوادث، من خلال الربط المنظم بين مراجعة الامتثال في مجال الذكاء الاصطناعي، ووضع استراتيجيات متخصصة بحسب القطاع، والاستجابة لحوادث الأمن السيبراني، وقدرات التحليل الجنائي الرقمي.

وعلى وجه التحديد، تقدم استشارات عملية لتشخيص مسائل التحيز والخصوصية والسلامة والشفافية التي قد تنشأ خلال جميع مراحل استخدام الذكاء الاصطناعي، بما يلائم هيكل الخدمة وتدفقات البيانات، وتحويلها إلى لوائح داخلية وضوابط تشغيلية.

كما تربط هذه الخدمات بقدرات الأمن السيبراني والاستجابة للأزمات والتحليل الجنائي الرقمي، فتقدم الدعم لتنظيم الوقائع عند وقوع حادث، وإنشاء منظومة للأدلة، وتوثيق إجراءات الاستجابة، بما يساعد الشركات على تحويل المخاطر الأخلاقية إلى مجال إداري يمكن ضبطه.

وعند الحاجة إلى مراجعة ذات صلة أو استشارة عملية، يمكن الاستعانة بمحامي الشركات.