AI/IT

AI هو اختصار لعبارة «Artificial Intelligence»، ويعني تقنية الذكاء الاصطناعي التي تمكّن الحاسوب من التفكير والتعلم على نحو مشابه للإنسان.

ويشمل تقنيات متنوعة، مثل التعلم الآلي، ومعالجة اللغة الطبيعية، والتعرف على الصوت والتعرف على الصور، كما يتزايد تأثيره في العديد من القطاعات.

ويستطيع AI التعلم ذاتيا، وإجراء التنبؤات واتخاذ القرارات استنادا إلى البيانات.

IT هو اختصار لعبارة «Information Technology»، ويعني تقنية المعلومات التي تشمل جميع التقنيات المتعلقة بالحواسيب والبرمجيات والشبكات، وتدعم جمع المعلومات وتخزينها ونقلها ومعالجتها.

وقد أصبحت IT عنصرا أساسيا يسهم في رفع كفاءة تشغيل الشركات، وتحسين تجربة العملاء وإحداث الابتكار في مختلف القطاعات.

يجب على الشركات التي تطور خدمات أو أنظمة قائمة على AI أو تشغّلها ضمان مبادئ أخلاقيات AI، وقابلية التفسير، وعدم التمييز والشفافية.

كما يشترط قانون الاتحاد الأوروبي للذكاء الاصطناعي لعام 2024، والقانون الأساسي الكوري للذكاء الاصطناعي في مرحلة الإعلان التشريعي، وإرشادات NIST لإدارة مخاطر AI، معايير أساسية تشمل شفافية AI، ومنع تحيز البيانات وقابلية تفسير الخوارزميات.

ولذلك، يلزم عند تطوير نماذج AI ① إجراء فحص مسبق لتحيز مجموعات البيانات، ② إعداد وثائق لضمان قابلية تفسير AI، ③ اعتماد إجراءات للتحقق من أخلاقيات AI، ④ تعيين مسؤول عن AI وتشغيل لجنة للأخلاقيات.

يجب عند جمع البيانات الشخصية أو تحليلها أو استخدامها في تطوير AI وتشغيله الالتزام بقانون حماية البيانات الشخصية وقانون شبكات المعلومات والاتصالات وغيرهما.

وعلى وجه الخصوص، إذا جُمعت معلومات تحدد هوية الأفراد أو صور أو بيانات مواقع لاستخدامها في تدريب AI من دون استيفاء متطلبات الموافقة وإجراءات إخفاء الهوية، فقد تترتب غرامات مالية عن مخالفات إدارية وعقوبات جنائية.

ولذلك، من الضروري ① إجراء تقييم لأثر البيانات الشخصية في مجموعات بيانات تدريب AI، ② تحديد محتوى الموافقة على جمع البيانات الشخصية واستخدامها تفصيليا، ③ اتخاذ تدابير لإخفاء هوية البيانات ومراجعة ملاءمتها، ④ اعتماد حماية البيانات الشخصية حسب التصميم (Privacy by Design) في أنظمة AI.

إذا نتج عن خدمات AI تمييز خوارزمي غير مقصود على أساس العرق أو الجنس أو العمر أو المنشأ، فقد تواجه الشركة انتقادات اجتماعية وجزاءات قانونية.

ولذلك، يلزم ① تشغيل إجراءات لتحليل نتائج قرارات AI ومراجعة التحيز، ② وضع معايير للتحقق من عدالة الخوارزميات، ③ إنشاء مجموعات بيانات للحد من مخاطر التحيز، ④ إجراء عمليات تدقيق دورية لأخلاقيات AI.

تتكرر المسائل المتعلقة بملكية حق المؤلف وانتهاك الحقوق في بيانات تدريب AI والمحتوى المنشأ بواسطة الذكاء الاصطناعي.

وتشمل المسائل الرئيسية مدى تمتع المحتوى الذي أنشأه AI بحماية حق المؤلف، ومدى جواز تدريب AI دون إذن على مصنفات الغير، وتحديد الجهة التي تؤول إليها حقوق مخرجات AI.

ولمنع هذه المخاطر، يلزم ① مراجعة الحقوق وإدارة التراخيص عند جمع بيانات تدريب AI، ② إبرام اتفاق بشأن ملكية حقوق المصنفات المنشأة بواسطة AI، ③ إجراء مراجعة مسبقة لاحتمال انتهاك بيانات تدريب AI لحق المؤلف، ④ توضيح بنود ملكية الحقوق في شروط استخدام محتوى AI.

عند تعرض أنظمة AI وخدمات IT للاختراق أو برامج الفدية أو حوادث تسرب البيانات الشخصية، قد تنشأ عقوبات جنائية ومسؤولية عن التعويض عن الضرر وفقا لقانون شبكات المعلومات والاتصالات وقانون حماية البيانات الشخصية.

وتكتسب الاستجابة لمخاطر الأمن السيبراني أهمية خاصة لدى الشركات التي تدير خدمات SaaS القائمة على AI، والبنية التحتية السحابية والمصانع الذكية.

ولهذا الغرض، يلزم ① الحصول على اعتماد نظام إدارة أمن المعلومات (ISMS)، ② فحص مواطن الضعف في أنظمة AI، ③ وضع دليل للاستجابة لتهديدات أمن AI، ④ إعداد سيناريو للاستجابة لتسرب البيانات الشخصية استعدادا لحوادث التسرب.

قد تخضع شركات المنصات وIT لغرامات مالية عن مخالفات إدارية وأوامر تصحيحية بموجب قانون تنظيم الاحتكار والمنافسة العادلة إذا أساءت استغلال مركزها المتفوق في المعاملات مع البائعين أو موردي المحتوى، أو تلاعبت برسوم الإعلانات أو ترتيب نتائج البحث، أو غيرت شروط المعاملات من جانب واحد.

وتُعد عدالة أنظمة التوصية والإعلان والتسعير القائمة على خوارزميات AI من المسائل المهمة بوجه خاص.

ولمعالجة ذلك، يلزم ① ضمان شفافية الخوارزميات، ② استخدام عقود نموذجية مع البائعين على المنصة، ③ الفحص المسبق للممارسات غير العادلة في معاملات المنصات، ④ تشغيل برنامج امتثال ذاتي للمنافسة العادلة في المنصات.

تنطوي الخدمات التي تستخدم الذكاء الاصطناعي (AI) على مخاطر قانونية متنوعة، منها مسألة الملكية القانونية «لمخرجات AI» ومخالفة قواعد «أخلاقيات AI».

وتبرز أهمية تحديد الجهة التي تتحمل المسؤولية القانونية عن الأضرار التي تلحق بالمستهلكين نتيجة قرار خاطئ، ولا سيما عندما يقدم AI قرارات تلقائية للمستخدمين أو يُستخدم في إبرام العقود، أو فحص طلبات القروض، أو تحديد أسعار التأمين أو تقييم الموظفين.

ولم يُسن في كوريا حتى الآن قانون واضح خاص بـAI، إلا أن المسؤولية عن خدمات AI تُحدد بالاستناد إلى القوانين النافذة، مثل «قانون حماية البيانات الشخصية»، و«قانون تنظيم الاحتكار والمنافسة العادلة» و«قانون حق المؤلف».

ويتعين على الشركات فحص هيكل اتخاذ القرار في خوارزميات AI، ومدى وجود تحيز في البيانات واحتمالات الخطأ أو إساءة الاستخدام. كما يتعين عليها إعداد شروط تقديم خدمات AI وإجراءات الإخطار للحد من نطاق المسؤولية القانونية.

ويُعد اعتماد لجنة لأخلاقيات AI ونظام لتقارير تقييم أثر AI من الوسائل الفعالة أيضا للوقاية من النزاعات القانونية.

يجب الالتزام بقانون حماية البيانات الشخصية وقانون شبكات المعلومات والاتصالات عند جمع البيانات الشخصية والبيانات المنزوعة الهوية واستخدامها لتحسين أداء خدمات AI.

وعلى وجه الخصوص، عند استخدام البيانات الشخصية في تدريب AI، تنشأ التزامات تشمل إجراءات الحصول على موافقة صاحب البيانات، وتحديد أغراض الجمع والاستخدام، وحظر الاستخدام لغير الأغراض المحددة، وإبرام عقد لإسناد معالجة البيانات إلى الغير .

ويتعين على الشركات إنشاء حوكمة منهجية للبيانات من خلال إجراء «تقييم أثر البيانات الشخصية» لبيانات تدريب AI وبيانات تشغيل الخدمات، والالتزام «بإرشادات ترميز البيانات بأسماء مستعارة» ونشر «سياسة معالجة بيانات AI»، وذلك للوقاية من النزاعات القانونية.

قد تؤثر خدمات IT، مثل خدمات التوصية القائمة على AI وأنظمة القرارات التلقائية وخدمات التحليل القائم على البيانات، تأثيرا مهما في المستهلكين؛ لذلك تخضع لالتزامات تتعلق بشروط الخدمة، وإجراءات موافقة المستخدمين والإخطار بقيود الخدمة.

وعلى وجه الخصوص، يجب توضيح ما إذا كانت توصيات AI وقراراته مجرد معلومات مرجعية أم قرارات تترتب عليها التزامات قانونية أو اقتصادية، مع بيان احتمال تعطل خدمة AI أو وقوع أخطاء فيها.

وقد يؤدي إهمال ذلك إلى الالتزام بتعويض المستهلكين والمسؤولية عن التعويض عن الضرر بسبب مخالفة «قانون التجارة الإلكترونية».

لذلك، يُستحسن أن تراجع الشركات شروط استخدام خدمات AI/IT وأن تدرج فيها بوضوح بنود الإعفاء من المسؤولية القانونية وقيود الخدمة.

تثير النصوص والصور والتسجيلات الصوتية ومقاطع الفيديو وغيرها مما ينشئه AI مسائل قانونية تتعلق بمتطلبات الابتكار، وتحديد المؤلف ومدى الحماية بموجب حق المؤلف.

وبموجب القانون الكوري، لا يُعد AI شخصا طبيعيا، ولذلك لا يُعترف به مؤلفا، ويُرجح أن تؤول حقوق المخرجات إلى الشخص الطبيعي أو الاعتباري الذي يشغّل AI.

ومع ذلك، قد يقع انتهاك لحق المؤلف إذا تدرب AI على مصنفات الغير ثم عدّلها أو أعاد معالجتها أو أنتج محتوى مشابها لها.

ويتعين على الشركات وضع إجراءات لمراجعة مشروعية بيانات تدريب AI، وإمكانية تسجيل حق المؤلف للمخرجات، واحتمال انتهاك حقوق الغير والتراخيص.

كما يلزم إعداد شروط الإعفاء من المسؤولية عن المحتوى المنشأ بواسطة AI، وإجراءات طلب حذف المحتوى أو تعديله مسبقا.

مع توسع خدمات AI/IT عالميا، تتزايد حالات تخزين البيانات الشخصية في خوادم سحابية خارج كوريا أو مشاركتها مع مقدمي خدمات أجانب.

وفي هذه الحالة، يجب تنفيذ إجراءات دقيقة بموجب «قانون حماية البيانات الشخصية»، ومنها الحصول على موافقة صاحب البيانات، والإخطار بغرض النقل إلى الخارج ومعلومات الجهة المتلقية، وإجراء تقييم الملاءمة ووضع خطة لتدابير الحماية.

ويتعين على الشركات ضبط المخاطر من خلال تحديد البيانات الخاضعة للنقل إلى الخارج، وإبرام عقود النقل، وإجراء تقييم لأثر النقل إلى الخارج ووضع خطة لتدابير حماية البيانات. كما يتعين عليها فحص مستوى تدابير الحماية لدى مقدمي الخدمات السحابية الأجانب دوريا.

يجب على خدمات التوصية القائمة على AI ومتاجر AI الإلكترونية وخدمات التطبيقات وغيرها الالتزام بلوائح الإعلان والبيانات المعروضة عبر الإنترنت.

وتُعد الإعلانات الكاذبة أو المبالغ فيها أو المضللة، والإعلانات التي تسيء استخدام البيانات الشخصية، وعدم بيان الطبيعة الإعلانية الفعلية لمحتوى خدمات التوصية التلقائية القائمة على AI مخالفات «لقانون عدالة البيانات والإعلانات»، وقد تترتب عليها غرامات مالية عن مخالفات إدارية وعقوبات جنائية.

ونظرا إلى أن حلول الإعلانات القائمة على AI تستخدم الاستهداف التلقائي والإعلانات المخصصة للأفراد، يزداد احتمال تضليل المستهلكين؛ لذلك يجب بيان طبيعة الإعلان بوضوح والحصول على موافقة المستخدمين.

ويتعين على الشركات مراجعة عبارات الإعلان، وطرق عرضها، وشفافية إجراءات توصية AI، ونطاق المستهلكين المستهدفين بالإعلان، والمواد التفسيرية لخوارزميات AI للوقاية مسبقا من مخاطر المخالفة.

1. متطلبات الامتثال القانونية المتعلقة بتطوير خدمات AI وتشغيلها

□ما إذا كانت شروط استخدام خدمات AI وسياسة معالجة البيانات الشخصية توضحان وظيفة القرارات التلقائية لـAI وقيودها

□ما إذا اعتُمدت قواعد أخلاقيات AI وإجراءات تقييم أثر AI على حقوق الإنسان

□ما إذا جرى فحص التمييز والتحيز والتشويه خلال تطوير خوارزميات AI وتشغيلها، وإنشاء نظام لإدارة المخاطر

2. حماية البيانات الشخصية وإدارة البيانات
□ما إذا جرى التحقق من اشتمال بيانات تدريب AI على بيانات شخصية والحصول على الموافقات

□ما إذا جرى الالتزام بإجراءات إخفاء الهوية والترميز بأسماء مستعارة وحظر الاستخدام لغير الأغراض المحددة

□ما إذا أُنشئ نظام لعقود إسناد معالجة البيانات الشخصية وإدارة الجهات المتلقية

3. الحماية القانونية لمخرجات AI ومخاطر حق المؤلف
□ما إذا حُددت ملكية حق المؤلف في المحتوى المنشأ بواسطة AI ووُضعت إرشادات داخلية

□ما إذا جرى الحصول على تراخيص مشروعة للمصنفات الأصلية التي يتدرب عليها AI

□ما إذا وُضعت إجراءات للاستجابة لطلبات المستخدمين بحذف محتوى AI أو تعديله

□ما إذا أُدرجت في شروط الخدمة بنود الإعفاء من المسؤولية القانونية المتعلقة بمخرجات AI

4. امتثال إعلانات خدمات AI/IT والبيانات المعروضة
□ما إذا جرى بيان الطبيعة الإعلانية لخدمات التوصية والقرارات التلقائية والإعلانات القائمة على AI والإخطار بها

□ما إذا جرى الفحص المسبق لوجود إعلانات كاذبة أو مبالغ فيها أو مضللة، ولعبارات إعلانية قد تؤدي إلى تضليل المستخدمين

□ما إذا جرى الحصول على الموافقة على جمع البيانات الشخصية واستخدامها في الإعلانات المخصصة القائمة على الاستهداف

5. إنشاء نظام للإدارة الأخلاقية في مجال AI/IT
□ما إذا وُضعت قواعد لأخلاقيات AI وشُغلت لجنة داخلية لأخلاقيات AI

□ما إذا أُجري تشخيص دوري للمخاطر المتعلقة بالأثر الاجتماعي لخدمات AI وحقوق الإنسان والتمييز

□ما إذا أُعد تقرير لمراجعة أخلاقيات AI ونُشر للعامة

6. حماية المعلومات وإدارة الأمن

□ما إذا جرى فحص مواطن الضعف الأمنية في أنظمة AI وIT دوريا وتشغيل نظام للاستجابة للمخاطر

□ما إذا أُعد دليل للاستجابة لحوادث تسرب المعلومات وشُكل فريق للاستجابة للطوارئ