الفصل ٢٠
٢٠مخاطر الذكاء الاصطناعي وتقييم أثر النظام
«قيّم الخطر على مؤسستك، ثم قيّم الأثر على الناس؛ فليسا السؤال نفسه».
قلب آيزو 42001 هو البند السادس، وفيه يتميز عن 27001 بعمليتين متكاملتين: تقييم مخاطر الذكاء الاصطناعي (6.1.2) ومعالجتها (6.1.3)، وتقييم أثر نظام الذكاء الاصطناعي (6.1.4). الأولى تنظر إلى المؤسسة وأهدافها، والثانية تنظر إلى الأفراد والمجتمع.
نصّ هذا الشكل
نظام الذكاء الاصطناعي · الغرض والاستخدام المقصود · تقييم المخاطر · البند 6.1.2 · على المؤسسة · الأمن والخصوصية · السمعة والعقود · الامتثال القانوني · تقييم الأثر · البند 6.1.4 · على الناس والمجتمع · الحقوق والملكية الفكرية · التحيز والإنصاف · التضليل والتزييف · المعالجة (البند 6.1.3) وبيان قابلية التطبيق · شكل ٢٦
تقييم مخاطر الذكاء الاصطناعي
يتبع المنهجية نفسها التي عرفناها: تحديد، وتحليل، وتقييم، ومعالجة. لكن مصادر المخاطر أوسع، ويقترح الملحق (ج) أمثلة منها:
- البيانات: جودتها، وتمثيلها، وحق استخدامها، وتسميمها.
- النموذج: الأداء غير الكافي، والانحراف مع الوقت، وصعوبة التفسير.
- الأتمتة: مستوى الاستقلالية، وغياب الإشراف البشري عند الحاجة.
- البيئة: استخدام النظام في سياق لم يُصمم له.
- الأمن: الهجمات العدائية، وحقن الأوامر، وسرقة النموذج.
- التقنية والمورد: الاعتماد على نموذج خارجي يتغير دون إشعار.
وتُعالج المخاطر بالخيارات الأربعة نفسها، ثم تُقارن الضوابط المختارة بالملحق (أ) من 42001 ويُعد بيان قابلية تطبيق خاص بها، تماماً كما في 27001.
تقييم أثر نظام الذكاء الاصطناعي
هذا هو الجديد حقاً. قبل إطلاق نظام، أو عند تغييره جوهرياً، تقيّم المؤسسة عواقبه المحتملة على الأفراد والجماعات والمجتمع: هل يحرم أحداً من فرصة؟ هل يضلل؟ هل يمس الخصوصية أو الكرامة أو حقوق الملكية؟ وتُوثق النتائج وتؤخذ في الحسبان عند تقييم المخاطر.
| المحور | السؤال الموجّه |
|---|---|
| الغرض | ما المهمة؟ وما الاستخدامات الممنوعة صراحة؟ |
| المتأثرون | من المستخدم؟ ومن تمسه المخرجات؟ وهل بينهم فئات هشة؟ |
| البيانات | ما مصدرها؟ وهل نملك حق استخدامها؟ |
| الآثار | تحيز؟ تضليل؟ مساس بالخصوصية أو الملكية؟ |
| الضوابط | إشراف بشري؟ إفصاح؟ حدود للاستخدام؟ |
| القرار | إطلاق، أو إطلاق مشروط، أو إعادة تصميم، أو إيقاف. |
من أرض الواقع
مولد صور الحملة الذي لا يُظهر إلا نمطاً واحداً من الوجوه ليس خطأ تقنياً صغيراً؛ إنه أثر على صورة جمهور كامل، وقد يصبح أزمة سمعة للعميل في يوم واحد.
أهداف الذكاء الاصطناعي
يطلب البند 6.2 أهدافاً قابلة للقياس للذكاء المسؤول، مثل: «100% من الأنظمة عالية الأثر لها تقييم أثر معتمد قبل الإطلاق»، أو «مراجعة بشرية لكل محتوى مولّد يُنشر باسم العميل»، أو «خفض شكاوى المخرجات غير الملائمة إلى النصف خلال عام». ويقترح الملحق (ج) أهدافاً كالمساءلة والإنصاف والخصوصية والمتانة والسلامة والشفافية.
تقييم الأثر يحمي من لا يجلسون معك في غرفة الاجتماعات.
الدروس المستفادة
- ١تقييم المخاطر ينظر إلى المؤسسة، وتقييم الأثر ينظر إلى الناس.
- ٢مصادر مخاطر الذكاء تشمل البيانات والنموذج والأتمتة والبيئة.
- ٣تقييم الأثر يُجرى قبل الإطلاق وعند كل تغيير جوهري.
- ٤أهداف الذكاء المسؤول قابلة للقياس كأهداف الأمن.
تلميح: استخدم ← → للتنقل بين الأقسام.