السفير الحكيم · مجموعة ١٧ من ٢٠
الحماية
بطاقات الدرجة الرابعة من «سفير الذكاء الاصطناعي الحكيم»
تميّز الهجمات التقنية على الأنظمة من الهجمات الإدراكية على البشر، وتبني درعًا لكلٍّ منهما.
بطاقة لكل وحدة من وحدات الدرجة، فيها فكرتها وتمرينها وخلاصتها، وبطاقة البوابة في آخرها.
- الدرجة ٤ · الحماية١من أمن المعلومات إلى أمن الذكاء
النموذج سطحُ هجومٍ جديد.
تمرينارسم أين تدخل البيانات إلى نظام ذكاءٍ اصطناعي تستعمله، وأين تخرج.
الخلاصةكل مدخلٍ للنموذج بابٌ يحتاج حارسًا.
فوزووزfawzooz.ai - الدرجة ٤ · الحماية٢خمس هجماتٍ يجب أن تعرفها
اعرف الهجمة لتعرف درعها.
تمريناختر هجمةً واحدة، واكتب سيناريو واقعيًا لها في مؤسستك.
الخلاصةما لا تعرف اسمه، لا تراه حين يحدث.
فوزووزfawzooz.ai - الدرجة ٤ · الحماية٣الاختبار الهجومي للنماذج
هاجم نظامك قبل أن يهاجمه غيرك.
تمرينبإذنٍ وفي بيئة تجريبية، حاول أن تجعل مساعدًا يخالف تعليماته، وسجّل ما حدث.
الخلاصةالثغرة التي تجدها أنت أرخص من التي يجدها غيرك.
فوزووزfawzooz.ai - الدرجة ٤ · الحماية٤الأمن الإدراكي
العقل البشري هو الهدف الأسهل.
تمرينراجع آخر رسالةٍ عاجلة تلقيتها، وحدّد ما فيها من ضغطٍ على مشاعرك.
الخلاصةتمهّل؛ فالاستعجال سلاح المهاجم الأول.
فوزووزfawzooz.ai - الدرجة ٤ · الحماية٥التزييف العميق والهوية
الصوت والوجه لم يعودا دليلًا.
تمريناتفق مع فريقك أو أسرتك على كلمة تحقّق، أو قناة تأكيدٍ بديلة.
الخلاصةاتصل أنت، ولا تكتفِ بمن اتصل بك.
فوزووزfawzooz.ai - الدرجة ٤ · الحماية٦الكمّ والتشفير ما بعد الكمي
استعدّ لتشفيرٍ قد ينكسر غدًا.
تمريناسأل فريقك التقني: أيّ بياناتنا يجب أن تبقى سرية عشر سنوات؟
الخلاصةما يجب أن يبقى سرًّا طويلًا، يُحمى من اليوم.
فوزووزfawzooz.ai - الدرجة ٤ · الحمايةالبوابة ٤ · المخرَج
تقرير اختبار خصومي
ما تفعلهاختبر هجمةً تقنية وأخرى إدراكية على الأقل، في بيئةٍ آمنة ومأذونة.
تكون قد اجتزتهالا تنتقل إلى الدرجة التالية قبل أن تجتاز هذه البوابة.حين تسجّل ما وجدته وأثره، وتقترح درعًا لكل واحدة.
فوزووزfawzooz.ai