٢المشكلة

ظلّت البرمجيات لعقود تتصرّف على نحو متوقَّع: المُدخل نفسه والشيفرة نفسها يعطيان المُخرج نفسه، واختبار الوحدة يستطيع إثبات ذلك. والذكاء الاصطناعي يغيّر هذا؛ فالنموذج قد يجيب عن الأمر نفسه إجابتين مختلفتين، والعيوب التي يُدخلها كثيراً ما تكون خفية بما يكفي لتفلت من اختبارات كُتبت لشيفرة متوقَّعة.

نصّ هذا الشكل

01 · البرمجة بالحدس والذكاء الاصطناعي الخفي · شيفرة تُقبل لأنها تبدو صحيحة، وأدوات لم يعتمدها أحد تُخرج البيانات بهدوء. · Answered by · تعالجه · M01 · M06 · M09 · 02 · المراجِع المُنهَك · شيفرة أكثر للمراجعة، وتبديل سياق أكثر، وحلقات مفتوحة تلاحق الناس إلى بيوتهم. · Answered by · تعالجه · M02 · M10 · CLI · 03 · أسطح هجوم جديدة · حزم متوهَّمة، وفواتير وكلاء منفلتة، وتشفير ستكسره الحواسيب الكمّية. · Answered by · تعالجه · M03 · M04 · M05 · M07 · ≈ 1 in 5 · من الحزم التي اقترحتها النماذج المختبَرة كانت متوهَّمة. · حزمة من كل ٥

٢-١ البرمجة بالحدس والذكاء الاصطناعي الخفي

تحت ضغط المواعيد النهائية، يقبل كثير من المطوّرين الشيفرة التي يولّدها الذكاء الاصطناعي لأنها تبدو صحيحة وتعمل فيما يبدو، دون قراءتها سطراً سطراً. هذه هي «البرمجة بالحدس» في صورتها الخطرة. وإلى جانبها ينمو الذكاء الاصطناعي الخفي: إضافات المتصفّح، ومفاتيح الواجهات البرمجية الشخصية، وأغلفة النماذج المحلية التي لم يعتمدها أحد. وكلٌّ منها باب قد تتسرّب منه الشيفرة المصدرية أو بيانات العملاء أو بيانات الاعتماد بهدوء إلى خارج المؤسسة.

٢-٢ المراجِع المُنهَك

كان يُفترض أن يخفّف الذكاء الاصطناعي العبء، لكنه فعل العكس لدى كثير من المطوّرين. فمراجعة شيفرة لم تكتبها عمل مُجهِد، والذكاء الاصطناعي يضاعف كمّ الشيفرة المنتظرة للمراجعة. ويتنقّل المطوّرون طوال اليوم بين الأوامر والفروقات والوكلاء، وتلاحقهم المهام غير المكتملة إلى بيوتهم. يسمّي علماء النفس ذلك «أثر زيغارنيك»؛ وتختلف دراسات التكرار في مدى تأثيره في الذاكرة، لكن معظم المهندسين يعرفون هذا الشعور. والمراجِع المُنهَك يوافق على ما يعمل في الحالة المتوقَّعة ولا يختبر غيرها، ومن هناك تبدأ حوادث إنتاج كثيرة.

٢-٣ أسطح هجوم جديدة

يفتح الذكاء الاصطناعي أيضاً أبواباً لم تكن موجودة من قبل. فالنماذج تقترح أحياناً حزماً برمجية لا وجود لها: وجدت دراسة كبيرة عُرضت في مؤتمر USENIX Security 2025 أن نحو حزمة من كل خمس حزم اقترحتها النماذج المختبَرة كانت متوهَّمة (Spracklen وآخرون، 2025). ويسجّل المهاجمون الآن تلك الأسماء المختلَقة لزرع شيفرة خبيثة، وهي ممارسة تُعرف بـ«انتحال الحزم المتوهَّمة».

والوكلاء الذين يستدعون النماذج في حلقات متكرّرة قد يراكمون فواتير هائلة. تُدرج قائمة OWASP لأخطر عشرة مخاطر في تطبيقات النماذج اللغوية (2025) هذا الخطر تحت اسم «الاستهلاك غير المحدود»، ويسمّي الممارسون صورته المالية «حرمان المحفظة». كما أن تشفير المفتاح العام الذي يحمي خطوط التسليم ومخرجات النماذج اليوم، مثل RSA وتشفير المنحنيات الإهليلجية، سيصبح يوماً قابلاً للكسر بالحواسيب الكمّية، لذا يجب أن تكون خطوط التسليم مستعدة لتبديل الخوارزميات دون إعادة بناء.