الفصل ١٢
١٢مكافحة «الهلوسة»: الابتكار المستند إلى الحقائق
«الثقة هي العملة الأغلى في عصر الذكاء الاصطناعي التوليدي».
هذه القوة الهائلة مشروطة بتحدٍّ لا يمكن تجاهله: الثقة. فمع صعود الذكاء التوليدي واجهنا ظاهرة مقلقة تسمى «الهلوسة»: قدرة الآلة على اختلاق وقائع من العدم وسردها بيقين تام. ولا يصمد بنيان ابتكاري على قواعد هشة.
المشكلة: ما الهلوسة ولماذا تحدث؟
الهلوسة إجابات تبدو منطقية وسليمة لغوياً، لكنها خاطئة أو مختلقة بالكامل. تحدث لأن النماذج ليست قواعد بيانات تخزن الحقائق، بل محركات تنبؤ إحصائية تتوقع الكلمة التالية الأكثر احتمالاً. وأحياناً يكون المسار «الأكثر احتمالاً» مختلقاً، فيُقدَّم بنفس ثقة الحقيقة العلمية. وهذا يجعل الاستخدام محفوفاً بالمخاطر في الطب والقانون والتحليل المالي.
الحل الأول: «التأريض» لبناء الثقة
«التأريض» (Grounding) أن نقيّد النموذج ونمنعه من الإجابة بحرية مطلقة، ونطلب منه ربط كل معلومة بمصدرها الدقيق: فقرة في مستند، أو صفحة موثوقة. فيتحول من صندوق أسود إلى مساعد بحثي شفاف؛ تثق بالإجابة لأنك تتحقق من مصدرها. وإن لم يجد المعلومة في مصادرك ألزمه التأريض بأن يقول «لا أعرف» بدلاً من أن ينسج من خياله.
الحل الثاني: «التوليد المعزز بالاسترجاع»
بينما يضمن التأريض الدقة، يجمع «التوليد المعزز بالاسترجاع» (RAG) بين الدقة والإبداع، وصار حجر الزاوية في معمارية الذكاء الاصطناعي الحديثة؛ يحوّل النموذج من مبدع عام إلى خبير في بياناتك الخاصة.
نصّ هذا الشكل
السؤال · ١ الاسترجاع · بحث بالمعنى · قاعدة معرفة موثوقة · مقاطع ذات صلة · ٢ التوليد · السؤال + المصادر · إجابة دقيقة ومؤرضة · مع الاستشهاد بالمصدر · أو: «لا أعرف» · الدقة من الاسترجاع.. والسلاسة من التوليد · شكل ١٦
- الاسترجاع: حين تسأل، يبحث النظام أولاً في قاعدة موثوقة محددة، كمستندات شركتك أو مقالات علمية زودته بها، ويسترجع الفقرات ذات الصلة.
- التوليد: يأخذ النموذج هذه الحقائق ويستخدمها مصدراً وحيداً لصياغة إجابة طبيعية مفهومة.
- النتيجة: إجابة دقيقة «مؤرضة» بأسلوب سلس، تمنع الهلوسة وتسمح بالابتكار على بيانات حديثة وخاصة لم يعرفها النموذج أثناء تدريبه.
تحت الغطاء: كيف يُبنى نظام استرجاع اليوم؟
تحديث ٢٠٢٦
تُقسَّم المستندات إلى «مقاطع»، ويتحول كل مقطع إلى «متجه» رقمي يمثل معناه ويُخزن في «قاعدة بيانات متجهية». وحين يصل السؤال يتحول بدوره إلى متجه، ويُسترجع أقرب المقاطع معنىً، غالباً مع بحث تقليدي بالكلمات المفتاحية فيما يسمى «البحث الهجين»، ثم يعيد مرتّب ذكي ترتيبها. ومن التطورات: «الاسترجاع الوكيلي» حيث يقرر الوكيل متى يبحث وأين ويعيد البحث إن لم تكفِه النتائج، و«الاسترجاع بالرسوم المعرفية» (GraphRAG) الذي يربط الكيانات وعلاقاتها لأسئلة تتطلب الربط بين وثائق متعددة. ورغم اتساع نوافذ السياق، يبقى الاسترجاع أرخص وأحدث وأسهل في ضبط الصلاحيات من حشو كل شيء في الأمر.
قِس قبل أن تثق: تقييم الأنظمة التوليدية
- اختبارات مرجعية: مجموعة أسئلة بإجابات معروفة من مجالك تُشغّل عند كل تغيير.
- مقاييس الاسترجاع: هل استُرجع المقطع الصحيح؟ وهل التزمت الإجابة به؟
- الاستشهاد: إلزام النموذج بذكر المصدر، وفحص أن الاستشهاد يدعم الجملة فعلاً.
- المراجعة البشرية: عينات دورية يراجعها خبير المجال، خاصة في القرارات عالية المخاطر.
الدروس المستفادة
- ١الهلوسة نتيجة طبيعية للتنبؤ الإحصائي بدلاً من الفهم الواعي للحقائق.
- ٢الثقة هي العملة الأهم في عصر الذكاء التوليدي.
- ٣«التأريض» يربط الإجابة بمصادر يمكن التحقق منها، ويسمح بقول «لا أعرف».
- ٤«التوليد المعزز بالاسترجاع» يجمع صرامة المصادر ومرونة التوليد.
- ٥قِس الأنظمة التوليدية باختبارات مرجعية ومراجعة بشرية قبل الثقة بها.
تلميح: استخدم ← → للتنقل بين الأقسام.