«هلوسة الذكاء الاصطناعي».. لماذا يختلق ChatGPT الأكاذيب وكيف تروض عقله الرقمي؟
بقلم: نانيس عفيفي
مع التسارع المذهل في تبني أدوات الذكاء الاصطناعي التوليدي، برز تحدٍّ تقني خطير أثار ريبة الباحثين والمستخدمين على حد سواء، وهو ما يُعرف بـ «هلوسة الذكاء الاصطناعي» (AI Hallucination). فكيف يمكن لنموذج فائق الذكاء أن يقدم معلومات مغلوطة بـ “ثقة” تامة؟ وهل هناك سبيل للحد من هذه الخيالات الرقمية؟
ما هي الهلوسة الرقمية؟
بعيداً عن المصطلحات المعقدة، الهلوسة هي الحالة التي ينتج فيها النموذج إجابات تبدو دقيقة ومقنعة لغوياً، لكنها في الواقع “مختلقة” ولا تستند إلى مصدر حقيقي. الأمر لا يتعلق برغبة النموذج في الخداع، بل بطبيعة عمله التي تعتمد على التنبؤ الإحصائي بالكلمة التالية، وليس على الفهم الواعي للحقائق.
تشريح “عقل” الآلة: لماذا يختلق المعلومات؟
تحدث الهلوسة غالباً عندما يجد النموذج نفسه في الزاوية، وتحديداً في الحالات التالية:
- خارج النطاق: عندما يطرح المستخدم سؤالاً لم تكن معلوماته متوفرة في بيانات التدريب.
- الفجوات المعلوماتية: غياب المصادر الموثوقة يدفع النموذج لملء الفراغ بما يبدو “منطقياً” لا حقيقياً.
- الهروب من الاعتراف: ميل بعض النماذج لتقديم إجابة كاملة بدلاً من الاعتراف بكلمة “لا أعرف”.
أنواع الهلوسة: من الأخطاء البسيطة إلى اختلاق المصادر
تتخذ الهلوسة عدة أنماط يجب على المستخدم المهني الحذر منها:
- الهلوسة الواقعية: اختلاق أرقام، تواريخ، أو أسماء شركات وهمية.
- الهلوسة المنطقية: تقديم استنتاجات فاسدة من مقدمات صحيحة.
- الهلوسة السياقية: الخروج عن صلب الموضوع (كأن تسأل عن البرمجة فيجيبك عن علم الأحياء).
- هلوسة المصادر (الأخطر): الإشارة إلى أبحاث أكاديمية أو كتب غير موجودة أصلاً لتعزيز مصداقية الإجابة.
[Image showing the difference between AI factual response and hallucinated response]
درع الحماية: كيف تقلل من نسب الهلوسة؟
رغم أنه لا يمكن القضاء عليها بنسبة 100%، إلا أن تقنيات هندسة الأوامر (Prompt Engineering) تلعب دوراً حاسماً. استخدام تعليمات صارمة (Prompts) تُجبر النموذج على الالتزام بالدقة هو الحل الأمثل.
نموذج أمر مقترح (Prompt) لرفع دقة ChatGPT:
”عليك دائماً قول الحقيقة. لا تختلق معلومات أو تفاصيل، اعتمد فقط على مصادر يمكن التحقق منها، وإذا لم تجد معلومة، قل صراحة ‘لا يمكنني تأكيد ذلك’. أعطِ الأولوية للدقة على سرعة الإجابة.”
كلمة أخيرة: الرقابة البشرية ضرورة لا غنى عنها
يبقى الذكاء الاصطناعي أداة مساعدة قوية، لكنه يفتقر إلى “الوعي بالحقيقة”. لذا، يظل التحقق البشري والمراجعة الدقيقة للمصادر هما صمام الأمان الوحيد في أي استخدام مهني أو أكاديمي.
