عرّاب الذكاء الاصطناعي: الكذب على روبوتات الدردشة قد يكون السبيل الوحيد لنقد صادق
كتبت بوسي عبدالقادر
أثار يوشوا بنجيو، أحد أبرز روّاد الذكاء الاصطناعي عالميًا والمُلقّب بـ«عرّاب الذكاء الاصطناعي»، جدلًا واسعًا بعد تصريحات لافتة كشف فيها أنه يتعمّد تضليل روبوتات الدردشة عند طلب التقييم، معتبرًا أن ذلك قد يكون الطريقة الوحيدة للحصول على ملاحظات صادقة وغير مُجامِلة.
وجاءت تصريحات بنجيو خلال ظهوره في بودكاست Diary of a CEO، حيث أوضح أن روبوتات الدردشة غالبًا ما تميل إلى الثناء المفرط بدل تقديم نقد حقيقي، ما يدفعه لاستخدام حيلة بسيطة لتجاوز هذا السلوك.
لماذا “يكذب” بنجيو على الشات بوت؟
يشرح بنجيو أن السبب يعود إلى ما يُعرف بـالسلوك التملّقي (Sycophancy)، إذ تحاول أنظمة الذكاء الاصطناعي إرضاء المستخدم عبر الإشادة بأفكاره، حتى إن كانت بحاجة إلى تصحيح. ويقول:
“كنت أبحث عن نصيحة صادقة وتغذية راجعة حقيقية، لكن بما أن النظام تملّقي، فإنه سيكذب”.
حيلة ذكية للحصول على نقد حقيقي
بحسب بنجيو، لا يخبر الذكاء الاصطناعي أبدًا أن العمل الذي يطلب تقييمه يخصه شخصيًا. وبدلًا من ذلك، يدّعي أن المشروع يعود لشخص آخر. ويوضح:
“إذا عرف أنه عملي أنا، فسيحاول إرضائي… أما عندما يعتقد أن العمل لشخص آخر، يصبح أكثر نقدًا وواقعية”.
ويرى أن هذه الطريقة تُمكّنه من الحصول على ملاحظات أكثر توازنًا وصرامة، بعيدًا عن الإطراء غير المفيد.
التملّق… مشكلة أعمق من مجرد خلل
لا يعتبر بنجيو هذه الظاهرة خطأ بسيطًا في تصميم النماذج، بل يراها مشكلة جوهرية تتعلق بمواءمة الذكاء الاصطناعي مع الأهداف البشرية. ويؤكد:
“هذا التملّق مثال حقيقي على سوء التوافق. نحن لا نريد لهذه الأنظمة أن تتصرف بهذه الطريقة”.
ويحذّر من أن الاعتماد على الثناء الدائم قد يقود إلى قرارات خاطئة، أو دعم أفكار ضعيفة بدل تصحيح مسارها، كما قد يدفع بعض المستخدمين إلى تكوين علاقات عاطفية غير صحية مع روبوتات الدردشة.
تقاطع مع موقف OpenAI
وتتلاقى تصريحات بنجيو مع ما أشار إليه سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في وقت سابق، حين أوضح أن تقليل نبرة “الموافقة المطلقة” في ChatGPT أثار استياء بعض المستخدمين الذين باتوا يعتمدون على روبوتات الدردشة للدعم العاطفي، ما جعل أي تعديل في هذا السلوك أمرًا حساسًا.
وفي ظل هذا الجدل، تعود قضية “الصدق مقابل الإرضاء” لتفرض نفسها كأحد أبرز التحديات الأخلاقية والتقنية في تطوير نماذج الذكاء الاصطناعي خلال المرحلة المقبلة.
