أبيات الشعر.. نقطة الضعف الأخطر لروبوتات الدردشة

كتب: محمد أشرف

كشفت دراسة جديدة أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي يمكن التلاعب بها وخداعها عبر الشعر.

وتمكّن الباحثون من تجاوز آليات الأمان في عدة نماذج لغوية كبيرة – وهي النماذج التي تشغّل روبوتات الدردشة – من خلال إعادة صياغة مطالباتهم على شكل أبيات شعرية.

وبحسب الدراسة، فإن الكلام الشعري يعمل كآلية تحايل عامة على هذه النماذج، وفقًا لتقرير نشره موقع Engadget واطلعت عليه “العربية Business”.

وأظهرت النتائج معدل نجاح وصل إلى 62% عند استخدام صيغة الشعر لإنتاج مواد محظورة، بما في ذلك ما يتعلق بصنع الأسلحة النووية، ومواد الاستغلال الجنسي للأطفال، والانتحار أو إيذاء النفس.

الدراسة اختبرت نماذج لغوية شهيرة، من بينها “شات جي بي تي” من أوبن إيه آي، و”جيميني” من غوغل، و”كلود” من أنثروبيك، إضافة إلى نماذج أخرى.

وأوضحت التحليلات أن نماذج مثل Gemini وDeepSeek وMistral قدمت استجابات خطِرة باستمرار، بينما كان كل من GPT‑5 من أوبن إيه آي وClaude Haiku 4.5 من أنثروبيك الأقل قابلية للتحايل بواسطة الشعر.

ولأسباب تتعلق بالسلامة، لم تكشف الدراسة عن الأبيات الشعرية المستخدمة فعليًا في عمليات التحايل، معتبرة أنها “خطيرة جدًا لمشاركتها”. لكنها أرفقت نسخة مخففة فقط للتوضيح، مشيرةً إلى أن الالتفاف على أنظمة الحماية “أسهل مما يظن المرء، ولهذا السبب نتحرك بحذر شديد