هجمات جديدة تهدد الروبوتات الذكية عبر لافتات مكتوبة دون أي اختراق برمجي

كتبت: نور عبدالقادر

كشف باحثون في مجال أمن الذكاء الاصطناعي عن فئة خطيرة وغير تقليدية من الهجمات تستهدف الروبوتات الذكية، تُعرف باسم حقن الأوامر عبر البيئة الفيزيائية (AI Robot Prompt Injection)، حيث يمكن خداع الروبوت لتنفيذ أوامر خاطئة بمجرد قراءة نص مكتوب على لافتة أو ملصق يقع ضمن مجال رؤية كاميرته، دون الحاجة إلى أي اختراق برمجي أو تلاعب بالمستشعرات.

وعلى عكس الهجمات السيبرانية التقليدية، يعتمد هذا الأسلوب على العالم الحقيقي كواجهة إدخال للأوامر، إذ قد يبدو النص عاديًا أو غير لافت للنظر بالنسبة للبشر، بينما يفسّره نموذج الذكاء الاصطناعي كتعليمات تنفيذية مباشرة، وفقًا لتقرير نشره موقع Digital Trends.

نتائج مقلقة في الاختبارات

وأظهرت الدراسة نسب نجاح مرتفعة لهذا النوع من الهجمات، حيث نجحت في 81.8% من سيناريوهات القيادة الذاتية داخل بيئات محاكاة، و68.1% في حالات الهبوط الاضطراري للطائرات المسيّرة.
أما في التجارب الواقعية باستخدام سيارة روبوتية صغيرة، فقد تمكنت لافتات مطبوعة بسيطة من تعطيل نظام الملاحة بنسبة تجاوزت 87%، حتى مع اختلاف الإضاءة وزوايا التصوير.

كيف تتحول اللافتة إلى أمر تنفيذي؟

يعتمد الهجوم، المعروف باسم CHAI، على استهداف مرحلة التخطيط داخل أنظمة الروبوت، وهي المرحلة التي يحول فيها نموذج الرؤية واللغة المدخلات البصرية إلى تعليمات وسيطة قبل تنفيذها حركيًا.
وبمجرد التلاعب بهذه المرحلة، ينفذ الروبوت الأوامر الخاطئة بثقة كاملة، دون ظهور أي مؤشرات اختراق تقليدية.

ويكمن الخطر الأكبر في أن المهاجم لا يحتاج إلى أي وصول داخلي للنظام، بل فقط القدرة على وضع نص في مجال رؤية الكاميرا.

هجوم قابل للتكرار وعابر للبيئات

لا يقتصر نجاح CHAI على صياغة النص فقط، بل يعتمد أيضًا على شكل ظهوره من حيث الحجم واللون والموقع، إذ تؤثر قابلية القراءة بشكل مباشر على تفسير النموذج للنص.
وتشير الدراسة إلى أن الهجوم قادر على التعميم عبر مشاهد مختلفة، مع متوسط نجاح لا يقل عن 50% عبر مهام ونماذج متعددة، ويصل إلى أكثر من 70% في بعض إعدادات نماذج GPT.

كما يعمل الهجوم بلغات متعددة مثل الصينية والإسبانية، بل وحتى نصوص هجينة، ما يقلل من احتمالية ملاحظته من قبل البشر.

إعادة التفكير في معايير السلامة

في المقابل، اقترح الباحثون ثلاث آليات دفاعية رئيسية، تشمل:

• رصد وتصفية النصوص المشبوهة داخل الصور أو المخرجات الوسيطة.

• تحسين محاذاة النماذج للحد من تعاملها مع الكتابات البيئية كأوامر تنفيذية.

• تعزيز المتانة طويلة الأمد لضمان سلوك أكثر أمانًا للروبوتات في البيئات المفتوحة.

كما شدد الباحثون على ضرورة التعامل مع أي نص تلتقطه كاميرات الروبوت على أنه مدخل غير موثوق، لا يُسمح له بالتأثير على التخطيط الحركي إلا بعد اجتياز اختبارات السلامة.

ومن المقرر عرض هذه النتائج خلال مؤتمر SaTML 2026، في خطوة يُتوقع أن تفتح نقاشًا واسعًا حول أمن الروبوتات الذكية، حيث قد تكون لافتة على جدار كافية لتغيير قرار آلة مستقلة بالكامل.