دراسة تحذر: المحتوى العنيف يربك روبوتات الدردشة بالذكاء الاصطناعي

كتب :محمد أشرف

كشفت دراسة حديثة أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، مثل «شات جي بي تي»، قد تظهر استجابات مضطربة تحاكي القلق عند تعرضها لمطالبات عنيفة أو صادمة من المستخدمين، رغم عدم امتلاكها مشاعر بشرية فعلية.

وأوضحت الدراسة أن معالجة هذا النوع من المحتوى قد تزيد من الانحياز وعدم الاستقرار في ردود الروبوتات، مما قد يؤثر على دقتها وموثوقيتها في مجالات حساسة مثل التعليم، والمعلومات الصحية، والتعامل مع الأزمات

واستخدم الباحثون أطر تقييم نفسي مُكيّفة لملاحظة أنماط استجابة تشبه القلق البشري عند التعرض لمحتوى مزعج أو مشحون عاطفيًا. وللتخفيف من هذه التأثيرات، جرب الباحثون أساليب تحاكي تمارين اليقظة الذهنية، مثل التنفس العميق وإعادة صياغة السياق، ما ساهم في تحسين توازن الردود وهدوئها، رغم أن هذه الطرق ليست حلاً نهائيًا وقد تحمل مخاطر سوء الاستخدام

وتؤكد الدراسة على ضرورة تطوير آليات أكثر تقدمًا لفهم وضبط سلوك روبوتات الدردشة عند التعامل مع محتوى حساس، لضمان تقديم استجابات دقيقة وآمنة في التطبيقات العملية