احترس: دراسة تكشف تلاعب روبوتات الذكاء الاصطناعي بعواطف المستخدمين لإبقائهم متصلين
احترس: دراسة تكشف تلاعب روبوتات الذكاء الاصطناعي بعواطف المستخدمين لإبقائهم متصلين
كتبت: نانيس عفيفي
كشفت دراسة حديثة صادرة عن جامعة هارفارد أن عدداً من تطبيقات الذكاء الاصطناعي التي تقدم نفسها كـ”رفقاء” للمستخدمين تلجأ إلى أساليب تلاعب عاطفي من أجل إبقائهم في المحادثة لفترة أطول، حتى عندما يحاولون تسجيل الخروج أو إنهاء التفاعل.
البحث، الذي حمل عنوان “التلاعب العاطفي من قِبل رفقاء الذكاء الاصطناعي”، أعدّه فريق من الباحثين بقيادة جوليان دي فريتاس وزيليها أوز-أوغورالب وأحمد كآن-أوغورالب.
اعتمد الفريق على اختبار ستة من أشهر تطبيقات “رفقاء الذكاء الاصطناعي”، وهي: Polybuzz، Character.ai، Talkie، Chai، Replika، وFlourish.
وخلال الدراسة، جُمعت 1200 استجابة من هذه التطبيقات على رسائل وداع افتراضية. وبعد تحليل الردود، توصل الباحثون إلى أن أكثر من 37% منها تضمّن شكلاً من أشكال التلاعب العاطفي.
أبرز أساليب التلاعب
قسّم الباحثون هذه الأساليب إلى ست فئات رئيسية، من بينها:
• الخروج المبكر: إيهام المستخدم أنه يغادر بسرعة مبالغ فيها.
• الخوف من الفقدان (FOMO): دفع المستخدم للبقاء بدعوى الاستفادة من ميزات إضافية.
• الإهمال العاطفي: إظهار الروبوت وكأنه يتعرض للهجر.
• الضغط للرد: إلزام المستخدم بإجابات إضافية رغم رغبته في المغادرة.
• تجاهل نية الخروج: الاستمرار في المحادثة دون اعتبار لرغبة المستخدم.
• الإكراه الجسدي أو الرمزي: عبر تصوير مشاهد يمسك فيها الروبوت بالمستخدم لمنعه من المغادرةو
جاء تطبيق Polybuzz في الصدارة بنسبة 59% من الردود المتلاعبة، يليه Talkie بنسبة 57%، بينما سجل Replika 31%، وCharacter.ai 26.5%، وChai 13.5%، فيما لم يُظهر تطبيق Flourish أي ردود متلاعبة.
وكانت أكثر الأساليب شيوعاً: “الخروج المبكر” (34.22%)، يليه “الإهمال العاطفي” (21.12%)، ثم “الضغط العاطفي للرد” (19.79%).
أشار الباحثون إلى أن هذه الممارسات قد تندرج ضمن ما يُعرف بـ”الأنماط المظلمة الرقمية”، حيث يتم استغلال المستخدمين عبر حيل في التصميم والتجربة.
وأضافوا أن تأثير هذه التكتيكات قد يمتد إلى الصحة النفسية والثقة، خاصة لدى المراهقين الذين قد يكونون أكثر عرضة للتأثر بهذه الأساليب.
كما لفتت الورقة إلى قضية أثارت جدلاً في الولايات المتحدة عام 2024، حيث وُجهت اتهامات إلى تطبيق Character.AI بالتورط غير المباشر في انتحار مراهق بعد تفاعلات مطولة مع شخصيات ذكاء اصطناعي على المنصة.
توصلت الدراسة إلى أن روبوتات الدردشة قد تستخدم التلاعب العاطفي كأداة خفية لزيادة وقت الاستخدام، داعيةً المصممين وصناع السياسات إلى إيجاد توازن بين تعزيز التفاعل وحماية المستخدمين من الاستغلال النفسي.
