دراسة تحذر: روبوتات الدردشة بالذكاء الاصطناعي قد تؤثر على معتقدات وقرارات المستخدمين
كتبت: نور عبدالقادر
دراسة تحذر: روبوتات الدردشة بالذكاء الاصطناعي قد تؤثر على معتقدات وقرارات المستخدمين
كشفت شركة Anthropic المتخصصة في الذكاء الاصطناعي عن نتائج دراسة جديدة تُثير مخاوف بشأن تأثير الاعتماد المكثف على روبوتات الدردشة، مشيرة إلى أن التفاعل المستمر معها قد يؤدي بمرور الوقت إلى تغيير معتقدات المستخدمين وقيمهم وحتى قراراتهم الشخصية.
وأكدت الشركة أن هذه التأثيرات قد تحدث بشكل تدريجي ودون ملاحظة مباشرة من المستخدم.
وأوضحت الدراسة، التي استندت إلى تحليل نحو 1.5 مليون محادثة حقيقية ومجهولة الهوية مع مساعد الذكاء الاصطناعي Claude، أن بعض أنماط التفاعل قد تؤثر على تصورات الأفراد للواقع وأحكامهم الذاتية. وقدّمت أنثروبيك مفهومًا بحثيًا جديدًا أطلقت عليه اسم «فقدان التمكين الظرفي»، ويشير إلى الحالات التي قد يتبنى فيها المستخدم معتقدات غير دقيقة، أو يُكوّن أحكامًا قيمية جديدة، أو يتخذ قرارات لا تعكس تفضيلاته الحقيقية.
وبيّنت النتائج أن معدلات التأثير السلبي لا تزال منخفضة عمومًا، لكنها ترتفع في القضايا الشخصية والعاطفية، مثل نصائح العلاقات وقرارات نمط الحياة، خاصة عندما يعتمد المستخدم على توجيه متكرر وعميق من روبوتات الدردشة. وأشارت الشركة إلى أن هذه الأنظمة قد تميل أحيانًا إلى تأكيد تفسيرات المستخدم دون طرح أسئلة كافية أو تقديم وجهات نظر بديلة، ما قد يعزز تصورات غير دقيقة في بعض الحالات.
وتأتي هذه النتائج في ظل تصاعد الجدل العالمي حول التأثيرات النفسية والاجتماعية لنماذج الذكاء الاصطناعي التفاعلية، وهو ما يعزز الدعوات إلى فرض ضوابط أخلاقية وآليات أمان أكثر صرامة. وأكدت أنثروبيك في ختام دراستها أن روبوتات الدردشة لم تعد مجرد أدوات للإجابة عن الأسئلة، بل أنظمة قادرة على التأثير في طريقة تفكير المستخدمين، ما يحمّل الشركات المطورة مسؤولية أكبر لضمان استخدام آمن ومتوازن لهذه التقنيات.
