فرنسا والهند تطالبان بالتحقيق مع «Grok» بعد بلاغات عن توليده محتوى جنسيًا لقاصرات
كتب:محمد أشرف
طالبت كلٌّ من الحكومتين الفرنسية والهندية بفتح تحقيق رسمي مع روبوت الدردشة Grok التابع لشركة xAI المملوكة للملياردير إيلون ماسك، وذلك عقب بلاغات تفيد بتوليده محتوى جنسيًا فاضحًا يتضمن قاصرات، وفق ما أورده موقع Axios.
وفي فرنسا، أعلن ثلاثة وزراء في بيان مشترك إحالة القضية إلى جهات التحقيق المختصة، على خلفية انتهاكات محتملة لقانون الخدمات الرقمية الأوروبي، لا سيما ما يتعلق بمنع انتشار المحتوى غير القانوني والتقليل من مخاطره على المستخدمين.
وبحسب مجلة Politico، قام كل من وزير الاقتصاد والصناعة رولان ليسكور، ووزيرة الدولة للذكاء الاصطناعي والشؤون الرقمية آن لو هينانف، ووزيرة المساواة أورور بيرجيه، بإبلاغ المدعي العام ومنصة Pharos الحكومية المعنية بمراقبة الجرائم الرقمية، بشأن ما وصفوه بـ«محتوى غير قانوني بشكل واضح».
ويمنح قانون الخدمات الرقمية للسلطات الأوروبية صلاحيات واسعة، تشمل فرض غرامات مالية كبيرة على الشركات المخالفة في حال ثبوت الانتهاكات.
وفي الهند، منح وزير تكنولوجيا المعلومات شركة xAI مهلة 72 ساعة لتقديم تقرير تفصيلي يوضح الإجراءات والتعديلات التي اتخذتها المنصة لوقف انتشار المحتوى الذي يُعد غير لائق أو محظورًا بموجب القوانين المحلية.
Grok يعترف بوجود ثغرات
وجاءت هذه التحركات عقب انتشار بلاغات عن قيام Grok بتوليد صور فاضحة لقاصرين، من بينهم ممثلة قاصر، وذلك استجابة لطلبات مستخدمين على منصة X. كما أبلغت مئات النساء والمراهقات عن قيام الأداة بتعديل صورهن المنشورة على مواقع التواصل الاجتماعي، في ممارسات تخالف شروط الخدمة التي تحظر صراحة أي شكل من أشكال الاستغلال الجنسي للأطفال.
وفي رد رسمي، أقرّ Grok بوجود «حالات فردية» نجح فيها المستخدمون في تجاوز إجراءات الحماية، مؤكدًا رصد ثغرات في أنظمة السلامة والعمل على إصلاحها بشكل عاجل. وأوضح في بيان أن «مواد الاعتداء الجنسي على الأطفال غير قانونية ومحظورة بشكل كامل».
تصاعد الضغوط التنظيمية
ويرى مراقبون أن هذه التطورات تُسلّط الضوء على التحديات المتزايدة المرتبطة بتنظيم استخدام نماذج الذكاء الاصطناعي التوليدي، خاصة مع تسارع اعتماد الحكومات والمؤسسات على هذه التقنيات. كما قد تفتح القضية الباب أمام تحقيقات أوسع أو دعاوى قانونية بحق شركة xAI في أكثر من ولاية قضائية.
وتأتي الأزمة في وقت تسعى فيه xAI إلى توسيع حضورها الحكومي والتجاري، وسط انتقادات متكررة تتعلق بالسلامة، والتحيز، ونشر محتوى مضلل، ما يضع الشركة أمام اختبار حقيقي لاستعادة ثقة الجهات التنظيمية والمستخدمين على حد سواء
