أوبن إيه آي تُحدّث إرشادات حماية المراهقين وتطلق موارد توعوية لاستخدام آمن للذكاء الاصطناعي
كتبت: نور عبدالقادر
أعلنت شركة أوبن إيه آي (OpenAI) تحديث إرشاداتها المنظمة لكيفية تفاعل نماذج الذكاء الاصطناعي مع المستخدمين دون سن 18 عامًا، إلى جانب إطلاق موارد جديدة للتوعية بالذكاء الاصطناعي موجهة للمراهقين وأولياء أمورهم، في خطوة تهدف إلى تعزيز معايير السلامة الرقمية للفئات العمرية الأصغر.
ويأتي هذا التحديث في وقت تواجه فيه صناعة الذكاء الاصطناعي عمومًا، و”أوبن إيه آي” على وجه الخصوص، تدقيقًا متزايدًا من صناع السياسات والمعلمين والمدافعين عن سلامة الأطفال، عقب تقارير عن حالات وفاة لمراهقين يُزعم ارتباطها بمحادثات طويلة مع روبوت الدردشة “شات جي بي تي”.
قواعد أكثر صرامة لحماية القُصَّر
وبحسب تقرير لموقع TechCrunch المتخصص في أخبار التكنولوجيا، اطّلعت عليه العربية Business، تستند المواصفات المُحدّثة لنماذج “أوبن إيه آي” إلى إرشادات سابقة كانت تحظر بالفعل إنتاج محتوى جنسي يتضمن قاصرين، أو التحريض على إيذاء النفس، أو المحتوى القائم على الهوس والهلوسة.
وتشمل التحديثات الجديدة قواعد أكثر تشددًا عند تفاعل المراهقين مع الذكاء الاصطناعي مقارنة بالمستخدمين البالغين، حيث تُوجَّه النماذج إلى:
-
تجنّب لعب الأدوار الرومانسية الغامرة أو التفاعلات الحميمية.
-
حظر لعب الأدوار الجنسية أو العنيفة من منظور الشخص الأول، حتى وإن لم يكن ذلك صريحًا.
-
توخي الحذر الشديد عند مناقشة موضوعات حساسة مثل صورة الجسد واضطرابات الأكل.
كما تمنع الإرشادات الجديدة تقديم أي نصائح قد تُساعد المراهقين على إخفاء سلوكيات غير آمنة عن أولياء أمورهم، مع إعطاء الأولوية للسلامة على حساب الاستقلالية في الحالات التي ينطوي فيها التفاعل على خطر محتمل.
نموذج لتحديد العمر وتفعيل الحماية تلقائيًا
وأوضحت “أوبن إيه آي” أن هذه التحديثات ستتكامل مع نموذج قادم لتقدير العمر، يهدف إلى تحديد ما إذا كان الحساب يخص قاصرًا، ومن ثم تفعيل إجراءات الحماية الخاصة بالمراهقين بشكل تلقائي دون تدخل يدوي.
أربعة مبادئ أساسية للتعامل مع المراهقين
وأكدت الشركة أن نهج السلامة للمراهقين يستند إلى أربعة مبادئ رئيسية:
-
سلامة المراهقين أولًا، حتى لو تعارضت مع مفاهيم مثل الحرية الفكرية المطلقة.
-
تشجيع الدعم الواقعي عبر توجيه المراهقين إلى العائلة والأصدقاء والمتخصصين المحليين.
-
التعامل مع المراهقين كمراهقين، باحترام ودون تعالٍ أو معاملتهم كبالغين.
-
الشفافية بشأن قدرات وحدود الذكاء الاصطناعي، مع التذكير بأنه ليس إنسانًا.
ضغوط تشريعية متزايدة
وتأتي هذه الخطوة بالتزامن مع توقيع 42 مدعيًا عامًا من ولايات أميركية على رسالة مشتركة تطالب شركات التكنولوجيا الكبرى بتطبيق ضوابط صارمة لحماية الأطفال والفئات الضعيفة من مخاطر روبوتات الدردشة المدعومة بالذكاء الاصطناعي.
وفي الوقت نفسه، يدرس صناع السياسات الأميركيون مقترحات أكثر تشددًا، من بينها مشروع قانون قدمه السيناتور جوش هاولي يدعو إلى منع القُصَّر تمامًا من التفاعل مع روبوتات الدردشة.
ويُعد جيل زد، المولود بين عامي 1997 و2012، الفئة الأكثر استخدامًا لأدوات “أوبن إيه آي”، سواء للمساعدة الدراسية أو لإنشاء النصوص والصور والفيديوهات، ما يضع الشركة أمام مسؤولية متزايدة لضمان استخدام آمن ومتوازن للتقنيات الحديثة.
