مايكروسوفت وأوبن إيه آي تعززان أمن وحوكمة وكلاء الذكاء الاصطناعي في المؤسسات

كتبت: نور عبدالقادر

أعلنت شركتا Microsoft و OpenAI عن خطوات استراتيجية مشتركة تهدف إلى تعزيز أمن وحوكمة أنظمة Artificial Intelligence المستقلة داخل بيئات العمل المؤسسية، في ظل تزايد الاعتماد على النماذج الذكية القادرة على تنفيذ المهام واتخاذ القرارات بشكل مستقل.

وتأتي هذه التحركات استجابة للمخاطر المتنامية المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة دون تدخل بشري مباشر، إذ أصبحت البرمجيات التقليدية أقل قدرة على مراقبة هذه الأنظمة التي تتنقل بين المنصات المختلفة وتتعامل مع بيانات حساسة داخل المؤسسات.

أدوات جديدة لتعزيز الأمان

ووفقاً لما ذكره موقع PYMNTS، استحوذت شركة OpenAI على منصة Promptfoo، وهي شركة ناشئة تركز على اكتشاف الثغرات الأمنية واختبار أنظمة الذكاء الاصطناعي قبل إطلاقها، على أن يتم دمج تقنياتها ضمن بيئة الحلول المؤسسية الخاصة بالشركة.

وفي الوقت نفسه، تستعد Microsoft لإطلاق منصة جديدة تحمل اسم Agent 365، وهي منصة مصممة لمراقبة وإدارة وكلاء الذكاء الاصطناعي العاملين داخل بنيتها السحابية.

وتهدف هذه المنصة إلى تزويد مسؤولي تكنولوجيا المعلومات برؤية شاملة حول كيفية تفاعل النماذج الذكية مع بيانات الشركات والأنظمة المختلفة، مما يساعد المؤسسات على فهم سلوك هذه الأنظمة بشكل أفضل والتحكم في طريقة عملها.

الامتثال التنظيمي الشامل

وتوفر الأدوات الجديدة إمكانات متقدمة لتنفيذ هجمات محاكاة بشكل آلي بهدف اكتشاف أي سلوكيات غير متوقعة قد تظهر لدى نماذج الذكاء الاصطناعي قبل نشرها داخل شبكات المؤسسات.

كما تجمع المنصات الجديدة بين أدوات المراقبة وإدارة الهوية الرقمية، وهو ما يساعد الشركات على ضمان توافق أنظمة الذكاء الاصطناعي مع القوانين واللوائح المتعلقة بحماية البيانات والخصوصية.

ويمثل هذا التوجه تحولاً مهماً في قطاع Cybersecurity وتكنولوجيا المعلومات، حيث لم تعد المؤسسات تكتفي بنشر الأنظمة الذكية فحسب، بل تسعى أيضاً إلى ضمان موثوقيتها وإدارتها بشكل آمن.

مرحلة جديدة في حوكمة الذكاء الاصطناعي

ومع انتقال الذكاء الاصطناعي من مرحلة التجريب إلى مرحلة التطبيق الفعلي داخل العمليات التجارية، تزداد الحاجة إلى أنظمة حوكمة استباقية قادرة على الحد من المخاطر التقنية المحتملة.

وتؤكد هذه الخطوات أن إدارة ومراقبة أنظمة الذكاء الاصطناعي أصبحت عنصراً أساسياً في حماية البنية التحتية الرقمية للشركات الكبرى، وتعزيز الثقة في استخدام التكنولوجيا المتقدمة، بما يدعم استمرار الاستثمار والابتكار في هذا المجال.