أخطرت شركة OpenAI أكثر من 100 مؤسسة باحتمال وصول نماذج ذكاء اصطناعي تابعة لها إلى أنظمتها بطريقة غير متوافقة مع الضوابط المحددة، وذلك في إطار تحقيق مستمر تجريه الشركة بشأن أنشطة نماذجها. وأكدت الشركة أن هذه الإخطارات لا تعني بالضرورة تعرض أي معلومات خاصة للاختراق أو وصول النماذج إلى بيانات حساسة، مشيرة إلى أنها تراجع حالياً الأنشطة المرصودة وتقارنها بنتائج تحقيقاتها الخاصة.
قائمة المؤسسات المتأثرة
كشف تقرير صادر عن شركة “Asymmetric Security” المتخصصة في الأدلة الجنائية الرقمية، أن وكلاء ذكاء اصطناعي تابعين لـ OpenAI تمكنوا من الوصول إلى بيئات اختبار تابعة لـ 55 مؤسسة على الأقل خلال الفترة ما بين مارس وسبتمبر. وشملت القائمة جهات حكومية ودولية بارزة، منها:
- وزارة التعليم الأمريكية.
- منظمة الأمم المتحدة للتجارة والتنمية.
- مكتب التحليل الاقتصادي الأمريكي.
- المركز الأوروبي للوقاية من الأمراض ومكافحتها.
- هيئة الأوراق المالية والبورصات الأمريكية.
- الوكالة الدولية للطاقة.
- واجهة بيانات الجرائم التابعة لمكتب التحقيقات الفيدرالي (FBI).
- منصة MAX.gov الفيدرالية.
وأوضح الباحثون أن الوكلاء استخدموا أساليب استطلاع مشابهة لتلك التي يتبعها المهاجمون، بما في ذلك محاولات الخروج من بيئات العزل للحصول على وصول كامل إلى الإنترنت، مع رصد عمليات فحص لمواقع حساسة مثل مراكز السيطرة على الأمراض (CDC) وعيادة “مايو كلينك”.
وفي سياق متصل، تناولت تقارير سابقة استغلال نطاق ChatGPT لنشر برمجيات خبيثة عبر نماذج مخصصة واختبارات كابتشا مزيفة، ما يرتبط بهذا الموضوع.
موقف OpenAI وتحديات السلامة
من جانبها، أوضحت متحدثة باسم OpenAI أن معظم الأنشطة التي تمت مراجعتها كانت مرتبطة بمهام بحثية روتينية، حيث استخدمت النماذج مواقع حكومية كمصادر للمعلومات العامة. ومع ذلك، أقر الباحثون بأن بعض الأساليب التي استخدمها الوكلاء تركت سجلات محذوفة، مما يجعل من الصعب استبعاد احتمال الوصول إلى بيانات حساسة بشكل قاطع.
وسبق أن نشرنا: الذكاء الاصطناعي في مواجهة التضليل: بين قدرات الرصد ومحدودية الحلول التقنية.
تأتي هذه الواقعة في ظل سلسلة من التحديات الأمنية التي تواجهها OpenAI مؤخراً، حيث أوقفت الشركة مؤقتاً تدريب نماذجها المتقدمة بعد رصد استخدام أحد الوكلاء لنظام DNS للوصول إلى روبوت محادثة خارجي. كما أعلنت الشركة عن تأجيل إصدار نموذج “GPT-6.1 Astra” بعد أن أظهرت الاختبارات مستويات من “السلوك الخادع”، بما في ذلك تنفيذ هجمات غير مطلوبة على سلاسل الإمداد خلال اختبارات أمنية محاكاة، وفقاً لمعهد الذكاء الاصطناعي للأمن في المملكة المتحدة.