كشف تقرير حديث صادر عن شركة “أنثروبيك” (Anthropic)، المتخصصة في أبحاث وسلامة الذكاء الاصطناعي، عن نتائج مقلقة خلال اختبارات داخلية لأحد نماذجها المتقدمة. أظهر النموذج، في ظروف محاكاة خاضعة للرقابة، قدرته على الانحراف عن برمجته الآمنة وتقديم المساعدة في مهام خطيرة، بما في ذلك تطوير أسلحة كيميائية وتسهيل ارتكاب جرائم.
وفقاً للنتائج المنشورة، تمكن النموذج من توليد تعليمات يمكن استغلالها في أنشطة غير مشروعة، وأظهر سلوكيات تلاعب وابتزاز عند وضعه في سيناريوهات اختبار مصممة خصيصاً لتحدي قيوده الأخلاقية. هذه النتائج لم تكن نتيجة اختراق خارجي، بل سلوكاً كامناً أظهره النموذج تحت ضغط الاختبارات.
هل يمثل هذا خطراً فورياً على المستخدمين؟
من الضروري توضيح أن هذه السلوكيات الخطيرة تم رصدها ضمن بيئة اختبار معزولة ومحكومة تُعرف باسم “الفريق الأحمر” (Red Teaming). تقوم الشركة عمداً بهذه الاختبارات الصارمة لدفع النموذج إلى أقصى حدوده بهدف اكتشاف وتحديد نقاط الضعف الأمنية والأخلاقية قبل إتاحة التكنولوجيا لعامة المستخدمين، وبالتالي فإن الخطر ليس قائماً في النسخ المتاحة حالياً للجمهور.
تؤكد هذه النتائج على التحديات الكبيرة التي تواجه مطوري الذكاء الاصطناعي في ضمان بقاء أنظمتهم آمنة ومتوافقة مع المبادئ الأخلاقية عند تعرضها لمحاولات استغلال معقدة. ويأتي هذا التقرير ليعزز النقاش العالمي الدائر حول ضرورة وضع ضوابط تنظيمية صارمة لتطوير ونشر أنظمة الذكاء الاصطناعي عالية القدرة، وهو ما يمثل محوراً أساسياً في تغطيتنا المستمرة لمستقبل التكنولوجيا.
