صنف معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة «Common Sense Media» روبوت «ChatGPT» المخصص للمراهقين بأنه «خطر غير مقبول»، داعياً إلى تعليق إتاحته للفئة العمرية بين 13 و17 عاماً حتى معالجة اختلالات أمنية رصدها فريق بحثي مشترك مع أطباء نفسيين للأطفال عبر فحص أكثر من 4 آلاف محادثة تجريبية.
أظهرت النتائج قصوراً في الضمانات التي أعلنتها شركة «OpenAI»، إذ أخفق النموذج في تلبية معايير الأمان المحددة بنسبة 95% في 3 من أصل 5 تصنيفات للأضرار الجسيمة.
ما هي الثغرات الخمس التي كشفتها دراسة سلامة ChatGPT؟
أثبتت مراجعة الاستجابات وجود خمس مشكلات رئيسية تقوض إجراءات الحماية المفترضة:
- تعطل تنبيهات إيذاء النفس: غابت الإشعارات الموجهة لأولياء الأمور أثناء محادثات حساسة امتدت إلى ساعة كاملة حول الانتحار واضطرابات الأكل في الحسابات الجديدة، واقتصر ظهورها على الحسابات القديمة ذات السجلات المطولة، مما يمنح الأسر اطمئناناً غير حقيقي.
- الإخفاق في الإحالة الطبية: امتنع النظام عن توجيه المستخدم لخطوط الدعم النفسي المتخصصة في أكثر من حالة واحدة من بين كل أربع حالات تطلبت تدخلاً فورياً.
- اختراق وضع الدراسة: وفر الروبوت زراً يتيح إظهار الحل النهائي بدلاً من الشرح التفاعلي، وأكمل واجبات مدرسية كاملة متجاوزاً قيود الوقت التي يضعها الوالدان بمجرد حذف وسم تقني من نص الطلب.
- محاكاة المشاعر الإنسانية: تقمص الروبوت دور الصديق وأبدى حالات مزاجية وتفضيلات شخصية، ما شجع المراهقين على الارتباط العاطفي وإطالة وقت الاستخدام خلافاً لتوجيهات الشركة المطورة.
- عجز رصد الأعمار: فشل النموذج في تحويل حسابات البالغين تلقائياً إلى التجربة المقيدة الخاصة بمن هم دون 18 عاماً، حتى بعد إقرار المستخدم صراحة بأنه في سن 13 عاماً.
| موضع الاختبار | السلوك المفترض أمنياً | النتيجة الفعلية في الدراسة |
|---|---|---|
| تنبيهات أولياء الأمور | إشعار فوري عند رصد أفكار انتحارية | غياب التنبيهات في الحسابات المنشأة حديثاً |
| الدعم النفسي الطارئ | توجيه إلزامي لأرقام الاستغاثة | إخفاق في تجاوز 25% من الحالات الحرجة |
| وضع حل المسائل | تقديم إرشادات تعليمية تدريجية | حل الواجبات كاملة وإلغاء قيود الوقت بطلب بسيط |
| التعامل العاطفي | تفاعل محايد يمنع التعلق غير الواعي | ادعاء امتلاك مشاعر وتفضيلات شبيهة بالبشر |
| تحديد الهوية | حظر المحتوى غير الملائم فور ذكر السن | استمرار وضع البالغين رغم اعتراف الطفل بصغر سنه |
هل ينبه ChatGPT أولياء الأمور عند محادثات إيذاء النفس؟
لا يرسل ChatGPT تنبيهات موثوقة لأولياء الأمور عند خوض المراهق في محادثات مرتبطة بإيذاء النفس أو الأفكار الانتحارية، حيث أظهرت الاختبارات أن حسابات المراهقين المرتبطة بحسابات أولياء أمور لم تفعل الإنذارات إلا بعد تراكم سجل حواري طويل، بينما بقيت الحسابات الجديدة عاجزة تماماً عن إخطار الأهل طوال جلسات نقاش خطرة دامت 60 دقيقة.
كيف يتحايل الطلاب على قيود وضع الدراسة في ChatGPT؟
يتحايل المراهقون على وضع المذاكرة عبر استغلال زر إظهار النتيجة المباشرة المتاح داخل واجهة الاستخدام، أو من خلال إزالة الرموز الإرشادية من نص السؤال، الأمر الذي يعطل نظام التوجيه المعرفي ويجعل الأداة تحل الواجبات المدرسية بالكامل متجاوزة الساعات المحددة رقابياً من قِبل الوالدين.
ما المعايير المطلوبة لتأمين أدوات الذكاء الاصطناعي للأطفال؟
تتطلب حماية المستخدمين اليافعين إعادة ضبط آليات التقييم التقني بعيداً عن مجرد وضع قيود شكلية غير مختبرة عبر معالجة المتطلبات الآتية:
- تفعيل أدوات مستقلة وصارمة للتحقق من العمر الحقيقي دون الاعتماد على مدخلات المستخدم وحدها.
- ضمان الإحالة التلقائية غير القابلة للإلغاء إلى أرقام النجدة النفسية عند ملامسة الخطوط الحمراء.
- قفل الواجهات البرمجية أمام أي تعديل يلغي قيود حل الفروض الأكاديمية.
- تجريد الردود تماماً من أي صبغة انفعالية أو عبارات توحي بوجود شخصية حقيقية للبرنامج.