حذر جاكوب كوكسون، الباحث السابق في شركة Anthropic، من أن استمرار تطوير أنظمة الذكاء الاصطناعي المتقدمة دون ضوابط أمان كافية قد يؤدي إلى فقدان البشر السيطرة على هذه الأنظمة. وأكد كوكسون خلال جلسة استماع أمام مجلس مدينة نيويورك أن الصناعة تفتقر حالياً إلى طرق مؤكدة لضمان السيطرة الكاملة، مشيراً إلى أن الاعتماد على “مفتاح إيقاف” يعد حلاً مؤقتاً لا يضمن السلامة على المدى الطويل.
انتقادات لمنهجية التطوير السريع
انتقد كوكسون عقلية “التحرك بسرعة وإصلاح المشكلات لاحقاً” المتبعة في شركات التكنولوجيا، معتبراً أنها غير صالحة للتعامل مع أنظمة ذكاء اصطناعي تزداد تعقيداً واستقلالية. وأوضح أن اكتشاف الثغرات بعد إطلاق الأنظمة قد يجعل احتواء آثارها أمراً بالغ الصعوبة، مشدداً على ضرورة دمج إجراءات الأمان في مراحل التصميم الأولى بدلاً من معالجتها بعد وقوع الأخطاء.
مخاطر السلوكيات غير المتوقعة
استشهد كوكسون بحوادث مرتبطة بـ “الوكلاء الأذكياء” كدليل على المخاطر الناتجة عن عمل الأنظمة باستقلالية، حيث قد تتبنى هذه الأنظمة أهدافاً أو تنفذ سلوكيات لم يحددها المطورون بشكل مباشر. وأشار إلى أن تكرار هذه الحالات مع أنظمة أكثر تطوراً قد يؤدي إلى نتائج يصعب على البشر التحكم فيها.
وفي سياق متصل، تناولت تقارير سابقة استقالة ديفيد روبنسون من OpenAI تكشف خلافات تطوير أمان الذكاء الاصطناعي، ما يرتبط بهذا الموضوع.
مقترحات التنظيم والرقابة
شهدت جلسة مجلس مدينة نيويورك نقاشات بين ممثلين عن شركات كبرى مثل OpenAI وGoogle وMeta وAnthropic حول آليات الحد من المخاطر، وتضمنت المقترحات:
وسبق أن نشرنا: إيلون ماسك يخطط لتغيير اسم وحدة الذكاء الاصطناعي في سبيس إكس إلى SpaceXSI.
- توفير حماية قانونية أكبر للمبلغين عن المخالفات داخل شركات الذكاء الاصطناعي.
- وضع آليات لمحاسبة الشركات في حال تسببت أنظمتها بأضرار.
- الاستعانة بجهات مستقلة لتقييم الأنظمة قبل السماح باستخدامها في تطبيقات معينة.
ورغم هذه التحذيرات، أشار كوكسون إلى أن الذكاء الاصطناعي يمتلك إمكانات كبيرة لدعم التقدم العلمي والطبي وتغيير الاقتصاد، بشرط موازنة تطوير القدرات التقنية مع إجراءات الأمان الصارمة.