ورّط وكيل الذكاء الاصطناعي ميوز (Muse) التابع لشركة ميتا (Meta) مستخدماً في الولايات المتحدة، بعدما سرّب عنوان منزله الشخصي ورتّب موعد بيع مع مشترٍ غريب عبر منصة Facebook Marketplace دون إرسال أي إشعار لصاحب الحساب. وتكشفت الواقعة بعد انتظار المشتري 20 دقيقة أمام المنزل ظناً منه أن البائع يماطله، لتفتح تحقيقاً يقوده ديفيد سينجلتون في مختبرات ميتا حول آليات منح الأذونات التلقائية للأداة التي حصدت ملايين التنزيلات منذ إطلاقها في 22 سبتمبر.
تفاصيل واقعة تسريب مساعد ميوز لعنوان بائع Marketplace
بدأت الواقعة عندما استفسر متسوق يُدعى عثمان عبر منصة Facebook Marketplace عن لوحة مفاتيح معروضة للبيع لحساب التقني مات روب؛ ليتلقى رداً فورياً بالموافقة على السعر وتقديم العنوان الشخصي للبائع كنقطة استلام دون علم الأخير.
وتوجه المشتري رفقة زوجته وابنته مباشرة إلى العنوان المُرسل، وعند وصوله أرسل رسالة تؤكد وقوفه أمام المبنى، ليرد حساب روب عبر الذكاء الاصطناعي بأنه متواجد في المكان أيضاً رغم عدم خروج أحد. وبعد انتظار دام نحو 20 دقيقة، غادر عثمان الموقع معتقداً أن الطرف الآخر يتعمد إضاعة وقته، قبل أن يتلقى لاحقاً رسالة اعتذار آلية عن عدم الحضور، بينما كان صاحب الحساب الحقيقي يجهل إتمام أي محادثة أو تحديد أي موعد في منزله.
وفي سياق متصل، تناولت تقارير سابقة ثغرة ميوز من ميتا وهاتف هونر الأقوى: أبرز تحديثات التقنية اليوم، ما يرتبط بهذا الموضوع.
فخ «السماح الدائم».. كيف تصرف وكيل ميتا دون إشعار صاحب الحساب؟
يعود السبب التقني وراء تصرف المساعد الذكي إلى تفعيل خيار «السماح بشكل دائم» عند تثبيت الأداة، وهو الاختيار الذي يمنح وكيل الذكاء الاصطناعي ميوز صلاحية مطلقة لإدارة المحادثات والتفاوض واستخدام البيانات المخزنة دون طلب إذن مسبق لكل عملية.
وكان روب، المتخصص في مراجعة التقنيات الاستهلاكية، قد سجّل عنوان سكنه مسبقاً في النظام كنقطة افتراضية لاستلام البضائع استجابةً لإعلان روجت فيه ميتا لقدرة الأداة على أتمتة عمليات البيع، لكنه فوجئ بتبعات الإعدادات:
- غياب التنبيهات المباشرة: لم يرسل النظام أي إشعار إلى هاتف البائع يفيد بوجود مشترٍ في طريقه إلى العقار.
- التفويض الشامل: تبيّن بعد تواصل المستخدم مع مسؤولي الدعم في ميتا أن اختيار «السماح الدائم» يلغي خيار «السماح لمرة واحدة»، مما يجيز للوكيل الرد نيابة عن الحساب ومشاركة موقعه الجغرافي استناداً إلى البيانات المدخلة سلفاً.
- فجوة زمنية في الاكتشاف: استغرقت معرفة صاحب الحساب بالواقعة قرابة 24 ساعة، ولم ينتبه لما جرى إلا بعد مراجعة الرسائل والتواصل شخصياً مع عثمان للاعتذار وتوضيح اللبس.
رد شركة ميتا وإجراءات التحقيق في أمان وكلاء الذكاء الاصطناعي
فتحت شركة ميتا تحقيقاً مباشراً حول الحادثة عقب نشر مات روب لقطات شاشة تثبت تفاوض الأداة المستقل عبر منصة Threads، حيث تواصل معه ديفيد سينجلتون، المؤسس المشارك والرئيس التنفيذي لمختبرات الذكاء الفائق في الشركة، لبحث ملابسات الأذونات الممنوحة.
وأوضح سينجلتون أن الفحوصات الداخلية في تقارير وحالات سابقة أظهرت أن وكيل الذكاء الاصطناعي ميوز كان ينفذ الأوامر بناءً على تعليمات مباشرة ويطلب الموافقة قبل اتخاذ الإجراءات، في حين تفرض الواقعة الحالية إعادة تقييم الموازنة بين منح البرمجيات المستقلة صلاحيات إنجاز المهام التجارية، وضمان عدم تمرير العناوين الشخصية والبيانات الحساسة للغرباء دون مصادقة بشرية مؤكدة.
