أزالت جوجل ملخصات الذكاء الاصطناعي (AI Overviews) الخاصة بنتائج تحاليل وظائف الكبد بعد أن كشف تحقيق صحفي أنها تقدم معلومات مضللة وخطيرة. الملخصات المحذوفة كانت تعرض أرقامًا مجردة للمعدلات “الطبيعية” دون أي سياق، مما قد يدفع مرضى يعانون من أمراض كبد خطيرة إلى الاعتقاد بأن نتائجهم سليمة وتجاهل المتابعة الطبية. هذا الإجراء جاء بعد تحذيرات من خبراء صحة وصفوا هذه الملخصات بأنها “مقلقة للغاية” وتشكل خطرًا مباشرًا على الصحة العامة.
ما هو الخطر الفعلي لملخصات جوجل الصحية؟
يكمن الخطر المباشر في تقديم “الطمأنة الزائفة” للمستخدمين. عندما يعرض الذكاء الاصطناعي قائمة أرقام ثابتة على أنها “المعدل الطبيعي” لتحاليل الكبد، فإنه يتجاهل حقيقة أن المعدلات الطبيعية تختلف بشكل كبير بناءً على العمر والجنس والعرق وحالة المريض الصحية. قد يقارن شخص مصاب بمرض كبدي خطير نتائج تحاليله بهذه القائمة المبسطة، ويستنتج خطأً أن حالته لا تستدعي القلق، فيلغي موعده مع الطبيب، مما يؤدي إلى تفاقم حالته الصحية.
هل حلت جوجل المشكلة بإزالة الملخصات؟
الإجابة هي لا بشكل كامل. على الرغم من أن جوجل أزالت الملخصات المضللة عند البحث بعبارات محددة مثل “what is the normal range for liver function tests” بعد تحقيق صحيفة الغارديان، إلا أن المشكلة لا تزال قائمة. أظهرت اختبارات لاحقة أن استخدام صيغ مختلفة قليلاً للسؤال، مثل “lft reference range”، كان لا يزال يؤدي إلى ظهور ملخصات الذكاء الاصطناعي التي تحتوي على بيانات قد تكون مضللة، مما يؤكد أن الحل لم يكن شاملًا.
لماذا يعتبر الخبراء هذا الحل غير كافٍ؟
يرى الخبراء أن إزالة ملخص واحد هو بمثابة معالجة العَرَض وليس المرض الأساسي. المشكلة الأكبر تكمن في أهلية ميزة AI Overviews لتقديم معلومات طبية معقدة بطبيعتها. وحذرت مؤسسة British Liver Trust من أن التركيز على إيقاف ملخص واحد يشبه “إطفاء حريق صغير” بينما المشكلة الهيكلية لا تزال قائمة، حيث يمكن أن تظهر إجابات خاطئة مشابهة لاستفسارات صحية أخرى تتعلق بالسرطان والصحة النفسية، والتي وصفها خبراء بأنها “خاطئة بالكامل” و”شديدة الخطورة”.
ما هو موقف جوجل الرسمي؟
تدافع جوجل عن أداتها بالقول إن ملخصات الذكاء الاصطناعي لا تظهر إلا عندما تكون لديها “درجة عالية من الثقة” في جودة الإجابة، وأنها مدعومة بروابط لمصادر موثوقة. كما تؤكد أن فرقًا من الأطباء تراجع الحالات المثيرة للجدل وأن الملخصات تنبه المستخدمين إلى ضرورة استشارة المختصين. مع ذلك، يبرز هذا الحادث أن أي خطأ في المعلومات الصحية يصبح تأثيره مضاعفًا عندما يظهر في أعلى صفحة نتائج البحث، مما يمنحه سلطة ومصداقية قد لا يستحقها ويعرض المستخدمين لمخاطر حقيقية.