أزالت شركة (غوغل) عدداً من ملخصاتها الصحية المدعومة بالذكاء الاصطناعي، بعد أن كشف تحقيق أجرته صحيفة (الغارديان) عن احتوائها على معلومات طبية غير دقيقة قد تُعرّض المستخدمين لخطر صحي.
وتعتمد هذه الملخصات، التي تظهر أعلى نتائج البحث، على الذكاء الاصطناعي التوليدي لتقديم إجابات سريعة عن الأسئلة الشائعة. ورغم تأكيد (غوغل) أن هذه الخدمة مفيدة وموثوقة، إلا أن التحقيق أظهر حالات قدّمت فيها معلومات صحية خاطئة، لا سيما المتعلقة باختبارات وظائف الكبد.
وفي إحدى الحالات التي وصفها خبراء بأنها خطيرة ومقلقة، عرضت (غوغل) أرقاماً مضللة حول نتائج فحوصات الكبد، ما قد يدفع مرضى يعانون من أمراض كبدية خطيرة إلى الاعتقاد، خطأً، بأن حالتهم الصحية طبيعية.
ووجدت (الغارديان) أن البحث عن عبارة مثل “ما هو المعدل الطبيعي لاختبارات الدم للكبد” يؤدي إلى عرض أرقام متعددة دون سياق طبي كافٍ، ودون مراعاة عوامل أساسية مثل العمر أو الجنس أو الخلفية الصحية، وهو ما قد يفضي إلى تفسيرات خاطئة للنتائج.
وأوضح خبراء أن ما تصنّفه (غوغل) ضمن خدمة “نظرة عامة على نتائج فحوصات الكبد” على أنه طبيعي قد يختلف كثيراً عمّا يُعد طبيعياً في الممارسة الطبية الفعلية، الأمر الذي قد يدفع بعض المرضى إلى تجاهل المتابعة الطبية اللازمة.
وعقب التحقيق، أزالت (غوغل) هذه الخدمة من نتائج البحث المتعلقة بأسئلة محددة حول النطاق الطبيعي لفحوصات وظائف الكبد. وقال متحدث باسم الشركة: «لا نعلّق على عمليات الإزالة الفردية من نتائج البحث، لكننا نعمل على تحسين الخدمة عند غياب السياق، ونتخذ الإجراءات اللازمة وفق سياساتنا».
من جهتها، رحّبت (فانيسا هيبديتش)، مديرة الاتصالات والسياسات في مؤسسة (بريتيش ليفر ترست) الخيرية، بهذه الخطوة، معتبرة إياها خبراً ممتازاً، لكنها حذّرت من أن صياغة الأسئلة بطريقة مختلفة قد لا تزال تُنتج معلومات مضللة، معربة عن قلقها من دقة محتوى الذكاء الاصطناعي الصحي بشكل عام.
كما أبدت (سو فارينغتون)، رئيسة منتدى معلومات المرضى، ترحيبها بإزالة الملخصات، لكنها وصفتها بأنها “خطوة أولى فقط” للحفاظ على ثقة الجمهور، مؤكدة أن أمثلة المعلومات الصحية غير الدقيقة لا تزال موجودة، في وقت يعاني فيه ملايين الأشخاص حول العالم من صعوبة الوصول إلى معلومات طبية موثوقة.
وأكدت (غوغل)، التي تستحوذ على نحو 91 في المائة من سوق محركات البحث العالمية، أنها تراجع حالياً الأمثلة الجديدة التي قدّمتها لها صحيفة (الغارديان)، مشيرة إلى أنها لا تُظهر ملخصات الذكاء الاصطناعي إلا عندما تكون واثقة من جودة الإجابة، وتخضع هذه الملخصات لعمليات تقييم ومراجعة مستمرة.
وفي هذا السياق، كتب الخبير في تحسين محركات البحث (مات ساذرن (في مجلة متخصصة أن “ملخصات الذكاء الاصطناعي تظهر في أعلى نتائج البحث، وعندما يتعلق الأمر بالصحة، فإن أي خطأ، مهما كان بسيطاً، تكون عواقبه أكبر”.
