Google تزيل ميزة AI Overviews لبعض الاستعلامات الطبية

يبدو أن Google قد أزالت ميزة AI Overviews — وهي ملخصات البحث التي تولدها الشركة باستخدام الذكاء الاصطناعي — لبعض الاستعلامات المتعلقة بالصحة. ويأتي هذا التغيير في أعقاب تحقيق أجرته صحيفة The Guardian البريطانية، والذي أفاد بأن ميزة البحث كانت تقدم معلومات مضللة رداً على أسئلة طبية معينة. فعلى سبيل المثال، أشارت الصحيفة إلى أن الاستعلامات المتعلقة بالنطاقات الطبيعية لاختبارات دم الكبد كانت تُرجع ملخصات تغفل عوامل ديموغرافية حاسمة مثل العمر، والجنس، والعرق، أو الجنسية، مما قد يدفع المستخدمين إلى إساءة تفسير حالتهم الصحية والاعتقاد بأن نتائجهم سليمة في حين أنها لم تكن كذلك.

وفي حين يبدو أن Google قد أزالت الملخصات لعبارات محددة مثل “what is the normal range for liver blood tests” و “what is the normal range for liver function tests”، أفادت The Guardian بأن تنويعات تلك الاستعلامات قد لا تزال تؤدي إلى ظهور ملخصات مولدة بواسطة الذكاء الاصطناعي. فعلى سبيل المثال، لا تزال مصطلحات بحث مثل “lft reference range” أو “lft test reference range” قادرة على تفعيل الملخصات الآلية. وأظهرت اختبارات لاحقة لهذه التنويعات أنه على الرغم من أن بعض الاستعلامات لم تعد تولد الملخصات، إلا أن Google لا تزال توفر خيارات لتشغيل الاستعلامات في وضع AI Mode. وقد رفض متحدث باسم Google التعليق على عمليات الإزالة الفردية ضمن ميزة البحث، لكنه ذكر أن الشركة تعمل على إجراء تحسينات واسعة النطاق. بالإضافة إلى ذلك، أشار المتحدث إلى أن فريقاً داخلياً من الأطباء راجع الاستعلامات التي تم تسليط الضوء عليها ووجد أن المعلومات في كثير من الحالات لم تكن غير دقيقة، كما كانت مدعومة بمواقع إلكترونية عالية الجودة.

ورحبت مؤسسة British Liver Trust، وهي مؤسسة خيرية صحية، بهذا التطور. ووصفت Vanessa Hebditch، مديرة الاتصالات والسياسات في المؤسسة، عملية الإزالة بأنها أخبار ممتازة. ومع ذلك، أعربت عن قلقها إزاء النهج المجزأ في التعامل مع المشكلة. وقالت Hebditch: “إن قلقنا الأكبر من كل هذا هو أنه يقتصر على انتقاء نتيجة بحث واحدة، ويمكن لـ Google ببساطة إيقاف ميزة AI Overviews لذلك، لكنه لا يعالج القضية الأكبر المتعلقة بـ AI Overviews في المجال الصحي”. وحذرت من أن معالجة نتائج بحث فردية لا تحل القضية الأوسع المتعلقة بموثوقية الذكاء الاصطناعي في السياقات الصحية، مؤكدة أن مجرد تعطيل الملخصات لاستعلامات محددة لا يعالج القضية الأوسع المتعلقة بـ AI Overviews في المجال الصحي.

لماذا يهم

يسلط هذا الحادث الضوء على التحدي المستمر الذي تواجهه شركات التكنولوجيا العملاقة في الموازنة بين النشر السريع للذكاء الاصطناعي التوليدي ومتطلبات الدقة عالية المخاطر في المعلومات الطبية.