شركة غوغل تزيل بعض ملخصات الذكاء الاصطناعي بسبب معلومات صحية زائفة

أزالت «غوغل» بعض ملخصاتها الصحية المدعومة بالذكاء الاصطناعي بعد أن كشف تحقيق أجرته صحيفة «الغارديان» عن تعرض المستخدمين لخطر الضرر بسبب معلومات خاطئة ومضللة.

وقالت الشركة إن ملخصاتها المدعومة بالذكاء الاصطناعي، والتي تستخدم الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن المعلومات الأساسية حول موضوع أو سؤال معين، «مفيدة» و«موثوقة»، لكن بعض هذه الملخصات، التي تظهر في أعلى نتائج البحث، قدمت معلومات صحية غير دقيقة، مما عرَّض المستخدمين لخطر الضرر.

وفي إحدى الحالات التي وصفها الخبراء بأنها «خطيرة» و«مقلقة»، قدمت «غوغل» معلومات زائفة حول اختبارات وظائف الكبد الحاسمة، مما قد يجعل مرضى الكبد الخطير يعتقدون خطأً أنهم أصحاء.

ووجدت صحيفة «الغارديان» أن كتابة عبارة «ما هو المعدل الطبيعي لاختبارات الدم للكبد» تُظهر عدداً هائلاً من الأرقام، مع القليل من السياق، ودون مراعاة جنسية المريض أو جنسه أو عرقه أو عمره.

وفي سياق متصل، قال خبراء إن ما تُصنّفه خدمة «نظرة عامة على نتائج فحوصات الكبد» من «غوغل» على أنه طبيعي قد يختلف اختلافاً كبيراً عما يُعتبر طبيعياً في الواقع. وقد تؤدي هذه الملخصات إلى اعتقاد المرضى المصابين بأمراض خطيرة خطأً بأن نتائج فحوصاتهم طبيعية، مما يدفعهم إلى عدم حضور مواعيد المتابعة الطبية.

بعد التحقيق، أزالت الشركة خدمة «نظرة عامة على نتائج فحوصات الكبد» من نتائج البحث عن «ما هو النطاق الطبيعي لفحوصات الدم الخاصة بالكبد» و«ما هو النطاق الطبيعي لفحوصات وظائف الكبد».

وقال متحدث باسم «غوغل»: «لا نُعلّق على عمليات الإزالة الفردية من نتائج البحث. في الحالات التي تُغفل فيها خدمة «نظرة عامة على نتائج فحوصات الكبد» بعض السياق، نعمل على إجراء تحسينات شاملة، كما نتخذ الإجراءات اللازمة وفقاً لسياساتنا عند الاقتضاء».

وقالت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة «بريتيش ليفر ترست» الخيرية المعنية بصحة الكبد: «هذا خبر ممتاز، ويسرّنا أن نرى إزالة خدمة (نظرة عامة على نتائج فحوصات الكبد) من (غوغل) في هذه الحالات»، وتابعت: «مع ذلك، إذا طُرح السؤال بطريقة مختلفة، فقد تُعرض نتائج مُضللة من الذكاء الاصطناعي، ولا نزال قلقين من أن تكون المعلومات الصحية الأخرى التي يُنتجها الذكاء الاصطناعي غير دقيقة ومُربكة».

وجدت صحيفة «الغارديان» أن كتابة عبارات مُختلفة قليلاً عن الاستعلامات الأصلية في «غوغل»، مثل «النطاق المرجعي لاختبار وظائف الكبد» أو «النطاق المرجعي لاختبار وظائف الكبد»، تُؤدي إلى ظهور نتائج مُضللة من الذكاء الاصطناعي. وقد أعرب هيبديتش عن قلقه البالغ حيال ذلك.

وأفادت الصحيفة: «يُعدّ اختبار وظائف الكبد مجموعة من تحاليل الدم المُختلفة. إن فهم النتائج والخطوات التالية أمر مُعقد ويتطلب أكثر بكثير من مُقارنة مجموعة من الأرقام، لكن نتائج الذكاء الاصطناعي تُقدِّم قائمة بالاختبارات بخط عريض، مما يُسهّل على القراء إغفال أن هذه الأرقام قد لا تكون صحيحة بالنسبة لاختبارهم، بالإضافة إلى ذلك، لا تُحذّر نتائج الذكاء الاصطناعي من أن الشخص قد يحصل على نتائج طبيعية لهذه الاختبارات بينما يُعاني من مرض كبدي خطير ويحتاج إلى رعاية طبية مُستمرة. هذا التطمين الزائف قد يكون ضاراً للغاية».

إلى ذلك، أعلنت «غوغل»، التي تستحوذ على 91 في المائة من سوق محركات البحث العالمية، أنها تُراجع الأمثلة الجديدة التي قدمتها لها صحيفة «الغارديان».

وقال هيبديتش: «إنّ ما يُقلقنا أكثر هو التركيز على نتيجة بحث واحدة، فبإمكان (غوغل) ببساطة إيقاف ميزة (نظرة عامة على الذكاء الاصطناعي) لهذا السبب، لكن هذا لا يُعالج المشكلة الأكبر المتعلقة بهذه الميزة في مجال الصحة».

ورحّبت سو فارينغتون، رئيسة منتدى معلومات المرضى، الذي يُعنى بنشر المعلومات الصحية المبنية على الأدلة للمرضى والجمهور والعاملين في مجال الرعاية الصحية، بإزالة الملخصات، لكنها أعربت عن استمرار مخاوفها، وأضافت: «هذه نتيجة جيدة، لكنها مجرد خطوة أولى نحو الحفاظ على ثقة الجمهور في نتائج بحث (غوغل) المتعلقة بالصحة. لا تزال هناك أمثلة كثيرة على تقديم (غوغل) لمعلومات صحية غير دقيقة من خلال ميزة (نظرة عامة على الذكاء الاصطناعي)».

ومن جانبها، رحَّبت سو فارينغتون، رئيسة منتدى معلومات المرضى، الذي يُعنى بنشر المعلومات الصحية القائمة على الأدلة للمرضى والجمهور والعاملين في مجال الرعاية الصحية، بإزالة الملخصات، لكنها أعربت عن استمرار مخاوفها. وقالت: «هذه نتيجة جيدة، لكنها مجرد خطوة أولى نحو الحفاظ على ثقة الجمهور في نتائج بحث (غوغل) المتعلقة بالصحة. لا تزال هناك أمثلة كثيرة على استخدام (غوغل) لتقنية الذكاء الاصطناعي لتقديم معلومات صحية غير دقيقة»، وأضافت فارينغتون أن ملايين البالغين حول العالم يُعانون بالفعل من صعوبة الوصول إلى معلومات صحية موثوقة.

وأوضحت «غوغل» أن ملخصات الذكاء الاصطناعي لا تظهر إلا في نتائج البحث التي تتمتع فيها بثقة عالية بجودة الإجابات. وأضافت الشركة أنها تقيس وتراجع باستمرار جودة ملخصاتها عبر فئات معلوماتية متنوعة.

وفي مقال نُشر في مجلة محركات البحث، قال الكاتب البارز مات ساذرن: «تظهر ملخصات الذكاء الاصطناعي أعلى نتائج البحث المصنفة. وعندما يتعلق الأمر بالصحة، تُؤخذ الأخطاء بعين الاعتبار بشكل أكبر».

  قد يهمك أيضــــــــــــــا

رئيس غوغل يحذر من خطر فقاعة الذكاء الاصطناعي وتأثيرها على مستقبل التكنولوجيا

تحديث تيليجرام يضيف البحث العام عن المنشورات وميزات جديدة أخرى على أندرويد وiOS