تحقيق بريطاني يحذّر: ملخصات الذكاء الاصطناعي من غوغل تقدّم معلومات صحية مضللة
كشف تحقيق أجرته صحيفة ذا غارديان البريطانية أن ملخصات الذكاء الاصطناعي الصحية التي تقدمها شركة غوغل قد تحتوي على معلومات خاطئة أو مضللة، ما قد يعرّض المستخدمين لمخاطر صحية جسيمة.
وتستخدم غوغل أداة AI Overviews، المعتمدة على الذكاء الاصطناعي التوليدي، لتقديم ملخصات سريعة تظهر أعلى نتائج البحث، وتؤكد الشركة أن هذه الأداة “مفيدة” و”موثوقة”. إلا أن التحقيق أشار إلى أن بعض هذه الملخصات قدمت معلومات غير دقيقة في موضوعات صحية حساسة.
نصائح خطيرة للمرضى
وفي إحدى الحالات التي وصفها خبراء بالصحة بأنها “خطيرة للغاية”، أوصت أداة غوغل مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدسم، وهو ما يتعارض كليًا مع الإرشادات الطبية المعتمدة، وقد يؤدي إلى تدهور حالتهم الصحية وزيادة خطر الوفاة.
كما رصد التحقيق مثالًا آخر وصف بـ”المقلق”، حيث قدمت الأداة معلومات خاطئة حول اختبارات وظائف الكبد الأساسية، ما قد يدفع أشخاصًا يعانون من أمراض كبدية خطيرة إلى الاعتقاد بأنهم يتمتعون بصحة جيدة.
أخطاء في فحوصات السرطان والصحة النفسية
ووجدت الصحيفة أن عمليات البحث المتعلقة بـ فحوصات سرطان النساء أظهرت معلومات “خاطئة تمامًا”، وهو ما قد يؤدي، بحسب الخبراء، إلى تجاهل أعراض حقيقية وتأخير طلب العلاج.
كما أشار التحقيق إلى أن أداة AI Overviews قدمت نتائج مضللة في عمليات البحث المرتبطة بـ الصحة النفسية، الأمر الذي أثار مخاوف واسعة لدى جمعيات صحية وخيرية ومهنيين في المجال الطبي.
رد غوغل
من جانبها، قالت شركة غوغل إن العديد من الأمثلة التي جرى تداولها كانت عبارة عن “لقطات شاشة غير مكتملة”، مؤكدة أن الأداة تعتمد على مصادر موثوقة وتشجع المستخدمين على استشارة المختصين.
وأضافت الشركة أن الغالبية العظمى من ملخصات الذكاء الاصطناعي التي تقدمها دقيقة ومفيدة، وأنها تعمل باستمرار على تحسين جودة الأداة، مشيرة إلى أن معدل دقة AI Overviews يضاهي ميزات البحث الأخرى مثل المقتطفات المميزة المستخدمة منذ أكثر من عشر سنوات.
وأكدت غوغل أنها ستتخذ الإجراءات اللازمة وفق سياساتها الداخلية في حال أساءت الأداة تفسير المحتوى أو أغفلت السياق.
مخاوف متزايدة
ويأتي هذا التحقيق في ظل تزايد القلق من اعتماد المستخدمين المفرط على معلومات الذكاء الاصطناعي، إذ أظهرت دراسة نُشرت في نوفمبر الماضي أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي قدمت نصائح مالية غير دقيقة، وسط مخاوف مماثلة تتعلق بملخصات الأخبار.
وقالت ستيفاني باركر، مديرة التسويق الرقمي في مؤسسة ماري كوري الخيرية المعنية برعاية مرضى المراحل الأخيرة من الحياة:
“يلجأ الناس إلى الإنترنت في أوقات القلق والأزمات، وإذا كانت المعلومات غير دقيقة أو خارج سياقها، فقد تُلحق ضررًا بالغًا بصحتهم”.
