تحذيرات من مخاطر ملخصات الذكاء الاصطناعي الصحية من قوقل

كشفت تقارير تقنية عن مخاطر متزايدة تتعلق بالمعلومات الصحية التي تقدمها ملخصات الذكاء الاصطناعي التابعة لشركة قوقل الأمريكية، محذرة من أن بعض هذه المحتويات قد تكون مضللة أو غير دقيقة، ما قد يعرض المستخدمين لأضرار صحية جسيمة.

معلومات صحية مضللة في AI Overviews تضع مستخدمي قوقل في خطر

ويأتي هذا التحذير في وقت تتوسع فيه قوقل في استخدام أدوات الذكاء الاصطناعي التوليدي، لتقديم إجابات وملخصات سريعة تظهر في أعلى نتائج البحث، تحت مسمى AI Overviews.

وتؤكد الشركة أن هذه الأداة قد صممت لمساعدة المستخدمين على الوصول السريع إلى معلومات أساسية حول الأسئلة والموضوعات المختلفة، وتصفها بأنها مفيدة وموثوقة.

إلا أن التقارير الحديثة أظهرت أن بعض الملخصات الصحية التي تقدمها الأداة، تحتوي على أخطاء خطيرة، قد تقود المستخدمين إلى استنتاجات خاطئة بشأن حالتهم الصحية أو طرق التعامل معها.

وفي إحدى الحالات التي وصفها خبراء بأنها شديدة الخطورة، أوصت أداة قوقل مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدهون، وهو ما يتعارض كلياً مع الإرشادات الطبية المعتمدة.

حيث إن هذا النوع من المرضى يحتاج غالباً إلى نظام غذائي غني بالسعرات الحرارية، فيما أكد مختصون أن اتباع هذه النصيحة قد يؤدي إلى تدهور الحالة الصحية، بل وزيادة خطر الوفاة.

كما رصدت التقارير مثالاً آخر اعتبرته مقلقاً، حيث قدمت الأداة معلومات غير صحيحة حول اختبارات وظائف الكبد الأساسية، الأمر الذي قد يدفع أشخاصاً يعانون من أمراض كبدية خطيرة، إلى الاعتقاد بأن نتائجهم طبيعية، ما يؤخر التشخيص والعلاج.

ولم يتوقف الأمر عند هذا الحد، حيث إن عمليات بحث تتعلق بفحوصات سرطان النساء، أظهرت معلومات وصفت بأنها خاطئة تماماً، وقد تؤدي، بحسب الخبراء، إلى تجاهل أعراض حقيقية تتطلب تدخلاً طبياً عاجلاً.

ولفتت التقارير إلى أن قوقل ردت على هذه الانتقادات، حيث قالت إن عدداً من الأمثلة التي عرضت عليها كانت لقطات شاشة غير مكتملة، مشيرة إلى أن الأداة عادة ما تستند إلى مصادر معروفة وموثوقة، وتوصي المستخدمين بالرجوع إلى مختصين.

وشددت الشركة على أن الغالبية العظمى من ملخصات AI Overviews دقيقة ومفيدة، مشيرة إلى أنها تواصل الاستثمار في تحسين جودتها، خاصة في الموضوعات الحساسة مثل الصحة.