مستخدمو جوجل في مواجهة محتوى مضلل من ”AI Overviews”
كشف تحقيق حديث لصحيفة ذا جارديان البريطانية عن مخاطر محتملة لأداة AI Overviews التابعة لجوجل، والتي تعتمد على الذكاء الاصطناعي التوليدي لتقديم ملخصات معلومات.
وأظهر التحقيق أن الأداة تقدم أحيانًا معلومات مضللة في مواضيع صحية حساسة، قد تؤدي إلى أخطاء خطيرة تؤثر على حياة المستخدمين.
معلومات مضللة تهدد حياة المستخدمين
وفق التحقيق، تضمنت بعض الملخصات نصائح صحية غير دقيقة، مثل توصية مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدهون، وهو ما يتناقض مع التوصيات الطبية الحالية وقد يزيد من خطر الوفاة.
كما رصد الخبراء معلومات خاطئة حول فحوصات الكبد واختبارات سرطان النساء، ما قد يمنح المرضى شعورًا زائفًا بالأمان أو يدفع البعض لتجاهل أعراض خطيرة.
هذه الحالات اعتبرها الخبراء "خطيرة جدًا"، لأنها تمس حياة الأفراد مباشرة.
رد جوجل ومحاولات التحسين
رغم هذه الأخطاء، أكدت جوجل أن معظم الملخصات صحيحة وموثوقة، وأنها تعتمد على مصادر معروفة، مع تشجيع المستخدمين دائمًا على استشارة الخبراء في القضايا الصحية.
وأوضحت الشركة أنها تراجع جودة المعلومات باستمرار وتسعى لتحسين دقة الأداة، لكنها لم تستبعد احتمال وجود حالات تحتوي على أخطاء نتيجة التفسيرات غير الدقيقة لمحتوى الإنترنت.
تحذيرات المنظمات الصحية
تزايدت المخاوف العالمية بشأن تأثير أدوات الذكاء الاصطناعي على صحة المستخدمين، خصوصًا في المجالات التي تتطلب دقة عالية مثل الطب والمالية.
وحذرت منظمات صحية من الاعتماد على هذه التقنيات بدون رقابة، مشيرة إلى أن النتائج قد تكون كارثية إذا استخدمت في لحظات حرجة من الحياة.
وطالبت بوضع معايير صارمة لمراجعة المعلومات الصحية التي تنتجها هذه الأدوات.
بين السرعة والدقة.. تحدٍ مستمر
وتحاول جوجل مواجهة هذه التحديات من خلال تحديث أنظمة الذكاء الاصطناعي وتحسين فهمها للسياق، لكن الخبراء يؤكدون أن هذه التكنولوجيا ما زالت في مراحل التطور وتتطلب إشرافًا بشريًا دقيقًا لضمان سلامة المستخدمين.