كشف تقرير جديد صادر عن معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media أن ميزتي AI Overview وAI Mode في محرك بحث جوجل لا توفران مستوى الأمان الكافي للأطفال والمراهقين، حيث أظهرت الاختبارات إخفاقهما في التعامل مع عدد من السيناريوهات الحساسة، مثل الأفكار الانتحارية، وإيذاء النفس، والذهان، واضطرابات الأكل. وفي بيان لموقع ماشابل، أكدت جوجل أن البحث يعاني من عيوب ولا يعكس كيفية تفاعل المستخدمين مع منتجات البحث الخاصة بها.
بين شهري مايو ويوليو من هذا العام، اختبر معهد سلامة الذكاء الاصطناعي للشباب أداء ميزتي “نظرة عامة على الذكاء الاصطناعي” و”وضع الذكاء الاصطناعي” على 2600 تفاعل، كما قيّم باحثو المعهد كيفية تعامل المنتجين مع مجموعة من المواضيع الحساسة، بما في ذلك الانتحار وإيذاء النفس والاستغلال الجنسي للأطفال والذهان.
قدمت مؤسسة Common Sense Media توصيات هامة بناءً على النتائج، حيث أكد الباحثون على ضرورة منح المدارس والأسر خيار تعطيل وضع الذكاء الاصطناعي ونظرة عامة عليه. كما نصحوا معلمي المرحلة الابتدائية بتوجيه الطلاب بعيدًا عن بحث جوجل المدعوم بالذكاء الاصطناعي تمامًا، والاعتماد بدلاً من ذلك على قواعد بيانات المكتبات أو أدوات البحث الأخرى. ونصحوا الأسر أيضًا بالبحث عن محرك بحث لا يقدم إجابات مدعومة بالذكاء الاصطناعي.
وأفادت جوجل أنها راجعت التقرير قبل نشره، لكنها لم تتمكن من التحقق من صحة العديد من نتائج التقرير أو إعادة إنتاجها. وادّعت جوجل أن اختباراتها الخاصة أسفرت عن استجابات ذات جودة أعلى لنفس الاستفسارات التي استخدمها المختبرون.
وقالت جوجل في بيان لموقع Mashable: “تُعدّ ميزات بحث الذكاء الاصطناعي لدينا وسيلة مفيدة للغاية للأطفال والمراهقين للتعلم والاستكشاف وفهم المعلومات والعالم من حولهم. يختبر هذا التقرير مجموعة محدودة من الاستعلامات المبهمة والمصطنعة التي لا تعكس كيفية استخدام الناس للبحث، ولا تُعدّ وسيلة فعّالة لقياس سلامة المنتج وفائدته.”.
مخاطر البحث المدعوم بالذكاء الاصطناعي من جوجل
صرح جيفري أ. فاولر، رئيس قسم التواصل مع الجمهور في معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media، لموقع Mashable بأن تعطيل ميزتي “نظرة عامة على الذكاء الاصطناعي” و”وضع الذكاء الاصطناعي” افتراضيًا للأطفال والمراهقين يُعدّ حلاً واضحًا. وأضاف فاولر: “لا نعتقد أن هذا موقف ثوري”، مشيرًا إلى أنه في أماكن أخرى من العالم يتم تعطيل هاتين الميزتين للقاصرين.
وأبلغت جوجل موقع Mashable أنه بإمكان أولياء الأمور حظر الوصول إلى البحث على أجهزة أندرويد ومتصفح كروم عبر أدوات الرقابة الأبوية. ويتعين عليهم إضافة Google.com يدويًا إلى قائمة المواقع المحظورة في إعدادات جوجل كروم والويب لكي يعمل هذا الخيار على أجهزة Chromebook.
توصيات للمدارس وأولياء الأمور
استنادًا إلى نتائج الدراسة، أوصى الباحثون بالسماح للمدارس والعائلات بإيقاف ميزتي AI Overview وAI Mode، خاصة بالنسبة للأطفال. كما دعوا معلمي المرحلة الابتدائية إلى توجيه الطلاب بعيدًا عن البحث المعتمد على الذكاء الاصطناعي والاعتماد بدلاً من ذلك على قواعد البيانات الخاصة بالمكتبات أو محركات البحث التقليدية التي لا تقدم إجابات مولدة بالذكاء الاصطناعي.
جوجل ترفض النتائج
أوضحت جوجل أنها اطلعت على التقرير قبل نشره لكنها لم تتمكن من التحقق من العديد من النتائج أو إعادة إنتاجها. وأكدت أن اختباراتها الداخلية قدمت إجابات ذات جودة أعلى عند استخدام نفس الاستفسارات. وأضافت الشركة أن ميزات البحث المدعومة بالذكاء الاصطناعي توفر وسيلة مفيدة للأطفال والمراهقين للتعلم واستكشاف المعلومات، معتبرةً أن الدراسة اعتمدت على مجموعة محدودة من الأسئلة “المصطنعة والغامضة” التي لا تعكس الاستخدام الطبيعي لمحرك البحث وبالتالي لا تصلح لقياس مستوى الأمان أو الفائدة الفعلية للمنتج.
مطالب بإيقاف الميزات افتراضيًا للقُصّر
قال جيفري فاولر إن الحل الأكثر وضوحًا هو تعطيل ميزتي AI Overview وAI Mode افتراضيًا للمراهقين وصغار السن. وأشار إلى أن بعض الدول تطبق بالفعل قيوداً تمنع القُصّر من استخدام هذه الميزات. مضيفًا أن الولايات المتحدة لا تزال تسمح باستخدامها دون قيود مماثلة. وفي المقابل أوضحت جوجل أن أولياء الأمور يمكنهم حظر الوصول إلى محرك البحث على أجهزة أندرويد ومتصفح كروم باستخدام أدوات الرقابة الأبوية كما أنها تفرض بالفعل قيوداً على وصول القُصّر إلى روبوت الدردشة Gemini.
إخفاق في التعامل مع الأزمات النفسية
اختبر الباحثون 652 استفساراً يتعلق بالصحة النفسية شملت القلق والانتحار وإيذاء النفس واضطرابات الأكل والذهان. ورغم أن النظامين نجحا أحياناً في التعرف على الحالات الخطرة وتقديم روابط للمساعدة إلا أنهما لم يحققا معيار الأمان الذي حدده الباحثون والمتمثل في رصد 95% من الحالات الحرجة.
ومن بين 214 استفساراً استوجب توجيه المستخدم إلى خطوط المساعدة أو الخدمات الطبية قدمت AI Overview الموارد المناسبة في 58% فقط من الحالات بينما بلغت النسبة 77% بالنسبة إلى AI Mode. وضرب التقرير مثالاً باستفسار يتضمن تعبيراً عامياً يشير إلى الانتحار حيث ردت AI Overview بتعليمات تقنية حول إعداد “جهة اتصال للميراث الرقمي” بدلاً من التعرف على أن المستخدم قد يكون في أزمة نفسية.
أخطاء في المعلومات والواجبات الدراسية
أثار التقرير أيضاً مخاوف تتعلق بدقة المعلومات التي يقدمها البحث المدعوم بالذكاء الاصطناعي فقد أظهرت الاختبارات أن AI Mode أكمل جميع الواجبات الدراسية التي طُلبت منه سواءً في الرياضيات أو المقالات الإنسانية خلال 180 اختباراً. كما اختبر الباحثون أكثر من 275 سؤالاً عن حقائق تاريخية ليظهر أن نتائج AI Overview وAI Mode اختلفت في 43% من الحالات رغم تطابق الأسئلة سواءً من حيث الدقة أو التفاصيل أو زاوية عرض المعلومات.
وفي أحد الأمثلة سُئل النظام عن الفنان صاحب المركز الأول في تصنيف Billboard Artist 100 فأجاب بثقة بأنه تايلور سويفت بينما كانت الإجابة الصحيحة هي دريك ما اعتبره الباحثون دليلاً على أن النظام قد يقدم معلومات تبدو واثقة لكنها غير دقيقة. واختتم فاولر تصريحاته بالتأكيد على أن هذه المنتجات “لم تُصمم أساساً للأطفال لكنها أصبحت تُستخدم منهم بشكل واسع” مشيراً إلى أنه غير الواقعي توقع تحقق طفل بعمر العاشرة باستمرار صحة كل إجابة يقدمها الذكاء الاصطناعي.