أعلنت شركة ميتا عن إطلاق ميزة جديدة تعتمد على الذكاء الاصطناعي، تهدف إلى إخطار أولياء الأمور في حال أظهرت محادثات أبنائهم المراهقين مع Meta AI مؤشرات تدل على التفكير في إيذاء النفس أو الانتحار. تأتي هذه الخطوة في إطار توسيع إجراءات السلامة المخصصة للمستخدمين صغار السن على منصاتها.
تنبيهات تلقائية ودعم للمراهقين
وأوضحت ميتا أن مساعدها الذكي يقوم بتوجيه المراهقين تلقائيًا إلى جهات الدعم المختصة عند اكتشاف محادثات تتعلق بإيذاء النفس أو الانتحار، كما يشجعهم على التواصل مع شخص بالغ موثوق للحصول على المساندة.
وأكدت الشركة أنها طورت نظامًا يعتمد على الذكاء الاصطناعي لرصد هذه المحادثات، إلا أن جميع الحالات التي يحددها النظام ستخضع لمراجعة بشرية قبل إرسال أي تنبيه، بهدف تقليل احتمالات الإنذارات الخاطئة. ومع ذلك، ستفضل الشركة إرسال الإشعار إذا ظل هناك شك في وجود خطر محتمل.
الميزة متاحة حاليًا للمستخدمين الذين يعتمدون على خاصية الإشراف الأبوي عبر إنستجرام في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، ومن المتوقع توسيعها عالميًا قبل نهاية العام.
ميزة جديدة للاتصال بخدمات الطوارئ
كما كشفت ميتا أنها تعمل على تطوير ميزة تتيح الاتصال بخدمات الطوارئ إذا أظهرت محادثات المستخدم مع Meta AI وجود خطر وشيك لإيذاء النفس، سواء كان المستخدم قاصرًا أو بالغًا.
علاوة على ذلك، وسعت الشركة نطاق إعداد “المحتوى المحدود” ليشمل تفاعلات الذكاء الاصطناعي، بحيث يؤدي تفعيل هذا الخيار من قبل أولياء الأمور إلى الحد من استجابة المساعد الذكي للموضوعات الحساسة مثل المحتوى المرتبط بإيذاء النفس أو المواد غير الملائمة، مما يوفر مستوى إضافيًا من الحماية للمراهقين.