أعلنت شركة ميتا عن إطلاق مجموعة جديدة من أدوات الأمان المخصصة لحماية المراهقين، تتضمن إرسال تنبيهات إلى أولياء الأمور عند رصد محادثات تتعلق بالانتحار أو إيذاء النفس بين أبنائهم، وذلك عبر مساعدها الذكي Meta AI على منصتي فيسبوك وإنستجرام. تأتي هذه الخطوة في إطار تعزيز إجراءات السلامة الرقمية، حيث أكدت الشركة أن الميزة الجديدة بدأت بالفعل في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، مع خطة للتوسع تدريجيًا لتشمل مستخدمين في مختلف أنحاء العالم قبل نهاية العام الجاري.
تنبيهات فورية لأولياء الأمور
وأوضحت ميتا أن أولياء الأمور الذين يستخدمون ميزة Instagram Parental Supervision سيتلقون إشعارات إذا أجرى أبناؤهم المراهقون محادثات مع Meta AI تتضمن إشارات إلى الانتحار أو إيذاء النفس. كما أضافت الشركة أن التنبيهات ستتضمن موارد وإرشادات من خبراء الصحة النفسية لمساعدة الآباء على التعامل مع هذه المواقف بطريقة مناسبة وداعمة.
ولفتت ميتا إلى أنها كانت ترسل بالفعل إشعارات إلى أولياء الأمور إذا كرر المراهق البحث عن محتوى متعلق بالانتحار أو إيذاء النفس عبر إنستجرام. ويقوم Meta AI بتوجيه المستخدمين إلى خطوط المساعدة المتخصصة وتشجيعهم على التواصل مع أحد الوالدين أو مستشار نفسي عند الحاجة.
وكشفت الشركة عن تطوير ميزة جديدة ستتيح لها التواصل مع خدمات الطوارئ إذا أظهرت محادثة مع Meta AI، سواء لمراهق أو شخص بالغ، وجود خطر وشيك يتعلق بالانتحار أو إيذاء النفس. وأوضحت ميتا أنها أحالت أكثر من 19 ألف حالة حول العالم خلال العام الماضي إلى جهات الاستجابة الأولى لإجراء فحوصات السلامة للأشخاص الذين يُعتقد أنهم معرضون لخطر الانتحار.
وأكدت الشركة أن تطوير هذه الأدوات استند إلى مشاورات مع أكثر من 75 متخصصًا في الصحة النفسية، بالإضافة إلى التعاون مع مجلس خبراء الرفاهية في الذكاء الاصطناعي (AI Wellbeing Expert Council) والمجموعة الاستشارية للانتحار وإيذاء النفس، إلى جانب مستشارين من فئة الشباب، بهدف تحسين استجابة Meta AI للمحادثات الحساسة المتعلقة بالصحة النفسية.