أعلنت شركة ميتا عن توسيع إجراءات الحماية الخاصة بالمستخدمين المراهقين، في خطوة تهدف إلى طمأنة أولياء الأمور والجهات التنظيمية بشأن سلامة استخدام منصاتها.
ميزة جديدة لإخطار أولياء الأمور عند رصد مؤشرات إيذاء النفس أو الانتحار
بعد أشهر من بدء عرض موضوعات محادثات الذكاء الاصطناعي الخاصة بالمراهقين على أولياء الأمور، قدمت ميتا ميزة أمان جديدة تتيح لهم معرفة ما إذا كانت محادثات أبنائهم تشير إلى أنهم يفكرون في إيذاء أنفسهم أو الانتحار.
عندما يتحدث مستخدم مراهق مع Meta AI عن الانتحار أو إيذاء النفس، يقوم النظام بتوجيهه إلى خطوط المساعدة الخاصة بالأزمات، ويشجعه على التواصل مع شخص بالغ يمكنه تقديم الدعم.
ابتداءً من اليوم، ستقوم الشركة بإخطار أولياء الأمور أو الأوصياء المشرفين بشكل استباقي إذا كان المراهق معرضًا للخطر، كما ستشارك معهم موارد ونصائح لدعم أبنائهم.
وأوضحت ميتا أنها طورت نظامًا مخصصًا للذكاء الاصطناعي لاكتشاف هذه المحادثات، ولكنها ستجري مراجعة بشرية لجميع المحادثات التي يرصدها النظام قبل إرسال أي تنبيه، لتفادي إثارة الذعر في حال عدم وجود خطر حقيقي.
ومع ذلك، ستفضل الشركة توخي الحذر وسترسل الإشعار حتى إذا كان قصد المستخدم المراهق غير واضح للمراجع البشري.
الميزة متاحة الآن لأولياء الأمور الذين يستخدمون الإشراف الأبوي على إنستجرام في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، ومن المتوقع أن تتوفر لجميع مستخدمي الإشراف الأبوي حول العالم قبل نهاية العام.
كما تعمل الشركة على تطوير إمكانية التواصل مع خدمات الطوارئ إذا أشارت محادثة أحد المستخدمين مع Meta AI إلى أنه معرض لخطر وشيك للإقدام على الانتحار، سواء كان المستخدم قاصرًا أو بالغًا.
في مايو الماضي، أطلقت شركة OpenAI ميزة تهدف أيضًا إلى الحد من حالات إيذاء النفس تحت اسم Trusted Contact for ChatGPT، والتي تتيح للمستخدمين اختيار شخص موثوق يمكن للشركة التواصل معه إذا تبين أنهم معرضون لخطر إيذاء أنفسهم.
أخيرًا، أصبح إعداد المحتوى المحدود في ميتا يشمل أيضًا التفاعلات مع Meta AI؛ فإذا قام أحد أولياء الأمور بتفعيل إعداد المحتوى المحدود على إنستجرام لتصفية المحتوى الذي يتناول موضوعات حساسة مثل المشاهد المخصصة للبالغين أو إيذاء النفس، فستصبح تفاعلات أبنائهم مع Meta AI أكثر تقييدًا أيضًا.