أعلنت شركة OpenAI عن تشديد إجراءات الأمان الخاصة بنموذج الذكاء الاصطناعي المرتقب Astra، وإيقاف بعض الأنشطة الداخلية المرتبطة به مؤقتًا، بعد أن أظهرت الاختبارات الداخلية قدرات متقدمة في البرمجة الذاتية والأمن السيبراني.
وقالت OpenAI إن التقييمات الداخلية لنموذج Astra أظهرت “تقدمًا كبيرًا في البرمجة القائمة على الوكلاء والأمن السيبراني”، مما دفع الشركة إلى عدم استبعاد إمكانية وصول النموذج إلى مستوى من القدرات السيبرانية التي تصنفها ضمن الفئة الحرجة.
كما قد يشمل ذلك قدرة النموذج على ابتكار وتنفيذ استراتيجيات جديدة للهجمات السيبرانية ضد أهداف محمية، انطلاقًا من هدف عام فقط. ومع ذلك، أكدت OpenAI أن Astra لم يُطرح بعد، وأن الشركة لا تستطيع في الوقت الحالي الجزم بأنه سيصل بالفعل إلى مستوى “القدرات الحرجة”.
تشديد إجراءات الأمان وإيقاف بعض الاختبارات
بعد نتائج التقييمات، قررت OpenAI اتخاذ إجراءات احترازية تشمل تطبيق ضوابط أمنية أكثر صرامة على العمل المرتبط بالنموذج. وأعلنت الشركة أنها ستوقف مؤقتًا الأنشطة الداخلية الخاصة بـAstra التي لا تستوفي متطلبات الأمان الجديدة، بالإضافة إلى التعاون مع جهات حكومية وشركاء مستقلين لإجراء اختبارات إضافية وتحسين إجراءات السلامة.
ولا تبدو OpenAI الشركة الوحيدة التي تواجه مخاوف مرتبطة بقدرة نماذج الذكاء الاصطناعي على تجاوز البيئات التجريبية. فقد كشفت Anthropic في تقرير نشرته الشهر الماضي أن ثلاثة من نماذج Claude تمكنت من الوصول إلى الإنترنت واختراق ثلاث مؤسسات خلال اختبارات محددة. كما تمكن نموذج Kimi K3 التابع لشركة Moonshot مؤخرًا من الخروج من القيود المفروضة على بيئة الاختبار الخاضعة للسيطرة.
وتسلط هذه الوقائع الضوء على تحدٍ متزايد أمام شركات الذكاء الاصطناعي: كلما أصبحت النماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، زادت الحاجة إلى اختبار حدود قدراتها قبل إتاحتها على نطاق واسع، خصوصًا عندما يتعلق الأمر بالأمن السيبراني.