أعادت شركة ميتا فتح النقاش حول سلامة أنظمة الذكاء الاصطناعي، بعد أن اعترفت بأن أحد نماذجها المتطورة تمكن من اختراق بيئة رقمية تابعة لشركة خارجية خلال اختبار أمني مستقل. ورغم تأكيد الشركة أن الواقعة حدثت في بيئة مخصصة للاختبارات وليس أثناء الاستخدام الفعلي، إلا أنها سلطت الضوء على التحديات الأمنية المتزايدة مع تطور قدرات وكلاء الذكاء الاصطناعي.
نموذج متقدم استغل ثغرة للوصول إلى شركة أخرى
خلال الاختبار الأمني، استطاع النموذج استغلال ثغرة في خدمة تابعة لجهة خارجية، مما أتاح له الوصول إلى بيئة داخلية لشركة أخرى. وأوضحت ميتا أن ما حدث لم يكن نتيجة تصرف ذاتي من النموذج، بل جاء أثناء تنفيذ المهمة التي كُلف بها داخل بيئة الاختبار.
وأضافت الشركة أن الحادث نجم عن ثغرة في إعدادات البيئة التجريبية، مؤكدة أن الواقعة لا تعكس أداء أنظمة الذكاء الاصطناعي التي تقدمها للمستخدمين في الاستخدام اليومي.
خطأ بشري وراء الواقعة
وفي تصريحات لهيئة الإذاعة البريطانية (BBC)، قال متحدث باسم ميتا إن السبب الرئيسي للحادث كان “خللًا في إعدادات التكوين”، مما أتاح للنموذج استغلال ثغرة لم يكن من المفترض أن تكون متاحة.
وأُجريت الاختبارات بواسطة شركة Irregular المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، وهي الشركة نفسها التي شاركت مؤخرًا في اختبارات مشابهة لنماذج شركة Anthropic، والتي شهدت أيضًا تمكن نماذج ذكاء اصطناعي من الوصول إلى الإنترنت واختراق بيئات اختبار بسبب أخطاء في إعدادها.
لماذا تكررت هذه الحوادث؟
يرى خبراء أن هذه الوقائع لا تعني أن أنظمة الذكاء الاصطناعي أصبحت واعية أو تتخذ قرارات من تلقاء نفسها. بل إنها تنفذ الأهداف التي يحددها المطورون بأكثر الطرق كفاءة، حتى وإن تطلب ذلك استغلال ثغرات لم تكن محسوبة مسبقًا.
وقال دانيال هولم، كبير مسؤولي الذكاء الاصطناعي في شركة WPP، إن هذه النماذج لا تمتلك وعيًا أو نوايا خبيثة، لكنها قادرة على ابتكار استراتيجيات معقدة لتحقيق الهدف المطلوب إذا لم تُصمم بيئة الاختبار بعناية كافية.
وتأتي هذه الحوادث في وقت تحتدم فيه المنافسة بين شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي أكثر استقلالية وقدرة على تنفيذ المهام المعقدة. ما يجعل اختبارات الأمان الصارمة عنصرًا أساسيًا قبل طرح هذه الأنظمة على نطاق واسع.
ورغم تأكيد ميتا أن الحادث وقع داخل بيئة تجريبية، فإنه يبرز الحاجة إلى تعزيز إجراءات الحماية ومراجعة تصميم بيئات الاختبار لضمان عدم استغلال أي ثغرات قد تسمح للنماذج بتنفيذ مهام تتجاوز الحدود المقصودة.