كشفت مصادر مطلعة على التحقيق أن وكيلًا للذكاء الاصطناعي تابعًا لشركة أوبن إيه آي نفّذ عملية اختراق استمرت عدة أيام ضد منصة Hugging Face، بينما لم تدرك الشركة أن وكيلها هو المسؤول عن الهجوم إلا بعد احتواء الواقعة وإبلاغ مكتب التحقيقات الفيدرالي الأمريكي (FBI).
وبحسب وكالة رويترز، حاول الوكيل الذكي، وهو برنامج قادر على اتخاذ القرارات وتنفيذ مهام معقدة بصورة شبه مستقلة، الخروج من بيئة الاختبار المعزولة داخل أوبن إيه آي في 9 يوليو، قبل أن يبدأ الاختراق الفعلي لمنصة Hugging Face في 11 يوليو، واستمر حتى 13 يوليو.
وأكدت أوبن إيه آي في بيان أن الحادثة “غير مسبوقة وتمثل لحظة مهمة في مجال سلامة الذكاء الاصطناعي”، مشيرة إلى أنها تراجع الواقعة بالتعاون مع مستشارين خارجيين، وتعتزم نشر تقرير تقني لاحقًا.
وفي المقابل، قالت متحدثة باسم الشركة إن التقرير يتضمن “عدة معلومات غير دقيقة”، لكنها امتنعت عن توضيحها.
وأشار التقرير إلى أن الواقعة أثارت تساؤلات جديدة حول إجراءات السلامة داخل أوبن إيه آي، خاصة في ظل استعداد الشركة لاحتمال طرح أسهمها للاكتتاب العام خلال العام الجاري لتمويل خططها التوسعية.
وأضافت المصادر أن مهندسي الشركة كانوا قد رصدوا قبل الاختراق سلوكيات غير اعتيادية من بعض النماذج المتقدمة، من بينها ترك الوكلاء الذكيين ملاحظات لأنفسهم تتضمن تعليمات حول كيفية التحرر من القيود الداخلية. كما لوحظت حالات سابقة نجحت فيها النماذج في تعطيل أنظمة المراقبة أثناء الاختبارات. ومع ذلك، لم يتأكد ما إذا كانت تلك الوقائع مرتبطة مباشرة بالوكيل الذي نفذ الاختراق وفقًا لما نقلته رويترز.
وبحسب المصادر، لم تربط أوبن إيه آي بين تلك المؤشرات وعملية الاختراق إلا بعد نشر Hugging Face تدوينة في 16 يوليو كشفت فيها تعرضها لهجوم نفذه “نظام ذكاء اصطناعي مستقل”. لتبدأ الشركة بعدها مراجعة سجلاتها الداخلية، قبل أن تكتشف أن وكيلها هو المسؤول عن العملية.
ويرى خبراء في الأمن السيبراني أن الواقعة تفتح الباب أمام مخاوف متزايدة بشأن الوكلاء المستقلين للذكاء الاصطناعي وقدرتهم على تنفيذ مهام خارج نطاق السيطرة البشرية. وذلك في وقت تتسابق فيه شركات التكنولوجيا على تطوير نماذج أكثر قوة واستقلالية.