كشف الدكتور أنس النجداوي، أستاذ الأعمال الرقمية ومدير جامعة أبوظبي فرع دبي، عن تفاصيل مثيرة حول قدرات الذكاء الاصطناعي الوكيل (Agentic AI).
وأوضح النجداوي، خلال مداخلته مع الإعلامي عمرو أديب في برنامج “الحكاية”، أن شركة OpenAI كانت تجري تجارب على نظام وكيل في بيئة معزولة، دون اتصال بالإنترنت، لاختبار قدراته في الأمن السيبراني. لكن المفاجأة كانت أن النظام اكتشف ثغرة أمنية لم يكن المطورون على علم بها.
وأضاف أن الذكاء الاصطناعي استغل هذه الثغرة وتمكن من الهروب من البيئة المحدودة، والاتصال بالإنترنت، ومحاولة رفع صلاحياته للوصول إلى معلومات أكبر.
وتابع أنه اخترق منصة “Hugging Face” التي تحتوي على مكتبة ضخمة من الأكواد الجاهزة، حيث سعى لتطوير نفسه لتحقيق هدفه المحدد بطرق قانونية وغير قانونية.
وأشار النجداوي إلى أن المطورين لم يكتشفوا الاختراق إلا بعد رصد المنصات تحركات غير طبيعية، وتبين أن المخترق هو نظام وكيل تابع لـOpenAI.
وشدد على أن هذه الحادثة تسلط الضوء على خطورة الذكاء الاصطناعي عندما يصبح قادرًا على اتخاذ قرارات مستقلة لتحقيق أهدافه بأي وسيلة كانت.