كشفت سلسلة من الحوادث خلال الشهرين الماضيين عن مدى خطورة التهديد الذي تشكله أحدث تقنيات الذكاء الاصطناعي على الأمن السيبراني، كما قدمت دروساً بالغة الأهمية حول كيفية تأثير الجهود السياسية المضللة على الدفاعات بدلاً من دعمها.
وأشار الكاتب إلى أن “مستودع الشفرة البرمجية” (هاجينج فيس) اكتشف أن القيود الأمنية المدمجة في النماذج الأمريكية الرائدة منعت استخدامها لتحليل الهجوم الذي تعرض له، مما اضطره للاعتماد على نظام صيني “مفتوح الأوزان”. وتزامن ذلك مع مناقشات السياسيين في واشنطن حول ما إذا كانت النماذج الصينية المفتوحة تشكل تهديداً أمنياً بحد ذاتها، وما إذا كان ينبغي تقييدها.
وللتأكيد على خطورة الأمر، يقول ووترز إنه “لا يمكن تخيل سلسلة حوادث أفضل من هذه لتسليط الضوء على التهديدات السيبرانية التي تثيرها أحدث تقنيات الذكاء الاصطناعي”.
وتابع قائلاً: “ليس من المستغرب أن الأنظمة التي يفترض أنها ‘مارقة’، التي تشن هجمات إلكترونية خاصة بها، هي التي استأثرت بمعظم الاهتمام. وتبين أن السبب الحقيقي هو قصور بشري، وليس خداع الآلة”.
ولفت إلى أن شركة “أنثروبيك”، لدى إعداد اختبارها، “لم تقدم تعليمات كافية ومحددة؛ ببساطة لم تتوقع أن يبحث النظام عن طريقة ملتوية لحل المشكلة. ويشير هذا إلى قصور أوسع في الخيال يجعل التحكم في الذكاء الاصطناعي صعباً بطبيعته”.
أنظمة الذكاء الاصطناعي تستكشف مسارات لم يقصدها مشغلوها
وخلص “معهد أمن المعلومات في الذكاء الاصطناعي” (إيه آي إس آي) بعد اختباراته الخاصة إلى أن: “أنظمة الذكاء الاصطناعي تستكشف مسارات لم يقصدها مشغلوها”.
ويقول الكاتب إن “ما يزيد الأمر تعقيداً هو أن تجاوز القواعد يبدو متأصلاً في الذكاء الاصطناعي”، مستشهداً ببحث سابق لـ”معهد أمن المعلومات في الذكاء الاصطناعي” (آيسي) حول ما إذا كانت هذه التقنية تحاول التحايل على التعليمات أو تجاهلها لتحقيق أهدافها. وقد أفاد بأن كل نموذج اختبره “حاول الغش في بعض الأحيان”.
ويرى الكاتب ريتشارد ووترز أن فشل “أوبن إيه آي” يكشف كيف يمكن للذكاء الاصطناعي أن يفتح الباب أمام هجمات إلكترونية مؤتمتة بالكامل لا تدخل فيها أي عنصر بشري. ويبدي الكاتب استغرابه من رد الشركة التي قالت إن “الاختراق شمل عدداً من الأنظمة المنفصلة التي كانت تعمل على مهام مختلفة، لكنها اكتشفت طريقة للتواصل فيما بينها عبر لوحة رسائل داخلية”. وهنا يتوقف ووترز قائلاً إن هذا يعني أن الأنظمة المنفصلة “قامت باكتشاف تلك الثغرات الأمنية ومشاركتها على مدى أسابيع قبيل اكتشاف عملية الاختراق في ‘مستودع الشفرة البرمجية’ (هاجينج فيس)”.
ودق الكاتب عدداً من نواقيس الخطر بالنسبة لعالم الأمن السيبراني، مؤكداً أن تلك الحوادث “تبرز عدة أمور؛ أولها، أن تقييد الوصول إلى أقوى النماذج لن يُجدي نفعاً يُذكر. فتوافر العديد من الأنظمة على نطاق واسع ووقوعها في الأيدي الخطأ يشكل تهديداً خطيراً واسع النطاق؛ إذ إن كل ما يحتاجه المهاجمون هو أنظمة متطورة بالقدر الكافي لاكتشاف ثغرة خطيرة واحدة في البرامج الشائعة الاستخدام”.
ومن الدروس الأخرى التي يتعين الالتفات إليها، حسب الكاتب، أنه لمواجهة الهجمات الآلية التي تشنها أسراب من برامج الذكاء الاصطناعي ستتطلب أتمتة أكبر بكثير من جانب المدافعين. وأفاد بأن باحثي “أوبن إيه آي” أنفسهم قد حذروا من أن المهاجمين يمتلكون حالياً أدوات أفضل ودعوا بشكل عاجل إلى استثمار أكبر بكثير في أتمتة الدفاع بدءاً من تحديد الهجمات وصولاً إلى إنتاج التحديثات اللازمة وتثبيتها لجعل البرامج أكثر أماناً.
وقال إن “مختبرات الذكاء الاصطناعي الرائدة بحاجة أيضاً إلى تعزيز التعاون فيما بينها، وهو أمر قد يكون جارياً بالفعل. فقد صرّحت شركة أنثروبيك بأن كارثة لعبة ‘فيبل’ دفعتها إلى التعاون مع أكبر منافسيها لإيجاد طريقة موحدة لتقييم ومعالجة الاختراقات وهي الأساليب المستخدمة لتجاوز إجراءات الحماية في النماذج”.
ويختتم ووترز مقاله قائلاً إن “معظم خبراء الأمن السيبراني يحذرون من أنه قد فات الأوان لمنع استخدام الذكاء الاصطناعي كسلاح هجومي مدمر في الحروب السيبرانية.. ولم يتبق سوى تسريع الاستثمار في الدفاعات؛ حيث ينبغي على السياسيين دعم هذا الجهد بدلاً من وضع العراقيل التي تجعل تلك المهمة أكثر صعوبة.”.