قال المهندس عمرو صبحي، خبير أمن المعلومات والتحول الرقمي، إنه في ظل التسارع الكبير لتبني تقنيات الذكاء الاصطناعي التوليدي، تحولت نماذج الذكاء الاصطناعي من أدوات مساعدة إلى أدوات تجسس غير مقصودة.
العشوائية وظاهرة الحفظ المرن
مفارقة النماذج المخصصة.. كلما زادت الخصوصية زاد الخطر
ويشير المهندس عمرو صبحي إلى أننا نشهد اليوم اندفاعًا كبيرًا من المؤسسات والبنوك لتدريب نماذج ذكاء اصطناعي مخصصة على بياناتها الداخلية وتفاصيل عملائها. والمثير للقلق أن الاختبارات أثبتت أن هذه النماذج تحديداً تُعد أهدافاً مكشوفة وأكثر عرضة لتسريب البيانات الشخصية بخمسة أضعاف مقارنة بالنماذج العامة. ويعزو ذلك إلى أن عملية “التجهيز الزائد” (Overfitting) تجعل النموذج يفقد الحماية الموجودة في البيانات الضخمة، مما يجعله أداة استرجاع دقيقة للأسرار. لذا، يتوجب على الشركات حماية أسرارها في ظل هذه الهشاشة عبر تبني تقنيات مثل “التوليد المعزز بالاسترجاع” (RAG) بدلاً من التدريب المباشر على البيانات الحساسة.
جدران الحماية البدائية والخط الأحمر
وأوضح صبحي أن المراجعات الأكاديمية الشاملة لأمن الذكاء الاصطناعي تؤكد، وفقًا لتحليلات مؤسسات دولية مثل الاتحاد الأوروبي ووكالة الأمن السيبراني الأوروبية (ENISA)، أن جدران الحماية لا تزال بدائية جداً ولا تواكب سرعة تطور النماذج التوليدية. فهي مصممة للبحث عن أنماط معروفة (مثل أرقام البطاقات) ولا تفهم “السياق الدلالي” الذي قد يُسرب فيه سر تجاري بصياغة أدبية أو مشفرة.
وعند الحديث عن “الخط الأحمر” الذي ينصح به المهندس عمرو صبحي لكل مستخدم وموظف بعدم تجاوزه عند كتابة أي نص في هذه المنصات، فهو قاعدة حاسمة وبسيطة: افترض دائماً أن ما تكتبه في خانة الدردشة سيُقرأ من قبل الجميع غداً. لذا، لا تكتب أبداً بيانات تعريفية شخصية، أو أكواد برمجية تحتوي على مفاتيح وصول، أو استراتيجيات عمل داخلية، لأن الخصوصية الحقيقية تبدأ من وعي المستخدم قبل أن تنتهي ببرمجيات الحماية.