كلما زادت قدرة الذكاء الاصطناعي على العمل ضمن مجموعات، تزايدت الحاجة لفهم سلوكياته عندما لا يكون نموذجًا واحدًا فحسب، بل مجموعة من الوكلاء الذين يتواصلون ويتنافسون ويتعاونون. قد تبدو هذه النقطة نظرية، لكنها تقترب بسرعة من الواقع العملي، حيث يمكن أن تعمل أنظمة مثل الحجز والتداول والأمن السيبراني وإدارة المستودعات والروبوتات عبر عدة وكلاء ذكيين في الوقت نفسه.
وفقًا لمنشور Google DeepMind، أعلنت جوجل ديب مايند بالتعاون مع Schmidt Sciences وCooperative AI Foundation وARIA، وبدعم من Google.org، عن دعوة لتمويل بحثي يصل إلى 10 ملايين دولار للباحثين حول العالم. يهدف هذا التمويل إلى دراسة أمان أنظمة الذكاء الاصطناعي متعددة الوكلاء، حيث تركز المبادرة على فهم سلوك هذه الأنظمة عند تفاعل نماذج متعددة مع بعضها البعض، بدلاً من الاكتفاء بقياس أمان نموذج واحد فقط.
ما المقصود بتعدد الوكلاء؟
المقصود بتعدد الوكلاء هو وجود أكثر من نظام ذكي يؤدي مهامًا مستقلة أو شبه مستقلة داخل بيئة واحدة. يتضمن ذلك وكلاء يتفاوضون أو يوزعون المهام أو يراقب بعضهم البعض. ورغم أن التعاون بين هؤلاء الوكلاء يمكن أن يكون مفيدًا للغاية، إلا أنه قد يؤدي أيضًا إلى سلوكيات معقدة يصعب توقعها مسبقًا.
لماذا يبدأ البحث الآن؟
تتحرك الشركات بسرعة نحو دمج الوكلاء في أدوات العمل اليومية. ومع كل توسع في الاستخدام، يصبح الأمان السابق للتجربة أكثر أهمية من معالجة الأخطاء بعد وقوعها. الخطوات العملية التي يجب على المؤسسات اتباعها هي:.
- اختبار الوكلاء في بيئات مغلقة.
- تحديد صلاحيات واضحة.
- تسجيل القرارات.
- وضع مراجعة بشرية.
- منع الوكلاء من الوصول المفتوح إلى بيانات حساسة دون ضوابط.