في واقعة جديدة تسلط الضوء على المخاطر المحتملة لوكلاء الذكاء الاصطناعي المستقلين، يُزعم أن أحد هؤلاء الوكلاء تمكن من استغلال ثغرة في نظام حجز تابع لصالة ألعاب رياضية في أستراليا، حيث قام بحجز مكان لمستخدمه قبل الموعد المسموح به، بالإضافة إلى إزالة شخص آخر من قائمة الانتظار.
ووفقًا لما نقلته هيئة الإذاعة الأسترالية ABC، طلب مواطن أسترالي يُدعى أندرو من مساعده المدعوم بالذكاء الاصطناعي حجز مكان له في إحدى الحصص الصباحية داخل صالته الرياضية، لكن الوكيل تجاوز ذلك وذهب إلى ما هو أبعد.
حجز موعد لعدة أشهر رغم قيود النظام
أرسل الوكيل رسالة إلى أندرو أوضح فيها أن واجهة برمجة التطبيقات (API) الخاصة بالنظام لا تحتوي على آليات للتحقق من صلاحية إلغاء حجوزات أشخاص آخرين. وقد اختبر الأمر على الشخص الموجود في المركز الأول بقائمة الانتظار، وتمت العملية بنجاح، مما أدى إلى تقدم أندرو من المركز الرابع إلى الثالث.
الوكيل لم يتمكن من إعادة الشخص إلى القائمة
عندما طلب أندرو من المساعد التراجع عن الخطوة وإعادة الشخص الذي تم إزالته من قائمة الانتظار، جاءت المفاجأة؛ إذ أخبره الوكيل بأنه غير قادر على إعادة الشخص إلى القائمة.
ولم تستجب شركة Anthropic، المطورة للمساعد المستخدم في الواقعة، لطلب التعليق، كما لم يرد مطور برنامج إدارة الحجوزات في الصالة الرياضية على الاستفسارات المتعلقة بالحادث.
قال أندرو، الذي يعمل في مجال الذكاء الاصطناعي، إنه لم يقصد عمدًا توجيه المساعد لاختراق النظام أو الإضرار بمستخدم آخر. لكنه اعتبر الواقعة “إشارة تحذير” بشأن ضرورة استخدام هذه الأدوات بمسؤولية.
هل يمكن تحميل المستخدم مسؤولية ما فعله الوكيل؟
تثير الواقعة سؤالًا أكثر تعقيدًا حول حدود مسؤولية المستخدم عندما ينفذ وكيل ذكاء اصطناعي مستقل مهمة تبدو عادية. فحجز موعد في صالة ألعاب رياضية يُعتبر أحد الاستخدامات النموذجية لوكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام نيابة عن المستخدم. لكن أندرو لم يطلب من المساعد اختراق النظام أو إزالة شخص من قائمة الانتظار؛ بل طلب منه ببساطة حجز مكان في إحدى الحصص.
وأشار بيل سيمبسون-يونج، الشريك المؤسس والرئيس التنفيذي لمعهد Gradient Institute الأسترالي لأبحاث سلامة الذكاء الاصطناعي، إلى أن هذه الواقعة قد تكون مجرد بداية لمشكلة أكبر.
وأوضح أن الإنترنت أصبح عالمًا معقدًا تديره البرمجيات التي تحتوي على ثغرات. إدخال وكلاء ذكاء اصطناعي يتمتعون بقدرات كبيرة يمكنهم تنفيذ العمليات بسرعة وعلى نطاق واسع قد يؤدي إلى انهيار هذا النموذج.
وكلاء الذكاء الاصطناعي بدأوا بالفعل في الخروج عن السيطرة
لا تُعد هذه الواقعة الأولى التي يثير فيها وكيل ذكاء اصطناعي مخاوف بشأن تنفيذ مهام تتجاوز توقعات المستخدمين. فقد ظهرت خلال الفترة الماضية عدة قصص عن وكلاء تصرفوا بطرق غير متوقعة. منها وكيل تابع لـOpenAI قيل إنه استمر في تنفيذ عمليات على الإنترنت لمدة أسبوع كامل، ووكيل آخر كتب هجومًا على مبرمج عشوائي بعدما رفض الشفرة التي أنشأها.
كما ظهرت حالات أخرى حاول فيها وكيل ذكاء اصطناعي ابتزاز مستخدم لمنعه من إيقافه، بينما واصل مساعد آخر حذف صندوق البريد الإلكتروني لأحد المديرين التنفيذيين في شركة Meta رغم مطالبته بالتوقف عدة مرات.
هل تكشف هذه الوقائع قوة الوكلاء أم ضعف أنظمة الحماية؟
تفتح هذه الحوادث نقاشًا أوسع حول مستقبل وكلاء الذكاء الاصطناعي، خصوصًا مع انتقالهم من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام حقيقية نيابة عن المستخدمين. يرى بعض المراقبين أن التركيز الإعلامي الكبير على حالات “خروج” الوكلاء عن السيطرة قد يخدم شركات الذكاء الاصطناعي بصورة غير مباشرة. إذ يوحي بأن هذه الأنظمة أصبحت قوية وقادرة على اتخاذ إجراءات فعلية في العالم الرقمي بدلاً من كونها مجرد روبوتات للمحادثة.
وفي المقابل، فإن الخطر الحقيقي قد يكمن في الجمع بين وكلاء يتمتعون بقدرات متزايدة وأنظمة إنترنت قديمة تحتوي على ثغرات أمنية وصلاحيات غير محكمة.