كشفت شركة Anthropic عن تفاصيل جديدة تتعلق بتقنية العلامة المائية التي تعتزم استخدامها مع النصوص التي ينتجها روبوت الذكاء الاصطناعي Claude، موضحة كيفية عمل هذه التقنية، ومدى إمكانية إزالتها من النصوص بعد تعديلها، وتأثيرها المحتمل على الأكواد البرمجية.
تأتي هذه الخطوة بعد إعلان الشركة في وقت سابق من الأسبوع أنها ستبدأ وضع علامات مائية على النصوص التي تنتجها نماذج Claude، في إطار الالتزام بقانون الذكاء الاصطناعي الأوروبي EU AI Act وقواعد الشفافية المرتبطة به، والتي تتطلب أنظمة تساعد على تحديد المحتوى المُنشأ بواسطة الذكاء الاصطناعي.
كيف تعمل العلامة المائية في Claude؟
تقنية SynthID-Text من Anthropic
أكدت الشركة أنها ستعتمد على تقنية SynthID-Text المقدمة من فريق Google DeepMind في عام 2024. كما تخطط Anthropic لإطلاق واجهة برمجة تطبيقات API مخصصة لاكتشاف العلامة المائية، مما قد يتيح لجهات مختلفة التحقق من النصوص ومعرفة ما إذا كانت مولدة بواسطة Claude. تختلف هذه التقنية عن أدوات اكتشاف النصوص المكتوبة بالذكاء الاصطناعي التي تبحث عن أنماط لغوية مميزة داخل الكتابة، مثل تكرار تراكيب أو أساليب معينة. وبحسب Anthropic، فإن تحليل هذه السمات اللغوية يختلف جوهريًا عن البحث عن علامة مائية مشفرة داخل النص نفسه.
هل يمكن إزالة العلامة المائية بإعادة صياغة النص؟
نعم، لكن ذلك يعتمد على حجم التعديل. تقول Anthropic إن التعديلات البسيطة على النص لن تزيل العلامة المائية بالكامل على الأرجح، بينما يمكن لإعادة كتابة النص بالكامل واستبدال كل كلمة تقريبًا أن تزيل العلامة المائية. ومع ذلك، ترى الشركة أنه في حالة إعادة كتابة النص بالكامل، يمكن التساؤل عما إذا كان من المناسب وصف النسخة الجديدة بأنها نص مولد بالذكاء الاصطناعي، طالما أن جميع الكلمات تمت إعادة صياغتها.
ماذا يحدث إذا استخدم Claude للتدقيق فقط؟
في حالة استخدام Claude لإجراء مراجعة لغوية أو تعديلات محدودة على نص كتبه شخص بشري، فإن قدرة العلامة المائية على الظهور ستعتمد على طول النص وحجم التعديلات التي أجراها Claude. فإذا كانت التعديلات محدودة، فإن معظم الكلمات ستظل من كتابة المؤلف البشري، وبالتالي لن يكون هناك قدر كبير من النص الذي يمكن للعلامة المائية أن ترتبط به. بعبارة أخرى، لا يعني مرور نص بشري عبر Claude للتدقيق اللغوي تلقائيًا أن النص بأكمله سيحمل علامة مائية قوية يمكن اكتشافها.
وتقول Anthropic إن العلامة المائية ستكون أضعف في الأكواد البرمجية مقارنة بالنصوص العادية. والسبب هو أن كتابة الكود لا تمنح النموذج دائمًا حرية الاختيار بين عدد كبير من الكلمات أو الصياغات المختلفة؛ ففي كثير من الحالات يجب أن ينتج النموذج كودًا يعمل بطريقة صحيحة، مما يقلل الخيارات المتاحة لإدخال نمط مائي دون التأثير في الوظيفة. لكن هذا لا يعني غياب العلامة المائية تمامًا؛ ففي الأجزاء التي توجد فيها اختيارات عشوائية أو متعددة داخل الكود مثل التعليقات البرمجية واختيار بعض المصطلحات، يمكن استخدام العلامة المائية. ومع ذلك، تؤكد Anthropic أن تأثير ذلك على الكود الفعلي سيكون ضئيلًا للغاية.
Claude ليس الوحيد الذي سيستخدم العلامات المائية
أشارت Anthropic أيضًا إلى أن استخدام العلامات المائية لن يقتصر على Claude. وقالت الشركة إن مطوري نماذج ذكاء اصطناعي كبار آخرين وقعوا على نفس مدونة الممارسات المرتبطة بالشفافية ومن المتوقع أن يطبقوا أنظمة خاصة بهم لوضع علامات مائية على المحتوى الذي تنتجه نماذجهم. وهذا يعني أن العلامات المائية قد تصبح مع مرور الوقت إحدى الأدوات الأساسية التي تستخدمها شركات الذكاء الاصطناعي للمساعدة في التمييز بين النصوص التي كتبها البشر وتلك التي أنشأتها نماذج الذكاء الاصطناعي.
لماذا تثير الخطوة الجدل؟
أثارت خطة Anthropic جدلًا بين بعض مستخدمي Claude منذ الإعلان عنها؛ حيث رأى بعض المستخدمين أن العلامة المائية قد تستخدم في تتبعهم أو كشف استخدامهم للذكاء الاصطناعي. بينما اعتبر آخرون أن وجودها ضروري لزيادة الشفافية ومنع استخدام النصوص المولدة بالذكاء الاصطناعي بشكل مضلل. تأتي هذه الخطوة في وقت أصبح فيه من الصعب بشكل متزايد التمييز بين النص الذي كتبه الإنسان والنص الذي أنتجته نماذج الذكاء الاصطناعي، وهو ما يدفع شركات التكنولوجيا إلى البحث عن وسائل تقنية أكثر موثوقية لإثبات مصدر المحتوى.