تُظهر قدرات نماذج الذكاء الاصطناعي في مجال البيولوجيا تحديًا كبيرًا للشركات، حيث يمكن للنظام الذي يساعد الباحثين في فهم مركب دوائي أو تحليل مشكلة جزيئية أن يمتلك معلومات قد تُستخدم بشكل غير صحيح. وفي هذا السياق، أطلقت شركة claude-يغير-قواعد-التخفّي-بعلامات-غير-مرئية-619245/">Anthropic نموذج Claude Fable 5 مع قيود صارمة على الأسئلة المتعلقة بالبيولوجيا، لكنها أعلنت مؤخرًا عن تعديل نظام الحماية بعد أن تبين أن عددًا كبيرًا من الطلبات المشروعة كان يُعامل كتهديد محتمل.
انخفاض التحويلات بنحو 85%
وفقًا لإعلان رسمي نشرته Anthropic، تم تعديل أدوات الحماية الخاصة بالبيولوجيا في Claude Fable 5 مما أدى إلى تقليل حالات تحويل الأسئلة إلى نموذج أقل قدرة بنسبة 85% خلال الاختبارات. وتؤكد الشركة أن المستخدمين سيشهدون تدخلات أقل عند طرح أسئلة تتعلق بالصحة والتعليم اليومي، مثل فهم نتائج التحاليل أو الأعراض أو مواضيع البيولوجيا. كما يمكن للعاملين في مجال الرعاية الصحية الاستفادة بشكل أكبر من المساعدة في المهام السريرية. وتعتمد منظومة الحماية على مصنفات آلية تكشف الطلبات الحساسة وتعيد توجيهها عند الحاجة إلى نموذج Opus 5 الأقل قدرة في هذا المجال.