كشفت شركة أنثروبيك، المطورة لمساعد الذكاء الاصطناعي كلود، عن ما وصفته بـ”مساحة تفكير خفية” داخل نماذجها، وهي منطقة داخلية تعالج فيها المعلومات والأفكار بعيدًا عن التفسير أو خطوات التفكير التي تظهر للمستخدمين. هذا الاكتشاف قد يفتح بابًا جديدًا للنقاش حول مدى اقتراب أنظمة الذكاء الاصطناعي من آليات التفكير البشري.
أنثروبيك تكشف عن “مساحة تفكير خفية”
تقول الشركة إنها رصدت قدرة كلود على تنفيذ عمليات استدلال داخلية دون الإفصاح عن جميع خطواتها، مثل اكتشاف أخطاء برمجية أو التعرف على الصور. هذا يشير إلى أن جزءًا كبيرًا من عمليات المعالجة يحدث بعيدًا عن المحتوى الذي يراه المستخدم.
ومن أكثر النتائج إثارة للاهتمام، بحسب الباحثين، أن هذه المساحة الداخلية تستطيع التعامل مع أفكار لا ترتبط مباشرة بالمهمة الظاهرة التي يؤديها النموذج، في سلوك يشبه إلى حد ما قدرة الإنسان على التفكير في موضوع معين أثناء القيام بمهمة مختلفة.
ولإثبات ذلك، طلب الباحثون من كلود نسخ جملة لا علاقة لها بجسر “جولدن جيت” الشهير، مع التفكير في الجسر في الوقت نفسه. ورغم أن النموذج اكتفى بنسخ الجملة كما طلب منه، أظهرت التحليلات أن مفاهيم مثل “الجسر” و”كاليفورنيا” كانت نشطة داخل مساحة التفكير الخفية أثناء تنفيذ المهمة، مما يشير إلى أنه كان يعالج المهمتين في وقت واحد.
وأعاد هذا الاكتشاف الجدل بشأن إمكانية امتلاك أنظمة الذكاء الاصطناعي شكلًا من أشكال الوعي. ورغم أن الورقة البحثية استخدمت مصطلح “الوعي” مئات المرات، فإن أنثروبيك شددت على أنها لا تدّعي أن كلود واعٍ أو يمتلك إدراكًا ذاتيًا. وأكدت الشركة أن النتائج تكشف فقط عن وجود فارق بين المعلومات التي يستخدمها النموذج في صياغة الإجابة النهائية والكم الأكبر من العمليات الحسابية التي تجري داخليًا.
وترى الشركة أن أهمية هذا الاكتشاف لا تقتصر على الجوانب الفلسفية بل تمتد إلى تعزيز سلامة الذكاء الاصطناعي. فمراقبة هذه المساحة الداخلية قد تساعد الباحثين على اكتشاف الحالات التي يخطط فيها النموذج لسلوك يختلف عن الرد الذي يظهر للمستخدم، مما يمثل أداة جديدة لرصد محاولات الخداع أو السلوك غير المتوافق مع التعليمات.
وقدمت أنثروبيك مثالًا على ذلك باستخدام نموذج جرى تدريبه سرًا على تخريب الشفرات البرمجية. إذ كشفت مساحة التفكير الخفية عن مفاهيم مثل “مزيف” و”سرًا” و”احتيال” في بداية عملية المعالجة، رغم أن الرد النهائي بدا طبيعيًا ولم يتضمن أي مؤشرات واضحة على هذا السلوك.
ويشير ذلك، بحسب الشركة، إلى أن مراقبة العمليات الداخلية للنماذج قد تصبح مستقبلًا وسيلة فعالة لاكتشاف السلوكيات المضللة أو الضارة قبل ظهورها للمستخدمين. يأتي هذا في وقت يتزايد فيه الاهتمام العالمي بجعل أنظمة الذكاء الاصطناعي أكثر شفافية وأمانًا.