تتمتع نماذج الذكاء الاصطناعي بالقدرة على كتابة التقارير وتحليل البيانات وتشغيل الأدوات، إلا أن الانتقال إلى وكلاء قادرين على الوصول إلى أنظمة الشركات وتنفيذ إجراءات فعلية يرفع مستوى المخاطرة بشكل مختلف تمامًا. فالمؤسسة التي تسمح لوكيل ذكي بالوصول إلى ملفات حساسة أو برمجيات داخلية تحتاج إلى فهم ما يمكن أن يحدث إذا أخطأ الوكيل أو تعرض للتلاعب. وهذا هو المجال الذي بدأت إنفيديا الاستثمار فيه بشكل أكثر مباشرة، حيث تسعى لدعم انتشار النماذج مفتوحة الأوزان ووكلاء الذكاء الاصطناعي.
فريق يفحص الوكيل قبل تشغيله
وفقًا لتقرير منشور على موقع بيزنس إنسايدر، تعمل إنفيديا على تشكيل فريق جديد متخصص في هندسة سلامة وأمن الذكاء الاصطناعي. وقد أظهرت إعلانات التوظيف أن الشركة تبحث عن مهندس بارز ليكون قائدًا تقنيًا مؤسسًا للفريق، بالإضافة إلى مهندس أبحاث أمنية ومهندس تقييمات ومدير كبير. وستتضمن مسؤوليات الفريق تقييم وكلاء الذكاء الاصطناعي قبل نشرهم وتطوير أدوات تعتمد على الذكاء الاصطناعي للمساعدة في معالجة الثغرات البرمجية. كما تربط إعلانات الوظائف بين الفريق ودعم إنفيديا للنماذج مفتوحة الأوزان والشفافية والفحص العلمي الشامل.