دعا مجلس الاستقرار المالي الدولي (FSB) المؤسسات المصرفية والمالية إلى تعزيز الرقابة البشرية على أنظمة الذكاء الاصطناعي الوكيل (Agentic AI)، محذراً من المخاطر المحتملة عند الاعتماد عليها في عمليات تؤثر على الأموال والبيانات والخدمات.

يأتي هذا التطور ليؤكد انتقال المؤسسات الرقابية من التركيز على دقة إجابات الذكاء الاصطناعي إلى مراقبة القرارات والإجراءات التي يمكنه تنفيذها بشكل مستقل. وقد أصدر المجلس إرشادات نهائية لإدارة مخاطر هذه الأنظمة، مع التأكيد على أن الاستخدامات ذات المخاطر العالية تتطلب تدخلاً بشرياً أكثر كثافة، وتحديد الحالات التي يجب فيها الحصول على موافقة إنسان قبل إكمال المهام، خاصة المتعلقة بالعمليات المالية والبيانات الحساسة.

تختلف الأنظمة الوكيلة عن روبوتات المحادثة التقليدية بقدرتها على التخطيط وتنفيذ سلسلة من الإجراءات لتحقيق هدف معين، وقد يشمل ذلك استخدام برامج أخرى أو التعامل مع المعلومات واتخاذ خطوات متتابعة. هذا التعقيد يولد مخاطر عند سوء تفسير الأنظمة للتعليمات أو تعاملها مع مواقف غير متوقعة، مما يدفع المجلس إلى التركيز على وضع حدود واضحة لصلاحياتها وتحديد نقاط تستوجب العودة إلى الموظف المسؤول.

من جانب آخر، حذف المجلس من إرشاداته السابقة توصية بالتعامل مع أنظمة الذكاء الاصطناعي كموظفين اصطناعيين، مؤكداً على اختلاف طريقة عملها عن التفكير البشري وإمكان تفسيرها للأهداف بطرق غير متوقعة. هذا يعني أن المؤسسات مطالبة بوضع إجراءات رقابية تراعي طبيعة هذه الأنظمة بدلاً من افتراض تصرفها كالعاملين البشر.

تكتسب هذه التوصيات أهمية متزايدة مع توسع البنوك في استخدام الذكاء الاصطناعي، رغم أنها تظل إرشادات تنظيمية وليست قانوناً دولياً ملزماً لجميع المؤسسات.