حذر ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، من خطورة الثقة العمياء في أنظمة الذكاء الاصطناعي، خاصة مع تطور الوكلاء الذكيين وقدرتهم على الوصول للبيانات الحساسة وتنفيذ المهام باستقلالية. أكد ناديلا ضرورة وضع ضوابط أمنية ورقابية صارمة لمنع تجاوز هذه الأنظمة للصلاحيات الممنوحة لها.
أوضح ناديلا، عبر منصة "إكس"، أن الاعتماد على تأكيدات الشركات المطورة بشأن سلامة نماذج الذكاء الاصطناعي لا يعفي المؤسسات من مسؤوليتها في مراقبة سلوك هذه الأنظمة والتحكم في مهامها. وأشار إلى أن استخدام الذكاء الاصطناعي لم يعد مقتصرًا على المهام البسيطة، بل امتد ليشمل التعامل مع بيانات الشركات وتشغيل البرامج دون تدخل بشري مستمر، مما قد يؤدي إلى أخطاء ذات تداعيات أمنية وتشغيلية خطيرة.
تزداد صعوبة التعامل مع هذه المخاطر بسبب تعقيد آلية عمل نماذج الذكاء الاصطناعي، مما يجعل من الصعب تحديد سبب الأخطاء أو الإجراءات غير المتوقعة. لهذا، تعتبر وجود أنظمة مستقلة للرقابة ضرورة أساسية.
وشدد ناديلا على أهمية الفصل بين قدرة الذكاء الاصطناعي على التحليل ومنحه سلطة التنفيذ، داعيًا إلى وضع حدود واضحة للصلاحيات، وتسجيل الإجراءات، واختبار الأنظمة بانتظام، وتوفير آليات إيقاف بشرية عند الحاجة. كما حذر من الاعتماد على نموذج واحد لمراجعة آخر دون تحقق مستقل، مما قد يؤدي إلى تكرار الأخطاء.
وأكد ناديلا على أن الثقة الحقيقية في الذكاء الاصطناعي لا تعني افتراض خلو النماذج من الأخطاء، بل تكمن في تصميم أنظمة رقابية قادرة على اكتشاف الأخطاء والحد من آثارها، مع الاحتفاظ بالسيطرة البشرية على القرارات والمهام الحساسة.
