مشروع vLLM يطلق نسخته الجديدة v0.32.0، مقدمًا دعمًا موسعًا لتشغيل نماذج الذكاء الاصطناعي المتعددة الوسائط محليًا، مما يمنح المطورين والشركات قدرة أكبر على التحكم في بنيتهم التقنية بدلًا من الاعتماد الكلي على الخدمات السحابية.

الإصدار الجديد، الذي جاء نتيجة لجهود 363 مساهمًا، يتضمن 814 تغييرًا برمجيًا ويضيف دعمًا لنماذج مثل EmbeddingGemma 2 و MiniCPM-V 4.7، بالإضافة إلى تحسينات في معالجة الكلام إلى نص عبر نموذج Nvidia Nemotron 3.5 ASR. هذه الخطوة تهدف إلى تمكين المؤسسات من استضافة نماذج الذكاء الاصطناعي الخاصة بها، مما يوفر مرونة أكبر وتكاليف محتملة أقل.

تشغيل نماذج الذكاء الاصطناعي بكفاءة يتطلب أكثر من مجرد النموذج نفسه؛ فهو يحتاج إلى نظام قوي لإدارة الموارد، مثل الذاكرة وتوزيع المهام على المعالجات، بالإضافة إلى آلية فعالة لاستقبال ومعالجة الطلبات وإرجاع الإجابات. vLLM يعالج هذه التحديات من خلال توفير طبقة برمجية متخصصة.

الإصدار v0.32.0 يقدم تحسينات لعائلات نماذج GLM، ويدعم بشكل أوسع نماذج فهم الصور والتسجيلات الصوتية، مع تطوير وظائف معالجة المخرجات المنظمة لتلبية احتياجات التطبيقات والوكلاء الأذكياء.

من جانب الشركات والمطورين، يوفر التحديث حزم تشغيل متوافقة مع معالجات Nvidia وAMD وIntel، بالإضافة إلى خيارات للمعالجات المركزية، مما يتيح اختيار بيئة التشغيل الأنسب للتجهيزات المتاحة. من المهم ملاحظة أن دعم نموذج جديد لا يعني أن vLLM يطور النموذج نفسه، بل يركز على تسهيل تشغيله وإدارة الطلبات بكفاءة.