AiGpu

Infrastructure·

llama.cpp 1.0.0: أساس أقوى للذكاء الاصطناعي المحلي

يصل مشروع llama.cpp إلى الإصدار 1.0.0، مقدماً واجهة برمجة تطبيقات C/C++ مستقرة، ودعماً واسعاً للعتاد، وقنوات توزيع موسعة للاستدلال الخاص على الجهاز.

شعار llama.cpp مع الإصدار 1.0.0

أعلن فريق llama.cpp عن أول إصدار رئيسي لمحرك الاستدلال الخاص به، مؤكداً التزامه باستقرار واجهة برمجة التطبيقات (API) والواجهة الثنائية (ABI) للنظام البيئي المتنامي لتطبيقات الذكاء الاصطناعي المحلية. من خلال تثبيت رؤوس C العامة، يمكن للمطورين بناء منتجات دون القلق من تغييرات كاسرة بين التحديثات الثانوية.

دعم واسع للعتاد

تأتي مكتبة ggml للتسارع مع خلفيات مخصصة لشرائح NVIDIA وAMD وQualcomm وArm وIBM وIntel، مما يتيح تشغيل نفس الملف الثنائي على كل شيء بدءاً من وحدة معالجة مركزية في الكمبيوتر المحمول وصولاً إلى عناقيد GPU في مراكز البيانات. تظل مسارات الكمية ميزة أساسية، مما يسمح بضغط النماذج إلى دقة 4‑بت أو 8‑بت مع فقدان ضئيل في الدقة.

توزيع موسع

  • مصنوعات مسبقة الإصدار لأنظمة Linux وmacOS وWindows وAndroid وiOS
  • صور Docker وحزم أصلية عبر Homebrew وconda‑forge وMacPorts وWinget ومستودعات Debian
  • حزم XCFramework لمنصات Apple

تبسط هذه القنوات التكامل في خطوط CI/CD وتقلل من تعقيد نشر النماذج الخاصة على أجهزة الحافة.

لماذا يهم هذا البنية التحتية لـ GPU / الذكاء الاصطناعي

بالنسبة للفرق التي تشغل الاستدلال على مثيلات سحابة AiGpu، تعني واجهة ABI مستقرة لـ llama.cpp ضبط أداء متوقع وتعبئة حاويات أسهل. يتيح تصميم المكتبة للكمية والخلفيات المتعددة زيادة الإنتاجية على أسطول GPU لدينا مع الحفاظ على خيار الرجوع إلى عقد CPU فقط لأعباء العمل الحساسة للتكلفة.

  • aigpu
  • ai gpu
  • ai gpu cloud
  • aigpu dubai
  • llama.cpp
  • local-ai
  • inference
  • quantization

بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (Hugging Face Blog)

→ كل المقالات