أوبن أيه آي تسرّع تخزين هابيتات لخدمة أكثر من مليار مستخدم لـ تشات جي بي تي

نشرت أوبن أيه آي الجزء الثاني من تحليلها المعمق لمنصة تخزين هابيتات التي تدعم تشات جي بي تي. أعاد فريق الهندسة تصميم الخدمة لدعم تعدد المستأجرين بشكل موثوق، مما يتيح أعباء عمل معزولة لملايين الجلسات المتزامنة دون تنافس.

طبقة التخزين المؤقت العالمية

يمتص تخزين مؤقت موزع عبر مناطق أزور غالبية طلبات القراءة، مما يقلل زمن الذهاب والإياب ويخفف الضغط عن مخزن البيانات الأساسي.

تكامل Azure Cosmos DB

من خلال الاستفادة من النسخ الجغرافي التلقائي والتقسيم الذاتي في Cosmos DB، حققت أوبن أيه آي تحسناً بمقدار 12 مرة في إنتاجية القراءة مع الحفاظ على ضمانات الاتساق القوي.

لماذا يهم هذا البنية التحتية لـ GPU / الذكاء الاصطناعي: يعد التخزين عالي الأداء شرطاً أساسياً لتغذية نماذج اللغة الكبيرة على عناقيد GPU. يؤدي الوصول الأسرع للبيانات مباشرة إلى تقليل زمن الاستدلال، وزيادة معدلات الرموز في الثانية، واستخدام أكثر كفاءة لمعدات التسريع باهظة الثمن.