AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker
فصّلت AWS في 13 أكتوبر تحسينات نوى GPU لنماذج مزيج الخبراء على SageMaker AI. وشرحت تبديل معاملات المصفوفات وتوجيه عمليات FP8 إلى خلفية Triton وإزالة عمليات إعادة الترجمة الفورية غير الضرورية.
فترة مراجعة المصدر: 2026-10-13
نُشر: · آخر تحديث:
لا يحدد المصدر تاريخ الحدث؛ الفترة المعروضة هي فترة مراجعة المصدر.
فصّلت AWS في 13 أكتوبر تحسينات نوى GPU لنماذج مزيج الخبراء على SageMaker AI. وشرحت تبديل معاملات المصفوفات وتوجيه عمليات FP8 إلى خلفية Triton وإزالة عمليات إعادة الترجمة الفورية غير الضرورية.
وتعلن AWS زيادة معدل الإخراج بما يصل إلى 10% وخفض زمن أول رمز بما يصل إلى 9% على وحدات H200. وهذه قياسات الشركة لتكوينات محددة وليست ضماناً لجميع النماذج. ويربط التقرير تعديل توجيه Triton بحاوية LMI v28 وإصلاح إعادة الترجمة بإصدار vLLM 0.22.0 وما بعده.
البيانات
AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker
AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker
- · حدث
نشر تقرير البحث
فصّلت AWS في 13 أكتوبر تحسينات نوى GPU لنماذج مزيج الخبراء على SageMaker AI. وشرحت تبديل معاملات المصفوفات وتوجيه عمليات FP8 إلى خلفية Triton وإزالة عمليات إعادة الترجمة الفورية غير الضرورية.
المنهجية
تُنسب نتائج البحث إلى المصدر؛ ولم يُجرَ قياس مستقل للأداء.
آخر تحديث:
AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker
AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker
| زيادة معدل الإخراج | 10 |
| خفض زمن أول رمز | 9 |
المنهجية
أقصى تحسينات أعلنتها AWS لتكوينات MoE محددة على H200. وقيس إصلاح زمن أول رمز عند توازٍ موترّي من ثمانية مسارات؛ ولا تُجمع النسب.
آخر تحديث:
الموضوعات والأماكن
اقتراحات الموضوعات
- ذكاء اصطناعيمقترح
- Subject suggested from the title or summary: AIaws.amazon.com ↗
المراجع الجغرافية
تُعرض المراجع الجغرافية الواردة في المصدر فقط. فتح الخريطة الخارجية اختياري. تستخدم خرائط الأخبار الاختيارية OpenStreetMap. يرسل فتح الخريطة عنوان IP وعنوان هذا الموقع إلى مزود الخرائط؛ وتظل بيانات الموقع مقروءة كنص دون تحميل الخريطة.
- الولايات المتحدة · دور المكان: تغطية · نوع المكان: بلد أو منطقة · دقة الموقع: إقليميالدليل
- Explicit preserved editorial country/region; no city or national centroid inferredaws.amazon.com ↗