{"article":{"annotation":{"article_id":"aws-sagemaker-moe-kernel-optimization-report-2026","available_at":"2026-10-15T20:48:44.612220Z","geography_revision":"ef6ee0010dda5fe7b240fd514749b43e214c57da73222d2e40ec83b276dd0977","id":"7192bc6835c8c33ce228aef151a1a3b8b6bfa6226dee91b90255a58cdd7a3fd7","input_sha256":"b356ba567a7059f56a636828553043a456a904e69146e7cb2c23f8cec6dfd243","limitations":["Rule-derived subjects are candidates, not verified editorial labels or calibrated model probabilities.","Coverage is distinct from event location. Unknown country/city/coordinates remain absent; no automatic geocoding.","Article geometries keep their stated precision and methodology; reproducing them is not independent coordinate verification."],"method":"controlled-rules-v1","places":[{"admin1":null,"city":null,"coordinate_note":null,"coordinate_reference_system":"OGC:CRS84","coordinate_source":null,"country":"US","evidence":[{"field":"country","language":"en","note":"Explicit preserved editorial country/region; no city or national centroid inferred","source_urls":["https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/"]}],"geometry":null,"id":"iso3166-1:US","kind":"country-or-area","labels":{"ar":"الولايات المتحدة الأمريكية","en":"United States of America","es":"Estados Unidos de América","fr":"États-Unis d’Amérique"},"match_status":"candidate","precision":"regional","role":"coverage","uncertainty_m":null}],"rules_sha256":"fb5ad3c27c91cb840f7a0a05f7f64a5cb26ad0374409ff9457f277c7092e22b4","schema_version":1,"subjects":[{"concept_id":"medtop:20001298","confidence":null,"confidence_method":null,"evidence":[{"field":"en.title+en.summary","language":"en","note":"Subject suggested from the title or summary: AI","source_urls":["https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/"]}],"method":"controlled-rules-v1","rule_id":"artificial-intelligence","status":"candidate"}],"taxonomy_revision":"1f2db31d811fca07e99b16d402c10e2cc2965c9df1c7b41d9be348b40a24e7fb","taxonomy_version":"IPTC Media Topics 2026-Q2"},"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=tr","category":"technology","content":{"key_points":[],"paragraphs":["AWS, 13 Ekim’de SageMaker AI üzerinde uzmanlar karışımı modeller için GPU çekirdek iyileştirmelerini ayrıntılandırdı. Şirket; matris işlenenlerinin yerini değiştirme, FP8 işlemlerini Triton arka ucuna yönlendirme ve gereksiz anlık derlemeleri kaldırma yöntemlerini anlattı.","AWS, H200 GPU’larda yüzde 10’a kadar daha yüksek çıktı hızı ve ilk belirtece kadar geçen sürede yüzde 9’a kadar azalma bildirdi. Bunlar belirli yapılandırmalardaki şirket ölçümleridir; tüm modellere yönelik garanti değildir. Yazı, Triton yönlendirme değişikliğini LMI v28’e, derleme düzeltmesini vLLM 0.22.0 ve sonrasına bağlıyor."],"sections":[]},"corrections":[],"country":"US","data":{"blocks":[{"description":{"ar":"AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker","de":"AWS berichtet über MoE-Kerneloptimierungen auf SageMaker","en":"AWS reports MoE kernel optimization results on SageMaker","es":"AWS presenta resultados de optimización de núcleos MoE en SageMaker","fr":"AWS présente ses optimisations de noyaux MoE sur SageMaker","pt":"AWS apresenta resultados de otimização de kernels MoE no SageMaker","tr":"AWS, SageMaker’da MoE çekirdek iyileştirmelerinin sonuçlarını paylaştı"},"id":"research-publication","items":[{"date":"2026-10-13","description":{"ar":"فصّلت AWS في 13 أكتوبر تحسينات نوى GPU لنماذج مزيج الخبراء على SageMaker AI. وشرحت تبديل معاملات المصفوفات وتوجيه عمليات FP8 إلى خلفية Triton وإزالة عمليات إعادة الترجمة الفورية غير الضرورية.","de":"AWS erläuterte am 13. Oktober GPU-Kerneloptimierungen für Expertenmischmodelle auf SageMaker AI: vertauschte Matrixoperanden, FP8-Routing zum Triton-Backend und die Vermeidung unnötiger Just-in-time-Neukompilierungen.","en":"AWS detailed GPU kernel optimizations for mixture-of-experts models on SageMaker AI on October 13. The company described swapping matrix operands, routing FP8 operations to the Triton backend and removing unnecessary just-in-time recompilations.","es":"AWS detalló el 13 de octubre optimizaciones de núcleos GPU para modelos de mezcla de expertos en SageMaker AI: intercambio de operandos matriciales, envío de operaciones FP8 a Triton y eliminación de recompilaciones innecesarias en tiempo de ejecución.","fr":"AWS a détaillé le 13 octobre ses optimisations de noyaux GPU pour les modèles à mélange d’experts sur SageMaker AI : permutation des opérandes matriciels, routage FP8 vers Triton et suppression de recompilations à la volée inutiles.","pt":"A AWS detalhou em 13 de outubro otimizações de kernels GPU para modelos de mistura de especialistas no SageMaker AI: troca de operandos matriciais, encaminhamento de operações FP8 ao Triton e eliminação de recompilações desnecessárias em tempo de execução.","tr":"AWS, 13 Ekim’de SageMaker AI üzerinde uzmanlar karışımı modeller için GPU çekirdek iyileştirmelerini ayrıntılandırdı. Şirket; matris işlenenlerinin yerini değiştirme, FP8 işlemlerini Triton arka ucuna yönlendirme ve gereksiz anlık derlemeleri kaldırma yöntemlerini anlattı."},"label":{"ar":"نشر تقرير البحث","de":"Veröffentlichung des Forschungsberichts","en":"Publication of the research report","es":"Publicación del informe de investigación","fr":"Publication du rapport de recherche","pt":"Publicação do relatório de pesquisa","tr":"Araştırma yazısının yayımlanması"},"status":"occurred"}],"methodology":{"ar":"تُنسب نتائج البحث إلى المصدر؛ ولم يُجرَ قياس مستقل للأداء.","de":"Die Ergebnisse werden der Quelle zugeschrieben; keine unabhängige Leistungsmessung.","en":"Reported research results are attributed to the source; no independent performance measurement was made.","es":"Los resultados se atribuyen a la fuente; no se midió el rendimiento de forma independiente.","fr":"Les résultats sont attribués à la source, sans mesure indépendante des performances.","pt":"Os resultados são atribuídos à fonte; não houve medição independente de desempenho.","tr":"Bildirilen araştırma sonuçları kaynağa atfedilmiştir; bağımsız performans ölçümü yapılmamıştır."},"sourceUrls":["https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/"],"title":{"ar":"AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker","de":"AWS berichtet über MoE-Kerneloptimierungen auf SageMaker","en":"AWS reports MoE kernel optimization results on SageMaker","es":"AWS presenta resultados de optimización de núcleos MoE en SageMaker","fr":"AWS présente ses optimisations de noyaux MoE sur SageMaker","pt":"AWS apresenta resultados de otimização de kernels MoE no SageMaker","tr":"AWS, SageMaker’da MoE çekirdek iyileştirmelerinin sonuçlarını paylaştı"},"type":"events","updatedAt":"2026-10-15T20:35:26+00:00"},{"columns":[{"key":"indicator","label":{"ar":"المؤشر","de":"Kennzahl","en":"Indicator","es":"Indicador","fr":"Indicateur","pt":"Indicador","tr":"Gösterge"},"type":"text"},{"key":"maximum","label":{"ar":"أقصى تحسن معلن","de":"Gemeldete maximale Verbesserung","en":"Reported maximum improvement","es":"Mejora máxima comunicada","fr":"Amélioration maximale annoncée","pt":"Melhoria máxima informada","tr":"Bildirilen en yüksek iyileşme"},"type":"number","unit":"percent"}],"description":{"ar":"AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker","de":"AWS berichtet über MoE-Kerneloptimierungen auf SageMaker","en":"AWS reports MoE kernel optimization results on SageMaker","es":"AWS presenta resultados de optimización de núcleos MoE en SageMaker","fr":"AWS présente ses optimisations de noyaux MoE sur SageMaker","pt":"AWS apresenta resultados de otimização de kernels MoE no SageMaker","tr":"AWS, SageMaker’da MoE çekirdek iyileştirmelerinin sonuçlarını paylaştı"},"id":"reported-performance-changes","methodology":{"ar":"أقصى تحسينات أعلنتها AWS لتكوينات MoE محددة على H200. وقيس إصلاح زمن أول رمز عند توازٍ موترّي من ثمانية مسارات؛ ولا تُجمع النسب.","de":"Von AWS gemeldete Höchstverbesserungen bestimmter MoE-Konfigurationen auf H200. Die Ersttoken-Korrektur wurde bei achtfachem Tensorparallelismus gemessen; Prozentsätze werden nicht addiert.","en":"Maximum improvements reported by AWS for particular MoE configurations on H200. The first-token correction was measured at eight-way tensor parallelism; percentages are not added together.","es":"Mejoras máximas comunicadas por AWS para configuraciones MoE concretas en H200. La corrección del primer token se midió con paralelismo tensorial de ocho vías; los porcentajes no se suman.","fr":"Améliorations maximales annoncées par AWS pour des configurations MoE précises sur H200. Le correctif du premier jeton a été mesuré en parallélisme tensoriel à huit voies ; les pourcentages ne s’additionnent pas.","pt":"Melhorias máximas informadas pela AWS em configurações MoE específicas no H200. A correção do primeiro token foi medida com paralelismo tensorial de oito vias; os percentuais não são somados.","tr":"H200 üzerinde belirli MoE yapılandırmalarında AWS’nin bildirdiği en yüksek iyileşmeler aktarılmıştır. İlk belirteç süresi düzeltmesi sekiz yönlü tensör paralelliğinde ölçülmüştür; yüzdeler toplanmaz."},"rowTranslations":[{"indicator":{"ar":"زيادة معدل الإخراج","de":"Höherer Ausgabedurchsatz","en":"Output throughput increase","es":"Aumento del rendimiento de salida","fr":"Hausse du débit de sortie","pt":"Aumento da vazão de saída","tr":"Çıktı hızında artış"}},{"indicator":{"ar":"خفض زمن أول رمز","de":"Kürzere Zeit bis zum ersten Token","en":"Time to first token reduction","es":"Reducción del tiempo al primer token","fr":"Réduction du délai du premier jeton","pt":"Redução do tempo até o primeiro token","tr":"İlk belirteç süresinde azalma"}}],"rows":[{"indicator":"Output throughput increase","maximum":10},{"indicator":"Time to first token reduction","maximum":9}],"sourceUrls":["https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/"],"title":{"ar":"AWS تنشر نتائج تحسين نوى نماذج مزيج الخبراء على SageMaker","de":"AWS berichtet über MoE-Kerneloptimierungen auf SageMaker","en":"AWS reports MoE kernel optimization results on SageMaker","es":"AWS presenta resultados de optimización de núcleos MoE en SageMaker","fr":"AWS présente ses optimisations de noyaux MoE sur SageMaker","pt":"AWS apresenta resultados de otimização de kernels MoE no SageMaker","tr":"AWS, SageMaker’da MoE çekirdek iyileştirmelerinin sonuçlarını paylaştı"},"type":"table","updatedAt":"2026-10-15T20:36:44+00:00"}],"version":1},"data_downloads":[{"formats":{"csv":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/research-publication?lang=tr&format=csv","json":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/research-publication?lang=tr&format=json"},"id":"research-publication"},{"formats":{"csv":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/reported-performance-changes?lang=tr&format=csv","json":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/reported-performance-changes?lang=tr&format=json"},"id":"reported-performance-changes"}],"data_types":["events","table"],"editorial_illustration":{"alt":"Teknoloji, işlemci ve bağlantılı bilginin kavramsal illüstrasyonu.","asset_id":"newsverum-v1-technology","avif_variants":[{"height":320,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-480.avif","width":480},{"height":480,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-720.avif","width":720},{"height":640,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-960.avif","width":960},{"height":800,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1200.avif","width":1200},{"height":1024,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1536.avif","width":1536}],"credit":"Newsverum","documentary":false,"height":1024,"kind":"symbolic-editorial-illustration","language":"tr","scope":"topic","url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1536.webp","variants":[{"height":320,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-480.webp","width":480},{"height":640,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-960.webp","width":960},{"height":1024,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1536.webp","width":1536}],"width":1536},"event_id":"event-203f1ad1-82be-5f4c-afd5-ea8fb5dc2262","event_period":"2026-10-13","event_period_basis":"source-review","id":"aws-sagemaker-moe-kernel-optimization-report-2026","image":null,"importance":0.6,"language":"tr","modified_at":"2026-10-15T20:48:36+00:00","publication_basis":"publication-record","published_at":"2026-10-15T20:48:36+00:00","reading_minutes":1,"region":"world","section_illustration":{"alt":"Teknoloji, işlemci ve bağlantılı bilginin kavramsal illüstrasyonu.","asset_id":"newsverum-v1-technology","avif_variants":[{"height":320,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-480.avif","width":480},{"height":480,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-720.avif","width":720},{"height":640,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-960.avif","width":960},{"height":800,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1200.avif","width":1200},{"height":1024,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1536.avif","width":1536}],"credit":"Newsverum","documentary":false,"height":1024,"kind":"symbolic-editorial-illustration","language":"tr","scope":"section","url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1536.webp","variants":[{"height":320,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-480.webp","width":480},{"height":640,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-960.webp","width":960},{"height":1024,"url":"https://newsverum.com/assets/newsverum/illustrations/v1/technology-1536.webp","width":1536}],"width":1536},"slug":"aws-sagemaker-moe-kernel-optimization-report-2026","sources":[{"checkedAt":"2026-10-15","name":"AWS Artificial Intelligence Blog","publishedAt":"2026-10-13","url":"https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/"}],"summary":"AWS, 13 Ekim’de SageMaker AI üzerinde uzmanlar karışımı modeller için GPU çekirdek iyileştirmelerini ayrıntılandırdı. Şirket; matris işlenenlerinin yerini değiştirme, FP8 işlemlerini Triton arka ucuna yönlendirme ve gereksiz anlık derlemeleri kaldırma yöntemlerini anlattı.","text":"AWS, 13 Ekim’de SageMaker AI üzerinde uzmanlar karışımı modeller için GPU çekirdek iyileştirmelerini ayrıntılandırdı. Şirket; matris işlenenlerinin yerini değiştirme, FP8 işlemlerini Triton arka ucuna yönlendirme ve gereksiz anlık derlemeleri kaldırma yöntemlerini anlattı.\n\nAWS, 13 Ekim’de SageMaker AI üzerinde uzmanlar karışımı modeller için GPU çekirdek iyileştirmelerini ayrıntılandırdı. Şirket; matris işlenenlerinin yerini değiştirme, FP8 işlemlerini Triton arka ucuna yönlendirme ve gereksiz anlık derlemeleri kaldırma yöntemlerini anlattı.\n\nAWS, H200 GPU’larda yüzde 10’a kadar daha yüksek çıktı hızı ve ilk belirtece kadar geçen sürede yüzde 9’a kadar azalma bildirdi. Bunlar belirli yapılandırmalardaki şirket ölçümleridir; tüm modellere yönelik garanti değildir. Yazı, Triton yönlendirme değişikliğini LMI v28’e, derleme düzeltmesini vLLM 0.22.0 ve sonrasına bağlıyor.","title":"AWS, SageMaker’da MoE çekirdek iyileştirmelerinin sonuçlarını paylaştı","topics":[],"translations":[{"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=tr","language":"tr","url":"https://newsverum.com/tr/news/aws-sagemaker-moe-kernel-optimization-report-2026"},{"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=en","language":"en","url":"https://newsverum.com/en/news/aws-sagemaker-moe-kernel-optimization-report-2026"},{"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=ar","language":"ar","url":"https://newsverum.com/ar/news/aws-sagemaker-moe-kernel-optimization-report-2026"},{"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=fr","language":"fr","url":"https://newsverum.com/fr/news/aws-sagemaker-moe-kernel-optimization-report-2026"},{"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=es","language":"es","url":"https://newsverum.com/es/news/aws-sagemaker-moe-kernel-optimization-report-2026"},{"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=de","language":"de","url":"https://newsverum.com/de/news/aws-sagemaker-moe-kernel-optimization-report-2026"},{"api_url":"https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026?lang=pt","language":"pt","url":"https://newsverum.com/pt/news/aws-sagemaker-moe-kernel-optimization-report-2026"}],"url":"https://newsverum.com/tr/news/aws-sagemaker-moe-kernel-optimization-report-2026"},"version":"1"}