# AWS berichtet über MoE-Kerneloptimierungen auf SageMaker

> AWS erläuterte am 13. Oktober GPU-Kerneloptimierungen für Expertenmischmodelle auf SageMaker AI: vertauschte Matrixoperanden, FP8-Routing zum Triton-Backend und die Vermeidung unnötiger Just-in-time-Neukompilierungen.

- Kanonische URL: https://newsverum.com/de/news/aws-sagemaker-moe-kernel-optimization-report-2026
- Herausgeber: Newsverum
- Rubrik: Technologie
- Land: Vereinigte Staaten
- Veröffentlicht: 2026-10-15T20:48:36+00:00
- Aktualisiert: 2026-10-15T20:48:36+00:00
- Zeitraum der Quellenprüfung: 2026-10-13
- Weitere Ausgaben: [Türkçe](https://newsverum.com/tr/news/aws-sagemaker-moe-kernel-optimization-report-2026.md), [English](https://newsverum.com/en/news/aws-sagemaker-moe-kernel-optimization-report-2026.md), [العربية](https://newsverum.com/ar/news/aws-sagemaker-moe-kernel-optimization-report-2026.md), [Français](https://newsverum.com/fr/news/aws-sagemaker-moe-kernel-optimization-report-2026.md), [Español](https://newsverum.com/es/news/aws-sagemaker-moe-kernel-optimization-report-2026.md), [Português](https://newsverum.com/pt/news/aws-sagemaker-moe-kernel-optimization-report-2026.md)

*Die Quelle nennt kein Ereignisdatum; der angezeigte Zeitraum entspricht der Quellenprüfung.*

AWS erläuterte am 13. Oktober GPU-Kerneloptimierungen für Expertenmischmodelle auf SageMaker AI: vertauschte Matrixoperanden, FP8-Routing zum Triton-Backend und die Vermeidung unnötiger Just-in-time-Neukompilierungen.

AWS meldet auf H200-GPUs bis zu 10 Prozent höheren Ausgabedurchsatz und bis zu 9 Prozent kürzere Zeit bis zum ersten Token. Dies sind Unternehmensmessungen bestimmter Konfigurationen, keine Garantien für jedes Modell. Die Triton-Routingänderung steckt in LMI v28, die Neukompilierungskorrektur in vLLM ab 0.22.0.

## Daten

### AWS berichtet über MoE-Kerneloptimierungen auf SageMaker

AWS berichtet über MoE-Kerneloptimierungen auf SageMaker

Methodik: Die Ergebnisse werden der Quelle zugeschrieben; keine unabhängige Leistungsmessung.

| date | label | description | status |
|---|---|---|---|
| 2026-10-13 | Veröffentlichung des Forschungsberichts | AWS erläuterte am 13. Oktober GPU-Kerneloptimierungen für Expertenmischmodelle auf SageMaker AI: vertauschte Matrixoperanden, FP8-Routing zum Triton-Backend und die Vermeidung unnötiger Just-in-time-Neukompilierungen. | occurred |

Quellen: <https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/> · Daten herunterladen: [JSON](https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/research-publication?lang=de&format=json) · [CSV](https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/research-publication?lang=de&format=csv)

### AWS berichtet über MoE-Kerneloptimierungen auf SageMaker

AWS berichtet über MoE-Kerneloptimierungen auf SageMaker

Methodik: Von AWS gemeldete Höchstverbesserungen bestimmter MoE-Konfigurationen auf H200. Die Ersttoken-Korrektur wurde bei achtfachem Tensorparallelismus gemessen; Prozentsätze werden nicht addiert.

| Kennzahl | Gemeldete maximale Verbesserung |
|---|---|
| Höherer Ausgabedurchsatz | 10 |
| Kürzere Zeit bis zum ersten Token | 9 |

Quellen: <https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/> · Daten herunterladen: [JSON](https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/reported-performance-changes?lang=de&format=json) · [CSV](https://newsverum.com/api/v1/articles/aws-sagemaker-moe-kernel-optimization-report-2026/data/reported-performance-changes?lang=de&format=csv)

## Quellen

- [AWS Artificial Intelligence Blog](<https://aws.amazon.com/blogs/machine-learning/mixture-of-experts-kernel-engineering-on-amazon-sagemaker-ai/>) (Quelle geprüft: 2026-10-15; Veröffentlicht: 2026-10-13)

---

Zitieren Sie die oben angegebene kanonische URL. [Redaktionsstandards und Korrekturen](https://newsverum.com/de/editorial)