# NVIDIA ve Princeton, hibrit model çözümlemesini hızlandıran ReplaySSM'i tanıttı

> Araştırmacılar, durum uzayı modeli girdilerini önbelleğe alan ReplaySSM'in toplu iş 256'da çekirdek çözümleme hızını dört modelde 1,46–1,80 kata çıkardığını bildirdi.

- Kalıcı adres: https://newsverum.com/tr/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026
- Yayıncı: Newsverum
- Bölüm: Teknoloji
- Ülke: Amerika Birleşik Devletleri
- Yayın: 2026-10-15T19:00:45+00:00
- Güncelleme: 2026-10-15T19:00:45+00:00
- Olay / veri dönemi: 2026-10-12
- Diğer sürümler: [English](https://newsverum.com/en/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [العربية](https://newsverum.com/ar/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [Français](https://newsverum.com/fr/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [Español](https://newsverum.com/es/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [Deutsch](https://newsverum.com/de/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [Português](https://newsverum.com/pt/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md)

NVIDIA ile Princeton Üniversitesi Dao AI Lab araştırmacıları, hibrit dil modellerinde durum uzayı modeli (SSM) katmanlarının durum bilgisini her token adımında belleğe yazmak yerine son girdileri önbelleğe alan ReplaySSM yöntemini anlattı. Yaklaşım, bir denetim noktası ile kısa girdi tamponunu birlikte kullanarak çıktı hesabını durum güncellemesinden ayırıyor; bu da spekülatif çözümlemede geri almayı kolaylaştırmayı ve düşük hassasiyetli okumaların birikimli hatasını sınırlamayı amaçlıyor.

Dört Nemotron 3 ve Qwen3.5 modeli üzerinde yapılan testlerde toplu iş 256 olduğunda çekirdek çözümleme hızlanması 1,46–1,80 kat, uçtan uca hızlanma 1,20–1,47 kat olarak bildirildi; toplu iş 1'de aynı testlerde hız kazanımı görülmedi. İki 120B sınıfı modelde spekülatif üretim verimi toplu iş 512'de 1,85 ve 2,10 katına çıktı. Sonuçlar NVIDIA ve Princeton ekibinin kendi donanım ve yazılım koşullarındaki ölçümleridir; yöntem TensorRT-LLM, vLLM ve FlashInfer ile bütünleştirildi.

## Veriler

### ReplaySSM çözümleme hızlanması

256'lık sunum toplu işinde dört hibrit modelde bildirilen hızlanma aralıklarının uç değerleri.

Yöntem: NVIDIA ve Princeton Dao AI Lab'ın 12 Ekim 2026 tarihli yazısındaki, ayarlanmış vLLM çekirdekleriyle karşılaştırmalı dört model sonuçları. İki metriğin her biri kaynakta aralık olarak verilir; burada yalnızca alt ve üst uç ayrı kaydedilmiştir. Testler tek H100 veya B300 GPU üzerinde yürütülmüş, toplu iş 256'dır. Bunlar yazarların donanım ve uygulama koşullarındaki performans sonuçlarıdır.

| date | label | description | status |
|---|---|---|---|
| 2026-10-12 | NVIDIA ve Princeton, hibrit model çözümlemesini hızlandıran ReplaySSM'i tanıttı | Dört Nemotron 3 ve Qwen3.5 modeli üzerinde yapılan testlerde toplu iş 256 olduğunda çekirdek çözümleme hızlanması 1,46–1,80 kat, uçtan uca hızlanma 1,20–1,47 kat olarak bildirildi; toplu iş 1'de aynı testlerde hız kazanımı görülmedi. İki 120B sınıfı modelde spekülatif üretim verimi toplu iş 512'de 1,85 ve 2,10 katına çıktı. Sonuçlar NVIDIA ve Princeton ekibinin kendi donanım ve yazılım koşullarındaki ölçümleridir; yöntem TensorRT-LLM, vLLM ve FlashInfer ile bütünleştirildi. | occurred |

Kaynaklar: <https://developer.nvidia.com/blog/replayssm-rethinking-state-storage-for-faster-hybrid-model-decoding/> · Veriyi indir: [JSON](https://newsverum.com/api/v1/articles/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026/data/replayssm-decoding-speed-ranges?lang=tr&format=json) · [CSV](https://newsverum.com/api/v1/articles/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026/data/replayssm-decoding-speed-ranges?lang=tr&format=csv)

## Kaynaklar

- [NVIDIA Technical Blog and Princeton University Dao AI Lab](<https://developer.nvidia.com/blog/replayssm-rethinking-state-storage-for-faster-hybrid-model-decoding/>) (Kaynak kontrolü: 2026-10-15; Yayın: 2026-10-12)

---

Alıntı için yukarıdaki kalıcı adresi kullanın. [Yayın ilkeleri ve düzeltmeler](https://newsverum.com/tr/editorial)
