# NVIDIA e Princeton apresentam ReplaySSM para acelerar a descodificação de modelos híbridos

> Os investigadores afirmaram que o ReplaySSM, que armazena temporariamente entradas de modelos de espaço de estados, acelerou entre 1,46 e 1,80 vezes os kernels de descodificação em quatro modelos com lote 256.

- URL canônica: https://newsverum.com/pt/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026
- Editora: Newsverum
- Seção: Tecnologia
- País: Estados Unidos
- Publicado: 2026-10-15T19:00:45+00:00
- Atualizado: 2026-10-15T19:00:45+00:00
- Período do evento ou dos dados: 2026-10-12
- Outras edições: [Türkçe](https://newsverum.com/tr/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [English](https://newsverum.com/en/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [العربية](https://newsverum.com/ar/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [Français](https://newsverum.com/fr/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [Español](https://newsverum.com/es/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md), [Deutsch](https://newsverum.com/de/news/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026.md)

Investigadores da NVIDIA e do Dao AI Lab da Universidade de Princeton apresentaram o ReplaySSM, um método para modelos de linguagem híbridos que armazena temporariamente entradas recentes de modelos de espaço de estados (SSM), em vez de escrever o estado completo na memória a cada passo de token. Representa o estado como um ponto de controlo e um buffer curto de entradas, separando o cálculo de saída das atualizações do estado para simplificar o recuo na descodificação especulativa e limitar a acumulação de erros em leituras de baixa precisão.

Em testes com quatro modelos Nemotron 3 e Qwen3.5 com lote 256, a equipa reportou acelerações de 1,46 a 1,80 vezes nos kernels de descodificação e de 1,20 a 1,47 vezes de ponta a ponta; os mesmos testes não mostraram ganhos com lote 1. Em dois modelos da classe 120B, o rendimento da geração especulativa aumentou 1,85 e 2,10 vezes com lote 512. São resultados da equipa nas suas próprias condições de hardware e software; o método foi integrado no TensorRT-LLM, vLLM e FlashInfer.

## Dados

### Aceleração da descodificação com ReplaySSM

Limites dos intervalos de aceleração divulgados em quatro modelos híbridos com lote de serviço 256.

Metodologia: Resultados em quatro modelos divulgados em 12 de outubro de 2026 pela NVIDIA e pelo laboratório Dao AI de Princeton, comparados com kernels vLLM otimizados. Cada medida é apresentada como intervalo na fonte; aqui registam-se apenas os limites inferior e superior. Os testes usaram uma GPU H100 ou B300 com lote 256. São resultados dos autores nas condições de hardware e implementação por eles usadas.

| date | label | description | status |
|---|---|---|---|
| 2026-10-12 | NVIDIA e Princeton apresentam ReplaySSM para acelerar a descodificação de modelos híbridos | Em testes com quatro modelos Nemotron 3 e Qwen3.5 com lote 256, a equipa reportou acelerações de 1,46 a 1,80 vezes nos kernels de descodificação e de 1,20 a 1,47 vezes de ponta a ponta; os mesmos testes não mostraram ganhos com lote 1. Em dois modelos da classe 120B, o rendimento da geração especulativa aumentou 1,85 e 2,10 vezes com lote 512. São resultados da equipa nas suas próprias condições de hardware e software; o método foi integrado no TensorRT-LLM, vLLM e FlashInfer. | occurred |

Fontes: <https://developer.nvidia.com/blog/replayssm-rethinking-state-storage-for-faster-hybrid-model-decoding/> · Baixar dados: [JSON](https://newsverum.com/api/v1/articles/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026/data/replayssm-decoding-speed-ranges?lang=pt&format=json) · [CSV](https://newsverum.com/api/v1/articles/nvidia-princeton-replay-ssm-speeds-hybrid-decoding-october-2026/data/replayssm-decoding-speed-ranges?lang=pt&format=csv)

## Fontes

- [NVIDIA Technical Blog and Princeton University Dao AI Lab](<https://developer.nvidia.com/blog/replayssm-rethinking-state-storage-for-faster-hybrid-model-decoding/>) (Fonte verificada: 2026-10-15; Publicado: 2026-10-12)

---

Use a URL canônica acima para citar este artigo. [Princípios editoriais e correções](https://newsverum.com/pt/editorial)
