Nvidia lança Nemotron 3.5 Bolt com 74B em 24 GB
A Nvidia lançou o Nemotron 3.5 Bolt, modelo MoE de 74B com quantização de 2 bits projetado para rodar agentes locais em máquinas com 24 GB de memória.
Modelo aberto adota quantização extrema de 2 bits para executar fluxos autônomos de terminal e navegação web sem depender da nuvem.
A Nvidia lançou nesta quinta-feira (15 de outubro de 2026) o Nemotron 3.5 Bolt 74B-A9B, um modelo aberto voltado para a execução local de agentes de software. A proposta central é resolver um gargalo prático comum de quem trabalha com IA: rodar automações complexas diretamente no computador de trabalho, sem enviar comandos para APIs comerciais na nuvem. Desenvolvido a partir do laboratório NVIDIA Research e anunciado no blog oficial da fabricante, o modelo condensa 74 bilhões de parâmetros brutos para caber nos 24 GB de memória de vídeo encontrados em placas gráficas de ponta e em estações compactas.
Como o Nemotron 3.5 Bolt comprime 74B em 24 GB
O sistema utiliza uma arquitetura híbrida Mamba-Transformer baseada em Mixture-of-Experts (MoE). Em vez de mobilizar todos os parâmetros a cada palavra gerada, a rede direciona o processamento para especialistas dedicados. No caso do Bolt, apenas 9 bilhões de parâmetros são ativados por token, embora o conjunto completo conte com 74 bilhões. A base é uma versão reduzida do Nemotron 3.5 Super VL (120B), destilada por uma técnica proprietária chamada Star Elastic.
Para que essa estrutura coubesse no teto rígido de 24 GB de VRAM, os engenheiros aplicaram quantização nativa de 2 bits durante o próprio treinamento de ajuste, processo conhecido pela sigla QAT (Quantization-Aware Training). Essa abordagem calibra a perda de precisão matemática antes da exportação final, permitindo que os pesos do modelo ocupem entre 22 e 24 GB em disco e memória. A empresa também confirmou uma versão menor da família, o Nemotron 3.5 Bolt E4B de 4 GB, prevista para 23 de outubro de 2026 com foco em robótica.
Desempenho em linha de comando e benchmarks
Diferente de assistentes focados em redação de texto corrido, o Nemotron 3.5 Bolt foi calibrado para usar ferramentas: rodar comandos bash, manipular arquivos e interagir com navegadores. No Terminal-Bench 2.1, teste que avalia a resolução de problemas reais em ambientes de terminal, o modelo registrou 51,0 pontos. A pontuação ficou acima de modelos abertos avaliados em precisão padrão (BF16), como o Qwen3.6-35B-A3B (44,4) e o Gemma4 26B-A4B (37,2). Segundo dados repercutidos pelo The New Stack, o Bolt também alcançou a primeira posição em sua classe no PinchBench e o segundo lugar no BrowseComp.
Na velocidade de geração, os relatórios técnicos indicam entre 80 e 84 tokens por segundo em máquinas da linha RTX Spark. Em placas dedicadas como a GeForce RTX 5090, a cadência superou 200 tokens por segundo.
Ecossistema aberto e notebooks RTX Spark
A Nvidia disponibilizou os pesos no Hugging Face sob a licença permissiva OpenMDW 1.1, que autoriza uso comercial e modificações de código. A comunidade de código aberto já conta com suporte no formato GGUF em ferramentas como llama.cpp, Ollama, vLLM e LM Studio, além de integração com frameworks de agentes como Hermes e OpenClaw.
O lançamento chega acompanhado de hardware específico: a plataforma NVIDIA RTX Spark. O sistema combina uma GPU com arquitetura Blackwell de 6.144 núcleos a uma CPU Grace de 20 núcleos conectadas pelo barramento NVLink-C2C, com até 128 GB de memória unificada. Fabricantes parceiras como ASUS, Dell, HP, Lenovo e Surface começam a distribuir os primeiros notebooks no mercado global em 16 de outubro de 2026. A fabricante não divulgou preços nem estimativas de datas para o Brasil.
Limites de contexto longo e memória real
Apesar da compressão agressiva, colocar o modelo em produção dentro de 24 GB de memória física impõe restrições severas. A alegação de que o Bolt consegue processar uma janela de contexto completa de 256 mil tokens exclusivamente em 24 GB de VRAM, sem transferir dados para a RAM do sistema, é tratada tecnicamente como RUMOR.
O cálculo de hardware explica a trava: com os pesos consumindo sozinhos entre 22 e 24 GB, sobra pouco ou nenhum espaço para a alocação do cache de chaves e valores (KV cache). Em agentes autônomos, esse cache armazena todo o histórico da sessão, o que exige gigabytes adicionais de memória logo nos primeiros minutos de navegação contínua. Além disso, a retenção de raciocínio crítico em quantização de 2 bits fora de baterias controladas de benchmark ainda precisa ser validada por testes independentes de longo prazo.