Perplexity migra sandboxes de agentes para NVIDIA Vera

Empresa transfere execução de código do Perplexity Computer para chips com núcleos Olympus, apontando atrasos de CPU como o maior freio no ciclo de agentes.

A Perplexity começou a transferir os ambientes de execução do Perplexity Computer para processadores NVIDIA Vera. O CEO da companhia, Aravind Srinivas, anunciou a migração no X, afirmando que controlar diretamente as sandboxes e otimizá-las para novos processadores permite integrar a infraestrutura de agentes na vertical. Srinivas chamou a arquitetura Vera de “muito melhor que x86”. A mudança ataca um gargalo prático em sistemas autônomos: a dependência de processamento sequencial na CPU enquanto aceleradores gráficos caros aguardam o retorno do código.

O gargalo sequencial no ciclo de agentes

Mecanismos convencionais de busca conversacional gastam quase todo o poder computacional na inferência do modelo em GPUs. Agentes autônomos alteram essa rotina. Ao processar tarefas complexas de pesquisa ou programação, o Perplexity Computer não gera apenas texto: o sistema precisa criar ambientes isolados no sistema operacional, executar scripts em Python, manipular arquivos, testar comandos de terminal e avaliar as saídas antes de consultar a IA novamente.

Essas etapas intermediárias rodam de forma sequencial na CPU. Quando o processador demora para inicializar uma sandbox ou processar as respostas de ferramentas, todo o fluxo do agente trava, deixando clusters caros de GPUs ociosos. Srinivas já havia levantado essa questão em discussões técnicas anteriores, apontando que a latência de execução sequencial se tornou o principal fator limitador da velocidade de agentes.

MicroVMs no silício NVIDIA Vera

A infraestrutura envolvida sustenta a plataforma SPACE, camada proprietária de isolamento criada pela Perplexity para rodar código de usuários em micromáquinas virtuais Firecracker. O SPACE divide permissões em três níveis, isola credenciais fora do ambiente executável e gera capturas de estado em tempo real para permitir a duplicação de sessões.

Para acelerar essas microVMs, a Perplexity fechou uma parceria técnica com a NVIDIA para adotar a CPU Vera. Desenvolvido para o ciclo operacional de agentes e cargas de aprendizado por reforço, o chip reúne 88 núcleos customizados Olympus na arquitetura Arm v9.2-A, 176 threads, 1,2 TB/s de largura de banda de memória LPDDR5X e malha de interconexão coerente de 3,4 TB/s.

Segundo dados de testes internos divulgados em conjunto pelas duas empresas, fluxos reais do Perplexity Computer rodaram cerca de 1,5 vez mais rápido no Vera do que no ambiente de referência x86 em produção. A inicialização de sandboxes simultâneas foi até 1,9 vez mais rápida. Como esses números foram fornecidos diretamente pelas duas parceiras comerciais e ainda não contam com medições independentes, o ganho real de desempenho em escala ampla segue sem confirmação de terceiros.

Limites da integração vertical e dúvidas abertas

Embora Srinivas tenha citado integração vertical, a Perplexity não está projetando silício próprio. A empresa assumiu o controle direto da camada de software, virtualização e orquestração de sandboxes com o SPACE, mas continua comprando chips de terceiros fabricados pela NVIDIA.

As companhias também não informaram um cronograma para a conclusão da migração nem disseram que fração dos servidores do Perplexity Computer já opera sobre o novo processador em vez de nós x86. Custos de infraestrutura, termos financeiros do acordo e os provedores de nuvem responsáveis por hospedar as máquinas físicas também não foram divulgados.