Perplexity lança pplx-embed-v2-context-9b-preview
A Perplexity lançou o pplx-embed-v2-context-9b-preview em 30/09/2026. Os pesos estão no Hugging Face; os rankings SOTA são da própria empresa.
O preview sai com pesos no Hugging Face. Os rankings de SOTA são da própria empresa.
Em 30 de setembro de 2026 a Perplexity anunciou o pplx-embed-v2-context-9b-preview. Cada pedaço de um documento longo (chunk) vira um vetor com o texto inteiro à vista, num único passe. Isso importa para quem usa RAG (retrieval-augmented generation: o sistema busca trechos e só então responde) em PDF e contrato: o pedaço sozinho costuma perder de qual cláusula, ano ou anexo veio.
O anúncio está no blog Contextual embedding beyond the gold passage, no perfil @perplexity_ai no X e nos pesos perplexity-ai/pplx-embed-v2-context-9b-preview no Hugging Face. A Perplexity vende busca, API e embeddings. O context-bench do post é privado do turbopuffer, um banco de vetores citado como parceiro na avaliação, não no treino dos pesos.
Primeiro: o que é um embedding contextual
Embedding é um jeito de transformar texto em lista de números, para o computador achar o que se parece com o quê. Em RAG, um PDF longo é fatiado. Se o pedaço é pequeno demais, some o contexto.
O embedding contextual tenta ficar no meio: um recorte de jornal que ainda carrega o título da matéria. Na prática, o modelo lê o documento uma vez e faz a média (pooling) dos números de cada chunk. A analogia deixa de valer quando o treino ensina o modelo a puxar só o gold chunk, o trecho-resposta, e trata o resto, inclusive evidência de apoio, como negativo.
O que o pplx-embed-v2-context-9b-preview colocou no ar
Segundo o blog, na hora de usar sai um embedding por chunk, sem compressor nem reranking extra. O compressor query-aware da Perplexity, descrito em 14 de maio de 2026, entra só no treino, como professor. A empresa parte de um ColBERT interno (um buscador que compara consulta e documento token a token) que chama de 9B parâmetros. O card do Hugging Face lista “Model size 8B params”. A contagem exata de parâmetros é RUMOR.
Há Matryoshka em 1024 e 2048 dimensões (o vetor maior contém o menor), treino ciente de quantização int8 e, nas avaliações da empresa, documentos de até 32.768 tokens num passe. É preview, sem garantia de compatibilidade, e a API da Perplexity para este modelo não saiu neste anúncio. Este não é o pplx-embed-v2-late, modelo multimodal anunciado em 7 de outubro de 2026.
Os números, segundo a Perplexity
A empresa afirma SOTA no ConTEB, benchmark público de embeddings contextuais da Illuin, e no context-bench privado do turbopuffer (2.099 consultas, 38.894 documentos, 2.458.072 chunks, 21 domínios). Ranking auditado por terceiro e números publicados pelo turbopuffer: RUMOR. A Perplexity diz ter feito submissão cega; o site do turbopuffer não publica o bench.
No relato da Figura 1 do blog, em K=10 o preview teria 45,5% de answer recall, 40,6% de evidence recall e 31,1% de all-evidence, e +14,4 pontos percentuais em answer e +5,0 em evidence contra o voyage-context-4 da Voyage AI (junho de 2026). Document@1: 15,2%. Document@10: 61,6%. No thread, o pplx-embed-context-v1 4B fica um pouco à frente em Document@3 e Document@5.
No ConTEB, a Perplexity diz ter a maior média nDCG@10 (qualidade do ranking nos 10 primeiros resultados) entre os modelos do gráfico, sem o valor da média no texto e sem ganhar todas as tarefas. O v1 4B vai melhor em NarrativeQA. O Nemotron-3-Embed-8B-BF16 da NVIDIA, não contextual, vai melhor em COVID-QA.
A comparação de armazenamento mistura formatos: 1 KB por vetor (1024 dimensões, int8) contra 8 KB do voyage-context-4 (2048 dimensões, float32). A conta 1024 × 1 byte = 1 KB e 2048 × 4 bytes = 8 KB fecha; a manchete de cerca de 8 vezes menos compara o menor int8 com o maior float32 do rival.
Limites e o que ainda não sabemos
Nas suítes internas Q2C/Q2D, a Perplexity diz liderar a média de chunk retrieval (legal, technical, health). Voyage-context-4 fica à frente em finance e multilingual; Nemotron-3-8B, em conversation. Em document retrieval a média fica um pouco abaixo do Voyage. Esta redação não mediu latência, VRAM nem qualidade fora desses benches. O MarkTechPost de 30 de setembro de 2026 copia os números do blog; não é medição independente.
Serve para indexar contratos quase iguais ou filings longos, se você puder rodar os pesos. Não serve como API da casa: o teste passa pelo Hugging Face, com transformers 5.4.0 ou mais novo e trust_remote_code=True.
O context-bench continua sem reprodução pública. A contagem 9B versus cerca de 8B não está resolvida. A API não tem data. O que dá para fazer agora é baixar o preview e conferir nos seus documentos, sem tratar SOTA como fato auditado.
Fontes
Oficial
- Perplexity, Contextual embedding beyond the gold passage, 30/09/2026
- @perplexity_ai no X
- Hugging Face, pplx-embed-v2-context-9b-preview
- Perplexity, compressor query-aware, 14/05/2026
- Perplexity, multimodal embeddings beyond a single vector, 07/10/2026
Benchmarks e rivais
- ConTEB, Illuin (GitHub)
- turbopuffer
- Voyage AI, Voyage Context 4, 29/06/2026
- Hugging Face, NVIDIA Nemotron-3-Embed-8B-BF16
- Hugging Face, pplx-embed-context-v1-4b
Imprensa