2026-11-04 · Fonte：TechRadar
A startup belga promete reutilização exata e criptografada de cache KV para vLLM, SGLang e Llama.cpp — mas LMCache, Nvidia e Phison já têm assento à mesa.
Quatorze vezes mais rápido é o número com que a Corbenic abre a conversa. O software Galahad, da startup belga, transforma o SSD de um servidor em memória de IA para servir grandes modelos de linguagem, e a empresa é franca sobre de onde sua aceleração de 14x realmente vem: não de ler dados mais rápido, mas de ler menos dados.
A própria máxima da Corbenic captura o mecanismo — a GPU nunca lê o mesmo texto duas vezes. O Galahad é construído em torno da reutilização de cache KV: capturar o estado intermediário que um modelo produz ao digerir um prompt, persisti-lo no SSD e recarregá-lo em vez de recalculá-lo. Quando as entradas se repetem ou se sobrepõem, o acelerador dispensa por completo o trabalho redundante. Essa distinção importa para quem avalia cache em camada de SSD, porque a reivindicação de desempenho se apoia em computação evitada, e não em largura de banda de armazenamento superando a DRAM.
O produto promete reutilização exata e criptografada de cache KV em três dos stacks de inferência mais amplamente implantados: vLLM, SGLang e Llama.cpp. A exatidão diz respeito à fidelidade — o estado em cache é reutilizado verbatim, e não aproximado — enquanto a criptografia atende à questão de confidencialidade que surge no momento em que o material do prompt é gravado em armazenamento persistente.
A Corbenic, porém, não é a primeira a chegar à mesa. LMCache, Nvidia e Phison já ocupam a mesa-redonda do offload de cache KV.
A dispersão competitiva é, em si, reveladora. A LMCache aborda o problema pelo lado do software de cache, a Nvidia pela camada de aceleradores, e a Phison pelos controladores de armazenamento — ou seja, a estreante belga enfrenta rivais em potencial posicionados em cada salto entre a GPU e a unidade de disco. Sua diferenciação repousa em combinar reutilização exata com criptografia, aplicada em frameworks open-source que muitos operadores já rodam em produção.
Para os compradores de infraestrutura de IA, o Galahad é um ponto de dados em um reposicionamento mais amplo dos SSDs: de armazenamento massivo para uma camada de memória que molda a economia da inferência. A honestidade da Corbenic sobre a origem de seu número de 14x é um parâmetro útil para toda a categoria. Qualquer operador pesando alegações de fornecedores aqui deveria pressionar com a mesma pergunta — quanto da aceleração vem de cache mais inteligente, e quanto vem do hardware em si?
Tags: Corbenic · Galahad · KV Cache · SSD Storage · vLLM · Nvidia
萬安算交所 AIXX · AIXX · Exchange verificado · Ir ao mercado