SanDisk Sob Fogo Cruzado: Críticas à Comparação de Memória HBF com Dados de HBM Desatualizados

A SanDisk, gigante no mercado de armazenamento, encontra-se no centro de uma polêmica após a divulgação de dados em seu Investor Day. Slides apresentados na ocasião, que comparavam a nova tecnologia de memória High-Bandwidth Flash (HBF) com a High-Bandwidth Memory (HBM), geraram reações negativas na comunidade especializada. As acusações giram em torno de imprecisões técnicas e a omissão de informações consideradas essenciais para a avaliação da HBF.

As comparações apresentadas pela SanDisk foram questionadas por especialistas, que apontam para o uso de dados defasados da HBM e a falta de informações cruciais sobre a HBF. Essa discrepância levanta dúvidas sobre a verdadeira performance e aplicabilidade da nova tecnologia, especialmente no contexto de aplicações de Inteligência Artificial (IA), que demandam alta capacidade e velocidade de processamento.

A controvérsia, conforme informações divulgadas pelo WCCFtech, foca na forma como a SanDisk escolheu apresentar sua nova memória HBF. A ausência de detalhes sobre a resistência de gravação da HBF, um fator determinante para a vida útil de memórias flash, é um dos pontos mais criticados. Além disso, a comparação com versões de HBM que já se mostram ultrapassadas, em vez de tecnologias mais recentes como a HBM4E, alimenta o debate sobre a transparência e a precisão dos dados apresentados pela empresa.

O Que São HBM e HBF, e Por Que a Comparação é Importante?

A memória HBM (High-Bandwidth Memory) é um tipo de DRAM de alta performance, empilhada verticalmente e conectada diretamente à GPU através de Through Silicon Vias (TSVs). Ela é crucial para tarefas que exigem processamento intensivo de dados, como em modelos de IA. A SanDisk, em parceria com a SK hynix, desenvolve a HBF (High-Bandwidth Flash), uma tecnologia que também empilha chips, mas utiliza dies NAND em vez de DRAM. O objetivo da HBF é oferecer uma alternativa de armazenamento com alta densidade e potencial para aplicações futuras de IA, com previsão de lançamento comercial entre 2028 e 2029.

A Polêmica dos Dados Apresentados pela SanDisk

A apresentação da SanDisk fixou a capacidade da memória HBM por GPU em 192 GB, com uma largura de banda de 12,8 TB/s. Contudo, o material omitiu detalhes cruciais sobre a resistência de gravação da HBF. Essa métrica, que indica a durabilidade da memória flash, é fundamental para determinar sua adequação a cargas de trabalho intensivas, especialmente para o armazenamento do cache KV em modelos de IA. A ausência dessa informação é vista como uma omissão grave pela comunidade técnica.

Especialistas apontam que, considerando o lançamento previsto da HBF para 2028 ou 2029, a comparação deveria ter sido feita com a HBM4E de 16Hi, que tende a ser a solução dominante nesse período. A largura de banda da HBM4E de 16Hi é estimada em cerca de três vezes maior que os 12,8 TB/s mencionados pela SanDisk. Além disso, a SanDisk utilizou a quantização BF16 em seus slides, enquanto a maioria dos modelos de IA atuais opera com FP8 ou FP4, o que pode distorcer a percepção de performance.

O Papel do Cache KV e a Limitação da HBM

Em modelos de IA, o cache KV (Key-Value Cache) funciona como a memória de curto prazo, armazenando informações contextuais para agilizar as respostas. A HBM, apesar de sua alta velocidade, possui limitações de espaço físico e capacidade total de armazenamento. A necessidade de acomodar tanto os pesos fixos do modelo quanto o cache KV dinâmico na HBM pode levar à necessidade de aumentar a quantidade de GPUs, elevando significativamente os custos de infraestrutura.

A HBF surge como uma potencial solução para aliviar essa pressão, empilhando dies NAND. Embora a NAND ofereça velocidades de leitura significativamente mais lentas que a DRAM da HBM, o paralelismo da HBF, com o die lógico agendando milhares de leituras simultâneas, busca compensar essa desvantagem. No entanto, as velocidades de gravação e a fragilidade da resistência de gravação da NAND permanecem como desafios inerentes à tecnologia HBF.

Comunidade Técnica Exige Transparência e Dados Precisos

A reação da comunidade especializada foi predominantemente negativa, com a omissão sobre a resistência de gravação sendo considerada um ponto crítico. A percepção geral é que os dados apresentados pela SanDisk criam um cenário distante da realidade técnica esperada para uma tecnologia promissora. A empresa ainda não se pronunciou oficialmente para defender suas escolhas de especificação e dados comparativos, deixando o mercado em expectativa por esclarecimentos técnicos.