Chip ASIC personalizado da OpenAI supera o Nvidia Blackwell em apenas 9 meses?

Autor original: Dong Jing

Fonte original: Wallstreetcn

O primeiro chip desenvolvido internamente pela OpenAI, o Jalapeño, irrompeu em cena, revolucionando o panorama existente da indústria de chips de IA a um ritmo vertiginoso — isto não é apenas o lançamento de um produto, mas um sinal: a IA está a remodelar a própria forma como os chips são concebidos.

De acordo com um artigo da Wallstreetcn, a Bloomberg noticiou a 25 de agosto que a OpenAI afirmou que o Jalapeño lidera sobre o GB300 da Nvidia em duas métricas-chave: carga de trabalho de IA processada por unidade de energia e velocidade de resposta. O chip, desenvolvido em colaboração com a Broadcom, foi concebido especificamente para a fase de inferência de IA e deverá entrar em utilização prática já no final deste ano. Richard Ho, responsável pela divisão de chips da OpenAI, afirmou que o Jalapeño oferece um desempenho sólido com um baixo consumo de energia de 700 watts, ajudando a reduzir significativamente os custos de eletricidade dos centros de dados.

De acordo com a empresa de investigação de semicondutores SemiAnalysis, o chip demorou apenas cerca de 16 meses desde o início do design até ao tape-out, tendo o nó crítico de tape-out do empacotamento CoWoS sido concluído em novembro de 2025 — há apenas 9 meses, muito mais curto do que o ciclo típico da indústria de 18 a 36 meses.

Os investigadores da SemiAnalysis visitaram pessoalmente o laboratório da OpenAI e testaram o Jalapeño utilizando a sua suíte de benchmarks proprietária InferenceX. A conclusão foi direta: o chip superou todos os chips da Nvidia, AMD e Google que tinham testado anteriormente em desempenho por watt (perf/W).

Ainda mais digno de nota é o facto de este resultado ter sido alcançado sem que o Jalapeño ativasse a descodificação especulativa ou a desagregação prefill-decode (PDD), enquanto os outros chips comparados estavam todos a executar as suas configurações ideais.

Não admira que o renomado analista de semicondutores Dylan Patel tenha afirmado sem rodeios: "Não foi apenas o Blackwell que foi destronado — até o chip Rubin da Nvidia foi ultrapassado"!

Os analistas consideram que este resultado representa um desafio direto à posição de mercado da Nvidia e obriga o mercado a reavaliar o panorama competitivo dos chips de IA.

Dados de benchmark: Jalapeño esmaga o Blackwell em múltiplas métricas-chave

Os resultados dos testes da SemiAnalysis mostram que a vantagem do Jalapeño em eficiência de inferência é bastante significativa.

No modelo GPT-OSS 120B, o Jalapeño produz aproximadamente 1.459 tokens por segundo, enquanto o GB200 da Nvidia atinge apenas 535. Em termos de latência de ponta a ponta, o Jalapeño conclui uma tarefa em apenas 1,65 segundos, enquanto o GB300 demora quase 6 segundos — uma diferença de 3,6 vezes. Em cenários de alta interatividade, quando o GB300 é levado à sua velocidade de descodificação mais rápida (169 tokens por segundo), o débito do Jalapeño é 104,3 vezes superior.

Em tokens por megawatt por segundo — uma métrica central para a eficiência energética dos centros de dados — o Jalapeño atinge aproximadamente 53 milhões de tokens/MW/s no modelo GPT-OSS, enquanto o GB200 NVL72 atinge apenas cerca de 10 milhões.

A SemiAnalysis salienta que esta métrica é essencialmente equivalente aos tokens produzidos por joule, determinando diretamente o teto de receita de um centro de dados — uma vantagem particularmente crítica numa era em que a capacidade de computação é limitada pela eletricidade.

Do ponto de vista do custo ao nível do sistema, depois de a SemiAnalysis ter contabilizado a alimentação, o arrefecimento e a rede, o custo total de propriedade (TCO) por chip por hora do Jalapeño é de aproximadamente 1,56 dólares, quase a par dos 1,55 dólares do H100, enquanto o Vera Rubin da Nvidia atinge os 3,61 dólares.

É de notar que a SemiAnalysis também levantou várias ressalvas importantes.

Em primeiro lugar, os modelos utilizados nos testes não são os mais avançados atualmente disponíveis. A Nvidia e a AMD publicaram resultados baseados na suíte AgentX em modelos de maior escala (como o DeepSeek V4 Pro e o Kimi K3), enquanto o Jalapeño ainda não concluiu os testes AgentX — uma suíte que reflete melhor o desempenho em cenários reais de produção com cargas de trabalho multi-turno e de contexto longo.

Em segundo lugar, uma comparação mais justa seria com o Vera Rubin da Nvidia, que também utiliza HBM4, em vez do Blackwell. O desempenho por watt do Vera Rubin é cerca de 5,4 vezes o do GB200 NVL72 e, em comparação com o Jalapeño, os dois são quase iguais no custo total de propriedade (TCO) por token.

Em terceiro lugar, o Jalapeño ainda está na fase de amostra de engenharia, prevendo-se que a produção em massa aumente gradualmente apenas em 2027.

Chips concebidos por IA: o efeito volante do GPT-Astra e do Codex

A principal razão pela qual o Jalapeño foi desenvolvido a uma velocidade tão espantosa é o profundo envolvimento de ferramentas de IA. De acordo com a SemiAnalysis, a OpenAI utilizou extensivamente modelos internos de IA no processo de design do chip, incluindo o muito aguardado GPT-Astra.

O utilizador da plataforma social X, Andrew Curran, citando informações da OpenAI, salientou que o GPT-Astra esteve profundamente envolvido em toda a I&D do Jalapeño:

"A equipa utilizou o Codex e o GPT-Astra para otimizar três modelos de código aberto que não estavam originalmente no plano de produção em massa do Jalapeño para alto desempenho no espaço de dois meses."

Isto significa que a IA não está apenas a acelerar o design de chips em si, mas também a expandir rapidamente a gama de modelos que o chip pode suportar.

Os dados da SemiAnalysis quantificam ainda mais esta contribuição:

O design assistido por IA reduziu a área da unidade SIMD em 8% e a área do motor de matrizes em 10%, superando também a versão inicial em termos de temporização e consumo de energia.

Ao nível do software, a OpenAI utilizou uma versão interna estendida do Codex para escrever os kernels do Jalapeño, com algum código de kernel a atingir cerca de 3.000 linhas. Nos mecanismos de atenção e módulos MoE mais críticos para o desempenho, o código gerado por IA foi 1,5 a 1,8 vezes mais rápido do que as implementações dos melhores engenheiros humanos.

A avaliação da SemiAnalysis é incisiva: os modelos da OpenAI executados em GPUs da Nvidia (como o GPT-5.6 Sol) estão a ser utilizados para conceber um chip que representa uma ameaça real ao fosso da CUDA — "as próprias GPUs da Nvidia estão a criar em tempo real o seu potencial sucessor".

Análise da arquitetura: porque é que o "uso geral" é mais rápido?

O mundo exterior assumia geralmente que o Jalapeño é um chip profundamente personalizado para os modelos da própria OpenAI, mas a conclusão da SemiAnalysis é o oposto: o Jalapeño é um chip de uso geral para inferência de IA, capaz de executar vários modelos e cargas de trabalho, incluindo até o jogo Doom portado com o Codex.

Ao nível da arquitetura, a filosofia central de design do Jalapeño é "eliminar a latência fixa". Ao contrário das GPUs que dependem de hierarquias de memória complexas, o Jalapeño liga diretamente os núcleos de computação a fatias de HBM, com os núcleos sincronizados através de uma rede de agregação de alta largura de banda dedicada, reduzindo significativamente a latência de acesso à memória.

Além disso, o Jalapeño utiliza núcleos de execução fora de ordem (OoO) emparelhados com cache L1, em vez dos scratchpads geridos por software comummente utilizados noutros aceleradores, permitindo aproximar-se dos picos teóricos de hardware em cenários de pequenos lotes e baixa latência.

Em termos de largura de banda de memória, o Jalapeño utiliza HBM4, alcançando 15,4 TB/s de largura de banda de memória por pacote, com uma largura de banda HBM por watt de 22, em comparação com 11,1 do Rubin da Nvidia e meros 5,71 do GB300.

A SemiAnalysis observa que a velocidade dos pinos HBM4 do Jalapeño atinge 10 Gbps, ligeiramente superior aos 9,6 Gbps do Rubin da Nvidia, e o fornecedor de HBM pode ser a Samsung.

Vale a pena mencionar que o Jalapeño optou por não implementar a desagregação prefill-decode (PDD). A SemiAnalysis forneceu uma explicação detalhada:

Em ambientes de produção reais, parâmetros como o rácio entrada-saída, a concorrência e a taxa de acertos da cache mudam continuamente. O agrupamento fixo leva a uma menor utilização global, enquanto um conjunto de recursos homogéneo pode responder com flexibilidade às mudanças de tráfego e alocar dinamicamente entre pedidos sensíveis à latência e processamento em lote de alto débito.

Fosso da CUDA: já se veem fissuras?

O relatório da SemiAnalysis faz um julgamento de peso: o fosso da CUDA pode já estar morto.

A base reside na comparação da velocidade de aceleração do software. O tape-out CoWoS do Rubin da Nvidia foi concluído um mês antes do do Jalapeño, mas, até agora, os únicos dados de benchmark públicos do Rubin provêm das amostras de engenharia da CoreWeave. A Nvidia não abriu os seus laboratórios a terceiros para testes gratuitos como a OpenAI fez. A SemiAnalysis considera que isto reflete não uma lacuna de hardware, mas uma lacuna de maturidade de software.

Construir uma pilha de software de raiz permitiu à OpenAI livrar-se da bagagem histórica e tomar decisões arquitetónicas mais limpas. A OpenAI utiliza a sua linguagem de programação de kernels proprietária Gluon (baseada em Triton) e um motor de inferência interno chamado "Teacup", e aproveita o Codex para otimizar rapidamente os kernels. A SemiAnalysis observou que em menos de duas semanas, o débito do Jalapeño a velocidades de interação específicas melhorou mais de 2 vezes; em 8 dias, a equipa escalou o paralelismo de tensores de TP8 para TP32, conseguindo uma implementação de rack completo em vários racks.

No entanto, a SemiAnalysis também salienta claramente que os testes atuais cobrem apenas a carga de trabalho relativamente simples 8k1k e ainda não concluíram os testes AgentX de contexto longo multi-turno. Sob cargas de trabalho de agente mais complexas, o desempenho de componentes como routers e caches de prefixo tornar-se-ão novos desafios.

Próximos passos: B0 já está na fábrica, roteiro de 10 GW em desenvolvimento

A história do Jalapeño está longe de terminar.

De acordo com a SemiAnalysis, todas as amostras testadas publicamente são do stepping A0, enquanto o stepping B0 já entrou na fábrica e espera-se que melhore o desempenho por watt em cerca de 25% em relação ao A0 — o die de computação único do B0 fornecerá 13,4 PFLOPs de computação MXFP4 com TDP mantido em 700 W.

Ao nível do sistema, a OpenAI colaborou com a Celestica para conceber uma solução de rack completa: cada armário ASIC contém 128 chips Jalapeño, com um consumo total de energia do sistema de dois armários de cerca de 160 kW, comparável ao armário duplo largo GB300 da Nvidia.

Para implementação em grande escala, um único domínio de rede de expansão pode ligar até 2.048 XPUs Jalapeño em 16 racks. Sobre a produção em massa, a SemiAnalysis espera um aumento gradual em 2027, com o próximo marco a ser a escala de implementação de 100 MW.

O quadro estratégico mais amplo é que a OpenAI e a Broadcom assinaram um acordo de cooperação para aceleradores personalizados de 10 GW, uma escala aproximadamente equivalente à produção total de dez unidades nucleares.

O artigo da Wallstreetcn escreve que Richard Ho, responsável pela divisão de chips da OpenAI, afirmou que a empresa atingiu um nível de potência e custo que pode efetivamente reduzir os custos de infraestrutura, e "este é apenas o primeiro passo". Sublinhou também que a Nvidia continua a ser um parceiro importante, e a procura de capacidade de computação da OpenAI é enorme, pelo que não abandonará os fornecedores existentes a curto prazo.

Os analistas salientam que o significado do Jalapeño pode não residir em quantos chips da Nvidia pode substituir hoje, mas em provar algo anteriormente amplamente duvidado: uma empresa de IA, utilizando ferramentas de IA, em tempo recorde, construiu um chip verdadeiramente competitivo. Este volante começou a girar.