OpenAI compra dezenas de milhares de Macs para treino por reforço; Apple rouba negócio à Nvidia

A OpenAI comprou dezenas de milhares de Mac mini e Mac Studio para aprendizagem por reforço, e a Anthropic também aluga Macs através da AWS para treinar «agentes de utilização de computadores». A memória unificada e a dissipação térmica dos chips da série M da Apple tornam-nos adequados para estas tarefas, e as vendas de Mac aumentaram cerca de 29%. A Apple não planeou ativamente o mercado empresarial, mas o stock está esgotado há meses e os parceiros estão a impulsionar os Macs para mercados empresariais mais avançados.

Soube-se que a OpenAI comprou Macs em massa, dezenas de milhares de cada vez.

Sem querer, esgotou o stock e ainda está a tentar obter mais.

Não querem MacBooks, apenas Mac mini e Mac Studio sem ecrã nem teclado.

Então a questão é: que tipo de tarefa de IA é que as GPUs da Nvidia e as TPUs da Google não conseguem resolver, exigindo o uso de Macs?

Dezenas de milhares de Macs para aprendizagem por reforço, a Anthropic também o fez

Segundo o The Information, a OpenAI comprou dezenas de milhares de Mac mini e Mac Studio especificamente para aprendizagem por reforço.

Não é só a OpenAI: a Anthropic também está a alugar Mac mini através da Amazon Web Services (AWS) para tarefas semelhantes.

Estes Macs são usados para treinar «agentes de utilização de computadores» (computer-use agents), ou seja, sistemas de IA capazes de operar computadores de forma autónoma, realizar tarefas de vários passos como editar e testar código, organizar automaticamente o correio eletrónico e resumir documentos.

Esta tendência reflete-se diretamente nos resultados financeiros da Apple.

No último trimestre, as vendas de Mac cresceram quase 29% em termos homólogos, atingindo 10,3 mil milhões de dólares, superando o crescimento de todas as outras linhas de produtos da Apple, como o iPhone e o iPad. O Mac tornou-se o negócio de crescimento mais rápido da Apple.

A 23 de junho, a sede da Apple, o Apple Park, organizou um evento chamado «Business at the Park». Isto não é comum na história da Apple, que sempre se focou no mercado de consumo e raramente organiza eventos especificamente para clientes empresariais.

Estiveram presentes executivos da Disney e da Ford, o cofundador da Anthropic, Jared Kaplan, e também o CEO cessante da Apple, Tim Cook, e o seu sucessor, John Ternus.

Segundo um participante, a Apple enfatizou repetidamente no evento que o seu hardware é muito adequado para processar tarefas de IA localmente, e o Mac mini foi o centro das atenções.

O treino de IA tem sido dominado há muito tempo pelas GPUs da Nvidia, mas o Mac é adquirido em grande escala neste nicho da aprendizagem por reforço graças à memória unificada.

Nas GPUs da Nvidia, a memória gráfica e a memória do sistema são separadas, e a transferência de dados entre elas cria um gargalo. Os chips da série M da Apple usam um único conjunto de memória partilhada, permitindo que a CPU e a GPU acedam diretamente à mesma memória, o que oferece vantagens de desempenho em cargas de trabalho de IA.

Além disso, ao contrário dos MacBooks finos, o Mac mini e o Mac Studio têm sistemas de arrefecimento dedicados, pelo que não sofrem throttling por sobreaquecimento durante longas execuções de tarefas complexas de IA. Isto é crucial para o treino de aprendizagem por reforço, que pode durar horas ou mesmo dias.

A Apple também está a promover o projeto de software de código aberto EXO Labs, que permite agrupar vários Macs em cluster para executar localmente modelos de IA com biliões de parâmetros.

O novo Mac Studio que a Apple acaba de lançar também destaca a capacidade de clustering: vários Mac Studio podem ser interligados para formar um sistema mais poderoso para executar modelos de ponta.

O momento deste lançamento também é invulgar. A Apple costuma atualizar a linha Mac no final do ano, em outubro ou novembro, mas desta vez antecipou o lançamento para agosto.

A Nvidia está atenta, a Apple responde à pressa

A ascensão do Mac no setor da IA local já chamou a atenção da Nvidia.

Segundo uma fonte que discutiu o cenário competitivo com executivos da Nvidia, a Nvidia considera a Apple o seu maior concorrente no setor da IA local.

No final do ano passado, a Nvidia lançou o DGX Spark, um computador de secretária para IA com um design semelhante ao Mac mini, visando diretamente este mercado.

A Apple enfrenta o problema concreto de a oferta não acompanhar a procura.

A enorme procura de chips de memória por parte dos centros de dados de IA provocou uma escassez histórica em todo o setor, e a Apple não foi exceção.

As versões topo de gama do Mac mini e do Mac Studio, as mais atrativas para os programadores de IA, estão esgotadas há meses.

Todd Dailey, antigo gestor de marketing de produtos de IA empresarial da Apple, revelou que, no último ano, devido à oferta limitada de Macs, algumas empresas começaram a procurar alternativas, sendo o DGX Spark da Nvidia uma opção frequentemente mencionada e atualmente disponível.

Dailey deixou a Apple em abril e é agora consultor independente de IA. Revelou ainda que o sucesso do Mac no mercado empresarial de IA foi totalmente acidental e não resultou de um planeamento ativo da Apple. A Apple não tem uma equipa de engenharia dedicada a clientes empresariais, nem funcionários focados nas relações com programadores.

A última vez que a Apple vendeu um servidor foi o Xserve, descontinuado em 2011. O sistema operativo de servidor baseado em Mac também deixou de ser desenvolvido em 2022.

Mas já há quem tenha farejado a oportunidade.

Peter Voell, antigo funcionário da infraestrutura de computação da OpenAI, fundou a Mount Thor, uma empresa de computação em nuvem baseada em hardware Apple, ainda em modo furtivo. O site oficial descreve o produto como «um ambiente de execução de IA baseado em hardware Apple».

A Apple também aposta em parceiros como a Mount Thor e a webAI para levar o Mac a mercados empresariais mais profundos.

A Apple começou finalmente a construir os seus próprios servidores com chips da Apple. No entanto, estes servidores são apenas para uso interno, destinados ao serviço de Private Cloud Compute, que processa tarefas de IA que excedem a capacidade de processamento do iPhone ou do Mac.

Alguns clientes empresariais perguntaram se a Apple poderia vender o acesso a estes servidores, mas a Apple recusou até ao momento.