OpenAI achète des dizaines de milliers de Mac pour l'apprentissage par renforcement, prenant le travail de Nvidia

OpenAI a acheté des dizaines de milliers de Mac mini et de Mac Studio dédiés à l'apprentissage par renforcement, et Anthropic loue également des Mac via AWS pour entraîner des « agents utilisant l'ordinateur ». La mémoire unifiée et les avantages thermiques des puces M d'Apple les rendent adaptées à ces tâches, et les ventes de Mac ont augmenté de près de 29 %. Apple n'a pas planifié activement le marché des entreprises, mais l'approvisionnement est en rupture depuis des mois, et les partenaires poussent les Mac vers des marchés d'entreprise plus profonds.

OpenAI a été révélé en train d'acheter frénétiquement des Mac, des dizaines de milliers d'unités à la fois.

Ils ont accidentellement épuisé le stock et cherchent par tous les moyens à en obtenir davantage.

Pas de MacBook, uniquement des Mac mini et Mac Studio sans écran ni clavier.

La question se pose : quel type de tâche d'IA les GPU Nvidia et les TPU Google ne peuvent-ils pas gérer, nécessitant des Mac ?

Des dizaines de milliers de Mac pour l'apprentissage par renforcement, Anthropic aussi

Selon The Information, OpenAI a acheté des dizaines de milliers de Mac mini et de Mac Studio, spécifiquement pour l'apprentissage par renforcement.

Et ce n'est pas seulement OpenAI : Anthropic loue également des Mac mini via Amazon Web Services (AWS) pour des tâches similaires.

Ces Mac sont utilisés pour entraîner des « agents utilisant l'ordinateur » (computer-use agent), c'est-à-dire des systèmes d'IA capables d'opérer un ordinateur de manière autonome, d'éditer et tester du code, de trier automatiquement les e-mails, de résumer des documents et d'effectuer d'autres tâches en plusieurs étapes.

Cette tendance se reflète directement dans les résultats financiers d'Apple.

Au cours du dernier trimestre, les ventes de Mac ont augmenté de près de 29 % en glissement annuel, atteignant 10,3 milliards de dollars, dépassant la croissance de tous les autres produits Apple, y compris l'iPhone et l'iPad. Le Mac est devenu l'activité à la croissance la plus rapide d'Apple.

Le 23 juin, Apple a organisé un événement intitulé « Business at the Park » à son siège, Apple Park. C'est inhabituel pour Apple, qui se concentre traditionnellement sur le marché grand public et organise rarement des événements spécifiquement destinés aux entreprises.

Des dirigeants de Disney et de Ford étaient présents, ainsi que Jared Kaplan, cofondateur d'Anthropic. Tim Cook, PDG sortant d'Apple, et John Ternus, son successeur, étaient également là.

Selon un participant, Apple a souligné à plusieurs reprises lors de l'événement que son matériel est très adapté au traitement local des tâches d'IA, et le Mac mini a été le point central de l'événement.

L'entraînement de l'IA a longtemps été dominé par les GPU Nvidia, mais la raison pour laquelle les Mac sont achetés en masse pour l'apprentissage par renforcement est leur mémoire unifiée.

Les GPU Nvidia ont une mémoire vidéo et une mémoire système séparées, ce qui crée des goulots d'étranglement lors du transfert de données entre les deux. Les puces de la série M d'Apple utilisent un pool de mémoire partagé unique, où le CPU et le GPU accèdent directement à la même mémoire, offrant un avantage de performance pour les charges de travail d'IA.

De plus, contrairement aux MacBook fins, les Mac mini et Mac Studio sont équipés de systèmes de refroidissement dédiés, ce qui leur permet de fonctionner pendant de longues périodes sur des tâches d'IA complexes sans ralentissement dû à la surchauffe. C'est crucial pour l'apprentissage par renforcement, qui peut durer des heures, voire des jours.

Apple promeut également le projet de logiciel open source EXO Labs, qui permet de regrouper plusieurs Mac en cluster pour exécuter localement des modèles d'IA de l'ordre de mille milliards de paramètres.

Le nouveau Mac Studio qu'Apple vient de lancer met également l'accent sur les capacités de clustering : plusieurs Mac Studio peuvent être reliés pour former un système plus puissant capable d'exécuter des modèles de pointe.

Le moment de ce lancement est également inhabituel. Apple met généralement à jour sa gamme Mac en octobre ou novembre pour la fin d'année, mais cette fois, cela a été avancé en août.

Nvidia surveille, Apple réagit à la hâte

L'essor des Mac dans l'IA locale a attiré l'attention de Nvidia.

Selon une source proche des discussions sur la concurrence avec des dirigeants de Nvidia, Nvidia considère Apple comme son plus grand concurrent dans le domaine de l'IA locale.

Fin de l'année dernière, Nvidia a lancé le DGX Spark, un ordinateur de bureau IA au design similaire au Mac mini, visant directement ce marché.

Apple, de son côté, est confrontée à des problèmes d'approvisionnement.

La demande massive de puces mémoire par les centres de données d'IA a provoqué une pénurie historique à l'échelle de l'industrie, et Apple n'y a pas échappé.

Les versions haut de gamme du Mac mini et du Mac Studio, les plus attractives pour les développeurs d'IA, sont en rupture de stock depuis des mois.

Todd Dailey, ancien responsable marketing produit IA chez Apple, a révélé qu'au cours de l'année écoulée, en raison des contraintes d'approvisionnement en Mac, certaines entreprises ont commencé à chercher des alternatives, le DGX Spark de Nvidia étant fréquemment mentionné, et il est actuellement disponible.

Dailey a quitté Apple en avril et est désormais consultant indépendant en IA. Il a également révélé que la popularité des Mac sur le marché de l'IA d'entreprise était totalement accidentelle, et non le résultat d'une planification active d'Apple. Apple ne dispose pas d'équipe d'ingénierie dédiée aux clients professionnels, ni d'employés spécialisés dans les relations avec les développeurs.

Le dernier produit serveur vendu par Apple était le Xserve, abandonné en 2011. Le système d'exploitation serveur basé sur Mac a également cessé son développement en 2022.

Cependant, certains ont déjà flairé l'opportunité.

Peter Voell, ancien employé de l'infrastructure de calcul d'OpenAI, a fondé Mount Thor, une société de cloud computing basée sur le matériel Apple, actuellement en mode furtif. Son site web décrit le produit comme un « environnement d'exécution d'IA basé sur le matériel Apple ».

Apple compte également sur des partenaires comme Mount Thor et webAI pour pousser les Mac vers des marchés d'entreprise plus profonds.

Apple a récemment commencé à construire ses propres serveurs utilisant des puces Mac. Cependant, ces serveurs sont uniquement destinés à un usage interne, pour le service Private Cloud Compute, qui traite les tâches d'IA dépassant les capacités de traitement de l'iPhone ou du Mac.

Certains clients professionnels ont demandé si Apple pouvait vendre l'accès à ces serveurs, mais Apple a jusqu'à présent refusé.