OpenAI kauft Zehntausende Macs für Reinforcement Learning – Apple übernimmt Nvidias Aufgabe

OpenAI hat Zehntausende Mac mini und Mac Studio speziell für Reinforcement Learning gekauft, und auch Anthropic mietet über AWS Macs, um „Computer-Use-Agenten“ zu trainieren. Apples M-Chips bieten mit Unified Memory und Kühlung Vorteile für solche Aufgaben, und der Mac-Umsatz stieg um fast 29 %. Apple hat den Unternehmensmarkt nicht aktiv geplant, aber die Versorgung ist seit Monaten unterbrochen, und Partner drängen Macs in tiefere Unternehmensmärkte.

Es wurde bekannt, dass OpenAI Macs in großen Mengen aufkauft – Zehntausende auf einmal.

Aus Versehen wurden die Bestände aufgebraucht, und man versucht mit allen Mitteln, noch mehr zu bekommen.

Man will keine MacBook-Laptops, sondern kauft ausschließlich Mac mini und Mac Studio ohne Bildschirm und Tastatur.

Da stellt sich die Frage: Welche Art von KI-Aufgaben können Nvidia-GPUs und Google-TPUs nicht bewältigen, sodass man auf Macs zurückgreifen muss?

Zehntausende Macs für Reinforcement Learning – auch Anthropic macht mit

Laut The Information hat OpenAI Zehntausende Mac mini und Mac Studio speziell für Reinforcement Learning gekauft.

Nicht nur OpenAI: Auch Anthropic mietet über Amazon Web Services (AWS) Mac mini für ähnliche Aufgaben.

Diese Macs werden verwendet, um „Computer-Use-Agenten“ zu trainieren – KI-Systeme, die Computer autonom bedienen und mehrstufige Aufgaben wie das Bearbeiten von Testcode, automatisches Aufräumen des Postfachs und Zusammenfassen von Dokumenten ausführen können.

Dieser Boom spiegelt sich direkt in Apples Finanzbericht wider.

Im letzten Quartal stieg der Mac-Umsatz im Jahresvergleich um fast 29 % auf 10,3 Milliarden US-Dollar und übertraf damit das Wachstum aller anderen Produktlinien von Apple wie iPhone und iPad. Der Mac wurde zum am schnellsten wachsenden Geschäft von Apple.

Am 23. Juni veranstaltete Apple im Apple Park eine Veranstaltung namens „Business at the Park“. Das ist in Apples Geschichte ungewöhnlich, da sich Apple traditionell auf den Verbrauchermarkt konzentriert und nur selten spezielle Veranstaltungen für Unternehmenskunden abhält.

An der Veranstaltung nahmen Führungskräfte von Disney und Ford teil, ebenso wie Jared Kaplan, Mitbegründer von Anthropic, sowie Apples scheidender CEO Tim Cook und sein designierter Nachfolger John Ternus.

Laut einem Teilnehmer betonte Apple bei der Veranstaltung wiederholt, dass seine Hardware sehr gut für die lokale Verarbeitung von KI-Aufgaben geeignet sei, und der Mac mini stand im Mittelpunkt.

Das KI-Training wird seit langem von Nvidia-GPUs dominiert, aber dass Macs in diesem Nischenbereich des Reinforcement Learning in großem Umfang beschafft werden, liegt am Unified Memory.

Bei Nvidia-GPUs sind Grafikspeicher und Systemspeicher getrennt, und der Datentransfer zwischen ihnen verursacht Engpässe. Apples M-Chips hingegen verwenden einen einzigen gemeinsamen Speicherpool, auf den CPU und GPU direkt zugreifen, was bei KI-Workloads Leistungsvorteile bietet.

Im Gegensatz zu den dünnen MacBooks verfügen Mac mini und Mac Studio außerdem über dedizierte Kühlsysteme, sodass sie bei langen, komplexen KI-Aufgaben nicht wegen Überhitzung heruntertakten. Das ist für Reinforcement-Learning-Trainings, die Stunden oder sogar Tage dauern, entscheidend.

Apple bewirbt außerdem das Open-Source-Softwareprojekt EXO Labs, mit dem mehrere Macs zu einem Cluster verbunden werden können, um KI-Modelle mit Billionen Parametern lokal auszuführen.

Der neu vorgestellte Mac Studio betont ebenfalls die Cluster-Fähigkeit: Mehrere Mac Studios können zu einem leistungsstärkeren System zusammengeschlossen werden, um modernste Modelle auszuführen.

Auch der Zeitpunkt dieser Produktvorstellung ist ungewöhnlich. Apple aktualisiert die Mac-Produktlinie normalerweise im Oktober oder November zum Jahresende, diesmal wurde sie auf August vorgezogen.

Nvidia hat es bemerkt, Apple reagiert hastig

Der Aufstieg der Macs im Bereich der lokalen KI hat Nvidias Aufmerksamkeit erregt.

Laut einer mit Nvidia-Führungskräften vertrauten Person betrachtet Nvidia Apple als größten Konkurrenten im Bereich der lokalen KI.

Ende letzten Jahres brachte Nvidia den DGX Spark auf den Markt, einen KI-Desktop-Computer, der im Design dem Mac mini ähnelt und direkt auf diesen Markt abzielt.

Apple steht vor dem realen Problem, dass die Lieferungen nicht hinterherkommen.

Die enorme Nachfrage nach Speicherchips in KI-Rechenzentren hat zu einem historischen branchenweiten Mangel geführt, von dem auch Apple betroffen ist.

Die für KI-Entwickler attraktivsten High-End-Versionen von Mac mini und Mac Studio sind seit Monaten ausverkauft.

Todd Dailey, ehemaliger Enterprise-Marketing-Manager für KI-Produkte bei Apple, verriet, dass einige Unternehmen im vergangenen Jahr aufgrund der eingeschränkten Mac-Verfügbarkeit nach Alternativen gesucht haben. Der Nvidia DGX Spark sei eine häufig genannte Option und derzeit auf Lager.

Dailey verließ Apple im April und ist jetzt unabhängiger KI-Berater. Er verriet außerdem, dass der Boom der Macs im Unternehmens-KI-Markt völlig unbeabsichtigt war und nicht auf Apples aktiver Planung beruhte. Apple habe kein spezielles Engineering-Team für Unternehmenskunden und keine Mitarbeiter, die sich auf Entwicklerbeziehungen konzentrieren.

Das letzte Mal, dass Apple ein Serverprodukt verkaufte, war der Xserve, der 2011 eingestellt wurde. Auch das auf Macs basierende Server-Betriebssystem wurde 2022 nicht mehr weiterentwickelt.

Doch einige haben die Chance bereits erkannt.

Peter Voell, ehemaliger Mitarbeiter im Bereich Computing-Infrastruktur bei OpenAI, gründete Mount Thor, ein Cloud-Computing-Unternehmen auf Basis von Apple-Hardware, das sich noch im Stealth-Modus befindet. Die Website beschreibt das Produkt als „KI-Ausführungsumgebung auf Apple-Hardware“.

Apple setzt auch auf Partner wie Mount Thor und webAI, um Macs in tiefere Unternehmensmärkte zu bringen.

Apple hat kürzlich endlich damit begonnen, eigene Server mit Mac-Chips zu bauen. Diese Server sind jedoch nur für den internen Gebrauch bestimmt, für den Dienst „Private Cloud Compute“, der KI-Aufgaben verarbeitet, die die Fähigkeiten von iPhone oder Mac übersteigen.

Einige Unternehmenskunden haben angefragt, ob Apple Nutzungsrechte an diesen Servern verkaufen könne, aber Apple hat dies bisher abgelehnt.