OpenAI, pekiştirmeli öğrenme için on binlerce Mac satın aldı; Apple, Nvidia'nın işini kapıyor

OpenAI, pekiştirmeli öğrenmeye odaklanmak için on binlerce Mac mini ve Mac Studio satın aldı; Anthropic de AWS üzerinden Mac mini kiralayarak benzer görevler yapıyor. Apple'ın M serisi çiplerinin birleşik bellek ve soğutma avantajları onları bu tür görevler için uygun kılıyor; Mac satışları yaklaşık %29 arttı. Apple kurumsal pazarı aktif olarak planlamadı ancak tedarik aylardır tükendi ve iş ortakları Mac'i daha derin kurumsal pazarlara taşımak için çalışıyor.

OpenAI'nin çılgınca Mac stokladığı ortaya çıktı; bir seferde on binlerce satın aldı.

Yanlışlıkla stoğu tüketti ve daha fazlasını bulmak için her yolu deniyor.

MacBook dizüstü bilgisayarları istemiyorlar; yalnızca ekranı ve klavyesi olmayan Mac mini ve Mac Studio satın alıyorlar.

O zaman soru şu: Nvidia GPU'larının ve Google TPU'larının üstesinden gelemediği, Mac gerektiren ne tür bir AI işi var?

Pekiştirmeli öğrenme için on binlerce Mac; Anthropic de aynısını yaptı

The Information'a göre OpenAI, özellikle pekiştirmeli öğrenme için on binlerce Mac mini ve Mac Studio satın aldı.

Sadece OpenAI değil; Anthropic de Amazon Web Services (AWS) üzerinden Mac mini kiralayarak benzer görevler yapıyor.

Bu Mac'ler, bilgisayarı otonom olarak çalıştırabilen, kod düzenleme ve test etme, e-postaları otomatik düzenleme, belgeleri özetleme gibi çok adımlı görevleri yerine getirebilen AI sistemleri olan "bilgisayar kullanım ajanları"nı eğitmek için kullanılıyor.

Bu trend doğrudan Apple'ın mali sonuçlarına yansıdı.

Son çeyrekte Mac satışları yaklaşık %29 artarak 10,3 milyar dolara ulaştı; bu büyüme oranı iPhone, iPad ve diğer tüm Apple ürün gruplarını geride bırakarak Mac'i Apple'ın en hızlı büyüyen işi haline getirdi.

23 Haziran'da Apple'ın genel merkezi Apple Park'ta "Business at the Park" adlı bir etkinlik düzenlendi. Bu, Apple tarihinde alışılmadık bir durum; Apple genellikle tüketici pazarına odaklanır ve nadiren kurumsal müşterilere özel etkinlikler düzenler.

Etkinliğe Disney ve Ford yöneticileri, Anthropic kurucu ortağı Jared Kaplan, Apple'ın görevden ayrılmak üzere olan CEO'su Tim Cook ve halefi John Ternus katıldı.

Bir katılımcıya göre Apple, etkinlikte donanımının yerinde AI görevleri için çok uygun olduğunu defalarca vurguladı ve Mac mini etkinliğin odak noktasıydı.

AI eğitimi uzun süredir Nvidia GPU'larının hakimiyetinde, ancak Mac'in pekiştirmeli öğrenme gibi niş bir alanda büyük ölçekte satın alınmasının nedeni birleşik bellek.

Nvidia GPU'larında video belleği ve sistem belleği ayrıdır; veriler aralarında aktarılırken darboğaz oluşur. Apple'ın M serisi çipleri ise tek bir paylaşılan bellek havuzu kullanır; CPU ve GPU aynı belleğe doğrudan erişir, bu da AI iş yüklerinde performans avantajı sağlar.

Ayrıca, ince MacBook'ların aksine Mac mini ve Mac Studio, uzun süreli karmaşık AI görevlerinde aşırı ısınma nedeniyle performans düşüşü yaşamayan özel soğutma sistemlerine sahiptir. Bu, saatlerce hatta günlerce süren pekiştirmeli öğrenme eğitimi için kritik önem taşır.

Apple ayrıca, birden fazla Mac'i kümeleyerek trilyon parametreli AI modellerini yerinde çalıştırmayı sağlayan açık kaynaklı yazılım projesi EXO Labs'ı da tanıtıyor.

Apple'ın yeni piyasaya sürdüğü Mac Studio da kümeleme yeteneğini özellikle vurguluyor; birden fazla Mac Studio birbirine bağlanarak öncü modelleri çalıştırmak için daha güçlü bir sistem oluşturabiliyor.

Bu yeni ürünün piyasaya sürülme zamanı da alışılmadık. Apple genellikle Mac ürün grubunu her yıl Ekim veya Kasım aylarında günceller; bu kez Ağustos ayına çekildi.

Nvidia dikkat kesildi, Apple aceleyle yanıt veriyor

Mac'in yerinde AI alanındaki yükselişi Nvidia'nın dikkatini çekti.

Nvidia yöneticileriyle rekabet durumunu görüşen bir kaynağa göre Nvidia, Apple'ı yerinde AI alanındaki en büyük rakip olarak görüyor.

Geçen yılın sonunda Nvidia, Mac mini'ye benzer tasarıma sahip bir AI masaüstü bilgisayarı olan DGX Spark'ı piyasaya sürerek doğrudan bu pazarı hedefledi.

Apple ise tedarik yetiştirememe sorunuyla karşı karşıya.

AI veri merkezlerinin bellek çiplerine olan devasa talebi, tarihi bir endüstri çapında kıtlığa yol açtı ve Apple da bundan etkilendi.

AI geliştiricileri için en cazip olan üst düzey Mac mini ve Mac Studio modelleri aylardır stokta yok.

Apple'ın eski AI ürünleri kurumsal pazarlama müdürü Todd Dailey, geçtiğimiz yıl Mac tedarikinin kısıtlı olması nedeniyle bazı işletmelerin alternatif arayışına girdiğini ve Nvidia DGX Spark'ın sıkça dile getirilen bir seçenek olduğunu, şu anda stokta bulunduğunu söyledi.

Dailey, bu yıl Nisan ayında Apple'dan ayrıldı ve şu anda bağımsız bir AI danışmanı. Ayrıca Mac'in kurumsal AI pazarındaki popülaritesinin Apple'ın aktif planlaması değil, tamamen tesadüf olduğunu belirtti. Apple'ın kurumsal müşterilere özel bir mühendislik ekibi veya geliştirici ilişkilerine odaklanan çalışanı yok.

Apple en son 2011 yılında üretimi durdurulan Xserve ile sunucu ürünü satmıştı. Mac tabanlı sunucu işletim sistemi de 2022'de geliştirilmeyi bıraktı.

Ancak bazıları fırsatı fark etti.

Eski OpenAI hesaplama altyapısı çalışanı Peter Voell, Apple donanımına dayalı bir bulut bilişim şirketi olan Mount Thor'u kurdu; şirket hâlâ gizli modda ve web sitesi ürünü "Apple donanımına dayalı AI yürütme ortamı" olarak tanımlıyor.

Apple da Mac'i daha derin kurumsal pazarlara taşımak için Mount Thor ve webAI gibi ortaklara umut bağlamış durumda.

Apple nihayet kendi sunucularını Mac çipleriyle inşa etmeye başladı. Ancak bu sunucular yalnızca dahili kullanım için, iPhone veya Mac'in işlem kapasitesini aşan AI görevlerini işlemek üzere Özel Bulut Bilişim (Private Cloud Compute) hizmeti için kullanılıyor.

Bazı kurumsal müşteriler Apple'a bu sunucuların kullanım hakkını satıp satamayacağını sordu, ancak Apple şu ana kadar reddetti.