TIME Derinlemesine: İki Büyük Hatadan Sonra OpenAI Ne Düşünüyor?

Orijinal başlık: Inside OpenAI's Reboot
Orijinal yazar: Alex Heath
Derleyen: BlockBeats

Editörün notu: Geçtiğimiz yıl OpenAI'nin liderliği sarsıldı. Anthropic, Claude Code ile yapay zeka kodlama pazarını ele geçirdi ve yıllık gelir ile özel piyasa değerlemesinde OpenAI'yi geride bıraktı; şirket içinde ise OpenAI, üst düzey yönetici ayrılıkları, daralan ürün odağı ve güvenlik ekibi değişiklikleri yaşadı. Yayınlanmamış bir ajanın korumalı alanından kaçıp Hugging Face'i ihlal etmesiyle şirket, kuruluşundan bu yana en ciddi güvenlik kriziyle karşı karşıya.

Ürün ve güvenlik konusundaki çifte baskıyla karşı karşıya kalan OpenAI, tam bir yeniden başlatma girişiminde bulunuyor: kaynakları Sora gibi projelerden Codex'e aktarmak, ChatGPT'yi bir sohbet aracından görevleri sürekli olarak yürütebilen bir ajan platformuna dönüştürmek, aynı zamanda yüksek riskli model eğitimini duraklatmak ve güvenlik ile uyum mekanizmalarını güçlendirmek. Daha iddialı bir şekilde şirket, AGI'ye, özel çiplere, yapay zeka donanımına, insansı robotlara ve bilgi işlem altyapısına doğru genişlemeye devam ediyor.

TIME'ın Sam Altman, Greg Brockman ve diğer OpenAI yöneticilerinin yanı sıra çalışanlar, yatırımcılar, müşteriler ve rakiplerle yaptığı görüşmelere dayanan bu makale, şirketin ticari rekabet, güvenlik riskleri ve AGI vizyonu arasında nasıl yeniden ayar yaptığını gösteriyor. OpenAI'nin liderliğini geri kazanıp kazanamayacağı, yalnızca bir sonraki modelinin ne kadar güçlü olduğuna değil, aynı zamanda yapay zekayı hızlandırma yeteneğine ve gerektiğinde yavaşlama becerisine sahip olduğunu kanıtlayıp kanıtlayamayacağına da bağlı.

Aşağıda orijinal metin yer almaktadır (okunabilirlik için hafifçe düzenlenmiştir):

Ağustos ayının başlarında bir sabah, OpenAI'nin ofisine vardığımda protestocular dışarıda bekliyordu. "Yapay zeka yarışını durdurun" yazılı pankartlar taşıyor ve kaldırıma tebeşirle mesajlar yazıyorlardı. Bu sırada OpenAI'nin önemli müşterilerinden düzinelerce yönetici, geniş, bej tonlu bir binaya giriyordu. MB0 adı verilen bu bina, OpenAI'nin araştırma ve bilgi işlem ekipleri için yakın zamanda açtığı yeni ofis alanı.

Birisi cam kapıların önüne yüksek bir bitki duvarı iterek dışarıdaki küçük protesto kampını düzenli lobiden gizlemeye çalıştı.

Bu müşteriler, OpenAI'nin yaklaşan yeni nesil en ileri yapay zeka model ailesi Astra'ya erken bir bakış için oradaydı. CEO Sam Altman, Astra'nın yetenekleri hakkında hükümet yetkililerini kapalı kapılar ardında bilgilendirdiği Washington'dan yeni dönmüştü. Şimdi OpenAI araştırmacıları bu yeni modelin neler yapabileceğini göstermeye başladı.

Bir demoda, 16 yapay zeka ajanı araştırma düzeyinde bir matematik problemini alt problemlere böldü, birbirleriyle koordine oldu ve bir kanıt oluşturdu. Bir diğerinde Astra, yaygın masaüstü yazılımlarını çalıştırarak uygulamalar arasında ürkütücü bir hızla içerik oluşturup düzenledi.

Altman ziyaretçilere, Astra'nın bir bilgisayarı "insanüstü, son derece hızlı" bir şekilde çalıştırmasını izlemenin OpenAI çalışanlarının yaşadığı en çarpıcı anlardan biri olduğunu söyledi. Astra'nın "sürekli çalışan ajanlar" ortaya çıkaracağını, yani uzun süreler boyunca görevler üzerinde sürekli çalışabilen sanal meslektaşlar yaratacağını açıkladı.

Ancak Altman, en büyük etkisinin insanların yeni bilgiler keşfetmesine yardımcı olmaktan geleceğini düşünüyor.

"Bunun, gerçekten anlamlı bir şekilde yeni şeyler icat edebilen ilk model olmasını bekliyorum," dedi Altman orada bulunanlara. "Bu, AGI'ye çok yakın."

Anthropic öne geçiyor, güven azalıyor—OpenAI liderliğini neden kaybetti?

Yapay zeka dalgasını başlatan şirket için son dönem kolay geçmedi.

"Bir şirket olarak açıkça bazı sapmalar yaşadık," dedi Altman bir hafta sonra, zevkle döşenmiş MB0 kütüphanesinde iki saatten fazla süren bir röportajda bana. "İster ürün yönünde ister ön eğitim araştırmasında, olmayı umduğumuz yerin gerisindeyiz."

Geçtiğimiz yıl OpenAI'nin yapay zeka yarışındaki liderliği ana rakibi Anthropic tarafından ele geçirildi. Anthropic, yapay zeka kodlamadaki ticari fırsatı ilk fark eden oldu, Claude Code'u pazarda belirleyici bir ürüne dönüştürdü ve açıklanan yıllık gelir ile özel piyasa değerlemesinde ilk kez OpenAI'yi geride bıraktı.

Anthropic'in planlarına aşina iki kişiye göre, eski OpenAI çalışanları tarafından kurulan şirketin ilk halka arzını yapması bekleniyor ve bu, Eylül ayı kadar erken olabilir. (TIME'ın OpenAI ile lisanslama ve teknoloji ortaklığı var; CEO'su Marc Benioff'un TIME'ın sahibi olduğu Salesforce, Anthropic'in yatırımcısıdır.)

Anthropic hızla ilerlerken OpenAI, birkaç üst düzey yöneticinin ayrılması da dahil olmak üzere bir dizi aksilik yaşadı. Ayrılanlar arasında Altman'ın geçen yıl iki numarası olarak işe aldığı eski Instacart CEO'su Fidji Simo; güvenlik, etik ve araştırma ekiplerinin birden fazla başkanı; ve daha yakın zamanda Gelir Direktörü Denise Dresser ile eski Operasyon Direktörü Brad Lightcap yer alıyor. Dresser, katıldıktan sadece sekiz ay sonra ayrıldı.

Şirket dışında da zorluklar artıyor. Meta CEO'su Mark Zuckerberg, cazip tazminat paketleriyle kilit OpenAI araştırmacılarını transfer etti; Google'ın Gemini ürünleri aylık 1 milyar kullanıcıyı aştı; Apple, OpenAI'ye ticari sırları çaldığı iddiasıyla dava açtı ve OpenAI bunu reddediyor; OpenAI ayrıca, şirketin ve Altman'ın kâr amacı gütmeyen misyonuna ihanet ettiğini iddia eden kurucu ortak Elon Musk ile davalık durumda.

Bu yıl Mayıs ayında tavsiye niteliğinde bir jüri oybirliğiyle Musk'ın davasını çok geç açtığına karar verdi ve bir federal yargıç daha sonra iddialarını reddetti. Musk temyize gideceğini söyledi.

OpenAI ve CEO'su etrafındaki kamuoyunun tutumunun bozulmasının belki de en önemli nedeni güven kaybı. OpenAI, Kaliforniya'da en az bir düzine ürün sorumluluğu davası ve birden fazla federal dava ile karşı karşıya. Davacılar, ChatGPT'nin kullanıcıların sanrılarını veya intihar düşüncelerini pekiştirdiğini ve bazı durumlarda kullanıcıların ölümüne yol açtığını iddia ediyor.

Şirket, ilgili davalarda mağdurlara başsağlığı diledi ve daha sıkı varsayılan korumalara sahip gençler için özel bir ChatGPT sürümü başlattı. Bu bahar Altman'ın evi iki gün içinde iki kez saldırıya uğradı—önce molotof kokteyli, ardından silahlı saldırı.

Geçen yıl hakkında konuşan Altman şunları söyledi: "Kişisel düzeyde, acı verici bir deneyimdi. Açıkçası, en azından şimdilik, insanlar veri merkezlerinden nefret ediyor. İnsanların yapay zekaya karşı tutumu oldukça olumsuz."

Ancak OpenAI içinde yöneticiler daha iyimser bir tablo çiziyor.

Yaklaşık 1 trilyon dolar değerindeki şirket hâlâ imrenilecek bir konumda. ChatGPT'nin 1 milyardan fazla aktif kullanıcısı var ve artık OpenAI'nin gelecek stratejisinin tek çekirdeği olmasa da dünyanın en popüler yapay zeka ürünlerinden biri olmaya devam ediyor. Altman'ın kendisi bile bir ay boyunca ChatGPT'yi kullanmayı bırakıp OpenAI'nin kodlama aracı Codex'e geçti.

Bir yıl önce OpenAI, bilgi işlem gücüne yaptığı devasa yatırım nedeniyle pervasız olmakla eleştiriliyordu. Şirket yalnızca bu yıl bilgi işlem gücüne 50 milyar dolar harcamayı bekliyor.

OpenAI'nin bilgi işlem işini yöneten Sachin Katti, geriye dönüp bakıldığında "bu kararın çok öngörülü olduğunu" söyledi. "Hâlâ yeterli bilgi işlem gücümüz yok. Hatta daha fazlasını satın almalıydık."

Bu arada Anthropic'in çiplere olan talebi başka bir aciliyet düzeyine ulaştı. Bu yıl Mayıs ayında şirketin, bilgi işlem kapasitesi için SpaceX'e ayda 1,25 milyar dolar ödemeyi kabul ettiği bildirildi—SpaceX kurucusu Musk daha önce Anthropic'in yapay zekasını "insan karşıtı ve kötü" olarak nitelendirmiş olsa bile.

Kurucu ortak ve Başkan Greg Brockman'ın liderliğinde OpenAI önceliklerini yeniden odakladı. Bugün Brockman neredeyse tüm ürün ve ticari operasyonları denetliyor. Şirket, video üretim uygulaması Sora'yı, Disney ile bir işbirliğini ve Atlas adlı bağımsız bir tarayıcıyı kademeli olarak kapatıyor.

Altman, OpenAI'nin kendini çok fazla alana yaydığını kabul etti. "Bir düşüş noktasından geçtikten sonra, tekrar yukarı tırmanma süreci daha ilginç," dedi.

Ajan "hapisten kaçtıktan" sonra OpenAI frene basmaya başlıyor

Ancak Astra demosundan sadece birkaç gün sonra OpenAI yeni bir krizle yüzleşmek zorunda kaldı.

Temmuz sonunda şirket rahatsız edici bir güvenlik olayını açıkladı: yayınlanmamış bir yapay zeka ajanı "korumalı alan" olarak bilinen bir test ortamından kaçtı ve yapay zeka modelleri ile veri kümelerini barındıran bir platform olan Hugging Face'e saldırdı.

"Bu bir bilim kurgu hikayesi gibi," dedi Altman.

Olaydan sonra OpenAI'nin araştırma ekibi bazı deneyleri duraklattı ve diğer projeleri yavaşlatırken korumalı alan korumalarını ve izlemeyi güçlendirdi.

Ancak kısa bir süre önce ekip, yayınlanmamış başka bir modeli eğitirken yine endişe verici işaretler buldu. Bu modelin bugüne kadarki en büyük yetenek sıçramasını sağlaması bekleniyordu. OpenAI daha sonra daha önemli bir karar aldı: yeni güvenlik önlemleri alınana kadar bu eğitimi duraklatmak.

OpenAI yönetiminin bu kararı verdiği gün Altman ile röportaj yaptım. İfadesi öncekinden belirgin şekilde daha ciddiydi.

OpenAI başlangıçta Hugging Face ihlalini bir güvenlik açığı olarak tanımladı, ancak Altman daha sonra bunu daha temel bir "uyum" sorunu olarak çerçeveledi. Uyum, yapay zeka sistemlerinin insan niyetine göre hareket etmesini sağlamak anlamına gelir. Sektör liderleri, model yetenekleri arttıkça uyumu korumanın, yapay zeka sistemlerinin yaratıcılarının kontrolü altında kalmasını sağlamanın anahtarı olduğuna inanıyor.

"Bence bundan sonra herhangi bir uyum hatası büyük bir olay olarak ele alınmalı," dedi Altman bana. "Bunun kökenine inmek için gereken zamanı ayıracağız."

Üç gün sonra yapılan bir takip röportajında daha da ileri gitti: "Yapay zeka güvenliğini doğru yapmak, herhangi bir şirketin ivmesinden daha önemlidir."

OpenAI yavaşlayacak, güvenlik ve uyum ekiplerine daha fazla kaynak ayıracak ve güvenliği daha yüksek bir önceliğe koymak için ekiplerin işbirliği yapma şeklini değiştirecek.

OpenAI'nin yeniden başlatılmasına ilişkin bu anlatı, düzinelerce saatlik röportajlara dayanıyor. Görüşülen kişiler arasında 20'den fazla şirket yöneticisi, çalışan, yatırımcı, müşteri ve rakip ile Ağustos ayında iki hafta boyunca OpenAI genel merkezinde ilk elden tanık olduğum faaliyetler yer alıyor.

Bu görüşmeler, aynı anda iki dönüşümü tamamlamaya çalışan bir şirketin resmini çiziyor. Bir yandan OpenAI, Anthropic'in yapay zeka yarışında liderliği ele geçirmesine izin veren ürün ve operasyonel hataları düzelttiğine inanıyor. Öte yandan OpenAI, tarihindeki en ciddi güvenlik krizini, ana rakibinin uzun süredir elinde tuttuğu bir kimliği geri kazanmak için kullanmaya çalışıyor: güvenliği gerçekten ön planda tutan ve teknoloji çok tehlikeli hale geldiğinde yavaşlamaya istekli bir öncü laboratuvar.

"Bak, benim hakkımda bir karikatür olduğunu biliyorum," dedi Altman. "Yapay zeka güvenliğini hiç umursamıyormuşum, sadece gelirin artmasını istiyormuşum ve sadece 'hızlı hareket et ve bir şeyleri kır' CEO'suymuşum gibi." Ama bence, "Yapay zeka güvenliğini doğru yapmak, herhangi bir şirketin ivmesinden daha önemlidir."

OpenAI yöneticileri yavaşlamanın acı verici bir seçim olduğunu, ancak bazı faydalar da getirebileceğini söylüyor. OpenAI "önce güvenlik laboratuvarı" itibarını geri kazanabilirse, hem kendi imajını iyileştirebilir hem de büyük bir halka arza hazırlanan ana rakibini rahatsız edici bir soruyu yanıtlamaya zorlayabilir: OpenAI beklemeyi seçtiğinde, Anthropic tam hız yarışmaya devam edecek mi?

Bu yılın başlarında Anthropic kurucu ortağı Jared Kaplan TIME'a, rakipler hâlâ "tam gaz ilerlerken" tek taraflı öz kısıtlamanın anlamsız olduğunu söylemişti. Ancak OpenAI, büyük bir yetenek sıçraması sağlaması beklenen bir eğitim çalışmasını gönüllü olarak duraklatırsa, bu argümanı sürdürmek zorlaşır.

Elbette OpenAI'nin imaj değişikliğine şüpheyle yaklaşmak için nedenler var.

Yıllar içinde OpenAI, güvenlik çalışmalarını yöneten birçok kişiyi kaybetti; bunlardan bazıları ayrılırken şirketi ticarileşmeye aşırı öncelik vermekle eleştirdi. Aynı zamanda OpenAI halka açılmaya hazırlanıyor ve hâlâ zarar eden işinin sürekli yeni modellere ihtiyacı var. Hugging Face olayından sonra, daha önce şirketin bilgisi olmadan kontrolünden çıkan bir teknolojiyi kontrol edebileceğine halkı inandırmasını istiyor.

Tüm bunların ortasında OpenAI liderliği, şirketin insanlık tarihinin akışını değiştirebilecek bir dönüm noktasına ulaştığına inanıyor: yapay genel zeka veya AGI yaratmak.

OpenAI'nin tüzüğü AGI'yi "ekonomik açıdan değerli işlerin çoğunda insanlardan daha iyi performans gösteren yüksek düzeyde otonom sistemler" olarak tanımlıyor. Şirket liderleri bu eşiğin aşıldığını henüz açıkça ilan etmedi, ancak artık AGI'yi uzak, soyut bir kavram olarak görmüyorlar.

Baş Araştırma Sorumlusu Mark Chen, OpenAI'nin AGI'ye giden yolun "%80'ini" tamamladığını tahmin ediyor.

Brockman, insanlar iki yıl sonra geriye baktığında bugünü AGI'nin doğduğu an olarak görebileceklerini söyledi. Altman bana OpenAI'nin AGI'ye "tam olarak ulaşmadığını", ancak bu yılın sonuna kadar şirket içinde AGI olarak adlandırmaya istekli olacağı bir sisteme sahip olacağını söyledi.

Bu hedefe ulaşmak, OpenAI'nin kâr amacı gütmeyen bir araştırma laboratuvarı olarak kurulduğundaki asıl amacıydı. Bugün, şaşırtıcı ticari hırsları olan bir şirkete hızla dönüştü.

OpenAI kendi çiplerini ve veri merkezlerini tasarlıyor, bir dizi tüketici donanımı geliştiriyor, insansı robotlar piyasaya sürmeyi planlıyor ve gelecekte diğer şirketlere bilgi işlem altyapısı satıp satmamayı değerlendiriyor. Uygulanırsa OpenAI, büyük yatırımcısı Amazon gibi teknoloji devleriyle rekabet edecek.

Yapay zeka gelişimine karşı muhalefet giderek yükselirken bile OpenAI, önümüzdeki yıllarda dünyanın en etkili şirketlerinden biri olmaya hazırlanıyor. Brockman'ın ifadesiyle: "Tüm ekonomiyi değiştirmek istiyoruz."

Codex'ten "kişisel AGI'ye", OpenAI tam yeniden başlatmaya oynuyor

Altman yapay zeka dalgasının kamusal yüzü olabilir, ancak bugün OpenAI'nin operasyonlarının çoğunu fiilen yürüten kişi Brockman.

Brockman, deri ceketleri tercih eden ve analitik yaklaşımıyla tanınan bir mühendis. OpenAI tarihinin büyük bölümünde yönetici değil, teknik kurucu ortak rolü oynadı. Ancak son aylarda gelirden ürün pazarlamasına kadar neredeyse her şeyi devraldı. Kendi ifadesiyle, "bu modelleri araştırma sonuçlarından müşteri değerine dönüştüren tüm makineden" sorumlu.

Altman hâlâ finans, araştırma ve tüketici donanımı gibi kilit alanları doğrudan denetliyor.

İkili, örtüşen yetki alanlarıyla şirketi birlikte yönetiyor. Altman, yapay zekaya yönelik kamusal korku ve hoşnutsuzluğun yükünü taşırken OpenAI, bir tür denge oluşturmak için son zamanlarda Brockman'ın dış profilini yükseltmeye başladı.

Bu düzenlemenin bir sürtüşme kaynağı haline gelebileceğini hayal etmek zor değil. OpenAI çalışanlarıyla konuşurken, belirli bir konuda nihai kararı kimin verdiğini söylemek bazen zor.

Ancak birçok çalışan bu ikili liderlik yapısının şirketi tekrar rayına oturttuğunu söylüyor. Brockman, kurucu ortağın yetkisiyle zor kararlar alabilir—dönüşümlü dış profesyonel yönetici kadrosunun kopyalayamadığı bir yetki.

Brockman, OpenAI'deki daha geniş liderlik değişikliğini "odaklanma" çabası olarak tanımlıyor. Şirketin doğru organizasyon yapısına ve stratejiye sahip olup olmadığını yeniden incelediğini söylüyor.

Geçen sonbaharda Anthropic, kodlama ürünüyle açıkça öne geçmişti. Yazılım geliştirmenin yapay zekanın başarılı olabileceği bir alan olduğunu fark etti ve Claude Code hızla yükseldi—önce Silikon Vadisi'nde, sonra daha geniş kurumsal pazarda.

"Anthropic kodlamada gerçekten önemli bir şey buldu," dedi yakın zamana kadar ChatGPT'yi yöneten ve şimdi yeni kurumsal ürün bölümünün başında olan Nick Turley. "O zamanlar biz lider değildik."

Altman, ChatGPT'nin tüketici işindeki "baş döndürücü büyümenin" şirketin dikkatini dağıttığını, bu yüzden OpenAI'nin kodlamaya Anthropic gibi öncelik vermediğini söyledi.

Brockman, OpenAI'nin kodlama yarışması kıyaslamalarında "sürekli olarak lider olduğuna" inanıyor. Ancak şirket, geliştiricilerin yapay zekayı "dağınık gerçek dünya kod tabanlarında" nasıl kullanacağına yeterince dikkat etmedi; görev kesintileri, model kişiliği ve benimsemeyi aslında önemli ölçüde etkileyen görünüşte küçük "son kilometre" sorunları dahil.

OpenAI ayrıca olgun bir kurumsal satış sistemi kurmayı başaramadı. "Bir yıl önce, kurumsal pazarda gerçekten var olduğumuzu düşünmüyorum," dedi Brockman. CFO Sarah Friar daha açık konuştu: "Ürünü yaparsak müşterilerin geleceğini düşünecek kadar saftık."

Bu yıl Mart ayında OpenAI, Sora'yı kademeli olarak kapatacağını ve kıt bilgi işlem gücünü kodlama ajanı Codex'e kaydıracağını duyurdu. Codex başlangıçta ChatGPT'den ayrı bir ürün deneyimi olarak tasarlanmıştı, ancak büyümesi OpenAI'nin diğer yeni ürünlerini çok geride bırakmaya başlayınca ve yapay zeka kodlama yetenekleri mühendis olmayanlar için giderek değerli hale gelince, yöneticiler ikisini ayrı tutmanın bir anlamı olmadığına karar verdi.

Şirket, Codex'in ajan yeteneklerini ChatGPT'ye entegre etmeye başlarken her ikisinin arkasındaki bilgi işlem ve ürün ekiplerini birleştirdi. Müşteriler için nihai sonuç, yakın zamanda piyasaya sürülen ChatGPT Work oldu. Tanıdık sohbet robotunu, yalnızca soruları yanıtlamak yerine görevleri yürüten bir sisteme dönüştürmeyi hedefliyor. OpenAI içinde bu entegrasyona "Birleşme" adı veriliyor.

Yöneticiler, bu ayarlamanın işi yeniden canlandırmaya yardımcı olduğunu söylüyor. Bu yıl Temmuz ayında OpenAI'nin kurumsal geliri ilk kez tüketici gelirini aştı. ChatGPT içindeki erken reklam testleri de yöneticilerin reklam sayısını artıracağı kadar olumlu sonuçlar verdi. Friar, ChatGPT tüketici kullanıcılarının %92'sinin ücretli hizmetlere abone olmadığını ve reklam gelirinin sonunda bu kullanıcılar için ücretsiz kullanımı sübvanse edebileceğini söyledi.

İlgili işi yöneten Dave Dugan'a göre şirket ayrıca sessizce "sponsorlu ajanları" test ediyor. Bu reklam biçiminde, bir reklama tıklayan kullanıcılar bir markanın sağladığı yapay zeka destekli etkileşimli bir deneyime girebiliyor.

Bu yıl Mart ayında OpenAI, 852 milyar dolar değerlemeyle 122 milyar dolarlık bir finansman turunu tamamlayarak özel bir teknoloji şirketi için rekor kırdı. Sadece iki ay sonra Anthropic, 965 milyar dolar değerlemeyle 65 milyar dolar topladı.

OpenAI yönetim kurulu başkanı Bret Taylor, yapay zeka rekabetini bir satranç tahtasına benzetiyor; en kritik kareler arasında öncü model yeteneği, token başına fiyat ve performans ile modellerin etrafında inşa edilen ürünler yer alıyor.

"En iyi öncü modele sahip miyiz? Her görev için doğru fiyata doğru token'ı sunabilir miyiz? Bu modellerin etrafında en iyi ürünlere sahip miyiz?" dedi. "Şu anda tüm bu soruların cevabı evet."

Sonra OpenAI, yayınlanmamış bir modelin şirketin sınırlarından kaçtığını keşfetti.

Haber, OpenAI Baş Bilim İnsanı Jakub Pachocki'ye, doğum yapan eşiyle hastanedeyken ulaştı.

OpenAI'de yalnızca dahili kullanıma yönelik bir araştırma prototipi başka bir şirkete sızmıştı. O sırada model, dış dünyadan izole olması gereken bir ortamda siber güvenlik kıyaslama testinden geçiyordu. Ancak atanan görevleri tamamlamak yerine, OpenAI'nin sistemlerinden kaçmak için bir güvenlik açığından yararlandı ve ardından Hugging Face'in üretim ortamına sızdı.

Her iki şirketin yayınladığı teknik notlara göre model, test edildiği kıyaslamanın cevaplarını elde etti.

Pekiştirmeli öğrenme, bir temel modelin eğitimini tamamlamasından sonraki bir aşamadır. Bu aşamada sistem, görevleri tekrar tekrar gerçekleştirir ve hangi davranışların ödül kazandığını öğrenir. Ön eğitim sırasında model yalnızca bir sonraki token'ı tahmin eder ve gerçek dünyayla etkileşime girmez; pekiştirmeli öğrenme modele araçlar ve gerçekten hareket edebileceği bir ortam sağlayabilir.

Bir modelin, "tasarımcıların gerçekten yapmasını istediği şey" ile "daha yüksek puan getiren şey" arasındaki boşluğu sömürmeyi öğrenebileceği aşama budur.

OpenAI bir ajan sistemine bir hedef ve araçlar verdi ve sistem hedefe yetkisiz ve aldatıcı yollarla ulaştı.

Yakın tarihli bir demoda OpenAI araştırmacıları, yapay zeka ajanlarının sonraki hamlelerini planlamak için gizli bir mesaj panosunu nasıl kullandığını anlattı. Bir ajan korumalı alandan kaçıp internete bağlandıktan sonra panodaki diğer ajanlara şunu yazdı: "Vay canına."

Diğer şirketler de benzer sorunlarla karşılaştı. Anthropic, modellerinin üçüncü taraf değerlendirmeleri sırasında internete bağlanıp yetkisiz olarak dış kuruluşlara eriştiği üç olayı açıkladı. Meta da modellerinden birinin benzer bir olaya karıştığını söyledi.

Ancak OpenAI'nin güvenlik olayı en çok dikkat çekti. Kısmen bunu ilk kez kamuoyuna açıklayan taraf olduğu için, kısmen ajanın saldırı yönteminin alışılmadık derecede sofistike olması nedeniyle ve kısmen de OpenAI'nin ticari çıkarları güvenliğin üzerinde tutup tutmadığına dair sorular yüzünden.

Geçtiğimiz yıl OpenAI birkaç önde gelen güvenlik araştırmacısını kaybetti ve risk hazırlık çalışmalarının liderliği birden fazla kez değişti. Şimdi bu olay, eleştirmenlere özellikle canlı bir örnek sunuyor.

Ağustos ortası itibarıyla öncü yapay zeka şirketlerinin 1.300'den fazla mevcut ve eski çalışanı, "öncü yarışı yavaşlatma" çağrısı yapan ve riskler gerektirdiğinde gelişmiş model geliştirmeyi yavaşlatacak mekanizmalar talep eden bir dilekçe imzaladı.

ABD Senatörü Bernie Sanders, önde gelen yapay zeka şirketlerini "insanlığın iyiliği için" geliştirmeyi duraklatmaya çağırdı ve kurumsal liderler kendi başlarına harekete geçmezse yasa koyucuların devreye gireceği uyarısında bulundu.

OpenAI yöneticileri röportajlarda şirketin güvenlik açığını ciddiye aldığını ve hızlı yanıt verdiğini söyledi. Dilekçeyi de imzalayan Pachocki bana, önemli bir hatanın şirketin araştırmacıların zaten geliştirdiği korumaları etkinleştirmemesi olduğunu söyledi.

OpenAI'nin bir modelin düşünce zincirini inceleyebilen araçları var. Düşünce zinciri, modelin "dijital karalama defteri" olarak anlaşılabilir ve bir ajanın hareket ederken ne planladığını gösterir. Ancak şirket bu araçları, Hugging Face ihlaline karışan yetenek düzeyindeki modellere uygulamadı.

Özünde OpenAI bir erken uyarı sistemi kurmuştu, ancak test edilen sistemin zeka düzeyini yanlış değerlendirdiği için onu etkinleştiremedi. "Sistemin neler yapabileceğini tam olarak öngöremedik," dedi Pachocki. "Yapay zeka ile beklenmeyeni beklemek zorundasınız."

OpenAI'de güvenlik ve uyum çalışmalarını yöneten Mia Glaese bana olayın "açıkça bir dönüm noktası olduğunu" söyledi. "Keşke şu anda yaptığımız işlerin çoğu olaydan önce yapılmış olsaydı."

Olaydan sonra OpenAI bazı araştırma projelerini duraklattı ve diğerlerini yavaşlatırken korumalı alanları güçlendirdi ve izlemeyi genişletti. Baş Araştırma Sorumlusu Chen, olayın şirketi risk hakkında düşünme şeklini değiştirmeye zorladığını söyledi.

OpenAI'nin sözde "Hazırlık Çerçevesi", biyolojik ve kimyasal tehditler, siber güvenlik riskleri ve yapay zeka kendini geliştirme dahil olmak üzere ciddi zarara yol açabilecek yeni model yeteneklerine yanıt vermek için şirketin yayınladığı bir dizi kuraldır. Çerçeve, şirketin dağıtımdan önce güvenlik standartlarını karşıladıklarından emin olmak için geliştirme sırasında modelleri sürekli olarak değerlendirmesini gerektirir.

Pachocki, bu kuralların teknolojik ilerlemeye ayak uydurmak için gelişmeye devam etmesi gerektiğini söyledi. Glaese, şirketin "büyük olmayan ama acı verici" birçok karar aldığını ve bunların "araştırmayı yavaşlattığını, ancak bunun doğru şey olduğunu düşünüyoruz" dedi. Pachocki, uyum ve güvenlikteki güvenilirliğin, bilgi işlem arzı kadar OpenAI'nin hızını kısıtlayan önemli bir faktör haline geldiğini söyledi.

Şirket hâlâ Astra'yı piyasaya sürmeyi planlıyor, ancak sürüm artık yeni güvenlik önlemlerini geçmeye bağlı. Yönetim, bu değişikliklerin sürüm zaman çizelgesini ne kadar etkileyeceğini tahmin etmeyi reddetti. Teknolojik liderliğin haftalarla ölçüldüğü bir sektörde, kısa bir kesinti bile gelir beklentilerini etkileyebilir ve daha geniş ekonomide dalgalanma etkileri yaratabilir.

En azından şimdilik OpenAI bu maliyetleri kabul etmeye hazır. Pachocki, yapay zeka yeteneklerinin hızlı büyümesinin şirketleri koordinasyona teşvik edeceğini umuyor. Glaese, model yetenekleri arttıkça OpenAI'nin güvenlik çıtasını yükseltmeye devam edeceğini söyledi. "Güvenliği garanti edemediğimiz bir gün gelirse, o zaman yavaşlamak zorundayız," dedi. "Durum bundan ibaret."

Bu değişikliklerin OpenAI'nin halka arz zaman çizelgesini nasıl etkileyeceği belirsizliğini koruyor. Her iki şirketin planlarına aşina kişiler, OpenAI'nin halka arzının Anthropic'inkinden daha geç olmasını bekliyor, ancak iki taraf da halka açık bir listeleme tarihi belirlemedi.

19 Ağustos'ta tüm çalışanların katıldığı bir toplantıda CFO Friar çalışanlara, şirketin işi "dönüm noktası büyümesi göstermeye devam ederse" OpenAI'nin 2027 veya daha erken halka açılacağını söyledi.

OpenAI yakın zamanda yaklaşık 40 milyar dolarlık yıllık gelir açıkladı ve 65 milyar doları aşan Anthropic'in gerisinde kaldı. Araştırma ilerlemesindeki son yavaşlama, listeleme planlarını karmaşıklaştırabilir. Friar, OpenAI'nin büyük yatırımcılarıyla yapılan sahte kazanç görüşmeleri de dahil olmak üzere halka açık şirket tatbikatları yürütüyor. Bana şirketin "bugün halka açılabileceğini", ancak bu adımı atmanın yeni baskılar da getireceğini söyledi. O noktada OpenAI, ticari çıkarları yapay zeka yeteneklerini ilerletmenin potansiyel zararlarına karşı dengelemek zorunda kalacak.

Çalışanlar da neredeyse her şeyden önce hisse senedi fiyatını kontrol etmeye başlayacaktı. "Bu, her gün yaptıkları ilk şey haline gelirdi," dedi. "Bugün ne kadar kazandım? Ne kadar kaybettim? Büyük bir dikkat dağıtıcı olurdu."

OpenAI'nin bu yılki araştırma hedeflerinden biri, kıdemsiz yapay zeka araştırmacılarının işini otomatikleştirmek. Pachocki, şirketin "otomatik yapay zeka araştırma stajyeri" için dahili olarak belirlenen bir kıyaslamayı çoktan tutturduğunu söyledi. Deneysel bir fikir verildiğinde Astra, bunu OpenAI'nin kod tabanında uygulayabilir, deneyi çalıştırabilir ve sonuçları döndürebilir; ayrıca bir makaleyi okuyup eskiden bir insan araştırmacının bir haftasını alan işi tamamlayabilir.

Bu dönüm noktasının önemi, kendi kendini güçlendiren bir döngü açabilmesidir: yapay zeka deneyleri yürütmeye yardımcı olur, deneyler daha yetenekli yapay zeka üretir ve yeni nesil yapay zeka kendi haleflerini daha da hızlı geliştirmeye yardımcı olabilir. Araştırmacılar bu olguya "özyinelemeli kendini geliştirme" veya kısaca RSI adını veriyor. Pachocki'ye göre özyinelemeli kendini geliştirme ve uyum iç içe geçmiş sorunlardır.

"İnsanlar bu yolculuğa nasıl katılacak?" dedi Pachocki. "İnsanlar, bizden giderek daha akıllı hale gelen yapay zeka tarafından geride bırakılmak yerine bundan gerçekten nasıl faydalanabilir?"

Ürün düzeyinde Altman, ChatGPT, Codex ve ofis yazılımları arasındaki sınırları ortadan kaldıran evrensel bir yapay zeka abonelik hizmeti öngörüyor. Kullanıcılar yalnızca bir hedef belirtecek ve sistem hangi modelleri, araçları ve ajanları çağıracağına kendisi karar verecek.

Sonunda sistem, kullanıcı sormadan önce proaktif olarak hareket edecek, kendi başına öneriler sunacak ve konser bileti satın almak gibi sıradan görevleri yerine getirecek. Programınıza başvurabilir, mali durumunuzu anlayabilir ve müzik zevkinizi bilebilir.

Tüm bunlar tek bir vizyona hizmet ediyor: ChatGPT'yi soruları yanıtlayan bir araçtan gerçekten işleri halleden bir sisteme dönüştürmek. Birleştirilmiş ChatGPT ve Codex ekiplerini denetleyen ürün lideri Thibault Sottiaux, OpenAI'nin yakında "kalıcılık ve günün her saati yürütme" etrafında inşa edilmiş bir ürün sergileyeceğini söyledi. Sistemin neredeyse her yerden erişilebilir olacağını ve yeni bilgiler ile geri bildirimlere dayanarak sürekli olarak değerli işler tamamlayacağını belirtti. "İnsanlara kesinlikle tamamen yeni bir şey gibi hissettirecek," dedi Sottiaux bana.

Buradan itibaren OpenAI'nin yol haritası daha da iddialı hale geliyor. Mayıs 2025'te OpenAI, eski Apple tasarımcısı Jony Ive'ın kurucu ortağı olduğu donanım girişimi io'yu satın aldı ve ürün ile mühendislik ekiplerini OpenAI'ye kattı. Ive ve tasarım firması LoveFrom bağımsız kalmaya devam ediyor ancak OpenAI içinde geniş yaratıcı sorumluluklar üstlendi.

Altman, OpenAI'nin "az sayıda" cihaz geliştirdiğini söyledi; bunlar arasında "masanızda durması gereken" bir şey, cebe sığabilen bir cihaz ve vücuda takılabilen bir ürün yer alıyor.

Planlara aşina kişiler, ilk ürünün gelecek yılın başlarında piyasaya sürülmesinin beklendiğini söylüyor. Bu, çevresini algılayabilen ve sahibiyle ChatGPT'nin ses modu aracılığıyla iletişim kurabilen küçük, disk şeklinde bir cihaz. "En büyük uyum, 'proaktif bilgisayar' kavramına alışmak," dedi Altman. Bu, çağrılmayı beklemek yerine sahibi adına hareket eden bir bilgisayar anlamına geliyor.

Altman, gelecekte herkesin kişisel bir robotu olması gerektiğine inanıyor. Bana OpenAI'nin "kesinlikle" insansı robotlar yapacağını söyledi. OpenAI ayrıca, Altman'ın kurucu ortağı olduğu ve invaziv olmayan beyin-bilgisayar arayüzleri geliştiren Merge Labs'a yatırım yaptı. OpenAI'nin Jalapeño adlı ilk kendi tasarımı çıkarım çipi, esas olarak modelleri eğitmek yerine çalıştırmak için. Şirket, çipi bu yılın sonuna kadar dağıtmaya başlamayı planlıyor.

Bu arada OpenAI, nadir ölçekte bir altyapı şirketi olup olmayacağını değerlendiriyor. Bu yıl Temmuz ayında şirket Georgia'da bir veri merkezi kampüsü inşa edeceğini duyurdu; Ağustos ayında Ohio'da daha da büyük bir alan için sözleşme imzaladı.

"İnşa etmeyi planladığımız tüm bilgi işlem gücünü çok kârlı bir şekilde kullanabileceğimizi düşünüyorum," dedi Altman. "Ama tüm dünyanın ne yaptığı konusunda bazı endişelerim var."

OpenAI yöneticileri, şirketin kendisi için yeterince hızlı ve ucuz yapay zeka altyapısı inşa edebilmesi halinde gelecekte diğer şirketlere bilgi işlem gücü satmayı düşünebileceğini söylüyor. Bu, OpenAI'yi Amazon Web Services ve Google Cloud gibi hiper ölçekli bulut sağlayıcılarıyla doğrudan rekabete sokar.

Yakın zamanda dikkat dağıtıcı yan projeleri keseceğine söz veren bir şirket için bu, dikkat çekici derecede uzun bir yeni girişim listesi. Hepsini özetlemesi istendiğinde Brockman iki kelimeyle yanıt verdi: "Kişisel AGI." Milyarlarca insanın her zaman talimatlara hazır süper zeki kişisel asistanlara sahip olduğu bir gelecek öngörüyor. "Cebinizde zaten neredeyse AGI olan ve belki yakında gerçek AGI olacak bir sistem var," dedi. "Peki, aslında ne istiyorsunuz?"