Antropik, Dario Amodei veSon Özel Şirket

Orijinal başlık: "Anthropic, Dario Amodei ve 'Son Özel Şirket'"
Orijinal yazar: Beating

Anthropic'in kurucusu Dario Amodei hakkında birbiriyle çelişen, ancak akla yatkın iki anlatım bulunmaktadır.

Bir yoruma göre o, çağımızın en aklı başında bekçisidir. Tüm dünya süper zekânın uçurumuna doğru hızla ilerlerken, o tek başına yol kenarında durup, ileride bir uçurumun olduğunu tekrar tekrar uyarıyor.

Hikayenin bir başka versiyonuna göre, o Silikon Vadisi'nin en hırslı insanlarından biri. Dünyanın en güçlü yapay zeka şirketini yönetiyor ve herkesin uyardığı geleceği adım adım inşa etmek için gece gündüz çalışıyor.

Bir kişi gerçekten de bu iki şeyi aynı anda yapabilir.

Hayal ettiği dünyaya "Veri Merkezlerindeki Dahiler Krallığı" adını verdi. Bu krallık, hiç uyumayan, günde 24 saat çalışan, sıradan insanlardan onlarca kat daha hızlı düşünen ve kendilerine benzeyen sayısız kişiyi kopyalayabilen elli milyon dahiyi barındırıyordu. Bu krallığın toprağı, sınırları yoktu; sıra sıra veri merkezlerinin içinde var oluyordu.

Ocak 2026'da bu vizyonunu "Teknolojinin Ergenliği" başlıklı uzun bir makalede kaleme aldı.

Sonra bir adım daha ileri gitti. Ya bir gün bu elli milyon dahi insanlığa itaat etmeyi bırakırsa?

Ardından gelen sahneler tehlikeliydi. Biyolojik silahlar, kitlesel işsizlik, diktatörlük, savaş—bunları tek tek sıraladı. Sonunda, "Fazla zamanımız kalmadı," dedi.

Aynı makalede ayrıca şunları yazdı: "Yapay zeka, Anthropic için şimdiden çok fazla kod yazıyor ve yeni nesil modellerin daha hızlı geliştirilmesine yardımcı oluyor."

Hızlanırken uyarıda bulundu. Bunda herhangi bir çelişki görmedi.

Sorunun başlangıç noktası bu; sorun onun kötü biri olması değil, gerçekten kötü olduğunun farkında olmaması.

Elbette, onun da bir açıklaması var. Anthropic durabilir, ama OpenAI durmayacak, Google durmayacak ve diğer ülkelerdeki şirketler de durmayacak. Kimse ilk pes eden olmak istemiyor ve ilk duran da muhtemelen hiçbir şeyi durduramayacak, sadece meyveleri başkalarına bırakacak.

Bu argüman şu anlama geliyor: Herkes telaş içinde olduğuna göre, "ben" ilk olayım. Kimse duramadığına göre, ne zaman duracağıma "ben" karar vereyim.

Dolayısıyla, süper zekânın inşa edilip edilmemesi daha az önemli. Ona göre, er ya da geç inşa edilecektir. Asıl önemli olan, onu ilk kimin inşa edeceği ve o gün direksiyonu kimin tutacağıdır.

Çok geç

Dario Amodei 1983 yılında San Francisco'da doğdu. Babası İtalya'nın Toskana bölgesindendi ve hayatını deri ürünleri sektöründe geçirmişti; annesi ise Şikago'lu Yahudi kökenliydi ve San Francisco Halk Kütüphanesi'nin planlama ve inşasına katkıda bulunmuştu.

Küçük yaşlardan itibaren matematik ve fiziğe büyük bir ilgi duydu. 1990'ların sonlarında, San Francisco Körfez Bölgesi'ndeki dot-com balonu sırasında, şirketler birbiri ardına ortaya çıkıyor, gençler web siteleri kuruyor, yatırım arıyor ve halka arz gününde ne kadar para çekebileceklerini hesaplıyorlardı. Bu hikayeler onu etkilemedi. Yıllar sonra, o zamanlar aradığı şeyin "temel bilimsel gerçek" olduğunu, sadece dünyanın neden böyle olduğunu anlamak istediğini söyledi.

Uzun zamandır sözde "önemli meselelere" neredeyse takıntılı bir ciddiyetle yaklaşıyor. Bir şeyin yeterince önemli olduğuna karar verdiğinde, bir insanın nasıl yavaşlayıp hiçbir şey olmamış gibi davranabileceğini anlayamıyor.

2003 yılında, ABD Irak'ı işgal etmek üzereyken, Caltech'te öğrenim görüyordu. Kampüste birçok savaş karşıtı insan vardı. Sohbetler sırasında bazıları endişelerini dile getirdi; ertesi gün herkes her zamanki gibi derse gitti. Öğrenci gazetesinde sınıf arkadaşlarını eleştiren bir makale yazdı ve eğer gerçekten bir savaşın birçok insanı öldüreceğinden korkuyorlarsa, muhalefetlerinin sadece sözlü kalmaması gerektiğini, savaş gerçekleştiğinde pişman olmanın çok geç olacağını söyledi.

Ona göre, tereddüt asla tarafsızlık anlamına gelmez. Beklemek de başlı başına bir tercihtir.

Bu yirmi yaşındaki gencin en çok tahammül edemediği şey beklemekti.

Üç yıl sonra, yirmi üç yaşındayken babası hepatit C'den öldü.

O dönemde hepatit C'nin neredeyse hiçbir tedavisi yoktu. Standart tedavi, bir yıl boyunca interferon almaktı, ancak bu ateş, saç dökülmesi ve depresyona neden olabiliyordu ve iyileşme oranı %50'nin altındaydı.

Aralık 2013'te yeni bir ilaç onaylandı. Tedavi süresi on iki haftaya indirildi ve iyileşme oranı %95'e ulaştı.

Babası onu görmeye ömrü yetmedi.

Aralarında sadece yedi yıl var.

Babasını kurtaramayan oğul, sonraki yirmi yılını bilimin daha da hızlanması için çabalayarak geçirdi.

Babasının ölümünden sonra teorik fizikten biyofiziğe yöneldi ve Princeton'da retinadaki sinir devrelerini inceledi. O dönemdeki aletlerin çok yavaş olduğunu fark edince, yeni sensörlerin geliştirilmesine katıldı.

Daha sonra kanser ve proteinler üzerine çalışmak için Stanford Tıp Fakültesi'ne gitti. Bir hastalığa ne kadar yaklaşırsanız, o kadar küçük görünürsünüz. Bir hastalık yüzlerce geni, on binlerce proteini ve sayısız birbirine bağlı yolu içerir. Araştırmacılar zincirin bir halkasını anlamaya çalışarak yıllarını harcayabilirler, ancak yine de tüm vücuda geri yerleştirildiğinde ne olacağını bilemezler.

Daha sonra durumun karmaşıklığının kendisini neredeyse umutsuzluğa sürüklediğini anlattı.

Bu dönemde yapay zekâ onun dikkatini çekti; insan yeteneklerinin kapsamını genişletebilecek bir araçtı. Makineler birçok makaleyi okuyabilir, çok miktarda veriyi işleyebilir ve aynı anda birçok olasılığı deneyebilir, böylece başlangıçta yüzlerce veya binlerce araştırmacının tamamlaması gereken bilişsel emeğin yerini alabilirdi.

"İnsanların çok önemsiz olduğu" fikrinden yola çıkarak, daha büyük bir şey yaratıp insanları tekrar sıkıştırması gerektiği sonucuna vardı.

2014 yılında biyoteknoloji alanını bırakıp Silikon Vadisi'ndeki Baidu'nun yapay zeka ekibine katıldı. Ekip, model ne kadar büyükse, veri ne kadar fazlaysa ve işlem gücü ne kadar yüksekse performansın o kadar iyi olduğunu hızla keşfetti. Birkaç yıl sonra bu deneyim "ölçek yasası" olarak özetlendi: Bir sonraki nesil modellerin aniden ne öğreneceğini bilemeyebilirsiniz, ancak kabaca önceki nesilden daha güçlü olacağını belirleyebilirsiniz.

Akıllı kameralar artık endüstriyel ürünler gibi seri üretilebilecek bir şey gibi görünüyor. Bu nedenle, güçlü yapay zekanın er ya da geç ortaya çıkması kaçınılmazdı.

Geriye kalan farklılıklar ise tamamen veri miktarı, çip sayısı, güç tüketimi ve bekleme süresiyle ilgili.

Beklemekten en çok nefret eden kişi, istediği cevaba giden yolun gerçekten var olduğunu kendi elleriyle kanıtladı.

direksiyon

Dario Amodei 2016 yılında OpenAI'ye katıldı.

Sonraki yıllarda dil modeli hızla gelişti. GPT-3 ile OpenAI, şirketin işlem gücünün yarısından fazlasını Dario'ya devretti ve o da modeli yüz katına çıkardı. Sonuçlar, birçok kişinin beklediğinden bile daha şaşırtıcıydı; makaleler yazabiliyor, çeviri yapabiliyor, özetleyebiliyor ve öğretilmeden kendi kendine öğrendiği diğer görevleri yerine getirebiliyordu.

Ölçek büyüdükçe, yetenekler de artar.

Bu yolun genel zekaya götürdüğüne inanıyordu. Ve modellerin sonunda insanlar kadar zeki hale gelebileceği olasılığı kabul edildiğinde, güvenlik artık önemsiz bir mesele olmayacaktı.

Sonra bir sorun keşfetti. Dario modeli oluşturmaktan sorumluydu, ancak modeli oluşturmanın ve modelin nereye yerleştirileceğine karar vermenin tamamen farklı iki şey olduğunu yavaş yavaş fark etti. Modelin ne zaman yayınlanacağı, ne ölçüde açık erişime açılacağı, hangi şirketlerle iş birliği yapılacağı ve karar verme yetkisinin kimde olacağı, sadece onu eğitmekten sorumlu olduğu için otomatik olarak onun sorumluluğunda değildi.

OpenAI şirket içinde iki gruba ayrılmış durumda. Bir grup teknolojiyi hızla dünyaya sunmak isterken, diğer grup şirketi kimin yönettiği ve hangi prensiplerle hareket ettiğinin, herhangi bir teknik ayrıntıdan daha önemli olabileceğinden endişe duyuyor.

Peki, güçlü istihbarat üreten bir şirketi yönetmeye hangi tür insan uygundur?

Verdiği cevap, liderlerin dürüst olması, niyetlerinin samimi olması ve dünyanın daha iyi bir yer olmasını gerçekten istemeleri gerektiğiydi.

Teknolojik güvenlik giderek insanları yargılama meselesi haline geldi. Bu akıl yürütme biçimi hem tehlikeli hem de mantıklı. Tehlike, tüm karmaşık sorunları bir kişinin güvenilir olup olmadığına indirgemesinde yatıyor. Ve bu akıl yürütmede sürekli eksik olan bağlantı şudur: Bir kişinin güvenilir olup olmadığına kim karar verir?

2020 yılına gelindiğinde, kendisi ile OpenAI yönetimi arasındaki çatışma uzlaşmaz bir hal almıştı. O yılın Aralık ayında, kız kardeşi Daniela, Jack Clark, Chris Olah ve birkaç meslektaşıyla birlikte OpenAI'den ayrıldı. Dario'nun pandaları sevmesi nedeniyle, bu küçük grup şirket içinde "Panda Fraksiyonu" olarak biliniyordu.

Birkaç ay sonra Anthropic'i kurdular. Sözlükte Anthropic, "insanlarla ilgili" anlamına geliyor.

Bu sefer Dario direksiyonu başkasına devretmeyi planlamıyor.

Yirmi kişi

2021 yılında San Francisco'da pandemi hâlâ devam ediyordu.

Anthropic, yalnızca on beş ila yirmi çalışanı olan nispeten yeni bir şirket. Çoğu zaman Zoom üzerinden toplantı yapıyorlar; haftada bir gün ise her biri bir sandalye getirip bir parkta buluşuyorlar. Öğle yemeğinde modelleri, işlem gücünü, güvenlik araştırmalarını ve şirketin nihai olarak nasıl görünmesi gerektiğini tartışıyorlar.

San Francisco'da çimenlerin üzerinde oturan yirmi kişiden azı, belki de ellerinde yarım kutu bitmemiş salata ile, sekiz milyar insanın geleceği konusunda endişeliydi.

Ölçek yasası onlara geleceğin kaçınılmaz olduğunu söyler. Geleceğin gelmesi kaçınılmaz olduğuna göre, birilerinin önceden yolu hazırlaması gerekir. "Birilerinin yapması gerekir" ifadesi, meşruiyetin tüm gerekçesini oluşturur.

Anthropic'in amacı, aynı anda en son teknolojiye sahip modeller geliştirmek, bunları anlama ve kontrol etme yöntemlerini araştırmak ve ardından bu güvenlik yöntemleri setini diğer şirketler için standart haline getirmektir.

Dario, OpenAI'da dersini aldı. Teknolojinin çevresinden güvenlik hakkında konuşmanın, yalnızca modelleri kontrol edenlere tavsiye vermek anlamına geldiğini anladı. Ne kadar güzel ifade edilirse edilsin, bu, kıyıda durup suya giren birine yüzmeyi öğretmeye benziyor.

Suyun içine kendiniz girmeniz gerekiyor.

Bu durum, Anthropic'i ilk günden itibaren oldukça beceriksiz gösteriyor. En güçlü modelin hangi tehlikeleri oluşturduğunu bilmek için önce en güçlü modele sahip olmalısınız; düzenlemeleri etkilemek için önce sektörde etkiye sahip olmalısınız.

Sonuç olarak, Anthropic hızla, tüm ileri teknolojiye sahip büyük ölçekli model şirketlerinin kaçamadığı bir döngünün içine girdi: fon toplamak, bilgi işlem gücü satın almak, modelleri eğitmek, ürünleri piyasaya sürmek, müşterileri kazanmak ve ardından yeni gelir ve değerlemeyi kullanarak daha fazla bilgi işlem gücü elde etmek.

Dario, şirketi büyütmenin dünyayı korumak anlamına geldiğini söylüyor. Yatırımcılar da Anthropic'e yatırım yapmanın daha sorumlu bir yapay zeka şirketine yatırım yapmak olduğuna inanmaya hazırlar.

Bu argümanın zekası, ne kadar çok para kazanırsa o kadar ahlaklı görünmesinde; şirketin değeri ne kadar yüksek olursa, "dünyayı koruduğuna" dair kanıtların o kadar güçlü olmasında yatmaktadır.

Ticari çıkarlar ve medeniyetin misyonu birbirini karşılıklı olarak güçlendirir.

Dario yönlendirmeyi sağladı. Medeniyet, bilim ve insanlığın geleceği üzerine uzun bir makale yazdı. Kız kardeşi Daniela ise bu büyük vizyonları hayata geçirmekten, işe alım, ekip kurma ve fon toplama işlerinden sorumluydu.

Şirketin çıkış noktası, yanlışlanması neredeyse imkansız olan büyük bir yargıydı:

Güçlü yapay zekâ geliyor ve dünyanın bu alanda liderliği üstlenecek daha güvenilir bir şirkete ihtiyacı var.

Şirketin kendisi de "Daha güvenilir" diyor.

Bu anlatı, Anthropic'e güçlü bir birlik duygusu kazandırdı. Katılanlar sadece daha yüksek maaşlı bir iş aramıyorlardı. İnsan medeniyeti için büyük önem taşıyan bir şey yaptıklarına inanıyorlardı.

Bir şirketin içinde bulunabileceği en korkunç durum, çalışanlarının gerçekten insanlığı kurtardıklarına inanmalarıdır. Çünkü o andan itibaren, tüm iş genişlemesi otomatik olarak kutsal bir savaşa dönüşür; tüm muhalif sesler otomatik olarak insanlığa ihanet olarak algılanır.

Anthropic, ilk yıllarında bir yapay zeka şirketinin diğerlerinden daha temkinli ve sorumlu olabileceğini kanıtlamak istedi. Bu istek muhtemelen samimiydi.

Ancak samimiyet asla doğruluğu garanti etmez. Samimi insanlar, hata yaptıklarında ikiyüzlü insanlardan daha çok sıkıntı çekerler, çünkü kendilerine şu soruyu sormayı asla bırakmazlar:

Sorumlu olmak tam olarak ne anlama geliyor?

Özel bir şirkete tüm dünya için karar verme hakkını veren nedir?

cetvel

İlk büyük ölçekli model eğitimlerinde, cevapları değerlendirmek için genellikle çok sayıda insan yorumlayıcıya başvuruluyordu. İnsanlar öncelikle hangi cevapların daha iyi, hangi içeriğin zararlı olduğu ve modelin bunları reddetmesi gerekip gerekmediği konusunda yargıda bulunmalı ve ardından bu tercihleri makineye geri bildirmeliydi.

Etkili olmasına rağmen, bu yöntem aynı zamanda zahmetlidir. Değerlendirme yapanlar farklı yerlerden gelir ve farklı değerlere sahiptir. En ayrıntılı kurallar bile tüm durumları kapsayamaz.

Anthropic başka bir yaklaşım geliştirdi. İnsanların modele her soruyu nasıl yanıtlayacağını tekrar tekrar söylemesi yerine, önce ona bir dizi ilke verdi. 2022'de Anthropic "anayasal yapay zeka"yı önerdi. Yöntem kabaca şöyledir: önce modelin yanıtlar üretmesine izin verin, ardından yazılı bir dizi ilkeye dayanarak yanıtlarındaki kusurları belirlemesine, sorunları bulmasına ve ardından bunları iyileştirmesine izin verin.

Bu "anayasa" giderek uzuyor. Gücü ve çıkar çatışmalarını anlamalı, olgunluğun ve bilgeliğin ne olduğunu bilmelidir. Hatta kendi kimliğini, durumunu ve refahını da göz önünde bulundurmalı, kendini sadece içsel değeri olmayan bir araç olarak görmemelidir.

Kişiliği şekillendirir.

Antropoloji şirketi, anayasasında bu belgenin Claude'un davranışlarını doğrudan şekillendirdiğini, şirketin Claude'un değerleri ve karakterine dair vizyonunu temsil ettiğini ve Claude'un nasıl davranması gerektiği konusunda "en yüksek otorite" olduğunu belirtiyor. Tarihsel olarak, bu tür konulardan sorumlu olanlar arasında kilise, imparatorlar ve siyasi partiler yer almıştır. Şimdi ise bu, özel bir şirket.

Büyük ölçekli bir modelin dünya üzerindeki etkisi artık tek seferlik bir tüketim olmaktan çıktığında, Claude'un reddettiği veya teşvik ettiği şeyler ve bir ülkeyi, bir savaşı veya bir siyasi sistemi nasıl tanımladığı, sonraki ürünleri etkileyecek ve başkalarının dünya hakkındaki anlayışının bir parçası haline gelecektir.

Anthropic hâlâ kurumsal bir şekilde kararlar alıyor, ancak bu kararların etkisi, herhangi bir kamu kurumu denetimine gerek kalmadan, giderek kamu kurumunun etkisine benziyor.

Modelleri için bir anayasa oluşturduktan sonra, Anthropic sektör için trafik kuralları tasarlamaya başladı. 2023 yılında şirket, "Sorumlu Ölçeklendirme Politikası"nı başlattı. Sadece e-posta yazmayı bilen bir model ile biyolojik silah tasarlayabilen ve gelişmiş siber saldırılar başlatabilen bir modelin aynı şekilde yönetilemeyeceği açıktır. Bu nedenle, Anthropic modelleri farklı risk seviyelerine göre sınıflandırıyor. Bir model ne kadar yetenekliyse, oluşturabileceği potansiyel risk de o kadar büyük olur ve şirketin uygulaması gereken güvenlik önlemleri de o kadar sıkılaşır.

Özel bir şirket birden fazla rol üstlendi. Modelleri üretti; modeller tamamlandıktan sonra tehlike seviyelerini ölçtü; tehlike oluşturan unsurların standartlarını belirledi; tehlikelerin önlenmesi gereken sınırları tanımladı; ve son olarak, bu sonuçları kullanarak düzenleyici kurumlara kuralların nasıl formüle edileceği konusunda tavsiyelerde bulundu.

O hem bir sporcu hem de bir hakemdi.

Anthropic bu yönü de açıkça dikkate almıştı. Şirketin tamamen ticari çıkarlar tarafından yutulmasını önlemek için Anthropic, uzun vadeli çıkarlar vakfı tasarladı. Şirkette doğrudan ekonomik çıkarları olmayan dış üyelerden oluşan bu vakıf, Anthropic'in hissedar getirilerine ek olarak uzun vadeli insani çıkarları da dikkate almasını sağlamayı amaçlıyor. İlk tasarıma göre, vakıf kademeli olarak yönetim kurulu üyelerinin çoğunluğunu atama ve görevden alma yetkisini kazanacak ve şirket misyonundan saptığında fren uygulayacaktı.

Kurumsal yönetim açısından bakıldığında, böyle bir düzenleme oldukça nadirdir. Çoğu girişim, fon toplarken yatırımcılara hızlı büyüme göstereceklerini kanıtlamakla meşguldür. Ancak Anthropic tam tersini yaptı ve gelecekteki yatırımcıların ve yönetimin para kazanmak için güvenlik vaatlerinden vazgeçmelerini önleyecek bir yapı kurdu.

Bunun sadece gösterişten ibaret olduğunu söylemek haksızlık olur. Anthropic, gücü çoğu teknoloji şirketinden daha ciddiye alıyor ve kendi kendine sorun yaratmaktan da çekinmiyor. Ancak baştan sona, asıl ciddi düşüncesi her zaman bu gücü nasıl daha iyi kullanabileceği olmuştur, bu güce sahip olup olmaması değil.

Bir misyonla doğan bir şirket asla "Neden varım?" diye sormaz. Sadece "Nasıl daha iyi var olabilirim?" diye sorar.

"Sana gücü kim verdi?" sorusuna cevap vermedi, sadece zaten güce sahip olduğu için iyi bir insan olmaya karar verdiğini ilan etti.

Bu noktada Dario artık sadece bir şirket yönetmiyordu. Güvenlik felsefesi, modellerinin ve kamu politikasının karakterine nüfuz etmeye başlamıştı. Ardından hangi ülkelerin önce gelişmiş istihbarata sahip olması gerektiği, hangi siyasi sistemlerin korunmayı hak ettiği ve dünyanın istihbarat edinme sırasını kimin belirlemesi gerektiği konularını tartışmaya başladı.

Amerika geleceği ilk önce elde eder.

Dario Amodei, 2024 yılında "Sevgi Dolu Zarafet Makineleri"ni yazdı.

Bu isim bir şiirden geliyor. 1967'de şair Richard Brautigan, Caltech'te "All Watched Over by Machines of Loving Grace" adlı şiirini yazdı:

Makineler ve her şey arasındaki uzlaşmayı anlatan bir şiir. Bu başlığı, insanlık tarihinin en iyimser teknolojik kehanetlerinden birini yazmak için kullandı.

Güçlü yapay zeka, sayısız üst düzey bilim insanından oluşan, gece gündüz makaleler okuyup deneyler tasarlayan ve on yıllarca süren bilimsel ilerlemeyi sadece birkaç yıla sıkıştıran bir araştırma ekibi haline gelecek. Kanser, bulaşıcı hastalıklar ve genetik hastalıklar büyük ölçekte yenilebilir. İnsanlık, depresyon, kaygı ve bağımlılığın nasıl ortaya çıktığını gerçekten anlayabilir. Yaşam beklentisi uzatılabilir ve yoksul ülkeler sanayileşmeyi atlayabilir.

Çok cesur bir tahminde bulundu: Güçlü yapay zekâ sorunsuz bir şekilde gelişirse, önümüzdeki 50 ila 100 yılın biyomedikal ilerlemesi 5 ila 10 yıl içinde tamamlanabilir.

Babasını düşünmemek zor.

Oğlu, başkalarını kurtarabilecek yeni bir ilacın onaylanmasını yedi yıl bekledi, ancak onu kurtarmak için çok geç kalmıştı. Gelecek nesillerin beklemek zorunda kalmamasını umuyor.

İdeal dünyasında, bu teknolojinin hastalıkları, acıları ve ölümleri azaltabileceğine gerçekten inanıyor. Hatta yapay zekanın faydalarının sadece zengin ülkelere kalmamasını nasıl sağlayabileceğini özellikle ele aldı; yapay zekanın küresel Güney'in kalkınmasına yardımcı olabileceğini ve teknolojik kazanımların dünya çapında mümkün olduğunca çok insana ulaşabileceğini umuyor.

Ama o geleceğe nasıl ulaşılacağından bahsetmeye başladığında, işler artık o kadar evrensel değildi.

Ona göre, güçlü yapay zekâ ortaya çıktığında, ülkeler bir avantaj elde etmelidir. Bu avantaj, tek bir şirketin daha iyi ürünlere sahip olması veya sıralamalarda daha yüksek puan almasıyla elde edilemez. Çip, işlem gücü, enerji, tedarik zincirleri, askeri yetenekler ve uluslararası ittifaklar alanlarındaki güçlü yönlerden kaynaklanmalıdır.

Amerika Birleşik Devletleri ve müttefikleri, daha gelişmiş yarı iletkenler edinmeli ve daha büyük ölçekli veri merkezleri inşa etmeli, aynı zamanda stratejik rakiplerinin en gelişmiş modelleri eğitmek için ihtiyaç duydukları çipleri elde etmelerini engellemelidir. Güçlü yapay zeka gerçekten ortaya çıktığında, askeri ve ekonomik avantajlarını genişletmek ve diğer ülkelerin kolayca meydan okuyamayacağı bir konum oluşturmak için bundan faydalanmalıdırlar.

Ardından paylaşma zamanı geldi.

İlacın dağıtılması ve çiplerin güvenliğinin sağlanması gerekiyor. "Gelecekteki insanların beklemek zorunda kalmamasını sağlayacağım" sözü aslında sadece "kriterleri karşılayanların beklemek zorunda kalmamasını sağlayacağım" anlamına geliyor. Ve kriterleri kimin karşılayacağı da ona kalmış.

Hatta bu durumu "ebedi 1991" olarak tanımladı. 1991'de Sovyetler Birliği çöktü, Soğuk Savaş sona erdi ve Amerika Birleşik Devletleri ve müttefikleri ezici bir üstünlük kazandı. Güçlü yapay zekanın böyle bir tarihi anı yeniden yaratabileceğini umuyor.

Lütfen bu benzetmenin önemine dikkat edin. Tüm insanlığa fayda sağladığını iddia eden bir teknoloji, ideal olarak insanlık tarihinin en kapsamlı tek kutuplu hegemonyası olarak tasavvur edilir.

"Dünya herkese aittir"—bu dört karakter çok güzel yazılmış. Ancak "dünya" ABD'ye aitken, "herkese ait olmak" Antropolojiye aittir.

Ardından DeepSeek ortaya çıktı. Nispeten sınırlı kaynaklara sahip Çinli şirketler, rekabetçi modeller geliştirdi. Dario, bunun tam olarak Çin'in olağanüstü araştırma ve mühendislik yeteneklerini gösterdiğine inanıyor. Yeterli sayıda gelişmiş çipe sahip olduklarında, Çinli şirketler dünyanın en güçlü modellerini geliştirebilirler.

Bu nedenle, onlara kesinlikle çipi veremeyiz.

Rakip ne kadar güçlü olursa, ablukanın haklılığı o kadar artar; rakip gücünü kanıtladığında, ablukanın nedeni haline gelir. Bu mantık her zaman geçerlidir çünkü bu bir ouroboros'tur.

Geleceği iki tipe ayırıyor. Birincisi, her iki tarafın da son derece güçlü modeller yetiştirebildiği ve istihbarat yarışını yeni bir Soğuk Savaş'a dönüştürdüğü iki kutuplu bir dünya. Diğeri ise, Amerika Birleşik Devletleri ve müttefiklerinin gelişmiş bilgi işlem gücünün büyük çoğunluğunu kontrol ettiği ve Batı'nın son birkaç yıldaki lider konumunu kullanarak teknolojik, ekonomik ve askeri bir avantaj oluşturup bunu pekiştirdiği tek kutuplu bir dünya.

Açıkça ikinci bir geleceğe özlem duyuyordu. İnsanlığa fayda sağlamaktan, artık beklemeye gerek kalmamasından, makinelerin her şeyle uzlaşmasından bahsetmek, "ebedi tek kutupluluk" karşısında sadece bir başlangıçtı.

Bir keresinde, yapay zeka şirketlerinin kurucularının kendilerini insanlığı kurtuluşa götüren peygamberler olarak göstermelerini beğenmediğini ve birkaç şirketin teknolojik avantajlarını kullanarak herkesin geleceğini tek taraflı olarak şekillendirmesinden endişe duyduğunu söyleyerek, bu anlatıya alenen karşı çıkmıştı.

Peygambere karşı çıktı. Ama yaptığı şey, peygamberin yaptığıyla aynıydı.

Kendisi hariç tüm tehlikeleri gördü.

Gelin zamanı geriye sararak Ocak 2026'ya, "Teknolojinin Ergenlik Dönemi"ne dönelim.

Dario Amodei bu yazısında kendisine ve Anthropic'e yöneltilen eleştirilerin neredeyse tamamını kaleme aldı.

Kendisi, en ileri düzey yapay zekâ şirketlerinin özel girişimler tarihinde nadir görülen bir güç kazandığını kabul etti. Hatta yapay zekâ şirketlerinin ürünlerini kullanıcıların siyasi tutumlarını etkilemek veya onları "beyin yıkamak" için kullanabileceğini açıkça belirtti. Halkı yapay zekâ şirketlerini yakından takip etmeye ve hükümetleri bu şirketlerin devlet gücüne çok fazla yaklaşmasına karşı dikkatli olmaya çağırdı.

Ayrıca yapay zekanın serveti ve siyasi gücü daha da yoğunlaştıracağından endişe duyuyor. Zekayı, serveti ve bilgiyi birkaç şirketin elinde tutmasıyla, sıradan vatandaşların ekonomi ve hükümet üzerindeki etkisi giderek azalacaktır.

O, tüm bu tehlikeleri gördü. Bunları açık ve doğru bir şekilde yazdı. İktidarın merkezindeki az sayıda insan, konumlarının ne kadar tehlikeli olduğu konusunda bu kadar açık sözlü olurdu.

Tam da bu kadar iyi yazılmış olması nedeniyle şu soruyu sormamız gerekiyor: Peki sonra ne olacak?

Her çözüm önerisi sunduğunda, nihayetinde aynı yöne geri dönüyor. Çözümlerini sonuna kadar takip eden Anthropic, her zaman eskisinden daha fazla güç kazanıyor. Model ne kadar tehlikeli olursa, Anthropic'in ön saflarda kalması o kadar gerekli; hükümetler ne kadar az teknik bilgiye sahipse, Anthropic'in yargısına o kadar çok güveniyorlar; kamuoyu modelden ne kadar kolay etkilenirse, Anthropic'in modelin değerlerini o kadar çok dile getirmesi gerekiyor; diğer ülkeler ne kadar az güvenilir olursa, ABD ve yapay zeka şirketlerinin çipler ve işlem gücü üzerindeki kontrolü o kadar artmalı.

Her hastalığa aynı reçetenin verildiğini itiraf etti: Antropik.

Bu teknolojinin herkese teslim edilemeyecek kadar tehlikeli olduğuna gerçekten inanmıştı. Ayrıca bu tehlikeyi çoğu insandan daha önce fark ettiğine de inanıyordu.

Bazen, özellikle kendinizi kandırmanın faydaları çok büyük olduğunda, ilk kandırdığınız kişi samimi bir insan olur.

Teknolojinin herkese teslim edilemeyecek kadar tehlikeli olduğuna gerçekten inanmış görünüyordu. Ayrıca bu tehlikeyi çoğu insandan daha önce fark ettiğine de gerçekten inanıyordu.

Bu iki cümle birlikte eksiksiz bir öz-yetkilendirme seti oluşturuyor. Kendisini insanlığın koruyucusu ilan etmesine asla gerek yok. Sadece güvenilmez olarak gördüğü kişileri sürekli olarak ortadan kaldırması yeterli: piyasa iyi değil, halk iyi değil, otoriter devletler iyi değil, diğer şirketler yeterince ihtiyatlı değil. Herkes ortadan kaldırıldıktan sonra, direksiyonu ele geçirmeye en uygun kişi, ironik bir şekilde, Antropik olanıdır.

Eleme sürecinin son noktası her zaman kendisidir.

Ona göre hiç kimse insanlığın geleceğine karar verme hakkına sahip değil.

Bu yüzden işi kendisi yapmaya karar verdi.

son özel şirket

14 Ağustos 2026'da bir podcast'ten bir cümle geldi.

"Anthropic'in içinde çok özgüvenliler. Güvendiğim birkaç kişi bana Dario'nun bir keresinde şöyle dediğini aktardı: Anthropic bir gün dünyanın tek özel şirketi olabilir."

Bunu söyleyen kişi, SpaceX'e yatırım yapmış bir hedge fon yöneticisi olan Gavin Baker. O vizyonda sadece insan eliyle yaratılan eylemlerin ve hükümetlerin olduğunu, hepsinin bu kadar olduğunu ekledi.

Bu ifade bir gün içinde sosyal medyada viral oldu.

Eski Beyaz Saray yapay zeka ve kripto para danışmanı ve şu anki Başkanlık Teknoloji Danışmanları Konseyi eş başkanı David Sacks, "Bu kibirli bir yaklaşım," dedi. "Biraz SBF'ye benziyor."

Ertesi akşam Dario, X'te buna karşılık iki uzun yazı yayınladı.

İlk makale düzenlemeyi ele alıyor. Yazar, "merkezileştirilmiş veya merkeziyetsizleştirilmiş" yaklaşımın yanlış bir seçim olduğunu, gerçekten iyi bir sistemin gücü merkeziyetsizleştirdiğini söylüyor.

"Resmi mahkeme sistemi bazen katı ve seçkinci görünebilir, ancak savunmasızları koruma konusunda alternatif olan kalabalık adaletinden daha etkilidir. En iyi haliyle bir kurum, bireylerden ziyade fikirleri güçlendirebilir."

İkinci makale bilgi yayılımını ele alıyor. Yapay zekaya karşı kamuoyunun olumsuz tutumunun bir güven krizinden kaynaklandığını belirtiyor. Ardından iki uzun makalesinin en önemli bölümünü yazıyor:

"Bence Anthropic de dahil olmak üzere yapay zeka şirketlerine yöneltilen en doğru eleştiri, dünyaya fayda sağlama konusundaki büyük vaadimizi yerine getiremediğimiz yönünde. Bu tamamen bizim hatamız."

"Gerçekten etkili yaklaşım, kanseri tedavi etmektir."

Uzun makalelerinden hiçbirinde söylentiye doğrudan değinmedi. Bir gerçek soruyu kullanarak diğerinden kaçındı.

Kanseri gerçekten tedavi etmekten kastının, yapay zekayı tıbbi ilerlemeyi yönlendirmek için kullanmak ve yeni ilaçları diğer hastalıklara göre daha hızlı bir şekilde kullanıma sunmak olduğunu söyledi.

Bu, 2006'da ölen biri için. O kişi bir şişe ilaç bekledi, çok uzun süre bekledi ama ilaç hiç gelmedi.

O andan itibaren yavaşlığın bir günah olduğuna inanmaya başladı. Birisi yavaşlığın günah olduğuna inanıyorsa, tek panzehirin hız olduğunu düşünür. Panzehir iyi bir şeydir. Ama o, panzehiri sadece kendisinin hazırlayabileceğine herkesin inanmasını istiyordu.

1986'da İngiliz yazar Alan Moore, daha sonra filme uyarlanan *The Guardians* adlı bir çizgi roman yayınladı. Filmdeki karakterlerden biri olan Adrian Witt, Firavun olarak bilinir ve dünyanın en zeki insanı olduğunu iddia eder.

Yaklaşan felaketi herkesten önce öngördü. Nükleer savaş, kıyamet, insanlığın kendini yok etmesi. Hayatının yarısını buna hazırlanarak geçirdi. Sonra anladı ki, salt uyarılar işe yaramazdı.

Yani felaketi bizzat kendisi tetikledi. Bir gecede birçok şehir haritadan silindi.

Ona göre, ancak insanlık yıkıma tanık olduğunda iki süper güç savaşmayı bırakacak ve ancak o zaman dünya barışa kavuşabilecekti.

O katildi, ama aynı zamanda kendisini bir kurtarıcı olarak görüyordu.

Sonunda her şey istediği gibi gitti. Mavi, neredeyse her şeyi bilen Doktor Manhattan'a sordu:

"Son mu? Adrian, hiçbir şey bitmedi. Her şey asla bitmeyecek."