Zuckerberg, Meta'nın "kişisel süper zekâ" yaratmayı hedefleyen yapay zekâ yol haritasını özetleyen uzun bir makale yayınladı.

Yazar: Xiao Jing, Tencent Technology

Mark Zuckerberg, ABD yerel saatiyle 10 Ağustos'ta "Gelecek Herkese Aittir: Olumlu Bir Yapay Zeka Geleceğine Giden Yol" başlıklı uzun bir makale yayınladı.

Görünüşte bu, süper zeka, güvenlik, açık kaynak ve altyapı hakkında bir politika bildirisi gibi duruyor, ancak bu uzun belgenin ardında daha önemli bir tema yatıyor: Meta'nın gelecekteki hedefi "kişisel süper zeka" yaratmak.

Zuckerberg bu kavram için çok net bir öncül ortaya koydu: Süper zekâ nihayetinde birkaç şirket, hükümet veya laboratuvar tarafından kontrol edilemez; daha sıradan insanların kullanımına sunulmalıdır.

Son iki yıldır, yapay zeka sektöründe süper zekâya ilişkin tartışmalar öncelikle modellerin yeteneklerini ne ölçüde gerçekleştirebileceğine ve insan yeteneklerinin çok ötesinde yeteneklere sahip bir sistemin kontrolden çıkmasının nasıl önlenebileceğine odaklanmıştır. Zuckerberg, süper zekânın kendisi güvende olsa bile, bu tür bir gücün nihayetinde çok az sayıda kurumun eline geçmesi durumunda, yeni güç dengesizliklerine yol açabileceğini savunuyor.

Dolayısıyla, önerdiği çözüm oldukça "meta-" nitelikte.

Ona göre, yapay zekanın gelecekteki gelişimi için temel ilkeler üç noktaya odaklanmalıdır: bireysel güçlenmeyi refahın kaynağı olarak görmek, yeniliği süper zekanın ana amacı olarak görmek ve denge ve denetim mekanizmaları yoluyla güvenliği sağlamak.

Onun vizyonunda, herkesin yanında uzun vadeli, süper zeki bir ajan olacak. Bu ajan, çalışma tarzınızı, sağlık durumunuzu, aile düzeninizi ve uzun vadeli hedeflerinizi bilecek ve araştırma yapabilecek, kod yazabilecek, ürün tasarlayabilecek, görev planlayabilecek ve hatta daha önce bir şirket gerektiren görevleri tamamlamanıza yardımcı olabilecektir.

Bu durum, Zuckerberg'in görünüşte birbiriyle ilgisiz birkaç konuyu aynı makalede ele almasının nedenini de açıklıyor: açık kaynak modelleri, yapay zeka destekli istihdam, güvenlik yönetimi, veri merkezi inşaatı ve hatta Amerika Birleşik Devletleri'nin enerji ve altyapı kapasitesi.

Bütün bunlar aynı soruyu gündeme getiriyor: Eğer kişisel süper zekâ gerçekten de yeni nesil bilgi işlem platformları haline gelirse, onu kim kontrol edecek, arkasındaki hesaplama maliyetlerini kim karşılayacak ve ne yapabileceğine kim karar verecek?

Zuckerberg'in cevabı, Meta'nın son yirmi yıldaki ürün felsefesini açıkça yansıtıyor.

Facebook, her kullanıcıya içerik oluşturma ve dağıtma yeteneği kazandırırken, Instagram ve WhatsApp bu bağlantıyı daha da genişletti. Yapay zekâ çağında Meta, benzer bir merkeziyetsiz modeli tekrarlamayı umuyor; büyük kurumların entelektüel yeteneklerini sıradan insanlar için temel araçlara dönüştürmeyi hedefliyor.

Yapay zekâ güvenliği konusunda bile Zuckerberg'in görüşleri, Silikon Vadisi'ndeki genel görüşle tamamen örtüşmüyor.

Ona göre gelecekte dikkat edilmesi gereken gerçek risklerden biri, süper zekâ yeteneklerinin aşırı yoğunlaşmasıdır. Bu mantığa göre, Meta için açık modeller artık sadece OpenAI ve Anthropic ile rekabet etmek için bir teknolojik seçenek olmaktan çıkmıştır.

Bu, zamanla Zuckerberg'in süper zeki bir toplumun nasıl işleyeceği vizyonunun bir parçası haline geldi. Daha pratik bir düzeyde ise Meta, bu konsepti keşfetmek için yeni iş fırsatları da arıyor.

Yapay zekâ, sohbet robotlarından uzun vadede kullanıcılara eşlik edebilen kişisel akıllı ajanlara doğru evrilirse, asıl önemli giriş noktası artık web sayfaları veya mobil uygulamalar değil, kullanıcıları sürekli olarak anlayabilen ve her an harekete geçebilen bir yapay zekâ sistemi olabilir. Meta, sosyal ilişkilere, içeriğe, iletişim ürünlerine ve akıllı gözlüklere sahip; bu kaynaklar artık "kişisel süper zekâ" etrafında entegre edilme fırsatına sahip.

Zuckerberg'in makalesi, "Meta en güçlü modeli yaratabilir mi?" sorusundan daha büyük bir soruyu gündeme getirmeyi amaçlıyor.

01 “Süper Zekayı Kontrol Etmekten” “Süper Zekayı Dağıtmaya”

Zuckerberg makalesinde temel bir soru ortaya atıyor: Gelecekte süper zekâya kim sahip olacak? Süper zekâ birkaç şirket, hükümet veya laboratuvarın elinde yoğunlaşırsa, bu toplumda yeni güç dengesizliklerine yol açacak mı?

Son yıllarda, yapay zeka güvenliği alanındaki en önemli tartışma konularından biri, gelecekteki süper zeki sistemlerin insan değerleriyle uyumlu kalmasının nasıl sağlanacağıdır; bu konuya "tutarlılık problemi" denmektedir. Birçok araştırmacı, yapay zekanın yeteneklerinin insan yeteneklerini çok aşması ve hedeflerinin insan çıkarlarıyla tutarsız olması durumunda, kontrol edilemez risklere yol açabileceğinden endişe duymaktadır. 

Resim: Zuckerberg, Meta AI vizyonunu özetliyor.

Ancak Zuckerberg, "herkesin çıkarlarına mükemmel şekilde hizmet eden süper zekâ" yaratmak için yalnızca teknolojik araçlara güvenmenin mantıksal olarak hatalı olduğunu savunuyor.

Bunun nedeni, insan toplumunda birleşik bir değer sisteminin olmamasıdır. Farklı bireylerin, kültürlerin ve grupların iyi bir yaşam için farklı tanımları vardır. Birkaç kurum tarafından tasarlanıp kontrol edilen süper zekâ, değer tercihlerinde kaçınılmaz olarak belirli grupları kayıracak ve herkesin çıkarlarını temsil edemeyecektir.

Bu nedenle alternatif bir yaklaşım önerdi: merkezi, mutlak doğru bir süper zekâ yaratmaya çalışmak yerine, daha fazla insanın kendi süper zekâsına sahip olmasına izin vermek ve bireyler, işletmeler ve kurumlar arasında rekabet yoluyla yeni bir güç dengesi oluşturmak daha iyidir.

Zuckerberg bu noktayı açıklamak için "süper zeki avukatlar" örneğini kullanıyor.

Dünyada sadece bir kişi süper zeki avukat yeteneklerine sahip olsaydı, o kişi hukuk sisteminde önemli bir asimetrik avantaj elde ederdi. Ancak, herkes benzer yeteneklere sahip olsaydı, hukuki kaynakların dağılımı daha adil olurdu ve genel halk ile büyük kurumlar arasındaki bilgi açığı daralırdı.

Benzer şekilde, yalnızca bir kuruluş süper zeki siber güvenlik yeteneklerine sahipse, en büyük güvenlik riski haline gelebilir; ancak savunmacılar da güçlü yapay zeka araçlarına sahipse, dijital sistemlerin genel güvenlik seviyesi aslında iyileşebilir.

Zuckerberg'in çerçevesine göre, yapay zekanın güvenliği yalnızca yeteneklerini sınırlamaya bağlı olamaz; daha da önemlisi, süper zekanın kontrolsüz bir güç yoğunlaşması oluşturmasını önlemekle ilgilidir.

02 Gelecekte yapay zekanın en önemli ürün biçimi

Meta bu konsepte dayanarak "kişisel süper zeka" yaklaşımını savunuyor.

Zuckerberg, gelecekte yapay zekanın en önemli ürün biçiminin, soru-cevap tabanlı sohbet robotlarından, kullanıcıları uzun vadede anlayabilen ve hedeflerine ulaşmalarına yardımcı olabilen kişiselleştirilmiş akıllı ajanlara doğru evrileceği düşüncesinde.

Bu akıllı ajan, kullanıcıların günlük yaşamlarında akıllı bir asistan haline gelecek; kişisel tercihleri, hedefleri ve uzun vadeli ihtiyaçları anlayabilecek ve kullanıcıların sağlıklarını, işlerini, aile yönetimlerini, finansal planlamalarını, öğrenme ve gelişimlerini optimize etmelerine sürekli olarak yardımcı olacaktır.

Mevcut yapay zeka araçlarının çoğundan farklı olarak, gelecekteki kişisel yapay zeka ajanlarının temel değeri, bilgi sağlamaktan kullanıcılar adına eylemlerde bulunmaya doğru genişleyecektir. Örneğin, kullanıcıların bilgileri düzenlemelerine, ilham almalarına, görevleri planlamalarına, kullanıcıların sağlık verilerine dayanarak yaşam tarzı önerileri sunmalarına ve hatta aile etkinliklerini düzenlemelerine yardımcı olabilir.

Zuckerberg gizliliğin önemini vurguluyor. Kişisel süper zekanın insanların hayatlarına gerçekten entegre olabilmesi için, büyük miktarda özel bilgiye erişmek için kullanıcı izni alması gerekiyor. Meta, gelecekteki kişisel zeka ajanlarının, Meta'nın bile kullanıcı bilgilerini görüntüleyemeyeceği veya başkalarının erişimine izin veremeyeceği "tamamen özel bir mod" sunacağını öne sürüyor.

Bu aynı zamanda Meta'nın kurmaya çalıştığı yeni bir insan-makine ilişkisi türünü de temsil ediyor: yapay zeka, işletmelerin sahip olduğu bir araç olmaktan çıkıp bireylerin sahip olduğu bir yeteneğe dönüşecek.

İstihdam ve otomasyon hakkındaki tartışmalarda Zuckerberg'in görüşleri, geleneksel anlayıştan oldukça farklıdır. Ona göre süper zekanın en önemli katkısı, yalnızca insan işlerini ortadan kaldırmak değil, insanlığın daha önce imkansız olan yeni şeyler yaratmasına yardımcı olmaktır.

Tarihsel olarak, her büyük teknolojik devrim işsizlik endişelerini beraberinde getirmiştir. Sanayi Devrimi'nden internet çağına kadar, makinelerin çok sayıda işi ortadan kaldıracağı yönünde sürekli endişeler olmuştur. Ancak sonuçta teknoloji, yalnızca verimliliği artırmakla kalmamış, aynı zamanda yeni endüstriler ve meslekler de yaratmıştır. Zuckerberg, yapay zekâ çağının da benzer bir yol izleyeceğine inanıyor.

Gelecekteki gerçekten önemli değişim, makinelerin daha fazla tekrarlayan görevi üstlenmesi değil, sıradan insanların daha önce yalnızca büyük şirketlerin ve profesyonel kuruluşların sahip olduğu becerileri kazanması olacaktır.

Bireyler, büyük ekiplere ihtiyaç duymadan ürün tasarımı, yazılım geliştirme, pazar araştırması ve hatta işletme kurmak için yapay zekadan yararlanabilirler. Bu, şirketlerin örgütlenme biçimini dönüştürecektir.

Gelecekteki şirketler daha küçük olabilir, ancak bireysel verimlilik daha yüksek olacaktır. Yüksek maliyetler veya teknolojik engeller nedeniyle daha önce imkansız olan birçok fikir, yapay zeka araçlarının yaygın kullanımıyla uygulanabilir hale gelecektir. Zuckerberg, süper zekanın nihayetinde sadece otomatik makineler değil, inovasyonun altyapısı haline gelmesi gerektiğine inanıyor.

03 Açık Kaynak Ekosistemi İşlemleri: Meta'nın Yapay Zeka Rekabet Stratejisi

Olağanüstü kişisel bilgeliğinin yanı sıra, açık kaynak da Zuckerberg'in makalelerinde önemli bir tema olarak yer alıyor.

Meta, uzun zamandır açık kaynak modelini destekliyor ve bu da onu kapalı modele vurgu yapan bazı rakiplerinden açıkça ayırıyor. Zuckerberg, açık kaynak yazılımın yalnızca yeniliği teşvik etmekle kalmayıp aynı zamanda güvenliği de artırdığına inanıyor.

Resim: Meta AI'nin başkanı Wang Tao, şirketin yakında Muse Spark 1.2'nin açık kaynaklı bir sürümünü yayınlayacağını duyurdu.

Mantığı şu ki, daha fazla araştırmacı, geliştirici ve işletme modele erişebilirse, daha fazla insan güvenlik açıklarını keşfedebilir, sistemleri geliştirebilir ve hızlı teknolojik yinelemeyi sağlayabilir. Tersine, süper zekâ uzun süre birkaç kurum tarafından kontrol edilirse, toplumda yeterli denge ve denetim mekanizması olmayacaktır.

Zuckerberg, ABD'nin küresel rekabette çip tasarımı gibi alanlarda şu anda avantajlı konumda olduğunu ancak enerji, veri merkezleri ve altyapı hızı konularında zorluklarla karşı karşıya olduğunu düşünüyor. Yapay zekâda gelecekteki rekabet sadece algoritmalarla ilgili olmayacak, aynı zamanda enerji ve işlem gücüyle de ilgili olacak.

Amerika Birleşik Devletleri'nin açık ekosistemlerdeki avantajlarını korurken altyapı gelişimini hızlandırması gerektiğinin altını çizdi.

Modellerin eğitilmesi ve iyileştirilmesinde veri kullanımına ilişkin olarak Zuckerberg, Amerika Birleşik Devletleri'nin aşırı kısıtlamalar yoluyla rekabet gücünü zayıflatmaması gerektiğine inanıyor. Yapay zekanın gelişiminin temelde insan bilgisinin birikimine dayandığını ve modeller arasındaki karşılıklı öğrenmenin teknolojik ilerlemenin önemli bir yolu olduğunu savunuyor. Amerika Birleşik Devletleri'nin açık kaynak ekosistemini aşırı derecede kısıtlaması, istemeden diğer ülkeler için fırsatlar yaratabilir.

Güvenlik konularında Zuckerberg, yapay zekanın potansiyel risklerini inkar etmiyor. Siber güvenlik, biyometrik riskler ve hükümet gücünün genişlemesi gibi konulara odaklandı.

Onun temel savı, yapay zekanın riskleri karşısında toplumun teknolojik yetenekleri sınırlamak yerine kendi savunma mekanizmalarını güçlendirmesi gerektiğidir.

Örneğin, siber güvenlik alanında, yalnızca saldırganlar gelişmiş yapay zeka araçlarına sahipse, risk gerçekten artacaktır. Ancak, işletmeler, hükümetler ve bireylerin tümü kendi savunma yeteneklerini geliştirmek için yapay zekadan yararlanabilirse, sistemin genel güvenlik seviyesi de iyileşecektir.

Zuckerberg, biyolojik ve kimyasal riskler konusunda, politikanın bilimsel bilginin gelişimini engellemek yerine, tehlikeli maddelerin üretimini ve yayılmasını kısıtlamaya odaklanması gerektiğine inanıyor.

Yapay zekâ ilaç geliştirme ve yaşam bilimleri araştırmalarını hızlandırdıkça, düzenleyici sistemlerin de buna uygun olarak güncellenmesi gerekiyor; aksi takdirde, geleneksel onay süreçleri inovasyon için bir darboğaz haline gelebilir.

04 Veri Merkezindeki "Topluluk Hesabı"

Yapay zekâ yarışı, altyapı çağına giriyor.

Geniş veri merkezleri, enerji kaynakları ve bilgi işlem kaynakları, süper bilgisayarların geliştirilmesinin temelini oluşturmaktadır. Ancak aynı zamanda, Amerikan toplumu büyük veri merkezlerinin inşasının enerji tüketimi, su kaynakları üzerindeki baskı ve çevresel etkileri konusunda giderek daha fazla endişe duymaktadır.

Zuckerberg, yapay zeka altyapısı geliştirmenin faydalarının toplumla paylaşılması gerektiğini vurguladı. Meta, veri merkezlerinin bulunduğu yerlerin daha fazla iş fırsatı, eğitim yatırımı ve kamu hizmeti desteği almasını umarak bir "toplum sözleşmesi" kavramı önerdi.

Ona göre veri merkezleri sadece kaynak tüketen tesisler olarak değil, geçmişteki demiryolu, elektrik ve internet altyapısı gibi bölgesel ekonomik kalkınmayı destekleyen uzun vadeli varlıklar olarak görülmelidir.

Görsel: Meta'nın ABD, Louisiana, Richland County'deki veri merkezi projesi.

Bu aynı zamanda Meta'nın yapay zekaya yaptığı büyük ölçekli yatırıma ilişkin dışarıdan gelen şüphelere verdiği önemli bir yanıt niteliğinde.

Gelecekte yapay zekâ alanındaki rekabet, büyük sermaye yatırımlarını gerektirecek ve bu yatırımların toplumsal kabul görüp görmeyeceği, teknoloji şirketlerinin çözmesi gereken bir sorun olacaktır.

Kurumsal yönetim konusunda Zuckerberg, süper zekanın geliştirilmesinin tek bir liderin yargısına bağlı olamayacağına inanıyor. Süper zekanın konuşlandırılmasında nihai karar vericinin CEO olması durumunun ideal olmadığını kabul ediyor. Bu nedenle Meta, bağımsız bir yönetim kurulunun model sürümleri için güvenlik standartlarının belirlenmesine ve büyük modellerin yayınlanmasının incelenmesine katılmasına olanak tanıyan yeni bir yönetim mekanizması oluşturuyor.

Aslında bu düzenleme, yapay zekâ yeteneklerinin büyük teknoloji şirketlerinin elinde yoğunlaşmasına ilişkin uzun süredir devam eden endişelere bir yanıt niteliğindedir.

Aynı zamanda Zuckerberg, yapay zekanın kendi kendini otonom olarak geliştirme yeteneği kazanması durumunda ortaya çıkabilecek aşırı risklerden de bahsetti.

Yapay zekâ sistemleri yeteneklerini sürekli olarak geliştirebilirse, hesaplama kaynakları belirleyici faktör haline gelebilir. Teorik olarak, sürekli kendi kendini optimize etme yeteneğine sahip sistemler, kendileriyle diğer sistemler arasındaki farkı hızla açabilir.

Bu nedenle, yapay zekanın tekrarlayan kendi kendini geliştirme sürecini sağlamak için gelecekte bir miktar işlem gücüne yatırım yapılması gerekse bile, zekâya dair yeteneklerin çoğunun insan hedeflerine ulaşmak için insanlar tarafından kontrol edilmesi gerektiğine inanmaktadır.

05 Sonuç: Yeni nesil bilgi işlem platformlarının giriş seviyesi pazarına yönelik çabalar

Meta'nın geçen yılki eylemlerine bakılırsa, bu uzun makale yapay zekâ güvenliği sorunlarını ele alıyor gibi görünüyor, ancak asıl endişesi açıkça Meta'nın geleceği.

Kişisel süper zekâ, açık modeller, akıllı gözlükler ve büyük ölçekli bilgi işlem yatırımları—bu görünüşte birbirinden farklı girişimler tek bir anlatıya dönüştürüldü: Yapay zekâ rekabetinin bir sonraki aşaması, en güçlü modele sahip olanın değil, insanlar ve yapay zekâ arasındaki en uzun süreli ve en sık temas noktasını kontrol edebilenin kazanmasına kayacak.

Meta bu savaşa çok aşina.

Son yirmi yıldır, Facebook'tan Instagram'a ve WhatsApp'a kadar Meta'nın temel varlığı her zaman kullanıcılara açılan kapı olmuştur. Ancak mobil internet çağında, Apple ve Google gibi işletim sistemleriyle sınırlı kalmıştır. Yapay zeka, Zuckerberg'e bilgi işlem platformlarını yeniden tanımlama fırsatı sunuyor: Eğer herkesin sürekli olarak onları anlayabilen, çeşitli hizmetleri çağırabilen ve onlar adına hareket edebilen akıllı bir ajanı varsa, bu akıllı ajan kendi başına yeni işletim sistemi haline gelebilir.

Akıllı gözlüklerin anlamı da değişti. Artık sadece yeni bir donanım türü değiller, gerçek dünyadan bilgi edinmek ve kullanıcılarla sürekli etkileşimde bulunmak için kişisel yapay zekâya sahip terminaller haline gelebilirler; açık model sadece teknoloji endüstrisinin bir stratejisi değil, aynı zamanda Meta teknoloji yığınının kapsamını mümkün olduğunca genişletmeyi de amaçlıyor.

Ancak burada daha fazla incelenmeyi hak eden bir çelişki var.

Zuckerberg, "süper zekânın herkese ait olduğu" fikrini öne sürerek yapay zekâ yeteneklerinin merkezileşmesiyle ilgili endişeleri gidermeyi umuyor. Ancak, bireysel yapay zekâ yeteneklerinin gerçek sınırları hala modellere, işlem gücüne, terminallere, dağıtım kanallarına ve en önemlisi kişisel verilere bağlıdır. Süper zekâ herkes için erişilebilir olabilir, ancak onu destekleyen altyapının kendisi güçlü ölçek ekonomilerine sahiptir.

Başka bir deyişle, yapay zekanın kişiselleştirme yeteneği ne kadar güçlü olursa, altında yatan platformun konsantrasyonu da o kadar yüksek olabilir.

Bu nedenle, Meta'nın yaklaşımının nihai başarısı yalnızca yeterince güçlü bir model oluşturma yeteneğine değil, aynı zamanda ve belki de daha önemlisi, ilk kez Apple ve Google'ı atlayarak kendi kontrollü bilgi işlem geçidini kurup kuramayacağına; ve yapay zeka kullanıcıları herhangi bir uygulamadan daha iyi anlamaya başladığında, bu yapay zekanın ve ortaya çıkan verilerin ve ilişkilerin gerçek sahibinin kim olduğuna bağlıdır.