Yakın arkadaşım Cem Oskay’dan dinlediğim bir anı: Cem’in teyzesinin yaşadığı mahallede eskiden güzel bir adet varmış.
Aşure zamanı geldiğinde herkes kendi evinden malzemesini getirir, birleştirirmiş. Sonra apartman bahçesine kurdukları dev bir kazanda hep birlikte kaynatır ve bütün mahalleye dağıtırlarmış. Böylece hem anlamlı bir ritüeli hep birlikte gerçekleştirmiş olur hem de her evde ayrı ayrı aşure kaynatma külfetinden kurtulurlarmış.
Yine bir aşure mevsimi bu şekilde ritüeli gerçekleştirirken bahçede kaynayan kazana, apartmandaki tuvalet pencerelerinin birinden bir yabancı ‘cisim’ düşüvermiş (ne olduğunu yazmayacağım).
Tuvalet pencereleri göz hizasından yukarıda olduğu için muhtemelen bilinçli yapılmış bir eylem değilmiş ama olan olmuş. Bütün mahalleye yetecek koca bir kazan aşure böylece çöpe gitmiş.
Nasıl olduysa yıllar önce dinlediğim bu anı, yapay zekâyla ilgili dünyadaki son tartışmaları takip ederken zihnim tarafından geri çağrıldı.
Yapay zekâ aşure ilişkisi
“Yapay zekâ ile aşurenin ne alakası var?” demeyin. Üretken yapay zekâ da aslında tıpkı aşure gibi internetin çok farklı noktalarından çektiği veriyle besleniyor ve öğreniyor.
Sonra bu toplamdan yaptığı aşureyi önümüze koyuveriyor. Bu aşurenin şeffaf bir şekilde, yani herkesin gözü önünde yapılmasının faydaları var. Ancak insan faktörünü göz önünde bulundurduğumuzda ve kötü niyetli odakları düşündüğümüzde iş karmaşıklaşıyor.
Kazan açıkta kaynadığında yabancı bir cisim düşebilir, birileri çaktırmadan aşurenin içine zehir atabilir, bir başkası aşureyi kirli amaçlarına alet edebilir vesaire.
Diğer yandan hep birlikte kaynatmanın da çok faydası var. Bir kere her evde ayrı ayrı ocak kaynamayacak, herkes tek tek emek vermeyecek. Verimlilik açısından müthiş bir şey.
Ayrıca işin içinde pek çok insan olduğu için tarif gelişebilir, zenginleşebilir, lezzeti bozan bazı hatalar düzeltilebilir.
Bu anıdan şöyle bir öğretiyle de çıkabiliriz: Bahçede aşure kaynatıyorsanız üzerine bir branda germeyi veya çardak benzeri bir yapı inşa etmeyi bilmelisiniz. İşte dünya yapay zekâ konusunda tam bu aşamada.
Bir taraf tarifi gizlemeye çalışıyor
Time dergisinde Will Henshall, güzel bir şekilde özetlemiş. Tartışmanın bir tarafında Anthropic, Google Deep Mind ve Open AI gibi lider yapay zekâ laboratuvarları var.
Bu kuruluşlar yapay zekanın açık riskleri üzerine iş birliği çağrısı yapan bir bildirinin imzacısı oldular. Bu bildiri bir anlayışı temsil ediyor ve Open AI’nin geçen ay kendi sitesinden yayınladığı bir makalede billurlaşıyor.
Bu makale, kamu güvenliğine yönelik ciddi riskler oluşturmaya yetecek kadar tehlikeli yeteneklere sahip olabilecek yüksek kapasiteli temel modellere dikkat çekiyor. Yani “Sınır Yapay Zekâ” modelleri denilen modeller için kamu otoritesi iş birliğiyle standartların belirlenmesi, raporlanması ve bir şekilde lisanslamasına giden bir süreç talep ediliyor.
Bu “herkes aşureyi kendi evinde yapsın ve herkesin tarifi de bir yere kadar gizli kalsın, çünkü tarif kötü niyetli kişilerin eline geçirse, kamu güvenliği bozulabilir” demek.
Tabii bunun imzacı laboratuvarlara sağlayacağı avantajları da düşünmemiz gerek. Bu biraz da en büyükler hep büyük kalsın ve bu piyasayı düzenlesin demek anlamına gelebilir.
Bir taraf her şey açık olsun istiyor
Tartışmanın diğer tarafındaysa her şey açıkta gelişsin isteyenler var.
Meta, geçen şubat ayında büyük yapay zekâ dil modeli Llama’yı çıkardığında araştırmacılara vaka bazında izin vermişti. Zaten çok geçmeden Llama’nın matematiksel modeli de sızdırıldı ve açık kaynaklı hale geldi.
Mart ayında lanse edilen Llama 2 ise doğrudan erişime açık şekilde sunuldu. (Geçen hafta piyasaya sürülen kod yazabilen yapay zekâ aracı Code Llama da Llama 2 üzerinde çalışıyor)
Bu model herkes tarafından indirmeye ve geliştirmeye açık. Dolayısıyla araştırmacılara ve geliştiricilere belli bir yere kadar özgürlük veriyor.
Meta her ne kadar bunu şeffaflık ve yeniliği teşvik olarak sunsa da bu işin ticari tarafı var. Çünkü topluluk tarafından açık kaynaklı model üzerinde yapılacak iyileştirmeler, Meta’nın da işine yarayacak.
Bununla birlikte üzerine branda gerilmediği için kazana yabancı maddelerin girmesi ve bir kazan aşurenin berbat olması ihtimali de var. Buradaki kazanın bir mahalleyi değil, dünyayı temsil ettiğini söylemek gereksiz ama her ihtimale karşı yinelemiş olalım.
Uluslararası bir kurum şart
Açıkçası yakından bakıldığında, yapay zekâ üzerindeki bu tartışmada her iki tarafa da belli oranda hak vermek mümkün.
İnsanı karar vermekte çok zorlayan bir ikilem var. Çünkü her iki taraf insanlığın faydası için savunduğunu söylediği bu yaklaşımlardan ticari çıkar elde ediyor.
Benim bu konuda hangi tarafta olduğumu sorarsanız, “Sınır Yapay Zekâ” ile ilgili standartların bir an önce belirlenmesini isteyen birinci tarafa daha yakınım.
Bununla birlikte, şu anki lider şirketlerin bu konuda sağlayacağı ticari avantaj can sıkıcı. Bu avantaj söz konusu şirketlerin kurulu olduğu ülkeler için de geçerli.
O yüzden her iki yaklaşımın da belli öğeleri korunarak bir sınır çizilmesi gerekiyor. Bu da ancak bu işin yasal çerçevesinin hızla çizilmesiyle mümkün olacak. Hem AB hem de ABD tarafında bu konuda çalışmaların hızlandırıldığını biliyorum.
Ancak yine de her dönüştürücü teknolojide olduğu gibi teknoloji hızla koşarken hukuk arkasından emekleyerek yetişmeye çalışıyor. Bu kez aradaki farkın faturasını sadece belli ülkeler değil, tüm dünya ödeyecek.
O nedenle, bir an önce Birleşmiş Milletler ya da Avrupa İnsan Hakları Mahkemesi benzeri, yapay zekâ ile ilgili, ülkeler üstü düzenleyici bir kurumun kurulması gerekiyor.
Yapay zekâ bu yönüyle kimi makalelerde nükleer silahlarla eş değer görülüyor. Yoksa ABD’de, AB’de bir düzenleme yapıp kısıtlarsanız ama Çin ve Rusya tarafındaki gelişim bir tarafa avantaj sağlar ya da tam tersi olur.
Tabii bir de bu teknolojilerin üreticisi değil, kullanıcısı ve kobayı olacak diğer ülkeler var.
Unutmayalım ki bu aşureyi bütün insanlık hep birlikte yiyecek. Kimisi daha fazla kimisi daha az; ama kazan bir tane. O kazanın içine kim veya ne düşecek, hep birlikte göreceğiz.
***
Not: Açık kaynak olgusu ve OpenAI’nin zaman içinde bu eksenden çıkması konunun başka bir boyutu. Önümüzdeki pazar yazısında devam edeceğim.