Yapay zeka: Kaos’u atlatırsak gelin bunu konuşalım

Bazı arkadaşlarımla zaman zaman yapay zeka (YZ) üzerine tartışıyoruz. Ben ve benim gibi düşünenler YZ’nın kontrolsüz bir güç halinde geliştiğini ve insanlık için büyük bir tehlike potansiyeli taşıdığını savunuyor. Karşı görüşü benimseyen arkadaşlarım, her yeni teknolojik devrimin başlangıçta büyük sorunları beraberinde getirdiğini ancak insanlığın bunu aşabildiğini, YZ‘nın tehlikelerini yine YZ ile gidermenin mümkün olduğunu, bilimin insanlığı mahvetmeden kendi yolunu bulacağını savunuyor.

Kuşkusuz bu benim dar arkadaş grubumun başlattığı bir tartışma değil. İçki masalarından parlamento koltuklarına, okul sıralarından akademik toplantılara tüm dünyada bu tartışma birkaç senedir canlı bir şekilde sürüyor. Bu süreçte hemen tüm tezlere, haberlere, makalelere “gelecek zaman” kipinin hakim olduğunu da eklemekte yarar var. 

Şu son iki-üç haftada, haber bültenlerinin en tepesinde yer almasa da, aralıksız biçimde işlenen ve dünyanın ekonomik-politik elitini alarma geçiren bazı gelişmeler, bana, “gelecek zamanın” gelmiş olabileceğini düşündürüyor. Tehlike o kadar yakın ki, siz bu satırları okurken, “dünyanın zirvesi” fokur fokur kaynıyor. İşin kötüsü henüz kimse ne yapmak gerektiğini bilmiyor.

Beyaz Saray’da beklenmedik toplantı

Geçen hafta Cuma günü, teknoloji camiasına “ne oluyor” dedirten bir gelişme oldu. Anthropic adlı YZ şirketinin iki kurucusundan biri, Dario Amodei, Beyaz Saray’ın en yüksek bürokratı Susie Wiles ve ekibiyle bir araya geldi. Taraflar bir gün öncesine kadar kanlı-bıçaklıydı. 

Hatırlayacaksınız, Anthropic Claude adlı YZ platformunun otonom (hedefine kendi karar veren ve harekete geçen) silahlarda ve ABD halkının kitlesel olarak gözetlenmesinde kullanılmasına izin vermemişti. Daha önce bu köşede yer verdiğimiz bu gelişme, ABD hükmetinin Anthropic’i, adeta “düşman” tanımına sokarak, “tedarik zinciri riski” olarak ilan etmesine yol açmıştı. Trump hükümeti kendince cezayı kesmiş, Pentagon’un ve hükümet kuruluşlarının Anthropic ile çalışmasını yasaklamıştı. Anthropic mahkemeden yürütmeyi durdurma kararı çıkartmış ama iki taraf arasındaki gerilim devam etmişti. 

Beyaz Saray, yaklaşan tehlikenin ciddiyetini kavrayınca “düşman” muamelesi yaptığı Anthropic’i toplantıya davet etti. Toplantıda iki tarafın “yapıcı görüşmeler” gerçekleştirdiği açıklandı. Önceki gün 10 Haber’de de yayınlanan gelişmelerin çok hızlı seyretmesine, özel sektörle devletin bilek güreşinin birdenbire yön değiştirmesine bakınca, insan ister istemez, “gerçek güç kimin elinde” diye soruyor.

Güvenlik açığını anında bulan yapay zeka platformu

Anthropic, Claude’un bir devamı niteliğindeki yeni YZ modeli Mythos’u piyasaya sürmek yerine, küresel çapta doğurabileceği tehlikeleri dikkate alarak, Pentagon’u ve Beyaz Saray’ı uyarmış ve bu tehlikelerin bertaraf edilmesinde birlikte çalışmak üzere 11 şirkete ve kuruma Mythos’u verdiğini, bu sayıyı ikinci aşamada 40’a çıkaracağını duyurmuştu. Bu kurumların hepsi ABD’de faaliyet gösteriyordu. Model geçen hafta bir de İngiltere’ye verilmişti. 

Mesele şuydu: Yeni YZ modeli Mythos (bunu yapsın diye geliştirilmiş olmadığı halde), bugüne kadar hiçbir YZ platformunun başaramadığı bir hızda ve mükemmellikte, herhangi bir siber sistemin güvenlik açığını “sıfır günde” bulabiliyordu. 

Ben basit örnekler vereyim, siz onları hayal gücünüzün elverdiğince geliştirin. Mesela bu platformu eline geçiren birileri New York borsasına “arka kapıdan” girip dünya borsalarında zincirleme etkiye yol açabilecek bir satış furyası başlatabilir, borsaları çökertebilir. Bir başkası Avrupa’nın enterkonnekte elektrik şebekesine sızarak yaşlı kıtayı günlerce karanlıkta bırakabilir. Bir üçüncüsü uçuş emniyetini sağlayan havayolu güvenlik sistemlerini devre dışı bırakabilir. Ülkelerin hava savunma sistemlerinin susturulmasından veya nükleer silahların tetiklenmesinden söz etmiyorum bile… Kaosu düşünebiliyor musunuz?

Büyük şirketlerde, kurumsal yapılarda, devletlerde böyle siber güvenlik açıkları yoktur diye düşünmeyin. Bu açıklar her yerde var. Şirketlerin güvenlik duvarını aşıp bilgisayar sistemini kilitleyen ve “kurtulma parası” isteyen korsanları, müşterilerinin kimlik bilgileri çalınan şirketleri hatırlayalım. En vahim örneklerden biri ABD’de Hazine, İç Güvenlik ve Dışişleri bakanlıkları ile savunma sanayii şirketlerine sızılmasıydı (Solarwinds Cyberattack). Bunların hepsi güvenlik açıklarının kullanılmasıyla gerçekleştirilmişti. 

Bugüne kadar nispeten az vak’a görüldüyse, sebebi, sızma işlemi için gereken tarama zamanının uzun olması, güvenlik duvarı mimarilerinin karmaşık olması ve çoğu zaman işe yaraması, gerekli işlem gücünün çok yüksek olmasıydı. Mythos’un çalışma prensipleri hakkında henüz net bir bilgi yok ama bu üç engeli de mükemmelen aşabildiği anlaşılıyor.  

Bu olay ortaya çıktığında ABD Hazine Bakanı ile Merkez Bankası Başkanı en büyük bankaların CEO’larını acil görüşmeye çağırdı. İngiltere ve Kanada Merkez Bankaları’nın benzeri “gizli” toplantılar düzenlediği de konuyla ilgili haberlerin satır aralarında yer aldı. 

40 kişinin bildiği sır, sır mıdır?

“İki kişinin bildiği sır, sır değildir” demişler. Ya 40 kişinin bildiği sır?..  Mythos, aralarında büyük bankaların, teknoloji şirketlerinin, devletin güvenlik kurumlarının, Pentagon’un, Hazine Bakanlığı’nın bulunduğu, tamamının ismi açıklanmayan 40 kurumla paylaşılmış durumda. Peki bu “tehlikeli madde”nin dışarı sızması nasıl önlenecek? 

Bloomberg’in Salı günü verdiği habere göre sızma çoktan gerçekleşmiş durumda. Yetkisiz bir kullanıcı grubu Mythos’a erişim sağlamış. Haber Anthropic tarafından da kısmen teyit edildi. Şirket dışarıdan sağlanan erişimi araştırdığını, bu erişimin sistemlerinden herhangi birini etkilediğine dair bir kanıt bulunmadığını ileri sürüyor.   

Dahası var: Anthropic’in CEO’su Dario Amodei’ye göre, en fazla 18 ay içinde başka YZ şirketleri de benzeri bir platformu geliştirmiş olacaklar. Bunların nasıl hareket edeceğini, o zamana kadar ne tür önlemler geliştirilebileceğini bilmiyoruz. Kaldı ki dünya Batı’dan ibaret değil. Bunun Rusya’sı var, Çin’i var, Kuzey Kore’si var… Bağımsız “hacker”ları var, suç örgütleri var…

Özetle söylemek gerekirse, bütün dünyanın bütün siber sistemleri tehdit altında. Üstelik, mesele bu platformun “kötü ellere” geçmesi değil sadece. Bu teknoloji, ABD devletinin, İngiliz devletinin, bir avuç özel uluslararası şirketin elinde olursa “iyi ellerde” mi olmuş olacak?

  

Dünyanın en güçlü teknolojisi, bir avuç insana emanet edilmeli mi?

Bu soruyu ben sormuyorum. The Economist, geçen haftaki kapak konusuna bu soruyla başlıyor. Ardından, beş teknoloji “manyağının” (geeks) geleceği şekillendirecek yapay zeka modelleri üzerinde neredeyse tanrısal bir hakimiyet kurduğunu belirtiyor. Sözünü ettiği (bu sefer daha kibar bir ifadeyle söyleyelim) teknoloji tutkunları Anthropic’in (Claude/Mythos) kurucusu ve CEO’su Dario Amodei, Google Deepmind’ın (Gemini) kurucusu ve CEO’su Demis Hassabis, xAI’ın (Grok) kurucusu Elon Musk, Meta AI’ın kurucusu Mark Zuckerberg ve Open AI’ın (Chat GPT) kurucusu Sam Altman. 

Şirketler arasındaki sınırsız rekabetin, Amerika’nın Çin’e karşı yapay zeka yarışını kazanmasını sağlamanın en iyi yolu olduğuna inanan Trump hükümetinin, bu modellerin dudak uçuklatan yetenekler kazanmasını bir kenardan izlediğini belirten Economist, “bırakınız yapsınlar” yaklaşımının artık siyasi olarak savunulamayacağının, stratejik olarak akıllıca olmadığının altını çiziyor.

Kısaca, liberal ekonominin şampiyonu Economist, satır aralarında, duruma “müdahale edilmesini” savunuyor. “Amerika’nın yapay zekaya karşı sergilediği serbest tutum sona eriyor gibi görünüyor,” şeklinde bir yorum yaparken aslında Trump’a “kendi ulusal güvenliğini tehlikeye atıyorsun, ayrıca dikkat et, önünde parlamento yenileme seçimleri var,” uyarısında bulunuyor. 

Avrupalılar (Economist’in yorumcuları dahil) kendilerinin meselenin çoktan farkında olduğunu ancak Trump yönetiminin aymazlık ettiğini düşünüyorlar. Avrupa hem sosyal medyayı hem YZ’yı bazı regülasyonlarla belirli sınırlar içinde tutmak gerektiğini düşünüyor. Trump yönetimi ise buna şiddetle karşı çıkıyor hatta tehditler savuruyor(du); Economist’e göre, şimdi “uyanıyor.”

Gerçekte uyanıyorlar mı acaba, yoksa fazlasıyla “uyanık”lar da bütün bunlar bu yüzden mi başımıza geliyor?  

Yapay zekanın “tanrıları” iki yüzlü mü?

İşin içine girdikçe, insan, yapay zeka dünyasında hiçbir şeyin göründüğü gibi olmadığının farkına varıyor. Anthropic Pentagon’a ve Trump yönetimine kafa tuttuğunda, ben dahil pek çok insan şirketin kurucuları Amodei kardeşlere “şövalye” gözüyle bakmıştı. “Anayasa”ları vardı ve YZ’nın etik kullanımından yanaydılar. Ama zaman içinde ABD devlet kurumlarının etrafında dönmekten de vaz geçmediler.  Ayrıca ABD hükümetiyle aralarındaki çatışmanın pozitif PR etkisi de muazzam oldu. Akabinde de yüzlerce dijital platformda Claude reklamı görmeye başladık. Yeni model peynir-ekmek gibi satmaya başladı.  

Son olay da, Mythos’un “şövalyeliğini” kanıtlamış gibi görünüyor. Milyon dolarlar harcadığı bir ürünü piyasaya sürmüyor, “tehlikeden dünyayı haberdar ediyor.”  Trump hükümeti ile arası düzeliyor. Pentagon’un kapısından tekrar içeri giriyor. Bu arada herkes bu ürün için kıvranıyor. Talep tavana vurmuş durumda, ama arz yok. Belki gerçekten bir “sorumlu davranış” söz konusu. Peki bütün bunlar bir “strateji” olsaydı şaşırır mıydınız?

***

Öte tarafta, Yapay zeka dünyasında pek sevilen bir şahsiyet olmayan Sam Altman’ı ele alalım mesela… Open AI’ın kurucusu ve CEO’su Altman, başlangıçta bir vakıf gibi kurulan bir şirketi, dev bir kâr merkezine dönüştüren kişi… Trump’ın yemin törenini finanse edenler arasında yer alan Altman, Anthropic ABD Savaş Bakanlığı’ndan kovulunca “o işi ben yaparım” diye ortaya atılmıştı, The New Yorker dergisi, kapsamlı bir araştırma ve tanıklıklarla şöyle bir Altman portresi çizmiş: “Aşırı hırslı, güç ve kontrol peşinde koşan; gerçekle olan ilişkisi siyasi eğilimleri kadar esnek görünen bir adam. Bir dönem önce, eski ABD Başkanı Joe Biden’ı açıkça destekleyen Altman, artık halefi Donald Trump’ın yanından ayrılmıyor ve Trump’ın teknoloji sektöründeki düzenlemelerin gevşetilmesine yönelik yaklaşımını ‘çok ferahlatıcı bir değişiklik’ olarak nitelendiriyor.” 

Aynı Sam Altman sık sık, yapay zeka geliştirme sürecinde denetimin önemini vurgulayan, sosyal riskleri azaltmayı ve faydaların paylaşılmasını sağlayacak önlemleri destekleyen açıklamalar yapıyor. Hatta bu ay içinde Open AI şirketi “Bilgi Çağı için Sanayi Politikası: İnsanları Ön Planda Tutan Fikirler” başlıklı bir broşür yayınladı. 

Broşürde yok yok: Süper zekaya geçiş sürecinin herkesin yararına olmasını sağlamak için yapay zekaya erişim konusunun evrensel bir hak haline getirilmesi, kazançların yeniden dağıtılmasına yönelik bir kamu fonu oluşturulması, işgücü üzerindeki vergilerin azaltılıp sermaye üzerindeki vergilerin artırılması, ücret kaybı olmaksızın dört günlük çalışma haftası ve büyük ölçekli iş kayıpları durumunda devreye girecek otomatik sosyal güvenlik ağları… En güçlü modellerin zorunlu denetimi, riskler konusunda uluslararası koordinasyon ve devletlerin yapay zeka kullanımını düzenlediği net kurallar…

Ne güzel değil mi? Open AI’ın yapay zeka ile ilgili çeşitli düzenlemeler peşinde koşan politikacılarla iş birliği yapması veya en azından onları desteklemesi, bu savunduğu ilkelerin hayata geçmesi için kesenin ağzını açması son derece normal olurdu değil mi? Değil! 

Palantir ile Open AI el ele vermiş, bir Demokrat adayla uğraşıyor  

Kesenin ağzı tam tersi bir amaçla açılıyor. New York 12. Bölge’de, ABD Temsilciler Meclisi’ne aday olan Alex Bores’a karşı agresif ve pahalı bir saldırı kampanyası yürütülüyor. New York Times’a (NYT) göre bu saldırı kampanyasını yürüten fonun en büyük bağışçıları arasında OpenAI’ın kurucu ortaklarından Greg Brockman, Palantir’in kurucu ortaklarından Joe Lonsdale bulunuyor. (Bu şirketlerin en tanınmış isimleri Sam Altman ve Peter Thiel ortada gözükmüyorlar. Onlar “iyi polis.”)

Neden Bores’u hedef alıyorlar? Eski bir Palantir çalışanı olan Bores, New York Eyalet Meclisi’nde RAISE Act adlı yapay zekâ düzenlemesini yazan kişilerden biriydi.  Bu yasa, şirketlerin güvenlik planı açıklaması, kritik olayları raporlaması, bazı durumlarda bağımsız denetimden geçmesi gibi yükümlülükler getiriyordu. (Trump, daha sonra, eyaletlerin kendi başına YZ’ya sınırlama getirmesini yasakladı) Bores eğer Demokrat Parti’nin bir temsilcisi olarak ABD kongresine girerse, hiç kuşkusuz, bu çabalarını eyalet düzeyinden federal düzeye taşıyacak, ulusal çapta uygulanacak yasalar için çalışacak. Bu tür yasaları destekleyecek Cumhuriyetçiler dahi bulabilir. NYT’nin yorumuna göre söz konusu şirketler, AI düzenlemesi yapabilecek politikacıları caydırmak için Bores’u “örnek vaka” olarak seçmiş durumda. 

Yukarıda mükemmel YZ düzenleme önerilerini verdiğimiz Open AI’ın, Alex Bores’u seçtirmemek için harcadığı milyonlar iki yüzlülüğün bariz bir göstergesi değil mi? Aynı şeyi Palantir için söyleyemeyiz. Palantir “tek yüzlü” ya da “yüzsüz.” 

Hatırlatalım: Palantir şirketi Trump yönetiminin Savaş Bakanlığı’nda ve İç Güvenlik Bakanlığı’nda önemli görevler üstlenmiş durumda. Görüntü istihbaratında uzmanlaşmış bu şirketin, yeteneklerini, Gazze’de insan “hedef”lerin tespiti için, ABD içinde sınır dışı edilecek göçmenleri tarayıp bulmak için bu bakanlıkların emrine verdiğini biliyoruz.  

Palantir Technologies, yaptığı iş konusunda son derece açık sözlü. Şirketin CEO’su Alex Karp birkaç gün önce, yakında çıkacak kitabının bir özetini yayınladı. Karp yapay zekanın, askeri gücün, jeopolitik caydırıcılığın ve Batı stratejik egemenliğinin bir aracı olduğunu söylüyor ve yapay zekanın askeri sistemlere hızla entegre edilmesi gerektiğini savunuyor. 

Peter Thiel, Palantir’in kurucularının en ünlüsü, sadece şirketin değil, Başkan Trump’ın da beyninin yarısı… Silikon Vadisi’nin dahi çocukları, onun yanında, daha dün Trump’ın peşine takılmış çömezler sayılır. Thiel, neredeyse on yıldır Trump’ın çok yakınında. Dünyanın sonunun habercisi Deccal’in çoktan aramızda olabileceğine ve uluslararası kuruluşlar, çevrecilik ve teknolojiye getirilen kısıtlamalar gibi unsurların bu sürecin hızlanmasına neden olabileceğine inanıyor. Bu fikirlerinden inananları mahrum etmemek için, 200 dolarlık biletleri olan, her türlü kayıt aletinin yasak olduğu, Eski ve Yeni Ahit’ten uzun pasajlar okuduğu konferanslar veriyor. 

Bunları magazin olsun diye anlatmıyorum. Bu bilgilerin, dünyanın geleceğinin kimlerin elinde olduğu hakkında bir fikir vereceğine inanıyorum. 

Yap-bozun eksik parçaları: Demokratik denetim, örgütlü mücadele, kamuoyu baskısı

Bitirirken yine arkadaşlarımla yaptığım tartışmaya dönmek istiyorum. Bana sanayi devrimini örnek veriyorlar. O dönemde makinelerin yarattığı işsizliğin zamanla aşılmakla kalmadığını, refahın arttığını, çalışanların bu refahtan pay aldığını, sistemin kendi kendini düzelttiğini söylüyorlar. Ben de onlara sistemin kendi kendini düzeltmediğini, hak mücadelesi veren kitlelerin, onların bir araya geldiği parti, sendika, dernek vb gibi örgütlerin yarattığı baskı sonucu sistemde göreli iyileştirmeler sağlandığını (çalışma sürelerinin, çalışma ortam ve koşullarının ücretlerin iyileştirilmesi), bu iyileştirmelerin kapitalist sistemi “ölümcül” olmaktan çıkarıp “yaşanabilir” hale getirdiğini hatırlatıyorum. 

Bugün bir tarafta dünyayı kendi hegemonya alanlarına bölmek, kendi halklarını ve toplumsal sistemlerini baskı altında tutarak iktidarlarını süreklileştirmek isteyen otoriter  rejimler var. Öte tarafta onlara bu ihtiyaçlarını karşılayacak YZ platformlarını sağlayan bunun karşılığında, ekonomik, sosyal ve siyasal ayrıcalıklar talep eden (ve alan) başlıca kaygıları kâr (ve güç) elde etmek olan teknoloji oligarkları var. Bu iki kesim arasındaki bağın çok kısa zamanda çok güçlü bir hale geldiğini ve bu yeni oligarşinin dünyayı mahvedebileceğini, “insanlık her zaman bir yolunu bulmuştur” diyerek göz ardı edemeyiz. Piyasa veya teknolojik gelişme kendi kendine, otoriter rejimlerle-teknoloji oligarklarının bu zehirli ilişkisinin panzehirini bulamaz. 

Demokratik denetim, örgütlü mücadele, kamuoyu baskısı olmadan YZ’nın insanlık yararına bir teknolojiye doğru evrilmesi sağlanamaz. Yapay zekanın gideceği yön bir politik tercihtir.  Bu kaosu atlatırsak işte bunu konuşalım.