Bu aralar dünyanın dört bir yanında Anthropic adlı yapay zeka şirketinin Claude yapay zeka robotunun son versiyonu olan Mythos konuşuluyor.

Konuşulmasının sebebi şu: Anthropic’te çalışanlar, Mythos’u piyasaya sürmezden önce denediklerinde, Mythos’un başka bütün diğer algoritmalardan çok daha hızlı ve etkili biçimde bazı yazılımlardaki güvenlik açıklarını bulduğunu görmüşler.

O kadar ki, bu güvenlik açıklarının bazıları 27 yıldır orada duruyormuş ve kimse farkında değilmiş, ta ki Mythos onları fark edene kadar.

Mythos’un tam olarak neyi nerede bulduğu ve kaç ayrı sistemde güvenlik açığı saptadığı elbette açıklanmadı ama tabii bu vahim bir durum. O kadar ciddi ki konu, Amerikan Merkez Bankası ve Hazine Bakanlığı hemen bankalarla acil bir toplantı yaptı mesela, demek ki bulunan açıklardan en az biri Amerikan finans sistemini ilgilendiriyor.

Bilgisayar güvenliği endüstrisinin pabucu nasıl dama atıldı?

Her yazılımda, o yazılımı hazırlayan kişi veya ekibin önceden öngöremediği güvenlik açıkları olabilir. Nitekim bilgisayar korsanları oturur o güvenlik açıklarını ararlar ve minicik deliklerden sistemlere sızarlar. Bunun olduğunu biliyoruz; çünkü zaman zaman bu sızıntılarla ilgili haberler önümüze düşüyor zaten.

İşi tam da bu güvenlik açıklarını bulmak ve onları yamamak olan binlerce bilgisayar güvenliği şirketi var. Onlarla anlaşıyorsunuz, kendi sisteminizi onlara taratıyorsunuz. Açık bulurlarsa onlar sistemi yamıyorlar. Bu çok büyük ve giderek de büyümekte olan bir endüstri.

Şöyle örnek vereyim: Google, geçen yıl böyle bir güvenlik şirketini 8 milyar dolara satın aldı. Dünyanın en büyük bulut işletmecilerinden biri olan Google kendi veri merkezlerinin güvenliğini bu şirket aracılığıyla sağlamak istiyordu çünkü.

Ama şimdi Mythos diye bir yazılım çıktı ve bütün o güvenlik şirketlerinin pabucu dama atıldı. Çünkü Mythos onların bulamadığı güvenlik açıklarını fazla bir zahmete girmeden buluvermişti. Nitekim o yüzden bu şirketlerin hisseleri çökmeye başladı.

Mesele sadece teknoloji değil, felsefi boyutu var

Mythos’un bu beklenmedik başarısı aynı anda hem bir büyük tedirginliğe hem de aslında rahatlamaya neden oldu. Öyle ya, bu sayede henüz bilinmeyen güvenlik açıkları kapatılacak. Bilgisayar alemi daha güvenli olacak.

Tabii bu durum Anthropic’i manşetlere çıkardı, ben de bu aralar konuyla ilgili ne bulsam okuyorum.

Meselenin bir teknik tarafı var, o bölüm benim daha az ilgimi çekiyor. Esas felsefi diyebileceğim bir yön var, bugün de size o yönü biraz anlatmaya çalışacağım.

Nedir o felsefi yön? Basitçe şu: İnsanoğlu, bir uygarlık olarak varolduğundan beri, daha doğrusu bir uygarlık olmasını bir diğerine güvenmesine borçlu. Çünkü uygarlık toplumsal bir organizasyon ve iş bölümü gerektiriyor.

Bu iş bölümü içinde de, diğerlerinin de işlerini en az bizim kadar iyi yaptığına ve yapacağına güvenmemiz gerekiyor. Bu güven konusu, sahiden uygarlığımızın temelinde yer alan bir konu. Bunun için koca devlet organizasyonlarımız, kanunlarımız, devasa bir hukuk literatürümüz var. O güveni garanti altına almak için.

Dediğim gibi insanlık hep bir diğerine güvenerek, bazı işleri onlara bırakarak ilerledi ama artık giderek artan biçimde bu güven mekanizmasını makinelere devretmeye başladık. O bakımdan insan uygarlığının ilginç bir kavşağındayız aslında.

Yapay zeka çağında “güven” daha da zor

İşte o yüzden Mythos’un güvenlik açıklarını bulması, hayatımızın önemli bölümlerini teslim etmeye başladığımız o makinelere ne kadar güvenebileceğimiz konusunu ister istemez gündeme getiriyor.

Hele hele o makineler bir anlamda “düşünen” veya “zeki” makineler haline gelip karar verirken insan faktörünü devreden çıkarmaya başladıkça bizim bu güveni onlara teslim edip etmememiz daha fazla tartışılıyor.

Nitekim, böyle tartışmaların sonunda başını Elon Musk ve Sam Altman’ın çektiği bir grup bilgisayar bilimci ve girişimci zamanında OpenAI adıyla kâr amacı gütmeyen bir araştırma şirketi kurdular.

Amaç, yapay zeka araştırmalarında şeffaflığı ve dolayısıyla hesap verirliği sağlamak, yapay zekaya körlemesine güvenilmemesini ve güvenli yapay zekayı yapmaya çalışmayı desteklemekti.

‘Fedakar’lar sahiden fedakar mı?

Vahşi kapitalizmin ve acımasız rekabetin Amerika’sında, böyle bir çeşit fedakarlık içeren girişimin yapılması, üstelik bu girişimin dönemin en parlak bilgisayar bilimcilerini kendine çekmesi, önemi yeterince anlaşılmamış bir şey bence. Konu, maalesef en ciddi yayın organlarında bile neredeyse magazin seviyesinde “Robot korkusu” olarak işlendi hep ve kendilerini “alturist” (fedakar) diye adlandıran bu bilgisayar bilimcilerin de hep bu korkuyu abarttığı ima edildi.

Aslında belki de korkmakta haklıydılar; çünkü tam da bu korkular nedeniyle kurulan OpenAI sonunda vahşi kapitalizmin kalesi haline geldi. Orayı yöneten Sam Altman ticari hedefler için ahlaki hedefleri arka planda bıraktı.

Tabii trilyon dolarlar havada uçuşurken “fedakar” kalmak kolay değil. Hala kendini “fedakar” olarak tanımlayanların gerçekte sahiden ne kadar “fedakar” oldukları da elbette tartışmalı.

Anthropic böyle kuruldu

OpenAI içinde daha yıllar önce çıkan ilk tartışmalarda Sam Altman’a itiraz eden bir ekip ayrılıp işte bugün konuştuğumuz Anthropic’i kurdu. O ekibin başında iki kardeş, Dario ve Daniela Amodei var. 

Geçen gün Financial Times’da Dario Amodei ile yapılmış bir söyleşiyi okurken gördüm, Dario sahiden bu yapay zeka güvenliği ve yapay zekaya kurallar getirilmesi konusuna kafa yormuş bir isim.

Ben Financial Times’daki söyleşide laf arasında geçen bir şeyden ve verilen linkten öğrendim, meğer Amodei 2024 yılında “Yapay zeka dünyayı daha iyi bir dünyaya dönüştürmekte nasıl işe yarayabilir” alt başlığını taşıyan uzun mu uzun bir makale yayınlamış. Makalenin ana başlığı daha fazla ilgimi çekti: “Machines of Loving Grace.” Çevirmesi kolay olmayan bir başlık bu: Bizi bir şarta bağlı olmadan, karşılıksız seven makineler… (‘Loving grace’ Hristiyanlıkta Tanrının insanları karşılıksız sevmesi anlamına kullanılan bir konsept.)

Aynı şiiri başlık seçen bir olağanüstü belgesel

Başlığın benim ilgimi bu kadar çekmesinin sebebi, bu başlığın açıkça bir şiire gönderme yapması. Nitekim Amodei koyduğu dipnotta 1967 yılında Richard Brautigan tarafından yazılan şiire doğrudan işaret ediyor.

Ben bu şiiri biliyorum, çünkü adını aynı şiirden alan 2011 yapımı bir belgeselin büyük hayranıyım. Belgeseli bir İngiliz, Adam Curtis yapmıştı ve 2011’de BBC’de yayımlandı. (Üç bölümlük bu olağanüstü güzel belgeselin tamamını bu siteden izleyebilirsiniz, çok tavsiye ederim.)

Henüz bugün konuştuğumuz anlamda yaygın bir yapay zekanın hayatımızda olmadığı bir dönemde yapılan belgesel, adını az önce linkini de verdiği şiirin son iki dizesinden alıyor: “All Watched Over by Machines of Loving Grace.” (Karşılıksız seven iyi kalpli makineler her şeye nezaret ederken.)

 

Ayn Rand felsefesine inanan, dikey hiyerarşi istemeyen insanlar

Adam Curtis, bilgisayar teknolojisini kuran bilimcilerin ve girişimcilerin daha 1960’lardan itibaren büyük ölçüde Ayn Rand’in fikirlerine inanan “libertaryan”lar olduğunu, devletin daha az rol aldığı, dikey hiyerarşiler yerine yatay ilişkilerin geçerli olduğu bir toplum düzeni hayal ettiklerini söylüyor.

Nitekim, zaten dünyayı saran dev bir ağ olan internet (web) hiyerarşisi olmayan, tamamen yatay bir örgütlenme. Devletler, bu yatay ağdan hiç hoşlanmıyor, onu hep kontrol altında tutmaya çalışıyor, bu kontrolun da hep biz vatandaşlar için daha iyi olacağını bize anlatmaya çalışıyor.

O yatay ağlar dünyayı 15 yılda değiştirdi

Adam Curtis’in belgeselini yaptığı sırada dünyayı sarmış olan sosyal medyalar da böyle bu yatay ilişkiler sisteminin kendisi zaten.

Bu yatay ağlar, 15 yıl gibi kısa bir süre içinde dünyayı baştan sona değiştirdi, eskinin hiyerarşilerini, özellikle bilgi dağılımındaki ast-üst ilişkilerini ve her türlü kalite filtresi sistemini ortadan kaldırdı. Dünyamız geri dönüşü olmayan bir yola girdi bu yüzden.

Şiiri nasıl yorumlamalı? 

Dolayısıyla, belgeselci Adam Curtis, belgeseline bu andığım şiiri başlık olarak seçerken ironi yapıyordu, “Hepimizi karşılıksız seven makinelerin gözetimi altında olmak” onun için çok da hoş bir şey değildi.

Buna karşılık, yine az önce andığım Dario Amodei’nin başlığını aynı şiirden alan makalesi ise “Hepimizi karşılıksız seven makineler”e ulaşmayı bir ütopya olarak ele alıyor ve bunun nasıl mümkün olabileceğine dair bir dizi fikirden oluşuyor.

Anthropic ‘iyi’ OpenAI ‘kötü’ mü?

Hatırlayın, birkaç hafta önce Dario Amodei’nin şirketiyle Amerikan Savunma Bakanlığı birbirine girdi. Sebebi, Anthropic’in Pentagon’a kendi sistemlerini kullanarak savaşta hedef seçme iznini vermemesiydi. Pentagon hemen Anthropic’in elinden ihaleyi aldı, yerine de koşa koşa Sam Altman ve OpenAI girdi. Bu olay, Anthropic’i birden ülkemiz dahil bütün dünyada “iyi adam” buna karşılık OpenAI’ı da “kötü adam” yaptı. Dario Amodei, ilkeleri uğruna kendi ülkesinin Savunma Bakanlığıyla kavga eden adam olarak görüldü.

Bizi karşılıksız sevip hep iyiliğimizi düşünen makine mümkün mü?

Oysa hiçbir şey bu kadar basit değil. Hele trilyon dolarların havada uçuştuğu acımasız bir teknoloji rekabeti sürerken kimsenin yüksek idealler dünyasında yaşama lüksü yok.

Biz sıradan vatamdaşlar açısından temel soru bütün bu kavgalara ve tartışmalara rağmen değişmiyor: Bizi karşılıksız seven, hep ve sadece iyiliğimizi düşünen makineler mümkün müdür? “Mümkündür” diyenlere neden ve nasıl güvenelim?