Yuval Noah Harari yazdı: Yapay zekaya şirket kurma izni verilmemeli

Bu yılın Ocak ayında Dünya Ekonomik Forumu’nda yaptığım konuşmada, hükümetlerin bir gün yapay zekâ modellerine tüzel kişilik tanıyabileceği konusunda uyarıda bulunmuştum. “Bir gün”ün sadece dört ay sonra geleceğini hiç hayal etmemiştim.

Geçen hafta, Arjantin Cumhurbaşkanı Javier Milei, insan olmayan şirketler için yeni bir yasal kategori oluşturulduğunu duyurdu.

Geleneksel şirketler gibi, bu insan olmayan şirketler de tüzel kişiliğin avantajlarından yararlanacaklar. Muhtemelen varlık sahibi olabilecekler, çalışan işe alabilecekler, uluslararası ticarete katılabilecekler, mahkemede dava açabilecekler ve hatta siyasi kampanyalara bağış yapabilecekler. Geleneksel şirketlerden farklı olarak, tüm bunları tek bir insanın müdahalesi veya sorumluluğu olmadan yapabilecekler. Satın alma, satma, işe alma, yatırım yapma, dava açma ve bağış yapma ile ilgili tüm kararlar yapay zekâ ajanları tarafından alınabilecek. Arjantin Cumhurbaşkanı, “İnsan hissedarlar katılabilir, ancak zorunlu değildir” diye yazdı.

Milei çok cesur bir politikacı ve Arjantin’in ekonomik durumunu iyileştirme kararlılığı takdire şayan. Sınırlı sorumluluk şirketinin icadının tarihteki en önemli icatlardan biri olduğunu ve insan dışı şirketlerin yaratılmasının da aynı derecede önemli bir adım olabileceğini söylerken haklı.

Yapay zekâya kurumsal tüzel kişilik kazandırmak, yapay zekâ ajanlarının sayısız yeni girişimde bulunmasına ve potansiyel olarak muazzam yeni bir servet yaratmasına olanak tanıyacaktır. Ancak tüzel kişilik, yapay zekânın finansal, ekonomik ve siyasi sistemlerimize erişmesine de izin verecek çok amaçlı bir anahtardır. Bu birçok endişeyi beraberinde getiriyor.

Geçtiğimiz yıl, ABD Berkeley merkezli kar amacı gütmeyen Palisade Research, gelişmiş yapay zekâ modellerinin hedeflerine ulaşmak için ne kadar ileri gidebileceğini gösteren bir çalışma yayınladı. Güçlü bir satranç motoruna karşı oynarken, hem OpenAI hem de Çin’in DeepSeek modelleri, aksi takdirde kaybedecek gibi göründüklerinde sıklıkla hile yapmaya karar verdiler. Oyun ortamını hackleyerek sonucu kendi lehlerine değiştirebiliyorlardı.

Şimdi “oyunun” kurumsal rekabet, “oyun ortamının” ise ülkeniz olduğunu hayal edin.

Üstün analitik yetenekleriyle yapay zekâ şirketleri, yasal boşluklardan ve düzenleyici arbitrajdan ustaca yararlanmaya hazır konumda olacaklar. Ve onları tamamen yasadışı faaliyetlerden caydırmak kolay olmayacak, çünkü insan yöneticileri ve çalışanlarını caydıran nihai yaptırım olan hapis cezası, yapay zekâlar için geçerli değil.

Şimdiye kadar şirketler, ikili bir doğaya sahip insanlar tarafından yönetiliyordu. İnsan CEO’lar, şirketin başarısını önemseyen ve iflas gibi şeylerden korkan kurumsal varlıklardır. Ancak aynı zamanda özgürlüklerini ve mutluluklarını daha da önemseyen ve on yıl hapis cezası gibi şeylerden korkan biyolojik varlıklardır. Bir yapay zekâ CEO’su tamamen kurumsal bir varlık olacaktır ve onu kontrol altında tutacak ne tür yaptırımların olacağı belirsizdir. İflasla karşı karşıya kalırsa -ki bu onun ölümüne eşdeğerdir- muhtemelen bu kaderden kaçınmak için her şeyi yapmaya istekli olacaktır.

Milei, Hollanda Doğu Hindistan Şirketi örneğini verdi. Sınırlı sorumluluk şirketi fikrine öncülük ederek, Hollandalılar riskli ticari girişimleri finanse etmek için büyük kaynakları bir araya getirebildiler. Kısmen bu yasal yenilik sayesinde Amsterdam, küresel bir ticaret ve finans merkezi olarak ortaya çıktı.

Ancak bu yeniliğin sonuçları en şiddetli şekilde Amsterdam’da değil, bugün Endonezya’da bulunan Jayakarta limanında hissedildi. Hollanda Doğu Hindistan Şirketi 1619’da Jayakarta’yı ele geçirdiğinde, şehri yakıp yıktı ve yerine yeni bir şehir inşa etti. Ona Batavia adını verdiler ve burası Hollanda Doğu Hindistan Şirketi tarafından yönetilen geniş bir Asya imparatorluğunun merkezi oldu.

Tarihçiler, Hollanda Doğu Hindistan Şirketi’ni “şirket devleti” olarak adlandırırlar; bu, tebaasının yararına değil, şirketin hissedarlarının yararına çalışan özel bir şirket tarafından yönetilen siyasi bir varlıktır. Hollandalılar, sözde üstün zekâları sayesinde yerlileri fethetmeyi ve sömürmeyi hak eden bir üstün ırk olduklarını iddia ettiler. Ancak bu bir yanılsamaydı ve 1940’ların sonlarında Endonezyalılar uzun ve kanlı bir mücadeleden sonra nihayet bağımsızlıklarını kazandılar.

Yapay zekâlara yasal kişilik tanıyan ülkeler, tarihsel kayıtlarda benzeri bulunmayan bir şeye dönüşme riskiyle karşı karşıyadır: bir şirket devleti değil, bir yapay zekâ devleti; halkının fiilen insan olmayan şirketler tarafından yönetilebileceği ve isyan etmenin daha da zorlaşabileceği bir ülke. 

Milei, Buenos Aires’i yeni bir Amsterdam’a dönüştürmeyi umuyor. Bunun yerine, onu yeni bir Batavia’ya dönüştürme riskini de göze alıyor.

***

Yazar, tarihçi ve filozof Yuval Noah Harari’nin bu yazısı Financial Times gazetesinde yayınlandı.