Küresel Mythos paniği: Nükleer silahtan beter

Anthropic bu ay dünyaya, geniş çapta piyasaya sürülmesi çok tehlikeli olacak kadar güçlü bir yapay zeka modeli geliştirdiğini açıkladığında, kendine 11 kuruluşu ortak olarak belirledi.

Bu kuruluşların tamamı Amerika Birleşik Devletleri’ndendi.

İki hafta içinde, Mythos adı verilen model, yapay zeka çağında daha önce görülmemiş bir küresel telaşa yol açtı. Anthropic’in dünyanın bankalarını, enerji şebekelerini ve hükümetlerini çalıştıran yazılımlardaki gizli kusurları bulma ve istismar etme konusunda inanılmaz derecede yetenekli olduğunu söylediği Mythos, jeopolitik bir koz haline geldi ve bir ABD şirketi bu kozun sahibi oldu.

Hürmüz’ün kapanması gibi

The New York Times’ın haberine göre Dünya liderleri, güvenlik risklerinin boyutunu ve nasıl çözüleceğini anlamakta zorlandılar; Anthropic, Amerika Birleşik Devletleri dışında sadece İngiltere ile Mythos’u paylaşıyordu. İngiltere Merkez Bankası Başkanı, Anthropic’in “tüm siber risk dünyasını açığa çıkarmanın” bir yolunu bulmuş olabileceği konusunda kamuoyuna uyarıda bulundu. Avrupa Merkez Bankası, bankaları savunmaları hakkında sessizce sorgulamaya başladı. Kanada Maliye Bakanı, tehdidi Hürmüz Boğazı’nın kapanmasına benzetti.

“Nükleer silahtan beter”

Çin ve Rusya gibi ABD rakipleri için Mythos, yapay zeka yarışında geride kalmanın güvenlik sonuçlarını vurguladı. Rusya’daki Kremlin yanlısı bir yayın organı, modeli “nükleer bombadan daha kötü” olarak nitelendirdi.

Verilen yanıtlar, yapay zeka araştırmacılarının uzun zamandır çoğunlukla teorik olarak uyardığı bir gerçeği ortaya koydu: En güçlü yapay zeka modellerini geliştirmede kim önde giderse, jeopolitik açıdan da büyük avantajlar elde edecekti. Büyük yapay zeka atılımları, ürün lansmanlarından ziyade silah testlerine benzemeye başlıyor ve çoğu ülke, teknolojilerin nasıl çalıştığını ve hangi koruma önlemlerinin gerekli olduğunu anlamak istiyor.

Yapay zekaya erişim jeopolitik

Arjantin Merkez Bankası’nın eski baş ekonomisti ve Inter-American Development Bank’ta büyüme ve yapay zeka konusunda bölgesel danışman olan Eduardo Levy Yeyati, “Temel yapay zeka modelleri daha önemli hale geldikçe, erişim daha jeopolitik hale geliyor” dedi. “Bu olayı bir politika uyarısı olarak değerlendiriyorum. Hükümetler artık bu konuyu görmezden gelemez.”

Savaşta yapay zeka kullanımı konusunda Anthropic ile çatışma içinde olan ABD hükümeti bile Mythos’u fark etti. Cuma günü, Anthropic’in CEO’su Dario Amodei, Trump yönetiminden gelen bir açıklama üzerine Beyaz Saray yetkilileriyle bir araya geldi. Açıklamada, yeni modelin bilgisayar sistemlerinde büyük sorunlara yol açabileceği belirtilmişti.

Anthropic Amerikan hükümetiyle çalışıyor

San Francisco merkezli Anthropic şirketi, güvenlik endişeleri nedeniyle Mythos’a erişimi sınırlı tuttuğunu açıkladı. Şirket, internet veya elektrik şebekeleri gibi kritik küresel altyapıların bakımında kullanılan teknolojiyi sağlayan 40’tan fazla kuruluşla modeli paylaşmaya odaklandı. Anthropic, model tarafından belirlenen güvenlik açıklarına yönelik güvenlik yamaları geliştirmeye yardımcı olmayı taahhüt eden Amazon, Apple ve Microsoft dahil olmak üzere 11 kuruluşun adını verdi.

Şirket, erişimi yaygınlaştırmak için acil bir zaman çizelgesi olmadığını, ancak sonraki adımları belirlemek için ABD hükümeti ve endüstri ortaklarıyla birlikte çalışacağını söyledi. Hükümetlerden, şirketlerden ve diğer kuruluşlardan erişim ve bilgi talebiyle yoğun bir şekilde arandıklarını, ancak bu kuruluşların böylesine güçlü bir yapay zeka modelini güvenli bir şekilde değerlendirmek için farklı uzmanlık seviyelerine sahip olabileceğini belirtti.

Başkaları da 18 ay içinde aynı yeteneği geliştirecek

Anthropic, diğer grupların en az 18 ay içinde benzer siber yeteneklere sahip yapay zeka modellerini daha geniş çapta piyasaya sürmesini beklediğini ve kuruluşlara gerekli güvenlik düzeltmelerini yapmak için sınırlı bir süre tanıdığını ekledi.

Salı günü Anthropic, yetkisiz kullanıcıların Mythos’un bir sürümüne erişim sağladığına dair bir haberleri araştırdığını söyledi.

Mythos üzerindeki bu telaş, yapay zeka konusunda uluslararası işbirliğinin minimum düzeyde olduğu bir anda ortaya çıkıyor. Şirketler rakiplerini geride bırakmak için yarışırken, hükümetler birbirlerine şüpheyle bakıyor. Yapay zeka alanında, Nükleer Silahların Yayılmasını Önleme Anlaşması’nın bir eşdeğeri yok, ortak denetimler yok ve Mythos gibi bir şeyin nasıl ele alınacağına dair üzerinde anlaşılmış kurallar yok.

Şirket ihtiyatlı davrandı ama uluslararası işbirliği hala eksik

Anthropic modeli duyurduğunda, birçok uzman şirketin modeli kimlerin deneyeceğini sınırlama konusundaki ihtiyatlılığını övdü, ancak riskle başa çıkmak için uluslararası koordinasyon eksikliğinden endişe duyduğunu dile getirdi.

İngiltere, erişim sağlayan tek diğer ülke oldu. Hükümet destekli bir kuruluş olan Yapay Zeka Güvenlik Enstitüsü, Mythos’u test etti ve geçen hafta bağımsız bir değerlendirme yayınlayarak, daha önce hiçbir yapay zeka modelinin tamamlayamadığı karmaşık siber saldırıları gerçekleştirebildiğini doğruladı.

İngiltere’nin Yapay Zeka Bakanı Kanishka Narayan, geçen hafta sosyal medyada yaptığı açıklamada, “Bu, yapay zekanın siber yeteneklerinde bir ilerlemeyi temsil ediyor” diyerek, ülkenin “kritik ulusal altyapıyı” korumak için adımlar attığını söyledi.

AB bilgi almaya çalışıyor

Diğer ülkeler daha az bilgi edindi. 27 üyeli Avrupa Birliği’nin yürütme organı olan Avrupa Komisyonu, Mythos’un piyasaya sürülmesinden bu yana Anthropic ile en az üç kez görüştü, diye belirtti bir AB yetkilisi. “Ancak şirket komisyonla bilgilerin nasıl paylaşılacağı konusunda anlaşmaya varamadığı için modele erişim sağlamadı” diye ekledi yetkili.

Komisyon yaptığı açıklamada, “benzeri görülmemiş siber yetenekler sergileyen” Mythos’un “olası sonuçlarını değerlendirdiğini” belirtti.

Almanya’ya bir demo yapılmış

Almanya’nın siber güvenlik ajansı BSI’nin başkanı Claudia Plattner, Mythos’a erişim sağlayamadıklarını ancak yakın zamanda San Francisco’da Anthropic çalışanlarıyla görüşerek çalışma şekli hakkında “anlamlı bilgiler” edindiğini söyledi. Plattner, yaptığı açıklamada, bu yeteneklerin “siber tehditlerin doğasında bir paradigma değişimine” işaret ettiğini belirtti.

ABD’li rakipler arasında ise tepki daha sessiz kaldı. Anthropic’in Trump yönetimiyle yakın zamanda yaşadığı çatışmaya rağmen, Amodei, yapay zekanın ABD ve diğer demokrasileri savunmak ve otokratik rakipleri yenmek için kullanılması gerektiğini açıkça belirtti.

Çin ve Rusya’dan henüz ses yok

Ne Pekin ne de Moskova, Mythos hakkında bir açıklama yaptı. Çin’de araştırmacılar ve daha geniş yapay zeka topluluğu, ülkenin teknoloji topluluğunu inceleyen analistlere göre, durumu yakından takip ediyor. Ülkenin birçok bankası, enerji şirketi ve devlet kurumu, Mythos’un güvenlik açıkları bulduğu aynı yazılımı kullanıyor; ancak şimdilik masada yer almıyorlar.

Carnegie Uluslararası Barış Vakfı’nda kıdemli araştırmacı olan Matt Sheehan, “Çin için bunun ChatGPT’den sonraki ikinci uyarı olduğunu düşünüyorum” dedi. Sheehan, ABD’nin Çin’in gelişmiş yapay zeka sistemleri kurmak için en gelişmiş yarı iletkenleri elde etmesini engelleme politikasının, ABD’nin liderliğini pekiştirmeye yardımcı olduğunu da sözlerine ekledi.

George Washington Üniversitesi’nde siyaset bilimi profesörü olan Jeffrey Ding, Çin’deki bazı yapay zeka araştırmacılarının, ülkenin daha da geride kalabileceği ve önce temel bir model oluşturmanın getirdiği avantajlardan mahrum kalabileceği konusunda özel olarak endişelerini dile getirdiğini söyledi.

Washington’daki Çin Büyükelçiliği sözcüsü Liu Pengyu, Çin’in Mythos’un ayrıntılarına aşina olmadığını ancak barışçıl, güvenli ve açık bir siber alanı desteklediğini belirtti.

Güç dengesizliğinin son örneği

Mythos, yapay zeka konusunda küresel çapta giderek büyüyen güç dengesizliğinin son örneği. Yeyati, güçlü bilgi işlem altyapısına ve yapay zeka modellerine sahip olmayan ülkelerin, Anthropic, Google ve OpenAI gibi şirketlere bağımlı kalma riskiyle karşı karşıya olduğunu ve ürünlerinin nasıl tasarlandığı ve korunduğu konusunda çok az söz sahibi olduklarını söyledi.

“Bir şirketin, şeffaf olmayan ve itiraz edilemez kriterler kullanarak, gelişmiş yapay zekaya erişimi tek taraflı olarak kısıtlayabileceği fikri gerçek bir endişe kaynağı olmalıdır,” dedi.