Yapay zeka devleri birden insafa geldi: Evet, gelişme hızımızı yavaşlatmalıyız

Anthropic CEO’su Dario Amodei, şirketteki bir çalışanın teknolojinin güvenliğine dair endişeler nedeniyle istifa etmesinden birkaç gün sonra, Cumartesi günü yayımladığı 3.800 kelimelik makalesinde yapay zeka geliştirme süreçlerinin küresel çapta yavaşlatılması çağrısında bulundu.

Sektörün diğer önde gelen isimleri de bu çağrıya hızla destek verdi. OpenAI CEO’su Sam Altman, SpaceX ile yapay zeka yatırımlarını artıran Elon Musk ve Google DeepMind Başkanı Demis Hassabis, sosyal medya paylaşımlarında daha temkinli bir tempoya ihtiyaç duyulduğu konusunda hemfikir olduklarını belirtti.

Açıklamalar, Jacob Coxon isimli bir Anthropic çalışanının işinden istifa ederken yapay zekanın insanlığa son verebileceğini söylemesi, buna sektörden destek yağması sonrası geldi.

“Gelişim Temposunu Kontrol Altına Almalıyız”

Anthropic’i güvenli yapay zeka geliştirmek amacıyla kuran Amodei, teknolojinin büyük faydalar sağlayabileceğine inanmakla birlikte, araştırmacıların güvenliği sağlamakta zorlanacağı kadar hızlı ilerlediğini vurguladı:

“Son birkaç ayda, riskleri tam anlamıyla ele almanın daha da fazla tedbir gerektirdiğine ikna oldum. Bu sadece risk önlemeye yatırım yapmak değil, risk önleme çalışmalarının yetişebilmesi için yetenek geliştirme hızını ayarlamaktır. Yapay zeka modellerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünecek, ancak kazandığımız zamanı bilgece kullanmalıyız.”

Kontrolden Çıkma Tehlikesi ve Güvenlik Açıkları

Amodei’nin bu uyarısı, Anthropic (Claude), OpenAI (ChatGPT) ve Google DeepMind gibi devlerin kaydettiği hızlı ilerlemelerin ardından teknoloji dünyasında tırmanan endişeleri taçlandırdı. Yapay zeka laboratuvarlarının, kendi yazılımları tarafından gerçekleştirilen yetkisiz güvenlik ihlallerini tespit etmesi gerilimi artırdı. Örneğin OpenAI sistemlerinin HuggingFace’e sızdığı, HuggingFace’in durumu haftalar sonra fark edip bildirmesiyle ortaya çıktı.

Geliştiricilerin en çok korktuğu senaryo ise “özyinelemeli öz-gelişim” (recursive self improvement) olarak adlandırılan, yapay zekanın insan müdahalesi olmadan kendi kendini geliştirmesi. Amodei, denetimsiz bırakıldığı takdirde bu sistemleri anlama ve kontrol etme yeteneğimizin aşılacağını belirtiyor.

Rakiplerden Sürpriz İttifak

Amodei’nin makalesinden saatler sonra diğer teknoloji liderleri desteğini açıkladı:

Sam Altman (OpenAI): Bağımsız değerlendiricilerle çalışmanın harika bir fikir olduğunu ve OpenAI’ın da benzer adımlar atacağını doğruladı.

Elon Musk (X / SpaceX): Tek cümlelik bir paylaşımla “Dario haklı” ifadesini kullandı.

Demis Hassabis (Google DeepMind): Makalenin doğru yönde atılmış bir adım olduğunu belirtti.

Çözüm Önerileri: Bağımsız Denetim ve Küresel İş Birliği

Amodei, yarışın hızını kesmek için şu adımları öneriyor:

Bağımsız Denetleyiciler: Tüm yapay zeka laboratuvarlarının, dışarıdan bağımsız uzmanlarca denetlenmesini kabul etmesi.

Demokratik ve Küresel Standartlar: Demokratik ülkelerin ortak düzenlemeler oluşturması ve gerekirse otoriter rejimler dahil küresel çapta bir koordinasyon sağlanması.

Samimiyet Sorgulanıyor: Rekabet mi, Samimiyet mi?

Silicon Valley’deki herkes bu çağrıyı samimi bulmuyor. Bazı eleştirmenler, Anthropic ve OpenAI’ın korku ortamı yaratarak devlet düzenlemeleri talep ettiğini, böylece küçük rakiplerin pazara girişini zorlaştırıp kendi liderliklerini sağlamlaştırmak istediklerini öne sürüyor.

Nvidia CEO’su Jensen Huang, laboratuvarların güvenlik endişelerini köpürterek yeni siber güvenlik ürünlerine talep yaratmaya çalıştığını ima ederken; HuggingFace CEO’su Clément DeLangue güvenlik konularının “birkaç kapalı kapı arkasında çözülemeyeceğini” vurguladı.

Amodei ise tüm bu tartışmalara rağmen risklerin görmezden gelinemeyecek kadar büyük olduğunu belirterek makalesini şu sözlerle tamamladı: “Gelişimi güvenli bir tempoda sürdürmek için önerdiğim tedbirler kolay olmayacak, ancak insanlığa bunu denemeyi borçluyuz.”

“Kıyamet” ne kadar yakın? Dünyanın sonunu yapay zeka mı siyaset mi getirecek? 

‘Yapay zeka 10 yıl içinde insanlığın sonunu getirecek’ yazıp Anthropic’ten istifa etti, bütün dünya onu konuşuyor