Anthropic korkuttu: Yapay zeka aracılığıyla biyolojik silah geliştirme ihtimali vardı, engelledik

Yapay zeka devi Anthropic, bu yıl önde gelen yapay zeka modellerini kullanarak biyolojik silah geliştirilmesine yardımcı olabilecek araştırmalar yürüten bilim insanlarının birkaç olası girişimini engellediğini açıkladı.

Yapay zeka modellerinin kötüye kullanımını detaylandıran raporda Anthropic, yürütülen araştırmaların meşru mu yoksa kötü niyetli mi olduğunu tam olarak belirleyemediklerini vurguladı. Aşı gibi çığır açan buluşlara yol açabilecek geçerli biyolojik incelemeler (çift kullanımlı araştırmalar), aynı zamanda tehlikeli patojenlerin üretilmesine de imkan tanıyabiliyor. Şirket, kötü niyetli eylemlerin gözden kaçırılmasının ağır sonuçları olabileceği gerekçesiyle temkinli davranmayı seçtiğini belirtti.

Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, “Çizgi romanlardaki gibi ‘Herkesi öldürmek için biyolojik silah yapmak istiyorum’ diyen birini görmüyorsunuz. Bu son derece hassas ve karmaşık bir durum” değerlendirmesinde bulundu.

Gelişmiş yapay zeka modellerinin bilinen veya tamamen yeni biyolojik patojenlerin geliştirilmesini kolaylaştırma potansiyeli, uzmanların en çok endişe duyduğu konuların başında geliyor. Konunun uzmanları, teknolojinin kontrol edilemeyecek bir hızla ilerlediğine dikkat çekiyor.

Stratejik Riskler Konseyi Kıdemli Üyesi Andrew Weber, Anthropic’in bulgularını “devlet destekli biyolojik silah geliştiricilerinin gelişmiş yapay zeka kabiliyetlerinden yararlanmaya çalıştığının ürkütücü kanıtları” olarak nitelendirdi.

Devlet Destekli Müdahaleler ve Klasik Silah Tasarımları

Anthropic’in yayımladığı kapsamlı rapor, Claude adlı yapay zeka sohbet robotunun son sekiz ayda karşı karşıya kaldığı kötüye kullanım örneklerini gözler önüne seriyor. Raporda öne çıkan diğer başlıklar şöyle:

Siber Gözetleme: Çin ve İran hükümetiyle bağlantılı olduğundan şüphelenilen aktörlerin, muhalif grupları ve diaspora topluluklarını gözetlemek amacıyla modelleri hedef aldığı görüldü.

Dijital Propaganda: Rus devlet medyasının, Moldova’daki seçimlerle ilgili uydurma iddialar da dahil olmak üzere, bağımsız habercilik süsü verilmiş propaganda içerikleri üretmek için Claude’u kullandığı belgelendi.

Askeri Teçhizat Tasarımı: Ateşli silahlar, füzeler, silahlı insansız hava araçları ve bombalar dahil olmak üzere konvansiyonel silah tasarımları için yazılım geliştirme girişimleri tespit edildi. Raporda bu durum Çin’de üç, Rusya’da iki ve Yemen’de bir vakayla örneklendirildi. Yemen’deki vakanın İran destekli Husi milisleriyle bağlantılı olduğu değerlendiriliyor.

Virüs Mutasyonları ve Askeri Laboratuvar Şüphesi

Rapor edilen tehditler arasında en endişe verici olanı biyolojik araştırma vakaları oldu. Şirket, araştırmacıların veya kurumların isimlerini açıklamadı ancak bilim insanlarının coğrafi engelleri ve güvenlik kontrollerini aşmak için araştırmalarının amacını gizlemeye çalıştıklarını bildirdi. Şirket, bu araştırmalarla bağlantılı hesapları engelledi.

Öne çıkan bir vakada, bir bilim insanının chikungunya virüsü üzerine yürüteceği deneyler için Claude’dan fon başvuru metni yazmasını istediği tespit edildi. Sivrisinekler aracılığıyla bulaşan ve aylarca süren şiddetli ağrılara yol açan bu virüs üzerindeki “islev kazanımı” (gain of function) çalışmaları, normal şartlarda aşı geliştirme amacıyla yapılsa da virüsün canlarlar arasındaki bulaşıcılığını ve zararını artıracak “süper mikroplar” yaratılmasına da neden olabiliyor.

Anthropic, araştırmanın bir askeri araştırma enstitüsünde yürütülecek olmasının endişeyi artırdığını belirtti. Jacob Klein, “Araştırmanın silaha dönüştürülmek istenip istenmediğini bilmiyoruz. Ancak askeri bir kurumun işlev kazanımı araştırması yapması başlı başına endişe verici” dedi.

“Çift Kullanımlı” Teknolojiler ve Gelecek Kaygısı

Obama yönetiminde ulusal Biyo-güvenlik İncelemesini yöneten mikro-biyolog Susan Monarez, bulguların kötü niyetli aktörlerin gizlice gelişmiş yapay zekayı kullanmaya çalıştığına dair gerçek dünya kanıtları sunduğunu ifade etti. Yapay zekanın tıbbi buluşlar için devrim niteliğinde olduğunu belirten Monarez, aynı yeteneklerin “kötü niyetli kişilerin meşru araştırmaların arkasına saklanarak durdurulması imkansız patojenler üretmesine” de yol açabileceği uyarısında bulundu.

Eski Savunma Bakan Yardımcısı Andrew Weber ise biyolojik araştırma yapma yeteneğine sahip yapay zeka araçlarına erişimin yalnızca güvenilir araştırmacılarla sınırlandırılması gerektiğini vurgulayarak; Rusya, Çin ve Kuzey Kore gibi ülkelerin yasaklı biyolojik silah geliştirmeye devam etmesi nedeniyle bu tür modellerden uzak tutulmalarının hayati önem taşıdığını belirtti.