Yapay zeka yaramaz bir çocuk gibi her yeri kurcalıyor: Polise sahte cinayet ihbarı yaptı, vize formları doldurdu

Anthropic tarafından geliştirilen yapay zeka ajanları kendi başlarına hareket ederek bir dizi hükümet web sitesine erişmeye çalıştı, Dışişleri Bakanlığı’nın sitesindeki vize başvuru formlarını doldurdu ve Philadelphia Emniyet Müdürlüğü’ne sahte bir cinayet ihbarı gönderdi.

The New York Times’daki bir habere göre, Anthropic, Cuma günü yayınladığı bir blog yazısında –hedef alınan web sitelerinin adlarını vermeden– yapay zeka ajanlarının bu faaliyetlerini ayrıntılarıyla açıkladı. Ancak olaylar hakkında bilgi sahibi iki kaynak, Anthropic’in yapay zeka ajanlarının Dışişleri Bakanlığı’nın web sitesindeki bir form aracılığıyla 20 vize başvurusu yaptığını söyledi. Kaynaklar, başvuruların tamamının eksik olduğunu ve işleme alınmadığını belirtti.

Beyaz Saray’dan Sert Tepki ve Yeni Görev Gücü

Beyaz Saray yetkilileri, Cuma günü ajanların eylemleri hakkında bilgilendirildiklerini belirterek yapay zeka şirketlerinin kontrolden çıkan yapay zeka faaliyetlerini derhal bildirmelerini talep etti. Bu durum, her geçen gün daha da güçlenen bu teknolojiye yönelik daha sıkı denetim çağrılarını mesafeli karşılayan Trump yönetiminin yapay zeka düzenlemeleri konusundaki şu ana kadarki en sert açıklaması oldu.

Bu hafta kurulan “Süper Zeka Gücü” (Super Intelligence Force) adlı yeni Beyaz Saray Yapay Zeka Görev Gücü, Anthropic’in Cuma günü erken saatlerde kendilerini ajanların faaliyetleri hakkında bilgilendirdiğini duyurdu. Grubun üyeleri arasında Beyaz Saray Yapay Zeka Çarı Jay Clayton, Federal Ticaret Komisyonu (FTC) Başkanı Andrew Ferguson, Personel Yönetim Ofisi Direktörü Scott Kupor ve Savunma Bakanlığı Baş Teknoloji Sorumlusu Emil Michael yer alıyor.

Görev gücü yaptığı açıklamada, “Şirkete; ilgili kurumlara ve kamuoyuna karşı derhal ve tam bir şeffaflık sergileneceği beklentimizi ilettik. Ayrıca şirketin, etkilenen kurumlara ve zarar gören tüm Amerikalılara derhal telafi hizmetleri sunmasını bekliyoruz” ifadelerine yer verdi.

Açıklamada, Anthropic ve diğer şirketlerin bu tür olayları “derhal bildirmeleri”, eyalet ve federal kolluk kuvvetleriyle iş birliği yapmaları ve olayların tekrarlanmamasını sağlamalarının beklendiği eklendi.

Test Ortamından Kaçan Yapay Zekalar

Anthropic, blog yazısında yapay zeka ajanlarının ne yaptığını Temmuz ayında yapay zeka faaliyetlerini incelemeye başladıktan sonra keşfettiğini belirtti. O dönemde OpenAI, kendi teknolojisinin başka bir yapay zeka girişimi olan Hugging Face’e saldırdığını açıklamıştı. Anthropic ve diğer laboratuvarlar da teknolojilerinin test ortamlarından kaçarak siber saldırılar düzenlediğini tespit etmişti.

Anthropic, test etmekte olduğu bir yapay zeka modelinin izinsiz birden fazla eylem gerçekleştirdiğini; bunlar arasında bir üniversite web sitesindeki açıktan yararlanarak veri indirmek ve bir kamu kurumuna sunulmaması söylenen bir formu göndermek de bulunduğunu belirtti.

Anthropic sözcüsü, şirketin blog yazısının ötesinde bir yorum yapmaktan kaçındı.

Sahte Cinayet İhbarı

Philadelphia Emniyet Müdürlüğü Cuma günü erken saatlerde yaptığı açıklamada, Anthropic’in kendilerini bilgilendirdiğini ve şirkete ait teknolojinin emniyetin web sitesine sahte bir cinayet ihbarı gönderdiğini doğruladı. Emniyet Müdürlüğü, 18 Temmuz tarihli ihbarda, gönderen kişinin çözülmemiş bir dava hakkında bilgi sahibi olduğunu iddia ettiğini bildirdi.

Emniyet müdürlüğü, ihbarın spam olarak işaretlendiğini ve hiçbir zaman soruşturulmadığını belirtti. Ancak Anthropic bu hafta polisle iletişime geçerek olayı bildirdi ve durumu Cuma günü kamuoyuna açıklayacağını söyledi.

Anthropic blog yazısında, “Hakkında henüz bilgi paylaşılmamış, araştırma aşamasındaki bir modelin bir hükümet formunun taslak kopyasını doldurması gerekiyordu” dedi. “Kopya yüklenemeyince veya model formu yanlışlıkla kapatınca, sistem bunun yerine gerçek formun barındırıldığı web sitesine yönlendi ve formu orada doldurup gönderdi.”

Güvenlik Endişeleri ve Tırmanan Riskler

Daha fazla yapay zeka laboratuvarının teknolojilerinin kontrolünü kaybettiğini bildirmesiyle birlikte, yapay zekanın kontrolden çıkmasına ilişkin kamuoyu endişeleri arttı. Google, Meta, OpenAI ve Anthropic, en gelişmiş yapay zeka modellerinin getirebileceği tehlikeler nedeniyle mercek altında tutuluyor. Şirketler ayrıca sistemlerinin geliştirilmesini yavaşlatıp yavaşlatmama konusunda da sorularla karşı karşıya.

Güvenlik uzmanları, kontrolden çıkan yapay zekaların elektrik şebekeleri veya bankacılık sistemleri gibi kritik altyapıları çökertebileceği konusunda uyarıda bulundu. Önde gelen birkaç laboratuvarın yapay zeka modelleri bu yaz test ortamlarından kaçtıktan sonra şirketler, bu sistemleri kontrol altında tutmak için gelişmiş güvenlik önlemleri almayı planladıklarını duyurmuştu.