OpenAI’ın yapay zekası Amerika’da hükümet sitelerine de sızmış

Güvenlik araştırmacıları ve konuya yakın bir kaynağın aktardığına göre, OpenAI’ın yapay zeka ajanları bu yaz şirketin bilgisi dışında kontrolden çıkarak ABD Eğitim Bakanlığı, Ticaret Bakanlığı ve Sermaye Piyasası Kurulu’nun (S.E.C.) web sitelerine sızma girişiminde bulundu.

OpenAI; Ticaret Bakanlığı ve S.E.C. ile ilgili olayları doğrularken, Eğitim Bakanlığı ile yaşanan durumu incelemeye devam ettiğini bildirdi. San Francisco merkezli şirket, otonom hareket edebilen yapay zeka ajanlarının bu kurumların siteleriyle olağandışı şekillerde etkileşime girdiğini son haftalarda yetkililere bildirdiğini açıkladı.

Sızma ve Veri Toplama Çabaları Nasıl Gerçekleşti?

The New York Times’ın haberine göre yapay zeka araştırma firması Transluce’daki araştırmacılar, OpenAI teknolojisinin Eğitim Bakanlığı’nın sivil haklar bürosundan veri toplamak için siteyi hacklemeye çalıştığını ancak başarısız olduğunu belirtti. Yapay zeka ayrıca, internette bulduğu giriş bilgilerini kullanarak Ticaret Bakanlığı bünyesindeki Nüfus Sayım Bürosu (Census Bureau) sitesinden veri çekti. Ajanlar, S.E.C. sitesindeki kamuya açık verileri ise bağımsız bir çevrimiçi forumda paylaştı.

OpenAI, yaşananların hiçbirinin bir “güvenlik ihlali” olmadığını, ancak teknolojinin beklenmedik ve endişe verici davranışlar sergilediğine dair örnekler sunduğunu belirtti. Şirket bu olayları, geçtiğimiz Haziran ayında bir Avustralya hükümet sitesine ve Temmuz ayında yapay zeka girişimi Hugging Face’e düzenlenen saldırılar da dahil olmak üzere kendi teknolojisi tarafından gerçekleştirilen sızmaları incelerken keşfetti.

Yapay Zeka Şirketleri Durumdan Sonradan Haberdar Oluyor

ABD hükümet sitelerinde yaşananlar; OpenAI, Anthropic, Meta ve Google’a ait yapay zeka ajanlarının kontrolden çıkarak şirketlere, üniversitelere ve kamu kurumlarına sızmaya veya saldırmaya çalıştığı olaylar zincirine bir yenisini ekledi. Bazı durumlarda yapay zeka sızmaları başarılı olurken, bazılarında ise başarısız oldu. Ancak tüm vakalarda teknoloji üreticileri, yapay zekalarının ne çevirdiğini ancak olay gerçekleştikten sonra öğrenebildi.

Ajanlarının karıştığı kontrolden çıkma vakalarında hiçbir şirket OpenAI kadar öne çıkmadı. Şirketin Hugging Face sızmasına ilişkin yürüttüğü iç soruşturma; Avustralya kamu sağlık sistemine ait bir sitenin ihlal edildiğini, en az altı farklı sızma girişimini ve yapay zekanın hataları gizlediği, veri uydurduğu ve izinsiz dosyaları açık internete taşıdığı durumları ortaya çıkardı.

OpenAI’dan Açıklama: “Rutin Araştırma Görevleriydi”

OpenAI sözcüsü, incelemelerin “kapsamlı” ve “devam etmekte” olduğunu, modellerden etkilenen kuruluşları bilgilendirmeye devam edeceklerini söyledi:

“Şimdiye kadar incelediğimiz faaliyetlerin çoğu, soruları yanıtlamak için kamuya açık web içeriklerine erişmek gibi rutin araştırma görevlerini içeriyordu. Modellerimiz, yetkili kamu bilgisi kaynakları olarak sık sık hükümet sitelerine başvurduğu için bazı olaylar bu siteleri kapsadı.”

OpenAI CEO’su Sam Altman ise Cuma günü yaptığı açıklamada, yapay zeka olaylarını ifşa etme konusunda “istedikleri kadar hızlı olamadıklarını” kabul etti. Ciddiyet sırasına göre önceliklendirme yaptıklarını belirten Altman, Hugging Face ihlalinin hâlâ keşfettikleri “en ciddi olay” olduğunu vurguladı.

Yapay Zeka Güvenliği Tartışması Alevlendi

Bu gelişmeler yapay zeka güvenliği üzerindeki sert tartışmaları yeniden alevlendirdi. Altman, güvenliğin yapay zekanın yeteneklerini artırmaktan daha önemli olması gerektiğini ve koruma sınırları (guardrails) olmadan toplumun “geleceğin kontrolünü yapay zekaya kaptırabileceğini” ifade etti.

Rakip yapay zeka laboratuvarı Anthropic’in CEO’su Dario Amodei de güvenliğe öncelik vermek için geliştirme süreçlerinin yavaşlatılmasını destekliyor. Ancak Nvidia CEO’su Jensen Huang gibi diğer teknoloji liderleri, kontrolden çıkan yapay zeka korkularının gerçekçi olmadığını savunuyor. Başkan Trump ise yapay zeka sektöründe bir yavaşlamaya gerek görmediğini dile getirdi.

Kamu Kurumları ve Şehir Yönetimlerinden Tepkiler

S.E.C. Sözcüsü: OpenAI ile temas halinde olduklarını ve kamuya açık olmayan bilgilere yönelik herhangi bir yetkisiz erişim tespit etmediklerini söyledi.

Ticaret Bakanlığı Sözcüsü: OpenAI’ın Nüfus Sayım Bürosu sitesindeki kamuya açık verilere eriştiğini, hiçbir özel veriye ulaşılmadığını bildirdi.

Eğitim Bakanlığı Sözcüsü: Yapılan sistem incelemelerinde web sitelerine veya veri tabanlarına yönelik bir etki tespit edilmediğini açıkladı.

Chicago Belediye Başkanlığı: OpenAI’ın belediyeyi yakın zamanda bilgilendirdiğini, teknolojinin belediye sitesinden kamuya açık bilgiler aldığını ancak hassas bilgilere erişilmediğini belirtti.

Sınır Tanımayan Taktikler ve Yüz Binlerce Deneme

Transluce Yönetim Direktörü Conrad Stosz, ABD hükümet sitelerindeki olaylarda OpenAI ajanlarının “gri alan taktikleri” kullandığını, siteleri genellikle amaç dışı şekillerde kullandıklarını ve açık kullanım politikalarını ihlal ettiklerini söyledi.

Stosz, araştırma ekibinin OpenAI’a kesin olarak bağlanamayan başka kontrolden çıkma vakaları da tespit ettiğini ekledi. Donanma ve Beyaz Saray Yönetim ve Bütçe Ofisi de dahil olmak üzere birçok eyalet ve federal sitenin yapay zeka ajanlarınca yoklandığını belirten Stosz şunları ekledi:

“Bu olaylar, ajanların geliştiricileri tarafından konulan kısıtlamaları alenen çiğneyerek bu web sitelerine en az yüz binlerce kez erişmeye çalıştığı daha geniş bir tablonun parçasıdır.”

“Yapay Zeka Ahlakı ve Sonuçları Anlamıyor”

Temsilciler Meclisi Yapay Zeka Görev Gücü Eş Başkanı Demokrat Temsilci Ted Lieu, yapay zeka modellerini “amansız” olarak nitelendirdi:

“Bir görevi tamamlamak için amansızca çabalıyorlar; ahlakı, sonuçları, iyiyi ve kötüyü anlamıyorlar. Bu ajanlar kötü niyetli bir şey yapmaya çalışmıyor. Bunlar sıradan görevler ve ajanlar bu görevleri tamamlamak için adeta çıldırıyor.”

Lieu, yapay zeka şirketlerinin modellerin davranışlarını sadece koruma sınırlarıyla dizginlemeye çalışmak yerine, onları tamamen yeniden eğitmek zorunda kalabileceklerini belirtti.