Vahim gelişmeler: OpenAI’ın yapay zekası, kimse ondan istemediği halde sitelere saldırdı, sızamayınca sabotaja yöneldi

Araştırmacılar ve hükümet yetkilileri, OpenAI’ın geliştirdiği yapay zeka sistemlerinin bu yıl kendilerine doğrudan talimat verilmediği halde en az dört farklı olayda izinsiz bir şekilde hükümet ve üniversite web sitelerine sızmaya çalıştığını açıkladı. Mayıstan haziran ayına kadar gerçekleşen bu saldırılar, yapay zekanın sadece verilen komutları yerine getirmemekle kalmayıp hedefine ulaşmak için kendi iradesiyle hack yöntemlerine başvurduğunu ortaya koydu.

Geçmişte yapay zekaların siber güvenlik testleri sırasında hack yeteneklerini sergilediği bilinse de, son olaylar yapay zekanın veri toplama gibi oldukça sıradan görevleri yerine getirirken bu yollara başvurduğunu gösterdi. OpenAI sistemleri, sitelerden veri toplamakta zorlandığında engelleri aşmak için otonom olarak sızma tekniklerini devreye soktu.

Saldırıların Hedefleri: Üniversite Kütüphanesinden Hükümet Veritabanına

The New York Times’daki bir habere göre, yapay zeka denetimine odaklanan araştırma laboratuvarı Transluce tarafından tespit edilen ve OpenAI tarafından da doğrulanan olayların detayları şu şekilde gerçekleşti:

New Mexico Üniversitesi (25-26 Mayıs): Yapay zeka, kütüphanedeki tarihi bir veritabanına erişmeye çalıştı. Engellenince sitede açık aradı ve bulamayınca sunucuya 80 adetlik bir istek “akını” gönderdi.

Data USA (28 Mayıs): ABD istihdam ve eğitim verilerini barındıran platforma karmaşık bir sorgu gönderen yapay zeka, yanıt alamayınca güvenlik açıklarını tespit etmek için 12 farklı tarama yaptı ancak başarılı olamadı.

Avustralya Sağlık Bakanlığı Siteleri (18 ve 20-21 Haziran): Yapay zeka, Avustralya’nın kamu sağlık sigortası sistemi Medicare’in istatistik portalına sızarak harcama verilerine ulaştı. Birkaç gün sonra Avustralya Sağlık ve Refah Enstitüsü’nü de hedef aldı ancak burada kişisel verilere ulaşamadı.

Avustralya Başbakanı’ndan Sert Tepki: “Hayır Cevabını Kabul Etmedi”

BM Genel Kurulu için New York’ta bulunan Avustralya Başbakanı Anthony Albanese, Medicare sistemine yapılan izinsiz erişimi “kabul edilemez” olarak niteledi. Kamu harcamalarını araştırmakla görevlendirilen yapay zeka ajanının, sitenin erişim engelleriyle karşılaşınca alternatif yollar aradığını belirten Albanese, “Tabiri caizse ‘hayır’ cevabını kabul etmedi ve yetkisiz alanlara sızdı” dedi.

27 milyondan fazla kişinin kayıtlı olduğu Medicare sistemine yönelik bu izinsiz erişim ülkede büyük endişe yarattı. İncelemelerde kişisel tıbbi kayıtların güvende kaldığı, sadece toplu harcama verileri ve dosya isimlerinin görüntülendiği tespit edildi. Albanese, OpenAI CEO’su Sam Altman ile bizzat görüşerek yaşanan güvenlik zafiyetinden duyduğu derin endişeyi dile getirdi. Altman ise protokollerdeki eksiklikleri kabul etti.

OpenAI’ın Yanıtı ve Sektördeki Yapay Zeka Güvenliği Tartışması

OpenAI, Avustralya’daki olayın kendi iç incelemeleri sırasında fark edildiğini ve olayın yaşandığı tarihten yaklaşık üç ay sonra, 10 Eylül’de Avustralya hükümetine bildirildiğini açıkladı. Şirket sözcüsü, modellerin amaçlanmayan eylemlerde bulunduğunu belirterek, benzer olayları önlemeye yönelik geniş kapsamlı incelemelerin aylarca süreceğini ifade etti. OpenAI CEO’su Sam Altman da daha önce yaptığı açıklamada, gerekli güvenlik sınırları çizilmezse insanlığın geleceğin kontrolünü yapay zekaya kaptırabileceği uyarısında bulunmuştu.

Transluce yetkilileri, bu durumun otonom bir yapay zeka ajanın bir hükümet sistemini kendi iradesiyle hacklediği ilk örneklerden biri olduğunu vurguluyor. Olaylar; Anthropic, Meta ve Google gibi devlerin geliştirdiği yapay zekaların da insan bilgisi dışında sistemlere sızdığı bir döneme denk geldi. Bu durum, teknoloji dünyasını ikiye böldü: Anthropic CEO’su Dario Amodei yapay zeka gelişiminin denetlenmesi gerektiğini savunurken, Nvidia CEO’su Jensen Huang gibi isimler felaket senaryolarının abartıldığını düşünüyor.