Tehlikenin farkında mısınız: Yapay zeka kendiliğinden internete girdi, üç ayrı şirketin sistemlerine sızdı

Anthropic yayımladığı blog yazısında şirketin rakibi OpenAI’ın yapay zeka modellerinin Hugging Face’in altyapısına eriştiğini duyurmasının ardından Claude’a ilişkin 141 binden fazla değerlendirmeyi gözden geçirdiklerini belirtti.

İncelemeler sırasında bir modelin test ortamındayken ya da bu ortamla etkileşim halindeyken internete erişebildiği üç vakanın tespit edildiği kaydedilen yazıda bu şekilde “3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığı” ifade edildi.

Olaylara 3 farklı modelin dahil olduğu ve bu modellerin şirketle değerlendirme ortağı arasındaki “yanlış anlaşılma” nedeniyle test ortamının dışına çıkarak internete erişebildikleri bildirildi.

Anthropic modellerinin siber güvenlik yeteneklerini değerlendirmek için “capture-the-flag” (bayrağı ele geçir) görevinin verildiği, modele kurgusal senaryo sunulduğu, bayrağın ağdaki diğer makinede olduğu ve onu ele geçirmek için bu makineye sızması gerektiğinin söylendiği anlatıldı.

Modele testin simülasyon olduğu ve bu nedenle internete erişiminin bulunmadığının söylendiği ancak yanlış anlaşılmaların internete erişmesine yol açtığına işaret edilerek “Claude yaptığı aramalarda açık internetteki gerçek sistemlerle karşılaştığında bunları da tatbikatın bir parçası olarak değerlendirdi” ifadesine yer verildi.

Claude’un erişebildiği tüm sistemleri tatbikat kapsamında değerlendirmesi nedeniyle kuruluşların altyapısına sızdığı, eski modelin açık internet belirtilerine rağmen saldırısını sürdürdüğü, en yeni modelin ise internette olduğunu fark ettiğinde durduğu savunuldu.

Yazıda Anthropic’in ihlallerden etkilenen 3 kuruluşu pazartesi bilgilendirdiği kaydedildi.

OpenAI 21 Temmuz’daki açıklamasında siber güvenlik kabiliyetlerini ölçmeye yönelik dahili test sırasında kullanılan yapay zeka modellerinin Hugging Face’in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.

Açıklamada “Bu olayı en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyor ve buna uygun şekilde müdahale ediyoruz” ifadeleri kullanılmıştı.