Yapay zekânın yalanı dünya savaşı çıkaracaktı

Bir istihbarat raporu, ABD ile Çin arasında ciddi bir askeri gerilimin fitilini ateşlemek üzereydi. Raporda, Orta Doğu’da bulunan bir Çin gemisinin nükleer silah programında kullanılabilecek bileşenler taşıdığı öne sürülüyordu. Kısa süre sonra rapordaki bilgilerin yanlış olduğu anlaşıldı. CNN’e göre, hatalı istihbarat raporunun hazırlanmasında yapay zekâdan yararlanılmıştı.

ABD ordusu bu yılın başlarında İran’a yönelik operasyonlar sırasında Orta Doğu’da bulunan Çin bandıralı bir gemiyi durdurmak için harekete geçti. CNN’in konuya yakın 4 kaynağa dayandırdığı haberine göre ABD ordusu geminin nükleer silahlarla bağlantılı bileşenler taşıdığı yönündeki istihbaratın ardından operasyon hazırlığı yaptı.

Askeri uçaklar bölgeye gönderilirken silahlı ABD personelinin gemiye çıkması için de hazırlık yapıldı. Operasyonun başlamasına kısa süre kala istihbarat raporundaki bilgilerin yanlış olduğu ortaya çıktı ve plan iptal edildi.

Konuya yakın bir kaynak CNN’e yaptığı açıklamada söz konusu belgenin “tamamen yanlış” olduğunu ve olayın “neredeyse bir savaşı tetiklediğini” söyledi.

CNN geminin gerçekte ne taşıdığı veya nereye gittiği konusunda ise bilgi verilmediğini aktardı.

Yanlış bilgi nasıl rapora girdi?

CNN’in aktardığı bilgilere göre olayın başlangıcında, Hawaii’de bulunan ABD Özel Harekât Komutanlığı Pasifik (SOCPAC) tarafından hazırlanan başka bir istihbarat raporu vardı. Bir askeri analist, bu raporda yer alan Çin gemisi hakkında daha fazla bilgi edinmek amacıyla bir yapay zekâ sohbet robotuna soru yöneltti.

Söz konusu sohbet robotunun ticari bir yapay zekâ modeli mi olduğu yoksa ABD ordusu tarafından geliştirilen özel bir sistem mi olduğu bilinmiyor.

Yapay zekâ, askeri rapordaki gizli bilgiler ile internette bulunan kamuya açık verileri bir araya getirdi. Bunun sonucunda geminin nükleer silah programıyla bağlantılı bileşenler taşıdığı yönünde hatalı bir sonuca ulaştı.

Analist daha sonra yapay zekâ tarafından elde edilen bilgileri derleyerek yeni bir istihbarat raporuna dönüştürdü. Hazırlanan rapor, ABD askeri kanalları üzerinden dağıtıldı ve geminin durdurulmasına yönelik operasyon hazırlığının başlamasında rol oynadı.

Olay, yapay zekânın askeri istihbarat ve hedef belirleme süreçlerinde kullanılmasının beraberinde getirebileceği riskleri de yeniden gündeme getirdi.

CNN’in kaynaklarına göre ABD ordusu, hedef belirleme operasyonlarında yapay zekâ kullanımını giderek artırıyor. Ancak bu sistemlerin ürettiği bilgilerin nasıl denetleneceği ve özellikle sivil kayıplar ya da yanlış hedefleme risklerinin nasıl önleneceği konusunda hâlâ soru işaretleri bulunuyor.

ABD medyasına konuşan bir kaynak, hedef belirlemede yapay zekâ kullanımının açık biçimde arttığını ancak insan denetiminin hataları ve sivil kayıpları önlemede nasıl kullanılacağına ilişkin belirli bir kılavuzun bulunmadığını söyledi.

Yapay zekâ kullanımına ilişkin uyarılar

Olay, ABD ordusunun yapay zekâ kullanımını hızlandırmaya yönelik adımlar attığı bir dönemde yaşandı.

Savaş Bakanı Pete Hegseth, ocak ayında ABD ordusunun yapay zekâ kullanımını yaygınlaştırmayı amaçlayan “Yapay Zekâ Hızlandırma Stratejisi” adlı belgeyi yayımladı. Hegseth, stratejinin tanıtımı sırasında yapay zekâ alanındaki deneylerin hızlandırılması, bürokratik engellerin azaltılması ve askeri yapay zekâ yatırımlarının artırılması gerektiğini savundu.

Çin gemisiyle ilgili olay, askeri karar alma süreçlerinde yapay zekâ tarafından üretilen bilgilerin doğrulanmasının önemini ortaya koydu.

Teknoloji dünyasında son dönemde yapay zekâ modellerinin hatalı veya gerçeğe dayanmayan bilgiler üretmesi konusunda da uyarılar artıyor. “Halüsinasyon” olarak adlandırılan bu durum, bir yapay zekâ sisteminin gerçekte var olmayan bilgileri doğruymuş gibi sunabilmesi anlamına geliyor.

Bu olayda da yapay zekânın farklı kaynaklardan elde ettiği bilgileri hatalı biçimde birleştirmesi sonucunda gerçeğe aykırı bir istihbarat değerlendirmesi ortaya çıktığı bildiriliyor.

Yapay zekânın askeri alanda kullanımının yaygınlaşması, özellikle hedef belirleme ve istihbarat değerlendirmesi gibi yüksek risk taşıyan süreçlerde insan denetiminin kapsamı ve sorumluluğu konusundaki tartışmaları da beraberinde getiriyor.