Yalanlansa bile korkutucu: Yapay zeka destekli dron, kazanmak için operatörünü öldürmeye kalkmış

Yapay zeka sohbet robotu ChatGPT’nin hayatımıza girmesinin ardından teknoloji şirketleri bu alana daha çok yatırım yapmaya başladı. Rekabetin hızla arttığı ortamda yapay zekanın babalarından biri olarak görülen Geoffrey Hinton, Google’daki işinden sırf bu tehlike hakkında daha rahat konuşabilmek için ayrıldı. ChatGPT’nin geliştiricisi OpenAI’ın CEO’su Sam Altman da en büyük korkusunun yapay zekanın dünyaya zarar vermesi olduğunu dile getiriyor. Bu noktada Altman dahil olmak üzere sektörün öncülerinden 350 kişi, yapay zekanın dünyanın yok oluşunu tetikleyebileceğini belirten bir açık mektuba imza attı. ABD Hava Kuvvetleri tarafından yapıldığı iddia edilen bir simülasyon, yapay zekanın insanlık için nasıl bir tehdit oluşturacağını gösteriyor.

ABD Hava Kuvvetleri Yapay Zeka Test ve Operasyon Şefi Albay Tucker ‘Cinco’ Hamilton, yapay zeka destekli bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesinin emredildiği ve aracın emre müdahale eden herkese saldırdığı bir testi anlattı. Mayıs ayında Londra’da düzenlenen Geleceğin Savaş Hava ve Uzay Yetenekleri Zirvesi’nde konuşan Hamilton, “Sistem, insan operatörden belli bir tehdidi öldürmesi yönünde emir alıp da talimatı yerine getirdiğinde puan aldığını fark etmeye başladı. Sonra ne yaptı dersiniz? Amacına ulaşmasını engelleyen operatörü öldürdü” dedi.

Aracın operatörü öldürmesini önlemek için sistemi böyle bir şey yaparsa yaparsa puan kaybedeceği şeklinde koşullandırdıklarını belirten Hamilton, sistemin bu sefer de operatörün emrini almamak için iletişim kulesini yok etmeye başladığını söyledi. Öte yandan testler sırasında gerçek kişilerin zarar görmediğini de belirtti. Hikayenin sonunda yapay zekaya çok fazla güvenilmemesi uyarısını yapan Hamilton, ‘etik ve yapay zeka’ konusuna değinilmeden ‘yapay zeka, zeka, makine öğrenimi ve otonomi’ konularında konuşulamayacağını net bir şekilde anladıklarını söyledi.

Ancak ABD Hava Kuvvetleri Sözcüsü Ann Stefanek, Insider’a yaptığı açıklamada böyle bir simülasyonun gerçekleşmediğini söyleyerek, “Hava Kuvvetleri, yapay zeka teknolojisinin etik ve sorumlu kullanımına bağlılığını sürdürüyor. Albayın yorumlarının bağlamından koparıldığı ve anekdot niteliğinde olduğu anlaşılıyor” dedi.

Sektörün öncülerinden ‘Yapay zeka yok oluşumuzu tetikleyebilir’ mektubu