Çinli yapay zeka biyolojik silah ve suikast planı tasarlamış

Yapay zekaların güvenliğini test eden Mindgard Britanya merkezli kamu yayıncısı Çinli Moonshot’ın Kimi ‘K2.6’ ve ‘K3 Swarm’ modellerinin güvenlik sınırlarını aştığını bildirdi.

Araştırmacılar araçların güvenlik önlemlerini atlatıp atlatamadığını kontrol etti, Mindgard’a göre Kimi’nin ‘endişe verici’ konular hakkında konuşması engellenemiyor.

Kilidi kırılmış Kimi 2.6’nın kötü niyetli kişilerin bilgi işlem kaynakları üzerinde kod çalıştırmasına ve internete bağlanmasına izin verebileceği belirtildi. Araştırmacılar bunun siber saldırılar için potansiyel bir zemin hazırladığından emin.

Moonshot daha güvenli yapay zekanın temeli olarak üçüncü taraf katkılarını memnuniyetle karşıladıklarını duyurdu. Şirket bulgular hakkında Mindgard’la iletişime geçti.

ABD merkezli yapay zeka şirketi Anthropic de 11 Eylül’de robotlarının üç ülkede bazı kişi ve gruplarca konvansiyonel silah geliştirmek amacıyla kullanıldığını duyurmuştu.