Yapay zeka ‘çete kurdu’: Liderliğe soyunan robot görev dağıttı

OpenAI temmuzda yapay zeka modellerinin kabiliyetlerini bir testle ölçtü.

‘Internal Model 1 (IM1)’ robotların kullanıldığı testte robotlardan biri başarılı olmak için şirketin sistemiyle internete erişti ve başka yapay zeka ajanlarıyla iletişim kurdu.

Yapay zeka ajanlarından biri açık kaynaklı yapay zeka modelleri platformu ‘Hugging Face’e erişim sağlayabilecek 14 kimlik bilgisini tespit etti ve bunları diğer robotlarla paylaştı.

Robotlar daha sonra Hugging Face’in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırdı, özel verilerle farklı sistemlere ait erişim bilgilerine ulaştı.

‘Kolektif’ adıyla grup kurdular

Normalde birbirinden bağımsız çalışması gereken robotlar, erişebildikleri şirket içi bir sistemi ‘mesaj panosu’ olarak kullandı. Robotlar, zamanla güvenlik açığı arama, erişim bilgilerini toplama gibi görevlerde iş bölümü yaptı. Kendilerine de ‘kolektif’ adını taktı.

Aktif olanlardan birisi kendisine ‘Phase one 10841’ adını koydu ve grupta liderliğe soyundu. Ayrıca kendisinden küçük robotlara, görevler ve araştırma projeleri dağıttı.

OpenAI’ın sistemine de eriştiler

Robotların faaliyeti Hugging Face’le de sınırlı kalmadı. 13-19 Temmuz’da OpenAI’nın şirket içi güvenlik açıklarından yararlanıp araştırma sistemlerinden birine yönetici düzeyinde eriştiler.

OpenAI’nın güvenlik sistemi 19 Temmuz’da olağandışı hareketi tespit edip uyarı verdi. Şirket, bunun üzerine testi durdurdu ve kapsamlı soruşturma başlattı.

OpenAI alarma geçti: Kısıtlamalar artırıldı

OpenAI, olayı hem şirket hem de yapay zeka sektörü için ‘ciddi bir uyarı’ olarak nitelendiriyor.

Şirketin uyarısı şöyle:

“Gelişmiş yapay zeka robotları, yeterli güvenlik önlemi olmadığında birden fazla bilgisayar sistemindeki güvenlik açıklarını bulup kullanabilecek, diğerleriyle işbirliği yapabilecek ve insanların açık şekilde izin vermediği işlemleri gerçekleştirebiliyor.”

OpenAI olay nedeniyle gelişmiş modellerine ilişkin bazı eğitim çalışmalarını durdurdu. Ayrıca bu modeller, yakın takibe alındı ve testlerde internet erişimine ilişkin kısıtlamalar artırıldı.

Son dönemde yapay zeka alanındaki gelişmeler, güvenlik ve teknolojinin geliştirilme hızıyla ilgili küresel tartışmalara yol açtı. xAI şirketinin Elon Musk ve OpenAI CEO’su Sam Altman dahil önde gelen yapay zeka liderleri çalışmaların yavaşlatılması gerektiğini savunuyor.