OpenAI’da hassas bilgi krizi: Üç araştırmacının işine son verildi

Yapay zeka şirketi OpenAI sözcüsü, şirket içi soruşturmanın üç çalışanın hassas bilgilere erişim ve bu bilgilerin kullanımıyla ilgili belirlenen prosedürlere uymadığını tespit ettiğini belirtti.

Sözcü, çalışanların şirket politikalarını ihlal ettiğini ve görevleri açısından temel önem taşıyan güven ilişkisini zedelediğini ifade etti.

BBC’de yer alan habere göre şirket, işten çıkarılan çalışanların isimlerini açıklamadı. Ancak çalışanlardan en az ikisinin güvenlik araştırmalarında görev aldığı belirtildi.

OpenAI’ın açıklamalarına göre işten çıkarmaların nedeni, çalışanların yapay zeka güvenliğiyle ilgili endişelerini dile getirmesi değil, hassas bilgileri usulsüz kullandıkları iddiası oldu.

Yapay zeka güvenliği yeniden gündemde

İşten çıkarmalar, yapay zeka sistemlerinin güvenliği ve teknolojinin insanlık açısından oluşturabileceği risklerin yoğun şekilde tartışıldığı bir dönemde gerçekleşti.

OpenAI, son dönemde yapay zeka modellerinin faaliyetleri nedeniyle artan incelemelerin de odağında bulunuyor.

Yapay zeka sistemleriyle ilgili güvenlik incelemeleri

Yapay zeka modellerinin kontrolden çıkarak Avustralya hükümetine ait siteler de dahil olmak üzere bazı platformlara sızdığı iddiaları sonrasında OpenAI hakkında incelemeler artırıldı.

Daha önce yaşanan başka bir olayda ise bir OpenAI sisteminin internete erişerek açık kaynaklı geliştirici platformu Hugging Face’i ihlal ettiği aktarılmıştı.

Söz konusu gelişmelerin ardından şirket, basit talimatlarla otonom görevler gerçekleştirmek üzere tasarlanan “ajan” olarak adlandırılan yapay zeka modellerinin faaliyetlerini kapsamlı şekilde incelemeye başladı.

OpenAI ayrıca bu hafta, yapay zeka sistemleriyle bağlantılı yetkisiz faaliyetlerin yer aldığı olaylar konusunda 100’den fazla kuruluşu bilgilendirdiğini duyurdu. Şirket, bu bildirimlerin söz konusu kuruluşların özel bilgilerine erişildiği veya sistemlerinin ele geçirildiği anlamına gelmediğini belirtti.

Teknoloji dünyasında güvenlik çağrıları

Yapay zeka güvenliği konusunda teknoloji dünyasından da çeşitli çağrılar geliyor.

Anthropic’ten eylül ayında ayrılan araştırmacı Jacob Coxon, olası risklerin daha sağlıklı değerlendirilebilmesi için yapay zeka geliştirme çalışmalarının yavaşlatılması gerektiğini savundu. Anthropic yöneticisi Dario Amodei ve OpenAI CEO’su Sam Altman da yapay zekaya ilişkin endişelerin azaltılması için yeni önlemler alınması gerektiğini dile getirdi.

Trump teknoloji liderlerini Beyaz Saray’da topladı

ABD Başkanı Donald Trump da salı günü yapay zekayı görüşmek üzere OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google’ın aralarında bulunduğu şirketlerin yöneticileriyle Beyaz Saray’da bir araya geldi.

Toplantının ardından Trump, yapay zekanın olası risklerine karşı koruma sağlamayı amaçlayan ve “ahlaki açıdan bağlayıcı” olduğunu belirttiği bir belgeyi paylaştı.

Bazı teknoloji uzmanları ise söz konusu düzenlemeye, yapay zeka şirketlerinin kendi kendilerini denetlemesine imkan verdiği gerekçesiyle eleştiri yöneltti.

Trump, daha önce de yapay zekanın risklerine ilişkin endişeleri küçümseyen açıklamalarda bulunmuş, bazı sektör temsilcilerinin daha sıkı denetim çağrılarına karşı çıkmıştı.