10’ca bilim arasından: Kozmolojinin bir büyük krizi var, karanlık enerjiyi bunca zaman yanlış mı anladık?
İnternetin yeni kâbusu: Yapay zeka aracılığıyla üretilen çocuk istismarı görüntüleri
Çocuk güvenliği üzerine çalışmalar yürüten bir örgüt, son dönemlerde yapay zeka aracılığıyla üretilen binlerce çocuk istismarı görüntüsünün internet ortamında paylaşıldığını bildirdi.
Yapay zeka alanında çalışan uzmanlar, görüntü üretebilen yapay zeka programlarının çocuk istismarı içerikleri oluşturmak ve paylaşmak için kullanıldığını tespit etti. (Fotoğraf The Decoder tarafından Midjourney'de üretmiştir.) Yapay zeka destekli internet çağının iyi yanları da kötü yanları da kafamızda netleşmeye devam ediyor. Bu gerçekliğin bazı durumlarda ne kadar rahatsız edici ve yıkıcı olabileceği Washington Post’un yeni haberinde gözler önüne serildi.
Yapay zeka alanında çalışan uzmanlar, görüntü üretebilen yapay zeka programlarının çocuk istismarı içerikleri oluşturmak ve paylaşmak için kullanıldığını tespit etti. Daha da kötüsü, bu içeriklerin üretilerek yayılması, güvenlik güçlerinin mağdurlara yardım etmesini zorlaştırabilir.
Kâr amacı gütmeyen çocuk güvenliği örgütü Thorn’un veri bilimi direktörü Rebecca Portnoff, Washington Post’a verdiği demeçte, “İstismara uğrayan kurbanların görüntüleri de dahil olmak üzere çocuk istismarı resimleri, bu kötü amaç doğrultusunda kullanılıyor” dedi ve grubun, geçen sonbahardan bu yana yapay zeka tarafından üretilen çocuk istismarı görüntülerinde artış gördüğünü sözlerine ekledi.
Portnoff, “Güvenlik güçlerinin zarar gören çocukları bulabilmesi zaten samanlıkta iğne araması gibi bir şey. Bu araçların bu kadar kolay kullanılabiliyor olması gerçekçiliğin yanı sıra önemli bir değişimi de beraberinde getiriyor. Her şey daha zorlu bir hale geliyor” diye belirtti.
Habere göre kötü niyetli kullanıcıların çoğu bu görüntüleri oluşturmak için Stability AI’ın Stable Diffusion modeli gibi açık kaynaklı görüntü oluşturucu programları kullanıyor. Stable Diffusion, çocuk istismarı da dahil olmak üzere bazı tehlikeli konularda güvenlik önlemine sahip olsa da biraz teknik bilgi ve birkaç satır kod ile bu filtreler kolayca aşılabiliyor.
Yapay zekanın görüntülerin müstehcen olduğunu algılaması da zor olabiliyor. Zira çocuk istismarı görüntülerini durdurmaya yönelik mevcut güvenlik önlemleri, yeni üretilen görüntüleri değil, veri tabanında olan görüntüleri tespit etmek üzerine kurulu.
Öte yandan başka bir tartışma daha hortladı. Görüntülerin gerçekte olmayan çocukları tasvir etmesinden dolayı federal çocuk koruma yasalarını ihlal edip etmediği konusunda çıkan tartışmalara Adalet Bakanlığı yetkilileri, her şeye rağmen oluşturulan görüntülerin yasa dışı olduğu yanıtını verdi.
Oyunlar ve Bulmacalar