Instagram’ın öneri algoritması, pedofillerin birbirini bulmasını sağlıyormuş

Wall Street Journal, Stanford ve Massachusetts Amherst Üniversitesi’ndeki araştırmacılarla işbirliği yaparak Instagram’da çocuk pornografisinin denetimi üzerine bir araştırma yürüttü. Gazete, “Pedofiller uzun zamandır interneti kullanıyor. Çocukların cinselleştirildiği yasa dışı içerikle ilgilenen insanlara hitap eden forum ve dosya aktarım hizmetlerinin aksine Instagram bu faaliyetlere alan tanımakla kalmıyor, algoritması bu kişileri bir araya getirmeye teşvik ediyor. Bunu, pefodilileri öneri algoritması aracılığıyla söz konusu içerik sahiplerine yönlendirerek yapıyor” diye yazdı.

Haberde Stanford İnternet Gözlemevi araştırma ekibinin, reşit olmayan çocuklarla cinsel ilişki gibi etiketler altında çocukların cinselleştirildiği içerikler sunan 405 hesap tespit ettiği belirtiliyor. WSJ haberinde ağ haritalama yazılımı Maltego aracılığıyla derlenen ve bu hesaplardan 112’sinin toplamda 22 bin takipçisi olduğunu ortaya koyan verilere de yer verildi.

WSJ’ye göre yasadışı cinsel içerikli paylaşımlar yapan Instagram hesapları, bunu genellikle açık açık yapmıyor, platform dışı ticari sitelere bağlantı vererek yapıyor. Araştırma Instagram’ın, insanların ‘pedowhore’ ve ‘preteensex’ gibi müstehcen etiketleri aramasına olanak sağladığını gösteriyor. Kişiler bu etiketleri aratarak çocukları cinselleştiren hesaplara erişim sağlıyor ve böylelikle bir topluluk oluşturuyorlar.

Meta yazılım hatası olduğunu kabul etti

Meta, Instagram’ın bazen çocuk istismarına ilişkin ihbar aldığını ancak bunların işleme konulmasını engelleyen bir yazılım hatası olduğunu belirterek, söz konusu ihbarların ardından harekete geçmediğini kabul etti.

Bir Meta sözcüsü, Instagram’ın ‘bu eğilime karşı aktif bir şekilde mücadele etmenin yollarını araştırdığını ve WSJ’nin iddialarını ele almak için hemen ekip kurduğunu’ söyledi. Buna ek olarak ‘saldırgan hesapları daha kolay tespit ederek kaldırmak için içerik denetçilerine güncellenmiş bir rehber sunulduğu’ da belirtildi.

Meta’ya göre çocuk istismarı içerikli paylaşımlarla ve bu içeriklerin sahipleriyle aktif bir mücadele halindeler. Şirket, 2020 ve 2022 yılları arasında, istismarcı 27 ağı dağıttığını iddia ediyor, Ocak 2023 çocuk güvenliği politikalarını ihlal ettiği için 490 binden fazla hesabı devre dışı bırakmış.

Şirket, 2022’nin dördüncü çeyreği itibarıyla Meta’nın teknolojisinin Facebook ve Instagram’dan 34 milyondan fazla çocuk istismarı içeriğini kaldırdığını ve bunların yüzde 98’inden fazlasının kullanıcılar tarafından bildirilmeden önce tespit edildiğini söyledi. WSJ’nin haberine göreyse, teknik ve yasal engeller platformdaki pedofili ağının boyutunu tam olarak belirlemeyi Meta dışındaki herhangi birinin görmesini zorlaştırıyor.

Oyuncu Adèle Haenel: Artık ben yokum, çünkü Fransız film sektörü cinsel suçluları koruyor