WSJ: Instagram çocuk takipçilerine müstehcen içerik üretiyor

Wall Street Journal editörleri Instagram’da test hesabı oluşturup çocukları takip etmeye başladı. Bir süre sonra algoritma bu hesaplara müstehcen çocuk görüntüleri, yetişkinler için cinsel içerikli videolar ve büyük markaların reklamlarını gösterdi.

Popüler 29 Kasım 2023
Bu haber 3 ay önce yayınlandı

Artık sosyal medyayla ilgilenen herkesin bildiği üzere Instagram’ın algoritması kullanıcıların ilgi ve beğenisi ile şekilleniyor. Platform ‘Reels’ adlı kısa videoları seçerken ilginizi neyin çekebileceğini düşünüyor, ona uygun olanları gösteriyor.

Prestijli Wall Street Journal’ın özel haberine göre Instagram aynı algoritmayı çocuklara cinsel ilgi duyan yetişkinler için de kullanıyor.

Gazetenin editörleri çocuk ve gençlerin hesaplarının takipçileri arasında çok sayıda yetişkin erkek olduğunu ve bu çocukları takip eden hesapların çoğunun hem çocuklarla hem de yetişkinlerle ilgili seks içeriklerine ilgi gösterdiğini gözlemledi.

Jimnastikçileri ve amigo kızları takip ettiler

Bu gözlemi temellendirmek için sadece genç jimnastikçileri, amigo kızları ve platformda aktif olan diğer genç ve çocuk influencer’ları takip etmek üzere hesaplar açtı ve bunlara nasıl önerilerin geldiğine baktı.

Instagram’ın sistemi bu test hesaplarına, çocukların müstehcen görüntülerinin yanı sıra cinsel içerikli yetişkin videoları ve ABD’nin en büyük markalarından bazılarının reklamları da dahil olmak üzere müstehcen içerik sundu. Daha sonra test hesapları kendisine önerilen içeriklerden bazılarını takip etmeye başladı ve müstehcenlik dozu daha da artan içerik ve reklam önerileriyle karşılaştı.

Instagram tarafından önerilen bir videoda, gerçek boyutlu bir lateks bebeğin yüzünü okşayan birinin videosu ile yüzü gizlenmiş genç bir kızın tişörtünü sıyırarak göbeğini açtığı bir videonun arasında flört uygulaması Bumble’ın reklamı belirdi. Yatakta uzanmış ve kolunu 10 yaşında bir kız çocuğuna dolamış bir adamın görüntüsü PizzaHut reklamından sonra çıktı.

Habere göre Kanada Çocuk Koruma Merkezi de böyle bir test yaptı ve benzer sonuçlara ulaştı.

Meta: Üretilmiş bir deneyim, gerçeği yansıtmıyor

Instagram’ın çatı şirketi Meta, Journal’ın testlerinin milyarlarca kullanıcıyı temsil etmediğini ve üretilmiş bir deneyim olduğunu söyledi. Şirket, algoritmaların neden çocuk, seks ve reklam gösteren videoları aynı akışta verdiği konusunda bir yorum yapmadı ancak reklamverenlere reklamlarının nerede görüneceği konusunda daha fazla kontrol sağlayan bir hizmeti geçen ay tanıttığını belirtti.

Her ay standartlarını karşılamayan dört milyon videoyu yayından kaldırdığını da sözlerine ekledi.

The Journal geçen Haziran’da a hem Facebook hem de Instagram’ın algoritmasının pedofilik içerikle ilgilenen geniş kullanıcı topluluklarını birbirine bağladığını yazmıştı.

Instagram'ın öneri algoritması, pedofillerin birbirini bulmasını sağlıyormuşInstagram’ın öneri algoritması, pedofillerin birbirini bulmasını sağlıyormuş

10Haber bültenine üye olun, gündem özeti her sabah mailinize gelsin.