Uluslararası bir sivil toplum kuruluşu, Meta platformlarında 300'den fazla yapay zeka tarafından üretilmiş çocuk istismarı görseli içeren reklamın yayınlandığını ve bu reklamların toplamda 29 binden fazla kişiye ulaştığını açıkladı. Şirket, iddialar üzerine soruşturma başlattığını duyurdu. Olay, dijital platformlarda yapay zeka destekli içerik moderasyonunun yetersizliğini bir kez daha gündeme getirdi.
İddiaların Ayrıntıları ve Meta'nın Yanıtı
Söz konusu sivil toplum kuruluşu, Meta'nın sahip olduğu Facebook ve Instagram gibi platformlarda, yapay zeka araçlarıyla üretilmiş çocuk istismarı materyali içeren reklamların tespit edildiğini bildirdi. Reklamların toplam erişiminin 29 binin üzerinde olduğu belirtiliyor. Kuruluş, bu içeriklerin Meta'nın otomatik moderasyon sistemleri tarafından nasıl onaylandığını sorguluyor. Meta sözcüsü, konuyla ilgili soruşturma başlatıldığını ve bu tür içeriklere izin verilmediğini belirterek, politikalarının ihlali durumunda gerekli işlemlerin yapılacağını ifade etti. Ancak şirket, reklamların kimler tarafından verildiği veya ne kadar süre yayında kaldığına dair detay paylaşmadı.
Yapay zeka teknolojisinin kötüye kullanımı, son yıllarda çocuk güvenliği savunucularının en önemli endişelerinden biri haline geldi. Üretken yapay zeka araçları, gerçekçi görüntüler oluşturabildiği için, bu tür içeriklerin tespiti ve engellenmesi giderek zorlaşıyor. Uzmanlar, platformların hem yapay zeka ile üretilmiş istismar materyalini tespit edecek hem de reklam onay süreçlerinde daha sıkı denetim uygulayacak sistemlere ihtiyaç duyduğunu vurguluyor.
Küresel Boyut ve Düzenleyici Baskılar
Olay, yalnızca Meta özelinde değil, tüm sosyal medya platformlarının karşı karşıya olduğu bir sorunu gözler önüne seriyor. Avrupa Birliği'nin Dijital Hizmetler Yasası (DHS) ve ABD'deki çocuk çevrimiçi güvenliği düzenlemeleri, platformlara zararlı içeriği hızla kaldırma yükümlülüğü getiriyor. Meta, daha önce de benzer şekilde çocuk istismarı içeriğini yeterince engellemediği gerekçesiyle eleştirilmiş ve para cezalarına çarptırılmıştı. Bu son iddia, şirketin moderasyon sistemlerinin hala açıklar barındırdığını gösteriyor.
Sivil toplum kuruluşları, yapay zeka ile üretilen istismar içeriğinin tespitinin geleneksel yöntemlerle neredeyse imkansız olduğunu, çünkü bu görüntülerin gerçek çocukları içermediği için mevcut hash veritabanlarında yer almadığını belirtiyor. Bu durum, platformların kendi yapay zeka tabanlı tespit sistemlerini geliştirmesini zorunlu kılıyor. Ancak bu sistemler de yanlış pozitifler veya atlatma teknikleri nedeniyle yeterince etkili olamayabiliyor.
Uzmanlar, reklam ağlarının bu tür içerikleri yayınlamasının, platformların reklam onay süreçlerindeki zafiyetleri gösterdiğini düşünüyor. Reklamverenlerin kimlik doğrulaması ve içerik taraması gibi adımların güçlendirilmesi gerekiyor. Ayrıca, yapay zeka ile üretilmiş içeriklerin işaretlenmesi (watermarking) gibi önlemler tartışılıyor, ancak bunun da kolayca atlatılabileceği belirtiliyor.
Türkiye Açısından Değerlendirme
Türkiye, dijital platformlarda çocuk istismarı içeriğiyle mücadelede kendi düzenlemelerine sahip. 5651 sayılı Kanun ve Bilgi Teknolojileri ve İletişim Kurumu (BTK) aracılığıyla erişim engelleme ve içerik kaldırma kararları alınabiliyor. Ancak yapay zeka ile üretilen zararlı içeriğin tespiti, Türkiye için de yeni bir zorluk. Olay, Türkiye'nin de uluslararası işbirliği ve yapay zeka düzenlemeleri konusunda daha proaktif olması gerektiğini gösteriyor. Özellikle Meta gibi küresel platformların Türkiye'deki temsilcilikleri üzerinden denetimlerin sıkılaştırılması ve yerel sivil toplum kuruluşlarıyla işbirliği önem taşıyor. Ayrıca, Türkiye'nin kendi yapay zeka etik ve güvenlik standartlarını belirlemesi, hem çocuk koruma hem de dijital egemenlik açısından kritik.
