Birleşmiş Milletler'in (BM) her yıl 18 Haziran'da kutladığı Uluslararası Nefret Söylemiyle Mücadele Günü vesilesiyle, yapay zeka (AI) tabanlı nefret söylemi tespit sistemlerinin yetersizlikleri yeniden gündeme geldi. Al Jazeera'nın kapsamlı analizine göre, büyük dil modelleri ve sosyal medya platformlarında kullanılan otomatik denetleme araçları, nefret söylemini ayırt etmede ciddi sorunlar yaşıyor. Özellikle bağlam, ironi, kültürel referanslar ve dildeki ince nüanslar, AI sistemlerini sık sık yanıltıyor. Uzmanlar, bu teknolojilerin aşırı hassas veya aşırı hoşgörülü olma eğiliminde olduğunu, bunun da ya masum içeriklerin sansürlenmesine ya da gerçek nefret söyleminin gözden kaçmasına yol açtığını belirtiyor.
AI'nın nefret söylemi tespitindeki temel zorluklar
Yapay zeka modelleri, nefret söylemini tanımak için genellikle etiketlenmiş büyük veri kümeleriyle eğitiliyor. Ancak nefret söyleminin tanımı kültürden kültüre, hatta aynı dil içinde bile değişiklik gösteriyor. Örneğin, İngilizce'de 'şaka' olarak kullanılan bir ifade, başka bir bağlamda doğrudan saldırıya dönüşebiliyor. AI modelleri, özellikle az temsil edilen dillerde ve lehçelerde yetersiz kalıyor. Ayrıca, nefret söylemi sıklıkla kodlanmış dil, imalar veya tarihsel referanslar içeriyor; bu da AI'nın anlamlandırmasını daha da zorlaştırıyor. Al Jazeera'nın haberinde, Facebook ve Twitter gibi platformların moderasyon araçlarının, 2023'te yayımlanan bir çalışmada, siyahilere yönelik nefret söylemini tespitte beyazlara yönelik olana kıyasla daha yüksek hata payına sahip olduğu vurgulanıyor.
Bir diğer önemli sorun ise AI'nın 'ifade özgürlüğü' ile 'nefret söylemi' arasındaki ince çizgiyi çekmedeki başarısızlığı. Özellikle siyasi içerikli paylaşımlar, hiciv veya eleştiri kapsamında değerlendirilmesi gerekirken AI tarafından yanlışlıkla nefret söylemi olarak sınıflandırılabiliyor. Bu durum, kullanıcıların sansürlenme korkusuyla kendini ifade etmesini engelleyebiliyor. Öte yandan, gerçek nefret söylemi içeren ancak 'zararsız' görünen ifadeler, AI'nın radarından kaçabiliyor. Örneğin, 'Onların hepsi aynı' gibi genellemeler, AI tarafından genellikle nefret söylemi olarak algılanmıyor.
Küresel boyut ve çözüm arayışları
Nefret söylemi, küresel ölçekte artan bir sorun. BM'ye göre, dünya genelinde her üç kişiden biri çevrimiçi nefret söylemine maruz kalıyor. Bu durum, özellikle azınlık grupları, göçmenler ve kadınlar için ciddi sonuçlar doğuruyor. AI tabanlı çözümler, bu sorunun üstesinden gelmek için umut vaat etse de, uzmanlar mevcut sistemlerin yetersiz olduğu konusunda hemfikir. Al Jazeera, teknoloji şirketlerinin daha kapsayıcı ve şeffaf AI modelleri geliştirmesi gerektiğini belirtiyor. Öneriler arasında, eğitim veri kümelerinin çeşitlendirilmesi, yerel toplulukların dahil edilmesi ve insan denetiminin artırılması yer alıyor. Ayrıca, AB'nin Dijital Hizmetler Yasası gibi düzenlemeler, platformları daha sorumlu hale getirmeyi hedefliyor. Ancak, AI'nın nefret söylemiyle mücadelede tek başına yeterli olmayacağı, insan faktörünün ve eğitimin kritik rol oynadığı vurgulanıyor.
Türkiye Açısından Değerlendirme
Türkiye, sosyal medya kullanımının yoğun olduğu ve nefret söyleminin sıklıkla görüldüğü ülkelerden biri. Özellikle Suriyeli mülteciler, Kürtler ve diğer azınlık gruplarına yönelik çevrimiçi nefret söylemi, toplumsal gerilimleri artırabiliyor. Türkiye'de yürürlükte olan 5651 sayılı İnternet Yasası ve sosyal medya düzenlemeleri, nefret söylemiyle mücadelede belirli bir çerçeve sunsa da, AI tabanlı denetim sistemlerinin etkinliği henüz sınırlı. Türkiye'nin, özellikle Türkçe ve Kürtçe gibi dillerde AI modellerinin geliştirilmesine yatırım yapması, küresel çabalara katkı sağlayabilir. Ayrıca, ifade özgürlüğü ile nefret söylemi arasındaki dengenin korunması, Türkiye'nin demokratik standartları açısından kritik öneme sahip. Bu bağlamda, uluslararası iş birliği ve en iyi uygulamaların takip edilmesi, Türkiye'nin çevrimiçi nefret söylemiyle mücadelesinde önemli bir adım olacaktır.
