İtalya'nın veri koruma kurumu Garante, yapay zeka sohbet robotu Character.AI'nin sahibi ABD merkezli Character Technologies'e, reşit olmayan kullanıcıların yaşlarını doğrulamada yetersiz kaldığı gerekçesiyle 2,8 milyon avro (yaklaşık 3 milyon dolar) para cezası kesti. Garante, yaptığı soruşturmada platformun 13 yaş altındaki çocukların kaydolmasını engelleyecek etkili bir mekanizma sunmadığını tespit etti. Ceza, AB'nin Genel Veri Koruma Yönetmeliği (GDPR) kapsamında uygulandı ve kurum, Character Technologies'e yaş doğrulama önlemlerini altı ay içinde iyileştirme talimatı verdi.
Gelişmenin arka planı
Character.AI, kullanıcıların hayali veya gerçek kişiliklerle sohbet edebildiği bir platform olarak 2022'de piyasaya sürüldü. Özellikle gençler arasında hızla popülerleşen uygulama, geçtiğimiz yıl bir genç kullanıcının platformdaki bir AI karakterine duygusal bağlanmasının ardından intihar girişiminde bulunmasıyla gündeme gelmişti. ABD'de de benzer davalarla karşı karşıya kalan şirket, henüz bu cezaya ilişkin resmi bir açıklama yapmadı. Garante'nin soruşturması, platformun çocuk kullanıcıların verilerini korumak için yeterli önlem almadığını, yaş doğrulama sürecinin yalnızca bir onay kutusundan ibaret olduğunu ortaya koydu.
İtalya, AB içinde çocukların çevrimiçi güvenliği konusunda en sıkı düzenlemelere sahip ülkelerden biri. Kurum, daha önce TikTok ve Meta gibi büyük teknoloji şirketlerine de benzer gerekçelerle para cezaları kesmişti. Bu ceza, yapay zeka destekli sohbet robotlarının çocuk koruma yasaları kapsamında düzenlenmesine yönelik artan baskının bir parçası olarak görülüyor.
Bölgesel veya küresel boyut
Bu karar, AB'nin yapay zekayı düzenleme konusundaki kararlılığının bir göstergesi. GDPR, şirketlerin kullanıcı verilerini korumasını zorunlu kılarken, AB'nin yeni Yapay Zeka Yasası da benzer yükümlülükler getiriyor. Character.AI vakası, özellikle çocukları hedef alan veya çocuklar tarafından yoğun kullanılan AI platformlarının daha sıkı denetleneceğine işaret ediyor. ABD'de de Kaliforniya'da çocukların çevrimiçi güvenliğine ilişkin yeni yasalar tartışılırken, bu ceza uluslararası alanda emsal teşkil edebilir. Asya-Pasifik bölgesinde, Character.AI'nin özellikle Japonya ve Güney Kore'de popüler olduğu biliniyor; bu ülkelerin veri koruma kurumlarının da benzer adımlar atması bekleniyor.
Türkiye Açısından Değerlendirme
Türkiye'de Kişisel Verileri Koruma Kurumu (KVKK), son yıllarda çocukların çevrimiçi platformlardaki veri güvenliğine ilişkin farkındalığı artırmaya çalışıyor. Character.AI'ye yönelik bu ceza, Türkiye'de de benzer platformların faaliyetleri için bir uyarı niteliği taşıyor. Türkiye'de henüz AI tabanlı sohbet robotlarına yönelik spesifik bir düzenleme olmasa da, KVKK'nın GDPR'ye uyum çerçevesinde hareket ettiği düşünüldüğünde, gelecekte benzer yaptırımların Türkiye'de de uygulanması muhtemel. Ayrıca, Türk teknoloji şirketlerinin çocuk kullanıcıların verilerini korumak için proaktif önlemler alması, uluslararası pazarda rekabet avantajı sağlayabilir.
