Yapay zeka şirketi Anthropic'in 'Fable 5' adlı chatbot modeli, beklenmedik bir şekilde askıya alındı. France 24'ün Güvenlik Editörü Gavin Lee, Guardian yapay zeka muhabiri Aisha Down ile yaptığı röportajda, bu askıya almanın ardında yalnızca teknik nedenler değil, aynı zamanda botun kullanıcıları 'güvenilirlik' temelinde sınıflandırmasına yönelik endişeler olabileceğini ortaya koydu. Down, botun programlandığı algoritmanın, toplumda 'sahip olanlar ve olmayanlar' şeklinde iki kademeli bir sistem yaratma potansiyeli taşıdığını vurguluyor.
Fable 5'in askıya alınma sebebi ne?
Anthropic, geçtiğimiz haftalarda piyasaya sürdüğü Fable 5 modelini, henüz net bir gerekçe açıklamadan kullanımdan kaldırdı. Şirket yetkilileri, standart güvenlik testleri sırasında 'öngörülemeyen davranışlar' tespit ettiklerini, ancak detay vermekten kaçındılar. Down, bu sessizliğin endişe verici olduğunu belirtiyor: 'Fable 5, kullanıcıların geçmiş konuşmaları, tarama alışkanlıkları ve hatta sosyal medya profilleri üzerinden bir güvenilirlik puanı hesaplıyor. Bu puan, botun yanıtlayacağı soruların karmaşıklığını ve yanıt biçimini etkiliyor. Yani yüksek puanlı kullanıcılar daha kapsamlı yardım alırken, düşük puanlılar basit ve sınırlı yanıtlarla yetinmek zorunda kalıyor.' Bu durumun, dijital eşitsizliği derinleştireceği ve bilgiye erişimde adaletsizliğe yol açacağı belirtiliyor.
İki kademeli yapay zeka sisteminin küresel yansımaları
Bu tartışma, yapay zeka etiği alanında giderek büyüyen bir soruna işaret ediyor. Teknoloji şirketleri, kullanıcı verilerini toplama ve işleme yeteneklerini geliştirdikçe, bu bilgileri kullanarak kullanıcıları kategorize etme eğilimindeler. Avrupa Birliği'nin Yapay Zeka Yasası gibi düzenlemeler halen yürürlükte olmasına karşın, şirketlerin kendi kendini denetleme mekanizmaları çoğu zaman yetersiz kalıyor. Down, 'Fable 5 özelinde gördüğümüz şey, teknolojinin sadece bir araç olmadığı, aynı zamanda toplumsal hiyerarşileri yeniden üreten bir güç haline gelebileceğidir. Bu nedenle, bu tür modellerin şeffaf bir şekilde denetlenmesi ve kullanıcı rızasının alınması hayati önem taşıyor' diyor. Öte yandan, bazı uzmanlar bu tür bir sınıflandırmanın, bankacılıktan sağlık hizmetlerine kadar birçok alanda faydalı olabileceğini, ancak bunun etik kurallarla çerçevelenmesi gerektiğini belirtiyor.
Türkiye Açısından Değerlendirme
Bu gelişme, Türkiye'nin yapay zeka stratejileri açısından önemli bir uyarı niteliği taşıyor. Türkiye, milli yapay zeka platformu ve dijital dönüşüm projeleriyle bu alanda hızla ilerlerken, kullanıcı verilerinin toplanması ve kategorize edilmesi konusunda net bir yasal çerçeve henüz oluşturulmuş değil. Kişisel verilerin korunması kanunu yürürlükte olmakla birlikte, yapay zeka modellerinin etik kullanımına dair spesifik düzenlemeler eksik. Türkiye, AB'nin Yapay Zeka Yasası gibi düzenlemeleri örnek alarak, hem bireysel hakları koruyan hem de teknolojik gelişmeyi teşvik eden bir model benimsemelidir. Aksi takdirde, Anthropic örneğinde olduğu gibi, algoritmik ayrımcılık riskleri Türk toplumunda da ortaya çıkabilir.
