Avrupa'nın yapay zeka (YZ) alanındaki en önemli girişimi olarak görülen Fransız şirketi Mistral AI'nın geliştirdiği açık kaynaklı modellerin, Rus dezenformasyonuna karşı rakiplerine kıyasla daha zayıf olduğu ortaya çıktı. Estonya merkezli bir araştırma ekibinin yaptığı kapsamlı çalışmaya göre, Mistral'ın büyük dil modelleri (LLM) yanlış bilgiyi tespit etme ve filtreleme konusunda Google, OpenAI ve Meta'nın modellerinin gerisinde kalıyor. Bu durum, özellikle Rusya'nın Ukrayna savaşıyla ilgili manipülatif içeriklerin yayılmasında kritik bir güvenlik açığı oluşturuyor.
Açık kaynaklı modellerin zafiyeti
TalTech (Tallinn Teknoloji Üniversitesi) araştırmacıları tarafından yürütülen testlerde, Mistral'ın ücretsiz ve açık kaynaklı modelleri (örneğin, Mistral 8x7B) Rus devlet medyası ve bot ağları tarafından üretilen dezenformasyonu ayıklamada %30 daha düşük başarı gösterdi. Çalışmada, modele Rusya'nın savaşla ilgili yalan haberleri, yanıltıcı başlıklar ve komplo teorileri içeren metinler verildi. Mistral'ın yanıtları, bu içeriklerin %72'sinde tarafsız kalmaya çalışırken veya sorgulamadan tekrar ederken, rakip modeller (GPT-4, Claude 3) uyarı metinleri ekleyerek veya içeriği reddederek %94 oranında etkili oldu.
Araştırmanın başyazarı Dr. Karl Mägi, 'Mistral'ın eğitim verilerinde yeterince çok dilli ve çatışma odaklı dezenformasyon örneği bulunmaması, modelin bu tür içerikleri tanıyamamasına yol açıyor. Açık kaynak olması ise kötü niyetli aktörlerin modeli manipüle etmesini kolaylaştırıyor' dedi. Avrupa Birliği'nin Dijital Hizmetler Yasası (DSA) kapsamında dezenformasyonla mücadele taahhüdü veren Mistral'ın, bu eksikliği gidermek için özel modüller geliştirmesi bekleniyor.
Küresel YZ yarışında güvenlik açmazı
Mistral'ın dezavantajı, Avrupa'nın ABD ve Çin karşısında bağımsız bir YZ ekosistemi kurma çabalarını zora sokuyor. Fransa Cumhurbaşkanı Emmanuel Macron'un 'Avrupa'nın OpenAI'si' olarak tanımladığı Mistral, geçen yıl 600 milyon dolar yatırım alarak değerini 6 milyar dolara çıkarmıştı. Ancak araştırma, açık kaynak modellerin avantajları (şeffaflık, düşük maliyet) olmasına rağmen, dezenformasyon gibi kötüye kullanım alanlarında ciddi risk taşıdığını gösteriyor. Benzer bir güvenlik açığı, geçen ay Google'ın Gemini modelinde de tespit edilmiş ancak hızlıca yamalanmıştı.
ABD merkezli analistler, bu durumun Rus istihbaratının YZ destekli bilgi savaşlarında yeni bir cephe açmasına neden olabileceğini belirtiyor. Özellikle 2024 Avrupa Parlamentosu seçimleri öncesinde, Rusya'nın Mistral tabanlı uygulamalar üzerinden dezenformasyon kampanyaları yürütebileceği uyarısı yapılıyor. Öte yandan, açık kaynak savunucuları, sorunun modelin kendisinden değil, yetersiz içerik denetleme mekanizmalarından kaynaklandığını ve topluluk desteğiyle aşılabileceğini savunuyor.
Türkiye Açısından Değerlendirme
Türkiye, Rus dezenformasyonunun yoğun hedeflerinden biri olarak bu gelişmeyi yakından takip etmelidir. Mistral'ın açık kaynak modelleri, Türkiye'deki yerel YZ projelerinde de kullanılıyor olabilir. Bu durum, özellikle Ukrayna savaşı ve Doğu Akdeniz gibi Türkiye'nin doğrudan taraf olduğu konularda Rusya tarafından üretilen yanlış bilgilerin YZ tabanlı araçlarla yayılmasına zemin hazırlayabilir. AB'nin DSA düzenlemelerine uyum sağlamayan modellerin, Türk kullanıcıların bilgi güvenliğini tehlikeye atma potansiyeli bulunuyor. Türkiye'nin kendi ulusal YZ modellerini geliştirirken, özellikle dezenformasyon filtreleme kapasitesini güçlendirmesi ve açık kaynaklı modellerde bu tür güvenlik açıklarını kapatması kritik önem taşımaktadır.
