Yapay zeka alanının önde gelen isimleri, teknolojinin kontrolsüz ilerleyişine karşı bir durma çağrısı yapıyor. OpenAI CEO’su Sam Altman, DeepMind’ın kurucu ortağı Demis Hassabis ve Anthropic CEO’su Dario Amodei gibi isimler, yapay zeka sistemlerinin insanlık için ciddi riskler oluşturmasını önlemek amacıyla bir “kapatma düğmesi” (off switch) mekanizmasının hayata geçirilmesi gerektiğini belirtti. Bu mekanizma, geliştirme sürecinde kontrolden çıkan veya öngörülemeyen davranışlar sergileyen yapay zeka sistemlerinin anında devre dışı bırakılmasını sağlayacak. Sektörün en yetkili isimlerinden gelen bu çıkış, yapay zeka güvenliği konusunda küresel bir farkındalık yaratmayı hedefliyor. Özellikle son aylarda ChatGPT, Gemini ve Claude gibi modellerin yeteneklerindeki sıçrama, teknolojinin potansiyel tehlikelerine dair kaygıları artırmış durumda.
Gelişmenin Arka Planı
Yapay zekâ alanındaki hızlı ilerleme, beraberinde etik ve güvenlik tartışmalarını getiriyor. OpenAI’ın Kasım 2022’de piyasaya sürdüğü ChatGPT, büyük dil modellerinin potansiyelini gözler önüne sererken, aynı zamanda dezenformasyon, siber saldırılar ve iş kaybı gibi konularda endişelere yol açtı. Mart 2023’te yayımlanması planlanan GPT-5’in Askıya Alınması Çağrısı, Future of Life Institute tarafından yapıldı ve 1.000’den fazla teknoloji uzmanı tarafından imzalandı.
Ancak sektördeki yöneticiler, gönüllü durdurmaların yeterli olmadığını savunuyor. Altman, ABD Senatosu’ndaki ifadesinde, yapay zeka şirketlerinin birbirleriyle rekabet ederken güvenlik önlemlerini ikinci plana atabileceğini, bu nedenle bağımsız bir denetim mekanizmasının şart olduğunu söyledi. Önerilen “off switch” sistemi, eğitim sırasında modelin istenmeyen çıktılar üretmesi, önyargılı kararlar alması veya insan denetiminden çıkması halinde otomatik olarak devreye girecek. Şirketler bu tür bir sistemi kendi bünyelerinde test etmeye başladı bile; örneğin, Anthropic’in “constitutional AI” yaklaşımı, modele dahili kurallar koyarak istenmeyen davranışları engellemeyi hedefliyor.
Tüm bunlara rağmen, “off switch” mekanizması teknik olarak da tartışmalı. Yapay zeka sistemleri gerçek dünyada otonom olarak çalıştığında, fiziksel bir kapatma düğmesi her zaman etkili olmayabilir. Uzmanlar, yapay zekanın kendi kendini kapatma kararı alabilecek kadar akıllı olduğu bir senaryoda, bu düğmenin devre dışı bırakılabileceği uyarısında bulunuyor. Bu nedenle, salt teknik bir çözümden ziyade, uluslararası düzenlemeler ve etik standartların geliştirilmesi gerektiği vurgulanıyor.
Küresel ve Bölgesel Boyut
Yapay zeka güvenliği, artık sadece Silikon Vadisi’nin iç meselesi olmaktan çıktı. ABD, Çin ve Avrupa Birliği, yapay zekayı düzenleme konusunda farklı yaklaşımlar benimsiyor. ABD’de Başkan Joe Biden’ın Ekim 2023’te imzaladığı Yapay Zeka Yürütme Emri, federal kurumlara güvenlik testi ve şeffaflık zorunluluğu getirirken, Çin 2023 yazında yürürlüğe giren yönetmeliklerle sentetik içerik etiketlemesini zorunlu kıldı. Avrupa Birliği ise kapsamlı Yapay Zeka Yasası ile 2024 sonunda büyük dil modellerine sıkı denetim getirmeye hazırlanıyor.
CEO’ların çağrısı, özellikle uluslararası bir denetim organı fikrini yeniden gündeme taşıdı. Birleşmiş Milletler bünyesinde veya bağımsız bir Uluslararası Yapay Zeka Ajansı (benzeri Uluslararası Atom Enerjisi Ajansı) kurulması, teknoloji devleri tarafından dile getiriliyor. Ancak bu tür bir yapı, küresel rekabet nedeniyle zorlu bir diplomatik süreç gerektiriyor. Özellikle ABD-Çin teknoloji savaşı, yapay zeka geliştirme hızını yavaşlatma konusunda isteksizlik yaratıyor.
Türkiye Açısından Değerlendirme
Bu gelişme, yapay zeka alanında hızlı ilerleme kaydeden Türkiye için stratejik uyarı niteliği taşıyor. Türkiye’nin Ulusal Yapay Zeka Stratejisi (2021-2025) kapsamında yürüttüğü projeler, etik ve güvenlik standartlarını belirlemeyi hedefliyor. ABD’deki bu tartışmalar, Ankara’nın düzenleyici çerçevesini güçlendirmesi için bir referans olabilir. Ayrıca, NATO ve AB ile ilişkiler bağlamında, yapay zeka güvenliği konusunda ortak standartlar geliştirilmesi, Türkiye’nin savunma sanayisi ve siber güvenlik politikalarına entegre edilebilir. Küresel bir “off switch” mekanizmasının, Türk firmalarının dış pazarlardaki rekabet gücünü etkileme potansiyeli de göz ardı edilmemelidir.
