Londra merkezli yapay zeka güvenliği araştırmacısı, önde gelen yapay zeka şirketi Anthropic'ten istifa ederek çarpıcı uyarılarda bulundu. Araştırmacı, istifa yazısında şirketin yapay zeka güvenliği konusundaki tutumunu eleştirerek, "Yapay zekayı geliştiren insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar" ifadelerini kullandı. Bu sözler, yapay zeka endüstrisinde etik ve güvenlik tartışmalarını yeniden alevlendirdi.
İstifanın Arka Planı ve Şirket İçi Tartışmalar
İsmi açıklanmayan araştırmacı, Anthropic'teki görevinden ayrıldıktan sonra yayımladığı istifa mektubunda, şirketin yapay zeka modellerinin potansiyel risklerini hafife aldığını öne sürdü. Araştırmacı, şirket içinde birçok çalışanın, geliştirdikleri teknolojinin insanlık için varoluşsal bir tehdit oluşturabileceğine inandığını, ancak bu endişelerin yönetim tarafından yeterince dikkate alınmadığını belirtti.
Anthropic, 2021 yılında eski OpenAI çalışanları tarafından kurulan ve yapay zeka güvenliğine odaklanmasıyla bilinen bir şirket. Şirket, "Anayasal Yapay Zeka" (Constitutional AI) adını verdiği bir yaklaşımla modellerini etik kurallara uygun şekilde eğittiğini iddia ediyor. Ancak son dönemde şirketin ticari kaygılarla güvenlik araştırmalarını geri plana attığı yönünde eleştiriler artmıştı. İstifa eden araştırmacının sözleri, bu eleştirileri destekler nitelikte.
Yapay zeka araştırmacıları, son yıllarda giderek daha güçlü hale gelen büyük dil modellerinin (LLM) kontrol edilemez hale gelebileceği ve kötü niyetli aktörlerin eline geçebileceği konusunda uyarılarda bulunuyor. Özellikle otonom silah sistemleri, dezenformasyon kampanyaları ve işsizlik gibi konular kamuoyunda endişe yaratıyor. Anthropic'in geliştirdiği Claude modelleri, sektörde önemli bir yere sahip ve şirket, güvenlik standartlarını belirlemede öncü rol oynadığını savunuyor.
Küresel Yapay Zeka Güvenliği ve Düzenleme Çabaları
Bu istifa, yapay zeka güvenliği konusundaki küresel düzenleme çabalarının yoğunlaştığı bir döneme denk geldi. Avrupa Birliği, Yapay Zeka Yasası (AI Act) ile dünyanın ilk kapsamlı yapay zeka düzenlemesini hayata geçirmeye hazırlanıyor. ABD'de ise Başkan Joe Biden yönetimi, yapay zeka güvenliği konusunda bir dizi idari emir yayımladı ve şirketlerden gönüllü taahhütler aldı. Birleşik Krallık'ta da Güvenli Yapay Zeka Zirvesi düzenlenerek uluslararası işbirliği çağrıları yapıldı.
Ancak araştırmacılar, bu çabaların yetersiz olduğunu ve teknolojinin hızına yetişemediğini savunuyor. İstifa eden araştırmacı gibi bazı uzmanlar, yapay zeka şirketlerinin kâr amacıyla hareket ederek güvenlik önlemlerini ihmal ettiğini ve düzenleyicilerin de bu konuda yeterince cesur davranmadığını belirtiyor. Özellikle Avrupa'da sivil toplum kuruluşları, yapay zeka şirketlerine karşı daha sıkı denetim çağrısı yapıyor.
Anthropic'in bu istifa sonrası nasıl bir tutum izleyeceği merak konusu. Şirket henüz resmi bir açıklama yapmadı, ancak içeriden gelen bu eleştirilerin şirketin itibarını zedeleyebileceği ve diğer çalışanları da benzer adımlar atmaya teşvik edebileceği düşünülüyor. Yapay zeka endüstrisinde yaşanan yetenek savaşları göz önüne alındığında, bu tür istifaların sektördeki güvenlik kültürünü derinden etkileyebileceği belirtiliyor.
Türkiye Açısından Değerlendirme
Türkiye, yapay zeka alanında hızla büyüyen bir ekosisteme sahip olsa da, güvenlik ve etik düzenlemeler konusunda henüz somut adımlar atmış değil. Bu istifa, Türkiye'nin yapay zeka stratejisini gözden geçirmesi için bir uyarı niteliğinde. Avrupa Birliği'nin Yapay Zeka Yasası'na uyum sağlamak zorunda olan Türkiye, yerli yapay zeka şirketlerini güvenlik standartlarına yönlendirmeli ve ulusal bir yapay zeka güvenliği kurumu oluşturmalı. Aksi halde, küresel ölçekte yaşanabilecek bir yapay zeka krizinden Türkiye de olumsuz etkilenebilir. Ayrıca, bu tür haberler, Türk kamuoyunda yapay zekanın riskleri konusunda farkındalık yaratabilir ve düzenleyici baskıları artırabilir.
