Hükümetler, kamu hizmetlerini daha verimli hale getirmek ve büyük miktarda bilgiyi işlemek için giderek artan bir şekilde yapay zeka (YZ) araçlarına yöneliyor. Ancak insan dikkatinin sınırlı olması nedeniyle, makineleri daha yetenekli hale getirmek, denetimin gerekli olduğu her yerde yeni darboğazlar yaratabilir. Bu durum, YZ'nin devlet işleyişinde beklenen hızlanmayı sağlamak yerine, karar alma süreçlerini yavaşlatma riskini taşıyor.
YZ'nin Kamu Sektöründeki Yükselişi ve Görünmez Maliyetleri
Son yıllarda dünya genelinde hükümetler, vergi toplama, sosyal yardım dağıtımı, sağlık hizmetleri ve güvenlik gibi alanlarda YZ destekli sistemlere milyarlarca dolar yatırım yapıyor. Örneğin, ABD'de İç Gelir Servisi (IRS) vergi kaçakçılığını tespit etmek için makine öğrenimi algoritmalarını kullanmaya başladı. Birleşik Krallık'ta Kamu Hizmetleri Ağı, vatandaş başvurularını otomatik olarak işleyen chatbot'lar devreye aldı. Hindistan'da Aadhaar kimlik sistemiyle entegre YZ, sosyal yardımların dağıtımını hızlandırdı. Ancak bu sistemlerin ortak bir sorunu var: İnsan denetimi gerektiren kararlar.
YZ, rutin işleri büyük ölçüde otomatikleştirebilir. Ancak bir algoritmanın verdiği karar, vatandaşın hayatını doğrudan etkiliyorsa (örneğin, bir ailenin sosyal yardım başvurusunun reddedilmesi veya bir kişinin güvenlik riski olarak işaretlenmesi), o kararın bir insan tarafından gözden geçirilmesi yasal ve etik bir zorunluluktur. İşte bu noktada, YZ'nin ürettiği karar sayısı arttıkça, bu kararları denetleyecek insan sayısı aynı kalmakta veya azalmaktadır. Sonuç: Denetim kuyrukları uzar, karar süreleri artar ve kamu hizmetleri yavaşlar.
Örneğin, ABD'de bazı eyaletlerde işsizlik maaşı başvurularını değerlendiren YZ sistemleri, yanlış reddetme oranlarını artırdı. 2020-2021 döneminde Michigan'da otomatik sistemin binlerce kişiyi haksız yere suçlaması ve ardından bu kararların tek tek insanlar tarafından düzeltilmesi aylar sürdü. Bu, YZ'nin iş yükünü azaltmak yerine, düzeltme aşamasında çok daha büyük bir yük yarattığını gösteriyor.
İnsan Dikkati Sınırlı: Yeni Darboğazlar Kaçınılmaz
Ekonomistler ve kamu yönetimi uzmanları, YZ'nin verimlilik artışı sağlayacağını kabul ediyor. Ancak bu artışın, denetim gerektiren alanlarda tersine dönebileceğini vurguluyorlar. Massachusetts Teknoloji Enstitüsü'nden (MIT) araştırmacılar, 2023'te yayımladıkları bir çalışmada, YZ'nin karar alma süreçlerine entegre edilmesinin, insan denetçilerin bilişsel yükünü artırdığını ve uzun vadede verimliliği düşürebileceğini ortaya koydu. Benzer şekilde, Dünya Bankası'nın 2024 raporu, gelişmekte olan ülkelerde YZ destekli kamu hizmetlerinin, yeterli denetim mekanizması olmadığında yolsuzluk ve ayrımcılık riskini artırdığını belirtiyor.
Bu durum, "otomasyon paradoksu" olarak adlandırılıyor: Bir işi ne kadar otomatikleştirirseniz, o işin istisnalarıyla ilgilenmek için o kadar fazla insana ihtiyaç duyarsınız. Çünkü YZ, rutin durumları hızla hallederken, karmaşık ve belirsiz durumları insanlara bırakır. Bu da insan denetçilerin sürekli olarak en zor vakalarla uğraşması anlamına gelir; bu da onların verimliliğini düşürür ve tükenmişliğe yol açar.
Ayrıca, kamu sektöründe YZ kullanımı şeffaflık ve hesap verebilirlik sorunlarını da beraberinde getiriyor. Bir YZ sistemi neden belirli bir kararı verdiğini açıklayamıyorsa, bu kararı denetleyecek insanın işi daha da zorlaşır. Denetçi, algoritmanın mantığını anlamadığı için ya kararı olduğu gibi kabul eder (ki bu denetim değildir) ya da her vakayı sıfırdan incelemek zorunda kalır (ki bu da YZ'nin sağladığı hız avantajını yok eder).
Türkiye Açısından Değerlendirme
Türkiye, kamu hizmetlerinde dijitalleşme ve YZ kullanımında hızlı adımlar atıyor. e-Devlet Kapısı, yapay zeka destekli chatbot'lar ve otomatik karar sistemleriyle vatandaşa daha hızlı hizmet sunmayı hedefliyor. Ancak bu haber, Türkiye için kritik bir uyarı niteliğinde: YZ'nin denetim gerektiren alanlarda (sosyal yardım, vergi denetimi, güvenlik) yaratacağı darboğazlar, kamu hizmetlerinin tıkanmasına yol açabilir. Özellikle yargı ve kolluk kuvvetlerinde YZ kullanımı, insan hakları ihlalleri riskini artırabilir. Türkiye'nin YZ yatırımlarını yaparken, denetim mekanizmalarını güçlendirmesi ve şeffaflık ilkesini önceliklendirmesi gerekiyor. Aksi halde, verimlilik artışı hayal edilirken, bürokrasi daha da yavaşlayabilir.
