Kaliforniya eyaletinin geçtiğimiz günlerde yayımladığı yapay zeka (YZ) kullanım envanteri, ABD'de kamu hizmetlerinin dijital dönüşümünün çarpıcı bir fotoğrafını sunuyor. Envantere göre eyalet genelinde 50'den fazla farklı kurum, ceza adaletinden sosyal yardımlara, eğitimden işe alım süreçlerine kadar kritik kararlarda algoritmalardan yararlanıyor. Bu durum, yalnızca Kaliforniya'ya özgü değil; ülke genelinde eyalet yönetimleri, verimlilik vaadiyle YZ sistemlerini hızla benimserken, beraberinde önyargı, adalet ve hesap verebilirlik gibi derin soruları da getiriyor. Peki, bir bilgisayar programı hayatınızın hangi alanlarında söz sahibi oluyor ve bu durum ne gibi riskler taşıyor?
Algoritmaların Adalet Sarayındaki Yeri
En çarpıcı örneklerden biri, ceza adaleti sisteminde yaşanıyor. Ohio, Missouri ve Virginia gibi eyaletler, suçluların yeniden suç işleme riskini değerlendirmek için COMPAS gibi ticari yazılımlar kullanıyor. Bu algoritmalar, sanıkların tutuklu yargılanıp yargılanmayacağına veya ceza sürelerinin belirlenmesine etki edebiliyor. Ancak araştırmalar, bu tür sistemlerin özellikle siyahi ve Latin kökenli bireylere karşı sistematik önyargı taşıdığını gösteriyor. Wisconsin Yüksek Mahkemesi'nin 2016'da verdiği bir karar, bir sanığın algoritma değerlendirmesine itiraz hakkı olmadığına hükmetmişti. Bu da şeffaflık ve adil yargılanma hakkı açısından ciddi soru işaretleri yaratıyor.
Sosyal Yardımlarda Otomasyonun Gölgesi
Arkansas ve Indiana gibi eyaletler, Medicaid ve gıda yardımı gibi sosyal programların kapsamını belirlemek için otomatik karar sistemleri kullanıyor. Sistem, başvuru sahiplerinin gelir bilgilerini analiz ederek uygunluk tespiti yapıyor. Ancak hata oranları ve itiraz mekanizmalarının yetersizliği, binlerce kişinin haksız yere yardımdan mahrum kalmasına yol açabiliyor. Kaliforniya'nın yeni yasası, en azından hangi sistemlerin kullanıldığını ve nasıl çalıştıklarını kamuoyuna açıklama zorunluluğu getirerek bir ilk adım niteliği taşıyor. Ancak uzmanlar, sadece şeffaflığın yeterli olmadığını, bağımsız denetim ve etik kurullarının gerekliliğini vurguluyor.
Küresel Boyut: Avrupa'dan Düzenleme Dalgası
ABD'deki bu gelişmeler, yapay zeka düzenlemesi konusunda küresel bir yarışın parçası. Avrupa Birliği, Yapay Zeka Yasası (AI Act) ile risk temelli bir yaklaşım benimseyerek yüksek riskli YZ sistemlerini sıkı kurallara tabi tutuyor. ABD'de ise federal düzeyde henüz kapsamlı bir yasa bulunmazken, eyaletler kendi yasalarını oluşturuyor. Bu parçalı yapı, teknoloji şirketleri için farklı eyaletlerde farklı kurallara uyum zorunluluğu doğuruyor. Kaliforniya'nın şeffaflık yasası, muhtemelen diğer eyaletler için de model teşkil edecek. Çin ise merkezi bir yönetimle sosyal kredi sistemi gibi uygulamalarla YZ'yi kamu yönetiminde yoğun bir şekilde kullanıyor, ancak bu sistemlerin şeffaflığı ve birey haklarına etkisi tartışma konusu.
Türkiye Açısından Değerlendirme
Türkiye'de de kamu yönetiminde yapay zeka kullanımı artıyor; özellikle adalet, sağlık ve sosyal yardım alanlarında pilot projeler yürütülüyor. Kaliforniya örneği, Türkiye için önemli bir ders niteliği taşıyor: Algoritmik karar verme sistemlerinin şeffaf, denetlenebilir ve önyargısız olması, vatandaşların temel hakları açısından kritik. Türkiye'nin AB'ye uyum sürecinde YZ düzenlemelerini de dikkate alması, ayrıca ulusal bir YZ etik çerçevesi oluşturması yerinde olacaktır. Bu gelişme, sadece bir eyalet haberi olarak değil, küresel kamu yönetimi dönüşümünün bir yansıması olarak okunmalıdır.
