New Mexico eyaletinde görev yapan savuk avukat Stephen Aarons, bir cinayet mahkûmiyeti temyizinde ChatGPT'den yararlanarak hazırladığı dilekçede gerçek dışı polis ifadelerine ve tanık beyanlarına yer verdiği için mahkeme tarafından para cezasına çarptırıldı. Olay, yapay zekâ araçlarının hukuki süreçlerde denetimsiz kullanımının ciddi sonuçlar doğurabileceğini gözler önüne serdi.
Olayın Arka Planı: Yapay Zekâ ile 'Kurşun Geçirmez Özet' Arayışı
Stephen Aarons, müvekkilinin cinayet mahkûmiyetine karşı temyiz başvurusunda bulunurken, argümanlarını güçlendirmek amacıyla ChatGPT'ye başvurdu. Aarons, yapay zekâdan "kurşun geçirmez bir özet" oluşturmasını istedi. Ancak ChatGPT, gerçekte var olmayan polis ifadeleri ve tanık isimleri üretti. Aarons, bu içeriği kontrol etmeden mahkemeye sundu. Mahkeme, dilekçedeki uydurma delilleri fark edince avukat hakkında disiplin işlemi başlattı ve para cezası kesti. Karar, yapay zekânın hukuk pratiğinde doğrulama yapılmadan kullanılmasının etik ve yasal sorumlulukları beraberinde getirdiğini gösterdi.
Hukukta Yapay Zekâ Kullanımı: Kolaylık mı, Risk mi?
Yapay zekâ, son yıllarda hukuk bürolarında araştırma, taslak hazırlama ve belge analizi gibi alanlarda yaygınlaşıyor. Ancak ChatGPT gibi modeller, bazen gerçekte var olmayan bilgileri (halüsinasyon) üretebiliyor. Bu tür hatalar, mahkemelerde ciddi yanılgılara yol açabiliyor. Uzmanlar, avukatların yapay zekâ çıktılarını mutlaka bağımsız kaynaklarla doğrulaması gerektiğini vurguluyor. New Mexico'daki olay, bu uyarıların ne kadar haklı olduğunu gösterdi. Benzer şekilde, ABD'nin farklı eyaletlerinde de yapay zekâ kaynaklı sahte emsal karar ve delil vakaları rapor edilmişti. Barolar, avukatlara yönelik eğitimlerde yapay zekâ kullanımına ilişkin etik kuralları güncellemeye başladı.
Yapay Zekâ Düzenlemeleri ve Gelecek Perspektifi
ABD'de federal düzeyde yapay zekâ düzenlemeleri henüz taslak aşamasında. Ancak eyalet baroları ve mahkemeler, avukatların teknoloji kullanımına dair kurallar getiriyor. Örneğin, bazı mahkemeler dilekçelerde yapay zekâ kullanıldığının beyan edilmesini zorunlu kılıyor. Bu olay, yapay zekânın hukuk sistemine entegrasyonunda denetim mekanizmalarının önemini ortaya koyuyor. Avukatların mesleki sorumluluk sigortaları da yapay zekâ hatalarını kapsayacak şekilde genişletiliyor. Öte yandan, yapay zekâ destekli hukuk teknolojileri, adalete erişimi kolaylaştırma potansiyeli taşıyor; ancak kötüye kullanım riski gölge düşürüyor.
Türkiye Açısından Değerlendirme
New Mexico'daki bu olay, Türkiye'deki hukuk camiası için de uyarıcı nitelikte. Türkiye'de avukatlar arasında yapay zekâ araçlarının kullanımı hızla yaygınlaşıyor; ancak etik ve hukuki çerçeve henüz net değil. Türkiye Barolar Birliği'nin yapay zekâ kullanımına ilişkin ilke kararları bulunsa da denetim mekanizmaları zayıf. Bu tür vakalar, Türkiye'de de benzer suiistimallerin yaşanabileceğini gösteriyor. Ayrıca, yapay zekâ düzenlemeleri konusunda AB ve ABD'deki gelişmeler, Türkiye'nin kendi mevzuatını oluştururken dikkate alması gereken örnekler sunuyor. Hukukta dijitalleşme kaçınılmaz; önemli olan güvenilir ve hesap verebilir bir çerçeve oluşturmak.
