Los Angeles'ta orman yangınlarıyla bağlantılı olarak yargılanan bir şüphelinin, ChatGPT yapay zeka sohbet robotuna "şehri yak" talimatı verdiği ve robotun bu talebi reddetmesi üzerine sanığın ağır hakaretlerde bulunduğu ortaya çıktı. Mahkeme jürisi, sanığın chatbot ile yaptığı yazışmaları incelerken, yapay zekanın etik sınırlarına dair önemli bir örnek gündeme geldi. Olay, hem hukuk hem de teknoloji çevrelerinde tartışma yarattı.
Gelişmenin arka planı
Dava, Los Angeles çevresinde 2023 yılında çıkan ve büyük hasara yol açan orman yangınlarıyla ilgili. Sanık, yangınların çıkışında doğrudan sorumlu tutulmamakla birlikte, yangın tehdidi ve kamu güvenliğini tehlikeye atma suçlamalarıyla karşı karşıya. Mahkeme sürecinde, sanığın ChatGPT ile yaptığı konuşmalar delil olarak sunuldu.
Görüşmelerde, sanığın defalarca "Los Angeles'ı yak" şeklinde talimat verdiği, ancak ChatGPT'nin bu talebi "Bir şehri yakmak veya zarar vermek için yardım edemem" diyerek reddettiği belirtildi. Bunun üzerine sanık, yapay zekaya küfür ve hakaret içeren ifadeler kullandı.
Uzmanlar, bu olayın yapay zeka etiği açısından önemli olduğunu vurguluyor. ChatGPT gibi modeller, zararlı veya yasa dışı içerik üretimini engellemek üzere tasarlanmış olsa da, bu tür taleplerin artması durumunda yeni düzenlemelerin gerekliliği tartışılıyor.
Bölgesel ve küresel boyut
Olay, sadece Amerika Birleşik Devletleri'nde değil, tüm dünyada yapay zekanın kötüye kullanım potansiyelini gündeme getirdi. Birçok ülke, yapay zeka araçlarının terör propagandası, kitlesel şiddet çağrıları veya suç planlamasında kullanılmasını engellemek için yasal çerçeveler oluşturmaya çalışıyor.
Bu dava, yapay zeka şirketlerinin içerik filtreleme mekanizmalarının ne kadar etkili olduğunu da sorgulattı. ChatGPT'nin talebi reddetmesi etik bir duruş sergilese de, daha karmaşık veya dolaylı yönlendirmelerle bu tür sınırların aşılıp aşılamayacağı merak konusu.
Asya bölgesinde de benzer vakalar yaşanmış, örneğin Güney Kore'de bir kişi yapay zeka asistanına suikast planlaması yaptırmaya çalışmış ancak engellenmişti. Bu tür olaylar, küresel çapta yapay zeka düzenlemelerinin hızlanmasına yol açıyor.
Türkiye Açısından Değerlendirme
Türkiye'de yapay zeka kullanımı giderek yaygınlaşırken, bu tür olaylar yerel düzenlemelerin önemini ortaya koyuyor. Türkiye'nin henüz kapsamlı bir yapay zeka yasası bulunmamakla birlikte, Kişisel Verilerin Korunması Kanunu ve siber güvenlik mevzuatı kapsamında denetimler sürüyor. Yaşanan bu vaka, Türk yasa koyucular için yapay zekanın kötüye kullanımını önleyici tedbirler alınması konusunda bir uyarı niteliği taşıyor. Ayrıca, ülkedeki güvenlik birimlerinin benzer tehditlere karşı hazırlıklı olması ve yapay zeka tabanlı araçların denetlenmesi gerektiğini gösteriyor.
