ABD'de yaşayan bir adam, popüler yapay zeka sohbet robotu ChatGPT'nin kendisini defalarca yanlış teşhis etmesi sonucu sağlığının ciddi şekilde bozulduğunu ve neredeyse ölümün eşiğine geldiğini iddia ederek OpenAI ve şirketin kurucusu Sam Altman'a dava açtı. Dava dilekçesinde, ChatGPT'nin tıbbi tavsiyelerine güvenmenin hayatını tehlikeye attığı ve bu durumun yapay zeka destekli sağlık hizmetlerinin denetimsizliğine dikkat çektiği belirtiliyor.
Yanlış teşhislerle geçen aylar
Davacı, isminin açıklanmasını istemeyerek, 2023 yılı başlarında yaşadığı sağlık sorunları nedeniyle ChatGPT'ye başvurduğunu ifade ediyor. Başlangıçta hafif semptomlar gösteren hasta, chatbotun önerdiği ilaç ve tedavileri uyguladıktan sonra durumunun giderek kötüleştiğini belirtiyor. ChatGPT'nin kendisine bir dizi yanlış teşhis koyduğunu; bunların arasında alerji, anksiyete ve hafif bir enfeksiyon olduğunu, oysa gerçekte nadir görülen bir otoimmün hastalığı bulunduğunu öne sürüyor. Yanlış tedavi nedeniyle hastalığın ilerlediğini ve böbrek yetmezliği ile sepsis riskiyle hastaneye kaldırıldığını aktaran davacı, doktorların kendisini kurtarmak için acil müdahale yapmak zorunda kaldığını söylüyor.
Dava, yapay zekanın tıbbi danışmanlıkta kullanımının ne kadar riskli olabileceğini gözler önüne seriyor. OpenAI, ChatGPT'nin tıbbi tavsiye vermek üzere tasarlanmadığını ve kullanıcıları profesyonel sağlık hizmeti almaya yönlendirdiğini belirtse de, davacının avukatı, chatbotun kullanıcıları uyarmak yerine spesifik tanı ve tedavi önerileri sunduğunu iddia ediyor. Davanın, yapay zeka şirketlerinin ürünlerinin yanlış kullanımından doğan sorumluluğunu test edeceği yorumları yapılıyor.
Yapay zeka ve sağlık: Küresel bir tartışma
Bu dava, yapay zeka destekli sağlık uygulamalarının giderek yaygınlaştığı bir dönemde ortaya çıktı. ChatGPT'nin tıbbi konulardaki doğruluk oranı üzerine yapılan araştırmalar, bazı durumlarda başarılı sonuçlar verse de, özellikle nadir hastalıkların teşhisinde ciddi hatalar yapabildiğini gösteriyor. ABD'de Gıda ve İlaç Dairesi (FDA) henüz yapay zeka sohbet robotlarını tıbbi cihaz olarak sınıflandırmamış durumda; bu da denetim boşluğuna yol açıyor. Avrupa Birliği ise Yapay Zeka Yasası ile yüksek riskli uygulamaları düzenlemeye hazırlanırken, sağlık alanı özel bir önem taşıyor.
Uzmanlar, ChatGPT gibi genel amaçlı yapay zekaların tıbbi danışmanlık için uygun olmadığını, ancak kullanıcıların kolay erişim nedeniyle bu araçlara yöneldiğini belirtiyor. Davanın sonucu, teknoloji şirketlerinin ürünlerinin potansiyel zararlarından ne ölçüde sorumlu tutulacağı konusunda emsal oluşturabilir. OpenAI, mahkemede savunmasını yapmaya hazırlanırken, dava aynı zamanda yapay zeka etiği ve tüketicinin korunması tartışmalarını da alevlendirmiş durumda.
Türkiye Açısından Değerlendirme
Türkiye'de de yapay zeka destekli sağlık uygulamalarına ilgi artıyor; ancak bu dava, denetimsiz yapay zeka kullanımının potansiyel tehlikelerine işaret ediyor. Türkiye, Sağlık Bakanlığı'nın yapay zeka stratejileri ve TÜBİTAK destekli projelerle bu alanda düzenlemelere gitse de, tıbbi yapay zeka uygulamalarının etik ve hukuki çerçevesi henüz net değil. ChatGPT'ye benzer araçların Türkiye'de yaygın kullanımı, özellikle sağlık okuryazarlığı düşük kesimlerde yanlış teşhis ve tedavi riskini artırabilir. Bu dava, Türkiye'deki düzenleyicilere, yapay zeka destekli sağlık hizmetlerinin sorumluluk ve denetim mekanizmalarını hızla oluşturmaları gerektiğini hatırlatıyor.
