ABD'de bir kişi, kilo vermek için yapay zeka sohbet robotu ChatGPT'den diyet tavsiyesi aldıktan sonra ciddi sağlık sorunları yaşayarak hastanede tedavi altına alındı. Olay, yapay zeka destekli sağlık tavsiyelerinin güvenilirliği konusunda tartışmaları alevlendirdi. OpenAI sözcüsü, Newsweek dergisine yaptığı açıklamada, "ChatGPT bir doktor değildir" diyerek sorumluluk reddinde bulundu. Yaşanan bu vaka, yapay zeka araçlarının tıbbi konularda bilinçsizce kullanılmasının ne denli tehlikeli olabileceğini gözler önüne serdi.
Olayın Arka Planı: Yapay Zeka Diyet Tavsiyesi Verdi, Sonu Hastane Oldu
Edinilen bilgilere göre, kimliği açıklanmayan bir erkek, fazla kilolarından kurtulmak amacıyla ChatGPT'ye danıştı. Yapay zeka, kişiye özel olduğunu iddia ettiği bir diyet programı önerdi. Ancak bu program, kişinin sağlık durumunu göz önünde bulundurmadığı için ciddi beslenme yetersizliklerine yol açtı. Bir süre sonra kendini kötü hisseden ve hastaneye kaldırılan kişinin, yapay zekanın önerdiği aşırı kısıtlayıcı diyet nedeniyle elektrolit dengesizliği ve dehidrasyon gibi sorunlar yaşadığı belirtildi. Doktorlar, hastanın durumunun ciddiyetini koruduğunu ancak hayati tehlikesinin bulunmadığını ifade etti.
Olayın ortaya çıkmasının ardından OpenAI, konuyla ilgili bir açıklama yapma gereği duydu. Şirket sözcüsü, "ChatGPT bir doktor değildir ve tıbbi tavsiye vermek üzere tasarlanmamıştır. Kullanıcılarımızı sağlıkla ilgili konularda mutlaka bir uzmana danışmaları konusunda uyarıyoruz" dedi. Bu açıklama, yapay zeka şirketlerinin sorumluluk sınırlarını çizme çabası olarak yorumlandı.
Uzmanlar, yapay zeka dil modellerinin genel geçer bilgiler sunabildiğini ancak kişisel sağlık verilerini analiz etme yeteneğinden yoksun olduğunu vurguluyor. Beslenme ve diyetetik uzmanları, her bireyin sağlık geçmişi, alerjileri, metabolizması ve yaşam tarzının farklı olduğunu, bu nedenle kulaktan dolma veya yapay zeka kaynaklı tavsiyelerin ciddi riskler taşıdığını belirtiyor. Ayrıca yapay zekanın, verdiyi tavsiyelerin sonuçlarını öngöremeyeceği ve acil durumlarda gerekli müdahaleyi yapamayacağı da hatırlatılıyor.
Küresel Boyut: Yapay Zeka Sağlıkta Nasıl Kullanılmalı?
Bu vaka, yapay zekanın sağlık alanında kullanımına ilişkin küresel bir tartışmayı da beraberinde getirdi. Dünya Sağlık Örgütü (WHO) ve çeşitli ülkelerin sağlık otoriteleri, yapay zeka uygulamalarının sağlık hizmetlerinde kullanımına yönelik etik ve güvenlik standartları geliştirmeye çalışıyor. Özellikle teşhis ve tedavi önerileri konusunda yapay zekanın bir hekimin yerini alamayacağı, ancak karar destek sistemi olarak kullanılabileceği görüşü ağırlık kazanıyor.
Öte yandan, yapay zeka sohbet robotlarının yaygınlaşması, kullanıcıların bu araçlara aşırı güvenmesine yol açabiliyor. ChatGPT gibi modeller, eğitildikleri verilerdeki kalıplara dayanarak ikna edici yanıtlar üretebiliyor; fakat bu yanıtların doğruluğu her zaman garanti edilemiyor. Uzmanlar, kullanıcıların yapay zekayı bir bilgi kaynağı olarak görürken eleştirel düşünmeyi elden bırakmamaları gerektiğini söylüyor.
Bu olay, yapay zeka şirketlerinin kullanıcıları bilgilendirme ve uyarma yükümlülüklerini de gündeme getirdi. OpenAI'nin açıklaması, şirketin yasal sorumluluktan kaçınma çabası olarak değerlendirilse de, kullanıcı eğitiminin önemi bir kez daha ortaya çıktı. Bazı ülkeler, yapay zeka sistemlerinin sağlık tavsiyesi vermesini düzenleyen yasalar çıkarmayı planlıyor.
Türkiye Açısından Değerlendirme
Türkiye'de de yapay zeka kullanımı hızla artıyor; ancak sağlık alanında yapay zeka destekli tavsiyelere yönelik yasal düzenlemeler henüz yeterli değil. Bu tür olaylar, Türkiye'nin dijital sağlık stratejisinde yapay zeka güvenliğine daha fazla önem vermesi gerektiğini gösteriyor. Sağlık Bakanlığı'nın, yapay zeka sohbet robotlarının tıbbi tavsiye vermesini engelleyici veya denetleyici adımlar atması, vatandaşların bilinçlendirilmesi ve sağlık profesyonellerinin yapay zeka konusunda eğitilmesi öncelikli konular arasında yer almalı. Ayrıca yerli yapay zeka uygulamalarının geliştirilmesinde sağlık verilerinin güvenliği ve etik ilkeler gözetilmeli.
