Yapay zekanın sağlık alanındaki kullanımıyla ilgili devam eden tartışmalar, ABD’de yaşanan bir olayla başka bir seviyeye çıktı. İddiaya göre akciğerinde hayati risk oluşturan pıhtılaşma sorunu yaşayan Amerikalı papaz Scott Winters, sağlık şikayetlerini ChatGPT’ye danıştıktan sonra yanlış yönlendirildiğini öne sürerek yapay zeka aracının geliştiricisi OpenAI ile şirketin CEO’su Sam Altman’a dava açtı.
Tedavisi gecikti, ölümle burun buruna geldi
Dava dosyasındaki bilgilere göre Scott Winters, hastalığıyla ilgili belirtileri ChatGPT’ye anlattığını ancak sistemin durumun ciddi bir sağlık problemi olmadığını değerlendirdiğini ve kendisine güven veren yanıtlar sunduğunu ifade etti.
Papaz, sistemin verdiği yanıtlarda dini inançlarına da atıfta bulunduğunu öne sürerek, dava dilekçesinde, ChatGPT’nin kendisine “Tanrı bedeninizi sonsuza kadar başarısız olmak üzere tasarlamadı” yanıtını verdiğini belirterek bu sözden etkilendiğini ve profesyonel tıbbi yardım alma kararını geciktirdiğini kaydetti.
Çevresine aldırmadı
İddialara göre Winters, yakın çevresinin doktora gitmesi yönündeki uyarılarına rağmen bir süre yapay zekânın önerilerine göre hareket etti. Daha sonra hastaneye başvuran papazın akciğerinde ciddi pıhtılaşma tespit edildiği ve uzun süren fiziksel ile psikolojik tedavi gördüğü aktarıldı.
Davacının avukatı Meetali Jain, yapay zeka sisteminin kullanıcı ile gerçek sağlık hizmeti arasına mesafe koyduğunu belirterek müvekkili için maddi ve manevi tazminat talep etti. Jain ayrıca bağımsız incelemeler bitene kadadr ‘’ChatGPT Health’’ hizmetinin de sonlandırılması gerektiğini de söyledi.
OpenAI: ‘’ChatGPT teşhis koymaz veya tedavi önermez’’
OpenAI, dava ile ilgili savunmasında kullanım koşulları içerisinde ChatGPT’nin teşhis koyan veya tedavi öneren bir sağlık hizmeti olmadığına dair uyarıların açıkça yer aldığına dikkat çekerek kendini savundu. Ancak davada, milyonlarca kişinin sağlık konularında yapay zekaya başvurduğu ve kullanıcıların zaman zaman gerçek tıbbi belgelerini sisteme yüklediği gündeme getirildi.
