Günümüzde birçok kişi sağlıkla ilgili sorularına yanıt bulmak için arama motorları yerine yapay zeka sohbet botlarına yöneliyor. Ancak yeni bir araştırma, bu alışkanlığın düşündüğümüzden daha riskli olabileceğini ortaya koydu.
Çalışmaya göre önde gelen yapay zeka sistemlerinin verdiği yanıtların önemli bir bölümü, güvenilir görünmesine rağmen yanıltıcı veya eksik bilgi içeriyor.
Beş büyük yapay zeka botu test edildi
Araştırmacılar, sağlık alanında sıkça sorulan konular üzerinden kapsamlı bir test gerçekleştirdi. Kanser, aşılar, kök hücre tedavileri, beslenme ve spor performansı gibi başlıklarda toplam 250 soru soruldu.
Test edilen sistemler arasında ChatGPT, Gemini, Grok, Meta AI ve DeepSeek gibi önde gelen yapay zeka botları yer aldı.
Yanıtların yarısı sorunlu bulundu
Elde edilen sonuçlar dikkat çekici. Botların verdiği yanıtların yaklaşık yarısının bilimsel kanıtlarla tam uyumlu olmadığı veya yanıltıcı unsurlar içerdiği tespit edildi.
Bu durum, yapay zekanın özellikle sağlık gibi kritik alanlarda henüz tam güvenilir bir kaynak olmadığını gösteriyor.
Açık uçlu sorular daha riskli
Araştırmada en zayıf performansın açık uçlu sorularda ortaya çıktığı görüldü. Kullanıcıların günlük hayatta sorduğu doğal sorular, botların daha fazla hatalı veya eksik bilgi üretmesine neden oldu.
Buna karşılık, kapalı ve daha net yapılandırılmış soruların daha doğru sonuçlar verdiği belirlendi.
Kaynak gösterimi de sorunlu
Çalışmanın en dikkat çeken bulgularından biri de referans kalitesi oldu. Yapay zeka botlarının sunduğu kaynakların önemli bir kısmının eksik, yanlış veya tamamen uydurma olduğu tespit edildi.
Ortalama doğruluk oranının yüzde 40 seviyesinde kalması, bu sistemlerin “kaynaklı bilgi” algısının sorgulanmasına yol açtı.
Kendinden emin ama hatalı cevaplar
Araştırmacılar, yapay zekanın en riskli yönlerinden birinin yanlış bilgiyi yüksek özgüvenle sunması olduğunu vurguluyor. Botlar, hatalı veya eksik bilgileri çoğu zaman herhangi bir uyarı veya şüphe belirtisi göstermeden paylaşıyor.
Bu durum, kullanıcıların yanlış yönlendirilme riskini artırıyor.
Sağlıkta yapay zeka kullanımı yeniden tartışılıyor
Uzmanlara göre bu bulgular, yapay zekanın sağlık alanında nasıl kullanılacağına dair önemli bir uyarı niteliği taşıyor. Özellikle teşhis ve tedavi gibi kritik konularda, yapay zeka yanıtlarının tek başına yeterli görülmemesi gerektiği belirtiliyor.
Önümüzdeki dönemde bu alanda daha sıkı regülasyonlar ve doğrulama mekanizmalarının gündeme gelmesi bekleniyor.
Kullanıcılar için kritik uyarı
Araştırma, yapay zekanın sunduğu bilgilerin her zaman doğru kabul edilmemesi gerektiğini ortaya koyuyor. Sağlıkla ilgili kararlar alınırken mutlaka uzman görüşüne başvurulması gerektiği bir kez daha vurgulanıyor.
Yapay zeka, bilgiye erişimi kolaylaştırsa da yanlış kullanım durumunda ciddi riskler barındırmaya devam ediyor.
