OpenAI’ın ChatGPT’sine “Klinikçi Modu” (Clinician Mode) adlı yeni bir özellik eklemeye hazırlandığı ortaya çıktı. Henüz resmi duyurusu yapılmayan bu özellik, yapay zekanın tıbbi tavsiye ve sağlık bilgileri verirken yalnızca güvenilir, kanıta dayalı kaynaklara dayanmasını amaçlıyor.
Yapay zekanın tıpta sınırlarını zorlayan yeni dönem
Bir süre önce yaşanan dikkat çekici bir vaka, bu tür bir özelliğin neden gerekli olduğunu bir kez daha gözler önüne serdi. Bir tıp araştırmacısı, bromür zehirlenmesi nedeniyle psikotik semptomlar yaşayan bir hastanın ChatGPT’den yanlış yönlendirme aldığını bildirdi. Bu olay, yapay zekâların tıbbi alanda yanlış veya eksik bilgi verme riskine dair endişeleri artırdı.
Uzmanlara göre, ChatGPT’nin tıp alanında yaygınlaşması, doğru ve güvenli bilgiye erişimi kolaylaştırsa da “halüsinasyon” olarak bilinen yanlış bilgi üretimi riski devam ediyor. Bu nedenle OpenAI’ın “Klinikçi Modu” hamlesi, sektörde güvenli yapay zekâ kullanımına doğru atılmış önemli bir adım olarak görülüyor.
Kodlarda gizlenen yeni özellik: Klinikçi Modu
Yapay zekâ firması AIPRM’de mühendis olan Tibor Blaho, ChatGPT’nin web sürümünde yaptığı incelemelerde, “Klinikçi Modu”na dair gizli bir kod parçası bulduğunu açıkladı. Kod, genç kullanıcılar için güvenlik kısıtlamalarına benzer biçimde, sağlık konularında özel filtreleme ve kaynak sınırlaması içeren bir yapıdan söz ediyor.
Henüz aktif olmayan bu modun, sağlık tavsiyelerini yalnızca bilimsel makaleler, klinik kılavuzlar ve doğrulanmış tıbbi veri tabanlarından çekmesi bekleniyor.
Uzmanlar: “ChatGPT güvenilir tıbbi kaynaklarla sınırlandırılabilir”
Apple ve Windows geliştiricisi Justin Angel, X platformunda yaptığı paylaşımda Klinikçi Modu’nun “bilgi kaynağını yalnızca tıbbi araştırma makaleleriyle sınırlayan korumalı bir mod” olabileceğini belirtti.
“Eğer kullanıcı semptomlarıyla ilgili soru sorarsa, ChatGPT sadece güvenilir klinik kaynaklardan alıntı yaparak yanıt verebilir. Bu, yanlış yönlendirme riskini ciddi oranda azaltabilir.”
Bu yaklaşım, yalnızca OpenAI’a özgü değil. Yapay zekâ tabanlı arama motoru Consensus da kısa süre önce “Tıbbi Mod” adlı benzer bir özelliği devreye aldı. Sistem, sekiz milyondan fazla makale ve binlerce onaylı klinik kılavuz içeren bir veri tabanından yararlanarak “en yüksek kaliteli tıbbi kanıtlara” dayalı yanıtlar üretiyor.
Bilimsel uyarı: “Tıbbi yapay zekâ eğitimle desteklenmeli”
Bununla birlikte, yapay zekâ sistemlerinin tıbbi bağlamda kullanımı hâlâ dikkatle ele alınmalı. Scientific Reports dergisinde yayımlanan bir araştırma, ChatGPT gibi sistemlerin tıp alanında kullanılmasında halüsinasyon riski ve teknik jargonun yanlış yorumlanma tehlikesine dikkat çekti.
Araştırmacılar, sağlık profesyonellerine ve hastalara “AI çıktılarının nasıl değerlendirileceğine” dair eğitim verilmesi gerektiğini vurguladı.
Sektörün yönü net: Yapay zekâ tıpta kalıcı olacak
Tüm bu tartışmalara rağmen sağlık sektörü, AI destekli klinik karar destek sistemlerine hızla yöneliyor. Klinikçi Modu gibi güvenli katmanlar, hatalı bilgi riskini azaltırken, yapay zekânın tıpta etik, şeffaf ve güvenilir biçimde kullanılmasının önünü açabilir.