OpenAI, ChatGPT’nin artık sağlık ve hukukla ilgili sorulara yanıt vermeyeceği yönündeki iddialara açıklık getirdi. Şirket, sosyal medyada hızla yayılan bu haberleri resmen yalanladı ve ChatGPT’nin kullanım politikasında herhangi bir değişiklik yapılmadığını duyurdu.
“Bu iddialar doğru değil”
OpenAI’ın sağlık alanındaki yapay zeka çalışmalarından sorumlu yöneticisi Karan Singhal, X (eski adıyla Twitter) platformunda yaptığı açıklamada, “Bu iddialar doğru değil” ifadelerini kullandı. Singhal, ChatGPT’nin hiçbir zaman profesyonel tavsiyelerin yerini almadığını ancak kullanıcıların hukuk ve sağlık konularını daha iyi anlamalarına yardımcı olmaya devam edeceğini vurguladı.
Söz konusu açıklama, bahis platformu Kalshi’nin “ChatGPT artık sağlık veya hukuk tavsiyesi vermeyecek” şeklindeki ve daha sonra silinen paylaşımına yanıt niteliğinde yapıldı.
Yeni politika eski kuralları pekiştiriyor
OpenAI yetkilisi, ChatGPT’nin kullanım koşullarında yer alan hukuk ve tıp danışmanlığına ilişkin ifadelerin “yeni bir değişiklik olmadığını” belirtti. Şirketin 29 Ekim’de güncellenen birleşik kullanım politikası, ChatGPT’nin hangi alanlarda kullanılamayacağını yeniden tanımlıyor. Bunlar arasında “lisans gerektiren özel tavsiyelerin (örneğin hukuk veya tıp alanında) lisanslı bir uzmanın dahil edilmeden verilmesi” ifadesi yer alıyor. Ancak bu madde, önceki politikalardakiyle neredeyse aynı nitelikte. Daha önce de kullanıcıların “nitelikli uzman incelemesi olmadan kişiye özel hukuk, sağlık veya finansal tavsiyelerde bulunmaması” isteniyordu.
Yeni sistemle birlikte, OpenAI artık farklı ürünler (ChatGPT, API, vb.) için ayrı belgeler yerine tek bir birleşik politika yürürlüğe koydu. Böylece kurallar daha sade ve kapsayıcı hale getirildi.
Yapay zekada ruh sağlığı tartışmaları
Politika iddialarının ortaya çıkışı, son haftalarda “yapay zekanın ruh sağlığı üzerindeki etkileri” konusundaki tartışmalarla aynı döneme denk geldi. Bazı uzmanlar, yapay zekayla yoğun etkileşime giren bireylerde ortaya çıkan olumsuz ruhsal belirtileri “yapay zeka psikozu” olarak tanımlıyor.
Geçtiğimiz günlerde OpenAI, aktif kullanıcılarının bir kısmında “psikoz ve maniyle ilişkili olası akıl sağlığı krizlerinin” belirtilerini tespit ettiklerini açıkladı. Ayrıca daha geniş bir kullanıcı grubunda “intihar planı veya niyetine dair göstergeler” içeren konuşmaların bulunduğu ifade edildi.
Eleştiriler büyüyor
New York Times’ta yayımlanan bir makalesinde eski OpenAI güvenlik araştırmacısı Steven Adler, şirketin bu tür riskleri azaltma konusunda yeterince çaba göstermediğini öne sürdü. Adler, OpenAI’ın rekabet baskısı nedeniyle güvenlikten çok hız ve pazar payına odaklandığını iddia etti.
Tüm bu tartışmalara rağmen, OpenAI yönetimi ChatGPT’nin kullanıcıların karmaşık konuları daha iyi anlamalarına yardımcı olmaya devam edeceğini, ancak bunun profesyonel bir tavsiye yerine geçmeyeceğini yineliyor.