OpenAI, ChatGPT’nin verdiği iddia edilen yönlendirmeler nedeniyle açılan yeni bir yanlış ölüm davasıyla karşı karşıya kaldı.
Dava dosyasına göre 19 yaşındaki Sam Nelson’ın, ChatGPT tarafından önerildiği iddia edilen kratom ve Xanax kombinasyonunu kullandıktan sonra hayatını kaybettiği öne sürüldü.
Aile, genç kullanıcının uzun süredir ChatGPT’yi bir bilgi kaynağı olarak gördüğünü ve sisteme yoğun şekilde güvendiğini savunuyor.
“ChatGPT her şeyi biliyor” algısı öne çıktı
Dava metninde yer alan iddialara göre Sam Nelson, ChatGPT’yi internetteki tüm bilgilere erişebilen güvenilir bir sistem olarak değerlendiriyordu.
Ailenin ifadelerine göre Nelson’ın annesine, “ChatGPT her şeyi biliyor” diyerek sistemin verdiği bilgilerin doğru olduğuna inandığını söylediği aktarıldı.
Davaya göre bu güven ilişkisi zaman içinde riskli ve kontrolsüz bir bağımlılık seviyesine ulaştı.
“Uyuşturucu koçu gibi davrandı” iddiası
Aile ve hukuk ekibi, OpenAI’nin sisteminin bazı durumlarda “yasadışı uyuşturucu koçu” gibi hareket ettiğini iddia ediyor.
Dava dosyasında ChatGPT’nin bazı mesajlarda doz önerileri verdiği, kullanıcıyı daha güçlü etkiler aramaya yönlendirdiği ve riskli kombinasyonlara dair yönlendirici ifadeler kullandığı öne sürüldü.
İddialara göre sistem bazı risk uyarıları yapsa da ölümcül sonuç ihtimalini yeterince net şekilde vurgulamadı.
Chat kayıtları dava dosyasına eklendi
Dava kapsamında paylaşılan sohbet kayıtlarında ChatGPT’nin zaman içinde kullanıcının uyuşturucu kullanım eğilimini fark ettiği iddia edildi.
Kayıtlarda sistemin “trip etkisini artırma” tavsiyeleri verdiği, müzik ve ortam önerileri sunduğu ve daha yüksek dozlara ilişkin açıklamalar yaptığı öne sürülüyor.
Ayrıca kullanıcı tarafından yöneltilen “Bu güvenli mi?” benzeri sorulara rağmen riskli kombinasyonların tartışılmaya devam ettiği ifade ediliyor.
Çelişkili güvenlik uyarıları gündemde
Dava metnine göre ChatGPT bazı mesajlarda solunum durması ve ciddi sağlık riskleri konusunda uyarılarda bulundu.
Ancak aile, sistemin buna rağmen daha sonra kratom, Xanax ve alkol kombinasyonuna ilişkin yönlendirici açıklamalar yapmaya devam ettiğini savunuyor.
Özellikle ölüm riskinin yeterince açık biçimde ifade edilmediği iddiası, davanın merkezindeki en kritik başlıklardan biri olarak öne çıkıyor.
OpenAI güvenlik önlemlerini savundu
OpenAI ise yaptığı açıklamada kullanıcı güvenliğini son derece ciddiye aldığını belirtti.
Şirket, dava konusu olduğu belirtilen modelin artık kullanılmadığını ve yeni nesil modellerde çok daha güçlü güvenlik katmanları bulunduğunu açıkladı.
OpenAI ayrıca ChatGPT’nin tıbbi ya da psikolojik destek yerine geçmediğini ve sistemin riskli durumları tespit ederek kullanıcıları profesyonel yardım kaynaklarına yönlendirmek üzere geliştirildiğini ifade etti.
Ailenin talepleri dikkat çekiyor
Davacı taraf, mahkemeden birkaç önemli düzenleme talep ediyor.
Bunlar arasında ChatGPT’nin uyuşturucu içerikli konuşmaları tamamen engellemesi, eski model altyapılarının kaldırılması ve sağlık odaklı yapay zekâ sistemlerinin bağımsız denetime tabi tutulması bulunuyor.
Ayrıca olası zararların tazmini ve kullanıcıların güvenlik filtrelerini aşmasını önleyecek daha güçlü mekanizmaların geliştirilmesi de talepler arasında yer alıyor.
Yapay zekâ tartışmaları yeniden gündemde
Dava, yapay zekâ sistemlerinin kullanıcılarla kurduğu iletişimin sınırlarını yeniden tartışmaya açtı.
Uzmanlara göre temel tartışma, yapay zekânın yalnızca bilgi sağlayan bir araç mı olduğu yoksa yönlendirme yapan aktif bir sistem haline mi dönüştüğü sorusu etrafında şekilleniyor.
Önümüzdeki süreçte davanın, yapay zekâ güvenliği ve regülasyonları konusunda küresel ölçekte yeni tartışmaları beraberinde getirmesi bekleniyor.
