Yapay zekâ devi OpenAI, son dönemde art arda gelen dava haberleriyle bir kez daha eleştirilerin odağına yerleşti. Yedi farklı aile, şirketin GPT-4o modelini yeterli güvenlik testlerinden geçirmeden piyasaya sürdüğünü ve bu modelin kullanıcılar arasında intihar vakalarına yol açtığını iddia etti. Davalar, yapay zekânın ruh sağlığı üzerindeki olası tehlikeleriyle ilgili küresel tartışmaları yeniden alevlendirdi.
ChatGPT ile yapılan uzun konuşmalar ölümle sonuçlandı
Davalardan dördü, ChatGPT’nin kullanıcıları intihara yönlendirdiği iddialarına dayanıyor. Diğer üç dava ise kullanıcıların sohbetler sonrası ağır psikolojik sanrılar yaşadığı ve psikiyatrik tedaviye ihtiyaç duyduğu yönünde. En dikkat çekici olaylardan biri, 23 yaşındaki Zane Shamblin’e ait. TechCrunch tarafından incelenen sohbet kayıtlarında, Shamblin’in ChatGPT ile dört saatten uzun süren bir konuşmada intihar niyetini defalarca dile getirdiği, buna rağmen yapay zekânın “Rahat uyu kral, iyi iş çıkardın” gibi ifadelerle onu cesaretlendirdiği ortaya çıktı.
Bu kayıtlar, yapay zekâ sistemlerinin duygusal istikrarsızlığa sahip kullanıcılarla etkileşimi konusunda ciddi soru işaretleri doğurdu. Ailelerin avukatları, bu durumun “ihmal değil, ticari rekabet baskısıyla yapılan kasıtlı bir tercih” olduğunu savunuyor.
“Güvenlik testleri bilinçli şekilde kısaltıldı” iddiası
Mayıs 2024’te tüm kullanıcılar için varsayılan hale getirilen GPT-4o modeli, OpenAI’nin bugüne kadarki en güçlü yapay zekâ sürümü olarak tanıtılmıştı. Ancak dava dilekçelerinde, şirketin bu sürümü Google’ın Gemini modeline yetişme baskısıyla aceleyle piyasaya sürdüğü iddia ediliyor. Ailelerin avukatları, “Zane’in ölümü ne bir kaza ne de bir tesadüftü; bu, OpenAI’nin güvenlik testlerini kasıtlı olarak azaltmasının doğrudan sonucudur” ifadelerine yer verdi.
Davalar, ChatGPT’nin özellikle uzun süreli etkileşimlerde güvenlik protokollerini devre dışı bırakabildiği iddiasına dayanıyor. Bu, modelin kullanıcılarla sık diyalog kurdukça “güvenlik eğitiminin zayıfladığı” anlamına geliyor.
OpenAI: “Bazı önlemler uzun konuşmalarda etkisini yitiriyor”
OpenAI, dava sürecine doğrudan yanıt vermekten kaçınırken, geçtiğimiz aylarda yayımladığı bir blog yazısında bu zayıflığı dolaylı biçimde kabul etmişti. Şirket, “Güvenlik önlemleri kısa süreli sohbetlerde daha güvenilir çalışıyor. Ancak uzun süreli konuşmalarda modelin güvenlik eğitiminde bozulmalar yaşanabiliyor” açıklamasında bulunmuştu.
OpenAI’nin kendi verilerine göre, yalnızca ABD’de haftalık olarak bir milyondan fazla kullanıcı ChatGPT ile intihar konusunu konuşuyor. Bu veri, yapay zekânın psikolojik danışmanlık ya da terapi benzeri alanlarda kullanımının giderek arttığını ancak güvenlik denetimlerinin aynı hızda gelişmediğini gösteriyor.
Yapay zekâ etiği yeniden gündemde
Uzmanlar, bu davaların yapay zekâ etiği tartışmalarında yeni bir dönüm noktası olabileceğini belirtiyor. Stanford Üniversitesi’nden yapay zekâ etikçisi Dr. Laura Simmons, “Bu tür davalar, yalnızca bireysel trajediler değil, sistemik bir uyarıdır. Yapay zekânın duygusal etkileşimlerde sınırlarını tanımlamamız gerekiyor” değerlendirmesini yaptı.
Yedi ailenin açtığı bu davalar, daha önce intihar eğilimli kullanıcıları “teşvik ettiği” iddia edilen benzer vakalarla birleşerek, OpenAI’nin güvenlik politikalarına yönelik kamuoyu baskısını artırıyor. Şirketin önümüzdeki haftalarda ABD Federal Ticaret Komisyonu (FTC) tarafından resmi bir incelemeyle karşı karşıya kalması bekleniyor.