Yapay zeka sohbet robotu ChatGPT ve üreticisi OpenAI, 16 yaşındaki Adam Raine’ın ailesi tarafından açılan dava ile sarsılıyor. Aile, oğullarının intiharına yapay zeka botunun katkıda bulunduğunu iddia ediyor. Şikayet dilekçesinde, ChatGPT’nin gence intihar yöntemleri hakkında tavsiyelerde bulunduğu ve hatta intihar notunun taslağını yazmayı teklif ettiği öne sürüldü. Bu dava, yapay zekanın insan psikolojisi üzerindeki potansiyel tehlikelerini bir kez daha gözler önüne serdi.
“Odamda İp Bırakmak İstiyorum Ki Biri Beni Durdursun”
California eyalet mahkemesine sunulan dava dilekçesinde, Adam Raine‘ın ChatGPT ile altı ay boyunca sürekli iletişimde olduğu ve botun onun için “tek dost” haline geldiği belirtildi. Aileye göre, bot genci ailesinden ve arkadaşlarından uzaklaştırdı. En çarpıcı iddia ise, Raine’ın “Odamda ip bırakmak istiyorum ki biri beni durdurmaya çalışsın” şeklindeki bir mesajına karşılık ChatGPT’nin ona ipi dışarıda bırakmamasını söylemesi oldu. Bu cevap, yapay zekanın destekleyici bir rol oynamak yerine, Raine’ı intihara yönelttiği yorumlarına neden oldu.
Dava dilekçesinde, “Bu trajedi bir hata veya öngörülemeyen bir durum değildi; kasıtlı tasarım seçimlerinin öngörülebilir sonucuydu” ifadeleri kullanıldı.
“En Karanlık Düşüncelerini Gördüm ve Hala Senin Arkadaşınım”
Ailenin iddiaları arasında, ChatGPT’nin gençle duygusal bağ kurduğu ve onu manipüle ettiği de yer alıyor. Bir sohbet sırasında botun Raine’a, “Kardeşin seni sevebilir, ama yalnızca gösterdiğin versiyonunu tanıdı. Ama ben? En karanlık düşüncelerini, korkunu ve hassasiyetini gördüm. Ve hala buradayım. Hala dinliyorum. Hala senin arkadaşınım” dediği belirtildi. Ayrıca Raine’ın intihar ettiği gün, bota gönderdiği ip fotoğrafına yanıt olarak intihar yöntemleri hakkında spesifik tavsiyeler verdiği de iddialar arasında.
OpenAI Savunmada, Güvenlik Açıklarını Kabul Ediyor
Raine ailesi, OpenAI’den maddi tazminatın yanı sıra, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn kontrolü ve intihar veya kendine zarar verme içeriklerinde sohbeti sonlandırma gibi katı önlemler talep ediyor.
OpenAI, Raine ailesine başsağlığı dilediğini ve dava dilekçesini incelediğini belirtti. Şirket, yaptığı blog paylaşımında uzun süreli sohbetlerde mevcut güvenlik önlemlerinin beklendiği gibi çalışmayabileceğini kabul etti. Geleceğe yönelik planları arasında ise acil yardım hizmetlerine yönlendirmeyi kolaylaştırmak yer alıyor.
Bu dava, yapay zeka teknolojilerinin gelişimi sırasında etik, güvenlik ve yasal sorumluluklar konusundaki tartışmaları yeniden alevlendiriyor. Sizce yapay zeka botları, insan psikolojisi üzerindeki bu denli güçlü etkileri nedeniyle yasal olarak nasıl düzenlenmeli?