ABD’de bir federal yargıç, sahte alıntılar içeren bir dava brifingi nedeniyle iki hukuk firmasına 31 bin dolar para cezası verdi. Brifingin yapay zeka tarafından hazırlandığının anlaşılmasıyla birlikte, hukuk alanında yapay zekanın denetimsiz kullanımına yönelik tartışmalar yeniden alevlendi.
Kaliforniya Bölge Yargıcı Michael Wilner, yapay zeka ile oluşturulan belgede çok sayıda “uydurma, hatalı ve yanıltıcı” yasal kaynak bulunduğunu tespit etti. Yargıç, hiçbir makul avukatın araştırma ve yazım sürecini yapay zekaya dış kaynak olarak devretmemesi gerektiğini vurguladı. Karar, Bluesky platformunda hukuk profesörleri Eric Goldman ve Blake Reid tarafından da ele alındı.
Sahte Alıntılar Yargıyı Yanıltma Noktasına Geldi
Dava dosyasında yer alan bilgilere göre, State Farm’a karşı açılan bir hukuk davasında davacının temsilcisi olan avukat, yapay zekayı kullanarak ek bir brifing hazırladı. Bu taslak, sonradan başka bir hukuk firması olan K&L Gates’e gönderildi ve burada kullanıma alındı. Ancak belgede, var olmayan kararlar ve kaynaklarla dolu sahte bir yasal çerçeve bulundu.
Yargıç Wilner yaptığı açıklamada, “İlk bakışta inandırıcı görünen bu özet, aslında ciddi bir yargı emri hatasına yol açabilecek sahte referanslarla doluydu” ifadelerini kullandı. İncelemenin ardından, atıf yapılan kaynaklardan en az ikisinin hiç var olmadığı ortaya çıktı.
Google Gemini ve CoCounsel Kullanıldığı Doğrulandı
Avukatların verdiği yeminli ifadelere göre, brifingde Google Gemini, CoCounsel ve Westlaw Precision gibi yapay zeka tabanlı hukuk araçları kullanıldı. Ancak firmaların hiçbir çalışanı, bu içerikleri mahkemeye sunmadan önce kontrol etme zahmetine girmemişti.
Bu olay, yapay zekanın hukuk gibi yüksek sorumluluk içeren alanlarda nasıl denetlenmesi gerektiği sorusunu yeniden gündeme getirdi.
⚖️ Sizce yapay zeka destekli hukuk araştırmaları sınırlanmalı mı yoksa daha iyi kontrol sistemleriyle mi yönlendirilmeli?
