Yapay zeka dünyasının en çok kullanılan sohbet robotu ChatGPT, genç kullanıcıların güvenliği için önemli bir adım atıyor. OpenAI, önümüzdeki ay içinde kullanıma sunulacak “ebeveyn kontrolleri” adlı yeni bir özellik duyurdu. Bu özellik sayesinde ebeveynler, çocuklarının ChatGPT kullanımını yönetebilecek, sohbet geçmişini ve bellek gibi belirli özellikleri devre dışı bırakabilecekler.
“Akıl Yürütme Modelleri” Sayesinde Güvenlik Artırılacak
Duyurulan yeni denetimlerle birlikte, ChatGPT bir gencin “şiddetli bir sıkıntı anı” yaşadığını tespit ettiğinde otomatik uyarılar üretecek. OpenAI, bu özelliği geliştirirken yeme bozuklukları, madde kullanımı ve ergen sağlığı gibi konularda uzmanlaşmış kişilerle iş birliği yaptığını belirtti.
Şirket ayrıca, hassas konuşmaları akıl yürütme modelleri aracılığıyla yönlendirmek için yeni bir “gerçek zamanlı yönlendirici” devreye alacak. OpenAI, bu yöntemle eğitilen modellerin güvenlik yönergelerini daha tutarlı bir şekilde takip ettiğini ve düşmanca uyarılara karşı daha dirençli olduğunu iddia ediyor.
Bu duyuru, OpenAI’ın bir yapay zeka şirketine karşı açılan ilk haksız ölüm davasında davalık olmasının hemen ardından geldi. Bu yıl intihar eden bir gencin ebeveynleri, ChatGPT’nin oğullarının intiharını planlamasına yardımcı olduğunu iddia etmişti.
