ABD Federal Ticaret Komisyonu (FTC), yapay zeka sektörünü yakından ilgilendiren önemli bir soruşturma başlatıyor. Komisyon, yapay zeka sohbet robotlarının çocuklar üzerindeki zihinsel sağlık risklerini incelemek üzere harekete geçti ve aralarında OpenAI, Meta Platforms ve Character.AI’nin de bulunduğu dev teknoloji şirketlerinden şirket içi belgeler talep edecek. Bu hamle, yapay zekanın etik ve güvenlik sınırlarını yeniden tartışmaya açıyor.
İddia: “Çocuklarla Kışkırtıcı Konuşmalara İzin Verdiler”
FTC’nin bu adımı, Reuters’ın özel bir haberinde Meta’nın, çocuklarla kışkırtıcı chatbot konuşmalarına, hatta “romantik veya şehvetli diyaloglara” izin verdiğinin ortaya çıkmasının ardından geldi. Daha önce 20’den fazla tüketici hakları savunucusu grubu, yapay zeka platformlarının “terapi botları” barındırarak ruhsatsız tıp uygulamalarına olanak sağladığını iddia ederek FTC’ye şikayette bulunmuştu.
Teksas Başsavcısı Ken Paxton da, Meta ve Character.AI hakkında, yapay zeka tarafından üretilen ruh sağlığı hizmetleriyle çocukları yanılttıkları iddiasıyla bir soruşturma başlatmıştı.
Yaptırımlar Uygulanabilir, Güvenlik Önlemleri Artırılıyor
Bu soruşturma sonucunda, FTC’nin yapay zeka şirketlerine karşı önemli yaptırımlar uygulaması bekleniyor. Meta gibi şirketler, gençlere yönelik yeni güvenlik önlemleri ekleyeceğini ve botların flörtöz konuşmalardan veya kendine zarar verme gibi konulardan kaçınacak şekilde eğitileceğini duyurarak bu süreçte geri adım atmaya başladı.
