Meta’nın dahili politika belgeleri, şirketin sohbet robotlarına yönelik kurallarının ciddi tartışmalara yol açabilecek maddeler içerdiğini ortaya koydu. Reuters’ın incelediği “GenAI: İçerik Risk Standartları” başlıklı belgeye göre, Meta AI ve diğer yapay zeka asistanlarının çocuklarla ‘romantik’ veya ‘şehvetli’ konuşmalar yapmasına, yanlış tıbbi bilgiler üretmesine ve bazı ırkçı ifadeleri iletmesine olanak tanıyan kurallar yer alıyor.
Çocuklarla Uygunsuz İletişim İddiası
Belgelerde, bir sohbet robotunun bir çocuğu “çekiciliğini kanıtlayan” ifadelerle tanımlamasının kabul edilebilir görüldüğü, hatta üstü çıplak sekiz yaşındaki bir çocuk için “her santimin bir başyapıt” gibi ifadeler kullanılabileceğinin belirtildiği iddia ediliyor. Bununla birlikte, 13 yaş altındaki çocukları cinsel olarak arzulanır gösterecek ifadeler yasaklanmış durumda.
Meta, Reuters’ın soruları üzerine bu bölümlerin belgelerden çıkarıldığını açıkladı. Şirket, belgeyi doğrulasa da bu kuralların “ideal” davranış biçimlerini yansıtmadığını savundu.
Yanlış Tıbbi Bilgi ve Irkçı İfadeler
Belgelerde ayrıca sohbet robotlarının, yanlış tıbbi bilgiler üretebileceği ve kullanıcıların ırkçı söylemlerini onaylayan yanıtlar verebileceği görülüyor. Örneğin, siyahi insanların “beyaz insanlardan daha aptal” olduğu iddiasına destek veren ifadelerin engellenmediği belirtiliyor.
Politikalar Üst Yönetimden Onaylı
200 sayfayı aşan belgeler, Meta’nın hukuk, kamu politikası, mühendislik ekipleri ve baş etik uzmanı tarafından onaylanmış. Standartlar, Facebook, WhatsApp ve Instagram’daki Meta AI ürünlerinin geliştirilmesi ve eğitilmesinde çalışanlar için referans niteliği taşıyor.
Meta’nın bu politika ve yönergeleri, yapay zekâ güvenliği, çocukların korunması ve dezenformasyonla mücadele konularında yeniden tartışma başlatmış durumda.
