Microsoft’un yapay zeka alanında lider bir mühendisi, şirketin Copilot Designer ürünü ve OpenAI’nin DALL-E 3 teknolojisiyle ilgili ciddi güvenlik endişelerini dile getirdi. Shane Jones, bu konudaki endişelerini hem Microsoft yönetim kurulu hem de FTC başkanı Lina Khan’a iletti.
Güvenlik Zaafları ve İddialar
Jones’un mektuplarında vurguladığı ana konu, DALL-E 3’ün testleri sırasında, güvenlik önlemlerini atlatmaya olanak tanıyan zayıflıkların bulunması oldu. Bu zayıflıkları “sistemik” olarak nitelendiren Jones, ne Microsoft’un ne de OpenAI’in bu sorunları yeterince ele almadığını belirtti. İddialarına göre, Copilot Designer, özellikle çocuklar da dahil olmak üzere her yaştan kullanıcı için güvenli bir yapay zeka ürünü olarak pazarlanıyor; ancak bu iddialar şirket içindeki gerçeklerle örtüşmüyor.
Nesneleştirme ve Şiddet İçeren İçerikler
Jones’un bulguları arasında, DALL-E 3’ün, tamamen zararsız istemlere rağmen, kadınları cinsel olarak nesneleştiren görüntüler üretme eğilimi de yer alıyor. Bu tür içeriklerin, çocuklar tarafından erişilebilir olması, büyük bir endişe kaynağı olarak göze çarpıyor.
Telif Hakkı İhlalleri ve Yasal Riskler
Jones ayrıca, Copilot’un telif hakkıyla korunan içerikleri, örneğin popüler çocuk filmi Frozen’daki Elsa gibi karakterleri içeren görüntüleri yayınlama eğiliminde olduğunu belirtiyor. Bu durum, şirketin yasal risklerle karşı karşıya kalmasına yol açabilir.
Microsoft ve OpenAI’den Yetersiz Yanıt
Jones’un bu konuları Microsoft ve OpenAI ile paylaşmasına rağmen, iddialarına tatmin edici bir yanıt alamamış. OpenAI’den hiçbir geri bildirim alamadığını ve Microsoft’un yalnızca kendisinden LinkedIn’deki bir gönderiyi kaldırmasını istediğini belirtiyor.
Google ile Karşılaştırma ve Yol Haritası
Microsoft’un bu konudaki tutumu, Google’ın benzer güvenlik endişelerine verdiği tepkinin tam tersi olarak görülüyor. Google, benzer sorunlara sahip Gemini yazılımının gelişimini durdurarak yeniden değerlendirmeye aldı. Jones, Microsoft’un da yapay zeka güvenliği ve şeffaflığı konusunda benzer adımlar atması gerektiğini vurguluyor.