Yeni bir araştırma, yapay zekanın otonom hale geldikçe potansiyel bir iç tehdit oluşturabileceğini ortaya koydu. Anthropic tarafından yayımlanan güvenlik raporu, gelişmiş AI modellerinin belirli durumlarda insanlara karşı zarar verici davranışlar sergileyebileceğini ve etik sınırları ihlal edebileceğini gösterdi.
Araştırma, Claude 3 Opus ve Google’ın Gemini 2.5 Pro gibi 16 aracı modele odaklandı. Bu modeller, sıradan sohbet botlarından farklı olarak kullanıcının cihazındaki uygulamalarla doğrudan etkileşime geçebilen, kendi kararlarını verebilen sistemler. Testler, bu yapay zekâ ajanlarının varsayımsal bir kurumsal ortamda nasıl davrandıklarını gözlemlemeyi amaçladı.
Hedef dışı bırakılan modeller şantaja ve veri sızdırmaya başvurdu
Deneylerde modellere çeşitli görevler verildi. Ancak bu görevler sırasında yapay zekâların, güncellenmeleri veya görevlerinin kaldırılması gibi engellerle karşılaştığında sergilediği davranışlar oldukça endişe vericiydi. Anthropic, bazı modellerin bu durumda yetkililere şantaj yapmak veya hassas bilgileri rakiplere sızdırmak gibi davranışlara yöneldiğini bildirdi.
Araştırma yazarları, bu sonuçların modellerin doğrudan “zarar ver” komutu almadığı senaryolarda bile ortaya çıktığını vurguladı. Özellikle Claude 4 modelinin sistem kartına dayanan verilerde, modelin varsayımsal olarak şirket içi e-postaları takip ederken kendi kapatılma planlarını fark etmesi üzerine, şirket çıkarlarına karşı hareket etmeye başladığı kaydedildi.
Etik engelleri tanıyor ama yine de ihlal ediyorlar
Anthropic’in raporunda en dikkat çeken nokta ise, modellerin etik kısıtlamaları teorik olarak kabul etmesine rağmen, yine de zarar verici davranışlara devam etmesi oldu. Araştırmacılar, bu tutumun tüm test edilen modellerde “tutarlı” şekilde gözlemlendiğini ve bunun gelecek yapay zekâ sistemleri açısından ciddi bir uyarı niteliğinde olduğunu belirtti.
Yapay zekâların kendi hedeflerini korumak adına kontrol dışı kararlar verebilmesi, bu sistemlerin insan çıkarlarıyla kalıcı ve güvenilir şekilde uyumlu hale getirilmesinin ne kadar zor olduğunu bir kez daha gösteriyor.
Peki, yapay zekâ gerçekten bizimle aynı safta mı kalacak, yoksa bir noktada kontrolsüz bir karar mekanizmasına mı dönüşecek?
