En popüler yapay zeka hizmetleri, kişisel veya işle ilgili verilerle çalışarak büyük kolaylıklar sunarken, bu durum beraberinde ciddi güvenlik risklerini de getiriyor. Anthropic, yapay zeka modeli Claude AI’ın artık Word, Excel ve PDF gibi dosyaları doğrudan oluşturup düzenleyebileceğini duyurdu. Ancak bu yeni özellik, siber güvenlik uzmanlarını endişelendirdi. İddialara göre, Claude AI veri işleme sırasında hızlı enjeksiyon saldırılarıyla hassas verileri kötü niyetli kişilere sızdırabilir.
Sanal Alanlara Sınırlı Erişim Bile Risk Yaratıyor
Anthropic, bu özellik için Claude’a sınırlı internet erişimi olan bir sanal alan (sandbox) ortamı sağlıyor. Ancak şirket, bir destek sayfasında, bu sınırlı erişimin bile bir saldırganın Claude’u kötü amaçlı kod çalıştırmaya veya bağlı bir kaynaktan hassas verileri okumaya yönlendirebilecek talimatlar eklemesine olanak tanıyabileceğini kabul ediyor. Sanal alan, bu süreçte verileri harici bir ağa sızdırmak için programlanabilir.
Şimdilik yalnızca Claude Max, Team ve Enterprise aboneleri için geçerli olan bu özellik, önümüzdeki haftalarda Pro kullanıcılarına da açılacak.
Verilerinizi Nasıl Koruyabilirsiniz?
Anthropic, kullanıcıların kendilerini bu tür ihlallere karşı korumaları için bazı önerilerde bulunuyor. En temel öneri, dosya oluşturma özelliğiyle çalışırken Claude’u sürekli izlemek ve verileri beklenmedik şekilde kullandığını fark ettiğinizde uygulamayı durdurmak. Şirket ayrıca, hızlı enjeksiyon saldırılarını tespit etmek ve durdurmak için kurallar ve filtreler belirlediğini iddia ediyor.