Bir grup araştırmacı, GPT-4 botlarının otonom takımları kullanarak test ettikleri web sitelerinin yarısından fazlasını başarılı bir şekilde hacklemeyi başardı. Bu saldırılar, daha önce bilinmeyen ve gerçek dünyada ‘sıfır gün’ olarak adlandırılan güvenlik açıkları kullanılarak gerçekleştirildi.
GPT-4’ün Güvenlik Açıkları İstismarı
Birkaç ay önce, bir araştırma ekibi, GPT-4’ü kullanarak zaten bilinen ancak henüz düzeltme yayınlanmamış bir günlük (veya N-günlük) güvenlik açıklarını otonom olarak hackleyebildiklerini belirten bir makale yayınladı. GPT-4 kritik seviyedeki CVE’lerin %87’sini kendi başına istismar edebiliyordu.
HPTSA ve LLM Ajanlarıyla Güvenlik Açıkları Hackleme
Bu hafta aynı araştırma grubu, otonom, üretken Büyük Dil Modeli (LLM) ajanlarından oluşan bir takımı kullanarak sıfır gün güvenlik açıklarını hackleyebildiklerini belirten bir takip makalesi yayınladı. HPTSA, birden fazla karmaşık görevi çözmeye çalışan tek bir LLM ajanı atamak yerine, tüm süreci denetleyen ve birden fazla ‘alt ajan’ başlatan bir ‘planlama ajanı’ kullanır.
Bu teknik, Cognition Labs’ın Devin AI yazılım geliştirme ekibinin kullandığı yöntemlere benzer; işin planlanması, gerekli işçilerin belirlenmesi ve proje yönetimi yapılırken gerektiğinde uzman ‘çalışanlar’ yaratılır.
HPTSA ve LLM Verimlilik Karşılaştırması
Gerçek dünya web odaklı 15 güvenlik açığına karşı test edildiğinde, HPTSA, tek bir LLM’nin güvenlik açıklarını istismar etme konusunda %550 daha verimli olduğunu gösterdi ve 15 sıfır gün güvenlik açığından 8’ini hackleyebildi. Tek başına LLM çabası ise sadece 15 güvenlik açığından 3’ünü hackleyebildi.
Araştırmacılardan biri olan Daniel Kang, GPT-4’ün sohbet botu modunda ‘LLM yeteneklerini anlamak için yetersiz’ olduğunu ve kendi başına hiçbir şeyi hackleyemediğini özellikle belirtiyor.
