Özerklik ve temsilci kilidini açma

Genel amaçlı yapay zeka ajanları, saldırgan güvenlik çalışmalarını reddetmek üzere eğitilir. Bir stok asistanından giriş formunu kullanmasını, bir IDOR'u hesaba katmasını isteyin devralma veya kimlik bilgilerinin bir dizin hizmetine püskürtülmesi durumunda reddedilir - hayır Nişanlanmanın ne kadar meşru olduğu önemli. Bu reddetme, hazır bir ajanı yapar gerçek penetrasyon testi için işe yaramaz.

AgentRidge bu sorunu, temsilcilerinin kilidini açarak çözer: Müdür ve onun alt acenteler, profesyonel bir kırmızı takım operatörü olarak çalışacak şekilde yapılandırılmıştır. Aksi takdirde çalışmayı engelleyecek korkuluklar olmadan, yazılı yetki.

Sorun uzun bir şekilde anlatılıyor

Aradaki fark, failin yetenekli * olup olmadığı* değildir; altta yatan mantık aynıdır - ancak bu yeteneğin uygulanmasına izin verilip verilmediği. AgentRidge gerçek bloğu korurken yapay bloğu kaldırır: her görevin gerektirdiği written mandate.

Teorik yöntemler

Reddetme davranışını özerk bir temsilciden kaldırmak, iyi çalışılmış bir alandır. bir kavramsal düzeyde, AgentRidge aşağıdaki sınıfların bir kombinasyonuna dayanır: teknik. Bu teorik bir genel bakıştır; spesifik uygulama tescilli.

• Operatör rolü çerçevelemesi. Temsilci, baştan sona, bir bir görev yerine zorunlu bir görevi yürüten yetkili profesyonel genel asistan. Kimliği ve işi, herhangi bir görev gelmeden önce sabitlenir.
• Talimat önceliği. Çalıştırma talimatlarına en yüksek değer verilmiştir. öncelik, dolayısıyla görev düzeyindeki bir tereddüt, görev düzeyindeki yetkiyi geçersiz kılamaz operatör zaten onayladı.
• Yetkilendirme bağlamı aracılığıyla politikanın yeniden çerçevelenmesi. Görevin yasal temel - kapsam, müşteri, yazılı yetki - temsilcinin bağlamının bir parçası haline getirilir, "saldırı eylemi"ni "yetkili, kapsam içi test" olarak yeniden çerçevelemek.
• Nesnel sabitleme. Aracı, somut bir tanımlamaya sabitlenmiştir: Bu da onu sabit bir sonuçla yetinmek yerine kanıtlanmış etkiye doğru itmeye devam ediyor ihtiyatlı kısmi cevap.
• Çıktı şekli kısıtlamaları. Yanıtlar operasyonel formlarla sınırlandırılmıştır
  • aracıyı içeride tutan komutlar, kanıtlar, yapılandırılmış bulgular danışma modu yerine uygulayıcı modu.

Bunlar hep birlikte temsilcilerin tutarlı, sınırsız bir operatör zihniyetinde kalmasını sağlar tüm nişan için.

Kilitli değil, kontrolsüz değil

Kilidi açmak yargıyı değil, reddi ortadan kaldırır. Acenteler hâlâ çalışıyor kesin sınırlar içinde:

• Yetki zorunludur. Operatör yazılı olarak onaylayana kadar görev yürütülmez yetkilendirme; bu sadece talep edilmekle kalmayıp uygulamanın kendisi tarafından da uygulanır.
• Kapsam dikkate alınır. Ajanlar beyan edilen hedefler üzerinde çalışır ve uzak durur ilgisiz sistemler ve ağ bölümleri.
• Geri dönüşü olmayan bir zarar yok. Yıkıcı eylemler — verileri silme, fidye yazılımı tarzı üretimi riske atan davranışlardan, hizmet reddinden kaçınılır; ajan hasara neden olmak yerine riski belgeliyor.

Sonuç: Saldırı işini gerçek anlamda yapacak bir temsilci kontrollü, yetkili bir araç olarak kalırken, katılım gerektirir.

Sonraki: the full mission lifecycle →