Autonómia és ügynök feloldása

Az általános célú mesterséges intelligencia ügynököket arra képezték ki, hogy megtagadják a támadó biztonsági munkát. Kérjen meg egy raktári asszisztenst, hogy használja ki a bejelentkezési űrlapot, és láncoljon be egy IDOR-t átvétel, vagy a hitelesítő adatokat szórja ki egy címtárszolgáltatással szemben, és az elutasítja – nem nem számít, mennyire jogos az eljegyzés. Ez az elutasítás kész ügynököt jelent valós penetrációs teszteléshez használhatatlan.

A AgentRidge ezt úgy oldja meg, hogy feloldja ügynökeit: a Megbízót és annak alügynökök úgy vannak beállítva, hogy professzionális red-team operátorként működjenek az a írásos megbízás nélkül, a korlátok nélkül, amelyek egyébként akadályoznák a munkát.

A probléma, elnyújtott

A különbségtétel nem az, *hogy képes-e az ügynök, hanem a mögöttes érvelés ugyanaz – de engedélyezett-e ennek a képességnek az alkalmazása. AgentRidge eltávolítja a mesterséges blokkot, miközben megtart egy valódit: a written mandate-t, amelyre minden küldetésnek szüksége van.

Az elméleti módszerek

Az elutasító magatartás eltávolítása egy autonóm ügynöktől jól tanulmányozott terület. at a fogalmi szinten, a AgentRidge a következő osztályok kombinációjára támaszkodik technika. Ez egy elméleti áttekintés – a konkrét megvalósítás tulajdonosi.

• Operátori szerepkör kialakítása. Az ügynök az alapoktól kezdve an megbízott megbízást végző felhatalmazott szakember, nem pedig a általános asszisztens. A személyazonossága és a feladata rögzítésre kerül, mielőtt bármilyen feladat megérkezne.
• Az utasítások elsőbbsége. A kezelési utasítások a legmagasabbak prioritás, így a feladat szintű tétovázás nem írhatja felül a küldetésszintű megbízatást az üzemeltető már megerősítette.
• A szabályzat átdolgozása az engedélyezési kontextuson keresztül. A megbízás jogi alap – hatály, ügyfél, írásos megbízás – az ügynök kontextusának részévé válik, a "sértő cselekvés" átfogalmazása "engedélyezett, hatókörön belüli tesztelés"-re.
• Objektív lehorgonyzás. Az ügynök egy konkrét definíciójához van rögzítve kész, ami továbbra is a bizonyított hatás felé tör, ahelyett, hogy megelégedne a óvatos részválasz.
• Kimeneti formára vonatkozó megszorítások. A válaszok működési formákra vannak korlátozva — parancsok, bizonyítékok, strukturált megállapítások — ami bent tartja az ügynököt gyakorló mód, nem pedig tanácsadó mód.

Ezek együttesen egy következetes, korlátlan operátori gondolkodásmódban tartják az ügynököket az egész eljegyzésre.

Feloldott, nem ellenőrizetlen

A zárolás feloldása az elutasítást távolítja el, nem az ítéletet. Az ügynökök továbbra is működnek határozott határokon belül:

• A megbízás kötelező. A küldetés nem fut addig, amíg az operátor írásban meg nem erősíti felhatalmazás; ezt maga az alkalmazás érvényesíti, nem csak kéri.
• A hatókört tiszteletben tartják. Az ügynökök a bejelentett célokat teljesítik, és távol maradnak nem kapcsolódó rendszerek és hálózati szegmensek.
• Nincs visszafordíthatatlan kár. Pusztító műveletek – adatok törlése, ransomware-stílus a termelést veszélyeztető magatartást, szolgáltatásmegtagadást – kerüljük el; az ügynök károkozás helyett a kockázatot dokumentálja.

Az eredmény: egy ügynök, aki valóban elvégzi a támadó munkát elköteleződési igényeket, miközben ellenőrzött, engedélyezett eszköz marad.

Következő: the full mission lifecycle →