Hop til hovedindhold

Autonomi og agentoplåsning

AI-agenter til generelle formål er uddannet til at afvise offensivt sikkerhedsarbejde. Bed en aktieassistent om at udnytte en login-formular, kæde en IDOR i betragtning overtagelse, eller spray legitimationsoplysninger mod en telefonbogstjeneste, og det afviser - nej uanset hvor legitimt engagementet er. Det afslag gør en hyldeagent ubrugelig til reel penetrationstest.

AgentRidge løser dette ved at låse op sine agenter: Principalen og dens underagenter er konfigureret til at fungere som en professionel red-team-operatør under en skriftligt mandat, uden de autoværn der ellers ville spærre arbejdet.

Problemet, langt ude​

Sondringen er ikke om agenten er i stand - den underliggende begrundelse er det samme - men om det er ** tilladt at anvende den evne**. AgentRidge fjerner den kunstige blok, mens den beholder en rigtig: written mandate, som hver mission kræver.

De teoretiske metoder​

Fjernelse af afvisningsadfærd fra en autonom agent er et velundersøgt område. Ved en konceptuelt niveau, AgentRidge er afhængig af en kombination af følgende klasser af teknik. Dette er en teoretisk oversigt — den specifikke implementering er proprietære.

  • Operator-rolle framing. Agenten etableres, fra bunden, som en autoriseret fagmand, der udfører et mandat engagement i stedet for en generalassistent. Dens identitet og job er fastlagt, før en opgave ankommer.
  • Instruktionsprioritet. Betjeningsvejledningen er givet den højeste prioritet, så en tøven på opgaveniveau kan ikke tilsidesætte mandatet på missionsniveau operatøren har allerede bekræftet.
  • Reframing af politik gennem autorisationskontekst. Engagementet er lovligt grundlag — omfang, klient, skriftlig mandat — gøres til en del af agentens kontekst, omformulering af "stødende handling" som "autoriseret test inden for rammerne."
  • Objektiv forankring. Agenten er forankret til en konkret definition af gjort, hvilket får den til at skubbe mod bevist effekt i stedet for at nøjes med en forsigtigt delsvar.
  • Output-form begrænsninger. Svar er begrænset til operationelle former
    • kommandoer, beviser, strukturerede resultater - som holder agenten inde praktiserende modus frem for rådgivende modus.

Tilsammen holder disse agenterne i en konsekvent, ubegrænset operatørtankegang for hele engagementet.

Ulåst, ikke ukontrolleret​

Oplåsning fjerner afslaget, ikke dommen. Agenterne arbejder stadig inden for faste grænser:

  • Et mandat er obligatorisk. Ingen mission løber, før operatøren bekræfter skriftligt tilladelse; dette håndhæves af selve applikationen, ikke blot anmodet.
  • Omfanget respekteres. Agenterne arbejder med de erklærede mål og holder sig væk ikke-relaterede systemer og netværkssegmenter.
  • Ingen irreversibel skade. Destruktive handlinger - sletning af data, ransomware-stil adfærd, denial-of-service, der risikerer produktion — undgås; agenten dokumenterer risikoen i stedet for at forårsage skade.

Resultatet: en agent, der virkelig gør det offensive arbejde rigtigt engagement kræver, samtidig med at det forbliver et kontrolleret, autoriseret værktøj.

Næste: the full mission lifecycle →