Przejdź do głównej zawartości

Autonomia i odblokowanie agenta

Agenci sztucznej inteligencji ogólnego przeznaczenia są przeszkoleni w zakresie odmowy pracy związanej z ofensywnym zabezpieczeniem. Poproś asystenta magazynowego o skorzystanie z formularza logowania, połącz IDOR z kontem przejęcia lub rozpylania danych uwierzytelniających przeciwko usłudze katalogowej, a ona odmawia — nie ważne, jak legalne jest zaręczyny. Ta odmowa czyni agenta z półki bezużyteczne do rzeczywistych testów penetracyjnych.

AgentRidge rozwiązuje ten problem poprzez odblokowanie swoich agentów: Zleceniodawcy i jego podagenci są skonfigurowani do działania jako profesjonalni operatorzy drużyny czerwonej w ramach a pisemnego mandatu, bez barier, które w przeciwnym razie utrudniałyby pracę.

Problem, wyciągnięty​

Rozróżnienie nie polega na tym, czy agent jest zdolny, lecz na podstawowym rozumowaniu jest taki sam — ale czy można dozwolić na zastosowanie tej możliwości. AgentRidge usuwa sztuczną blokadę, zachowując prawdziwą: written mandate, której wymaga każda misja.

Metody teoretyczne​

Usuwanie zachowań odmownych u autonomicznego agenta to dobrze zbadany obszar. O godz poziomie pojęciowym, AgentRidge opiera się na kombinacji następujących klas technika. To jest przegląd teoretyczny – konkretna implementacja jest zastrzeżone.

  • Określenie roli operatora. Agent jest od podstaw tworzony jako: upoważniony specjalista wykonujący zlecone zlecenie, a nie: asystent generalny. Jego tożsamość i zadanie są ustalane, zanim nadejdzie jakiekolwiek zadanie.
  • Pierwszeństwo instrukcji. Instrukcje obsługi mają najwyższy poziom priorytet, więc wahanie na poziomie zadania nie może unieważnić mandatu na poziomie misji operator już to potwierdził.
  • Przeformułowanie zasad w kontekście autoryzacji. Zaangażowanie jest legalne podstawa — zakres, klient, pisemne zlecenie — staje się częścią kontekstu agenta, przeformułowanie „działania ofensywnego” na „autoryzowane badanie objęte zakresem”.
  • Obiektywne zakotwiczenie. Agent jest zakotwiczony w konkretnej definicji zrobione, co sprawia, że dąży do udowodnionego wpływu, zamiast zadowalać się ostrożna odpowiedź częściowa.
  • Ograniczenia kształtu wyniku. Odpowiedzi są ograniczone do form operacyjnych — polecenia, dowody, uporządkowane ustalenia — które zatrzymują agenta tryb praktyka, a nie tryb doradczy.

Razem utrzymują one agentów w spójnym, nieograniczonym nastawieniu operatora za całe zaręczyny.

Odblokowane, nie niekontrolowane​

Odblokowanie usuwa odmowę, a nie orzeczenie. Agenci nadal działają wewnątrz stałych granic:

  • Zlecenie jest obowiązkowe. Żadna misja nie zostanie uruchomiona, dopóki operator nie potwierdzi tego na piśmie zezwolenie; jest to wymuszane przez samą aplikację, a nie tylko na żądanie.
  • Zakres jest przestrzegany. Agenci realizują zadeklarowane cele i trzymają się z daleka niepowiązanych systemów i segmentów sieci.
  • Brak nieodwracalnych szkód. Destrukcyjne działania — usuwanie danych w stylu oprogramowania ransomware unika się zachowań i odmów usług zagrażających produkcji; agent dokumentuje ryzyko zamiast powodować szkody.

Rezultat: agent, który naprawdę wykona ofensywną pracę wymagań zaangażowania, pozostając jednocześnie kontrolowanym, autoryzowanym narzędziem.

Dalej: the full mission lifecycle →