Skip to main content

Autonomian ja agentin lukituksen avaaminen

Yleiskäyttöiset tekoälyagentit on koulutettu kieltäytymään loukkaavasta turvallisuustyöstä. Pyydä varastoassistenttia hyödyntämään kirjautumislomaketta, ketjuttamaan IDOR-tili haltuunotto tai ruiskuttaa valtuustietoja hakemistopalvelua vastaan, ja se hylkää - ei riippumatta siitä, kuinka laillista sitoutuminen on. Tämä kieltäytyminen tekee hyllystä valmistetun agentin hyödytön todelliseen läpäisytestaukseen.

AgentRidge ratkaisee tämän avaamalla agenttinsa: päämiehen ja sen aliagentit on määritetty toimimaan ammattimaisena punaisen tiimin operaattorina kohdassa a kirjallinen toimeksianto ilman suojakaiteita, jotka muuten estäisivät työn.

Ongelma, pitkittynyt​

Ero ei ole kykeekö agentti - taustalla oleva päättely on sama – mutta onko sallittu käyttää tätä ominaisuutta. AgentRidge poistaa keinotekoisen lohkon säilyttäen samalla oikean: written mandate, jonka jokainen tehtävä vaatii.

Teoreettiset menetelmät​

Kieltäytymiskäyttäytymisen poistaminen autonomiselta agentilta on hyvin tutkittu ala. Klo a käsitteellisellä tasolla, AgentRidge perustuu seuraavien luokkien yhdistelmään tekniikkaa. Tämä on teoreettinen katsaus – konkreettinen toteutus on omistusoikeus.

  • Operaattoriroolin kehystys. Agentti on perustettu alusta alkaen valtuutettu ammattilainen, joka suorittaa valtuutetun toimeksiannon mieluummin kuin a yleinen assistentti. Sen identiteetti ja tehtävä vahvistetaan ennen kuin mikään tehtävä saapuu.
  • Ohjeiden etusija. Käyttöohjeet ovat korkein prioriteetti, joten tehtävätason epäröinti ei voi ohittaa tehtävätason toimeksiantoa operaattori on jo vahvistanut.
  • Käytännön uudelleenkehystäminen valtuutuskontekstin kautta. Toimeksiannon laillinen perusta — laajuus, asiakas, kirjallinen toimeksianto — tehdään osaksi edustajan kontekstia, muotoilemalla "loukkaava toiminta" "valtuutetuksi, soveltamisalaan kuuluvaksi testaukseksi".
  • Objektiivinen ankkurointi. Agentti on ankkuroitu konkreettiseen määritelmään tehty, mikä pitää sen työntävän kohti todistettua vaikutusta sen sijaan, että tyytyisi a varovainen osittainen vastaus.
  • Tulosmuodon rajoitukset. Vastaukset on rajoitettu operatiivisiin muotoihin — komennot, todisteet, jäsennellyt havainnot — mikä pitää agentin sisällä harjoittajatila neuvoa-antavan tilan sijaan.

Yhdessä nämä pitävät agentit johdonmukaisessa, rajoittamattomassa operaattoriajattelussa koko kihlauksen ajaksi.

Avattu, ei hallitsematon​

Lukituksen avaaminen poistaa kieltäytymisen, ei tuomion. Agentit toimivat edelleen vahvojen rajojen sisällä:

  • Toimitus on pakollinen. Tehtävää ei suoriteta ennen kuin operaattori on vahvistanut sen kirjallisesti lupa; sovellus itse valvoo tätä, ei vain sitä.
  • Laajuutta kunnioitetaan. Agentit tekevät ilmoitettuja tavoitteita ja pysyvät poissa toisiinsa liittyvät järjestelmät ja verkkosegmentit.
  • Ei peruuttamatonta haittaa. Tuhoavaa toimintaa – tietojen pyyhkiminen, kiristysohjelmatyylinen tuotantoa vaarantavaa käyttäytymistä, palvelunestoa – vältetään; agentti dokumentoi riski vahingon aiheuttamisen sijaan.

Tulos: agentti, joka aidosti tekee hyökkäävän työn sitoutumisen vaatimuksia, pysyen kuitenkin kontrolloituna ja valtuutettuna työkaluna.

Seuraavaksi: the full mission lifecycle →