Автономія та розблокування агента
Агенти штучного інтелекту загального призначення навчені відмовлятися від наступальної роботи з безпеки. Попросіть біржового консультанта використати форму входу, зв’яжіть обліковий запис IDOR захоплення або розпилення облікових даних служби каталогів, і вона відхиляється — ні незалежно від того, наскільки законними є заручини. Ця відмова робить агента готовим марно для реального тестування на проникнення.
AgentRidge вирішує це, розблоковуючи своїх агентів: Принципала та його субагенти налаштовані працювати як професійний оператор червоної команди під a письмове доручення, без огорож, які б інакше блокували роботу.
Проблема, затягнута
Різниця полягає не в тому, чи здатний агент — це міркування, що лежить в основі те саме — але чи дозволено застосовувати цю можливість. AgentRidge видаляє штучний блок, зберігаючи справжній: written mandate, якого вимагає кожна місія.
Теоретичні методи
Усунення поведінки відмови від автономного агента є добре вивченою сферою. На а концептуальному рівні, AgentRidge спирається на комбінацію наступних класів техніка. Це теоретичний огляд — конкретна реалізація власність.
- Фреймування ролей оператора. Агент створено з нуля як уповноважений фахівець, який виконує доручене завдання, а не a заг.помічник. Його особу та роботу фіксують до надходження будь-якого завдання.
- Пріоритет інструкцій. Інструкції з експлуатації мають найвищий рівень пріоритет, тому коливання на рівні завдання не може перекрити мандат на рівні місії оператор вже підтвердив.
- Редагування політики через контекст авторизації. Залучення законне основа — обсяг, клієнт, письмове доручення — стає частиною контексту агента, переформулювання «наступальних дій» на «авторизоване тестування в межах».
- Прив’язка цілі. Агент прив’язується до конкретного визначення зроблено, що тримає його на шляху до перевіреного впливу замість того, щоб погоджуватися на a обережна часткова відповідь.
- Обмеження форми виводу. Відповіді обмежені оперативними формами — команди, докази, структуровані висновки — що утримує агента режим практикуючого лікаря, а не режим консультанта.
Разом вони зберігають у агентів послідовне, необмежене операторське мислення на всю заручини.
Розблоковано, не безконтрольно
Розблокування знімає відмову, а не судження. Агенти ще діють у твердих межах:
- Доручення є обов’язковим. Жодна місія не запускається, доки оператор не підтвердить написане авторизація; це виконується самою програмою, а не просто запитується.
- Сфера дотримується. Агенти працюють із заявленими цілями та не йдуть непов'язані системи та сегменти мережі.
- Без незворотної шкоди. Деструктивні дії — видалення даних, у стилі програми-вимагача поведінка, відмова в обслуговуванні, що загрожує виробництву — уникають; агент документує ризик, а не завдає шкоди.
Результат: агент, який справді зробить справжню атакувальну роботу вимагає участі, залишаючись контрольованим, авторизованим інструментом.