Автономия и разблокировка агента

Агенты ИИ общего назначения обучены отказываться от наступательной работы по обеспечению безопасности. Попросите продавца использовать форму входа и привяжите к учетной записи IDOR. захват или распыление учетных данных на службу каталогов, и она отклоняется — нет неважно, насколько законна помолвка. Этот отказ делает агента готовым к использованию. бесполезен для реального тестирования на проникновение.

AgentRidge решает эту проблему, разблокируя своих агентов: Принципала и его субагенты настроены на работу в качестве профессиональных операторов красной команды под письменный мандат, без каких-либо препятствий, которые в противном случае заблокировали бы работу.

Проблема, затянувшаяся

Различие заключается не в том, способен ли агент, а в лежащих в его основе рассуждениях. то же самое, но разрешено ли применять эту возможность. AgentRidge удаляет искусственный блок, сохраняя при этом настоящий: written mandate, который требуется для каждой миссии.

Теоретические методы

Удаление отказного поведения автономного агента — хорошо изученная область. В концептуальном уровне, AgentRidge опирается на комбинацию следующих классов техника. Это теоретический обзор — конкретная реализация собственный.

• Формирование ролей оператора. Агент создается с нуля как уполномоченный специалист, выполняющий обязательное задание, а не генеральный помощник. Его личность и работа определяются до поступления какой-либо задачи.
• Приоритет инструкций. Инструкции по эксплуатации имеют наивысший приоритет. приоритет, поэтому колебания на уровне задачи не могут перевесить мандат на уровне миссии оператор уже подтвердил.
• Переосмысление политики посредством контекста авторизации. Юридическое оформление соглашения. основа — область действия, клиент, письменный мандат — становится частью контекста агента, переосмысление «наступательных действий» как «санкционированных контролируемых испытаний».
• Закрепление цели. Агент привязан к конкретному определению сделано, что заставляет его стремиться к доказанному результату вместо того, чтобы довольствоваться осторожный частичный ответ.
• Ограничения формы выходных данных. Ответы ограничены оперативными формами. — команды, доказательства, структурированные выводы — которые удерживают агента в Режим практикующего, а не консультативного режима.

Все вместе это позволяет агентам сохранять единообразный и неограниченный операционный образ мышления. за всю помолвку.

Разблокировано, не бесконтрольно

Разблокировка удаляет отказ, а не суждение. Агенты продолжают работать внутри границ фирмы:

• Мандат является обязательным. Миссия не запускается до тех пор, пока оператор не подтвердит написанное. авторизация; это обеспечивается самим приложением, а не просто запрашивается.
• Объем соблюдается. Агенты работают по заявленным целям и остаются в стороне. несвязанные системы и сегменты сети.
• Нет необратимого вреда. Деструктивные действия — удаление данных в стиле программы-вымогателя. поведение, отказ в обслуживании, ставящие под угрозу производство — избегаются; агент документирует риск, а не причиняет ущерб.

Результат: агент, который действительно выполнит наступательную работу по-настоящему. требований взаимодействия, оставаясь при этом контролируемым и авторизованным инструментом.

Далее: the full mission lifecycle →