자율성 및 에이전트 잠금 해제
범용 AI 에이전트는 공격적인 보안 작업을 거부하도록 훈련되었습니다. 재고 보조원에게 로그인 양식을 활용하고 IDOR을 계정에 연결하도록 요청하세요. 탈취하거나 디렉터리 서비스에 대한 자격 증명을 뿌리고 거부합니다. 아니요 약혼이 얼마나 합법적인지는 중요하지 않습니다. 그 거절은 기성 대리인을 만든다 실제 침투 테스트에는 쓸모가 없습니다.
AgentRidge는 에이전트인 주체와 그 에이전트를 잠금 해제하여 이 문제를 해결합니다. 하위 에이전트는 전문적인 레드팀 운영자로 작동하도록 구성됩니다. 작업을 방해하는 가드레일 없이 서면 위임장을 작성합니다.
문제, 도출된 문제
구별은 에이전트의 능력 여부가 아닙니다. 즉, 근본적인 추론입니다. 동일하지만 해당 기능을 적용하는 것이 허용되는지 여부입니다. AgentRidge 실제 블록을 유지하면서 인공 블록을 제거합니다: 모든 임무에 필요한 written mandate.
이론적 방법
자율 에이전트의 거부 행동을 제거하는 것은 잘 연구된 분야입니다. 에 개념적 수준에서 AgentRidge는 다음 클래스의 조합에 의존합니다. 기술. 이는 이론적 개요입니다. 구체적인 구현은 다음과 같습니다. 독점.
- 운영자 역할 프레이밍. 에이전트는 처음부터 공인된 전문가가 아닌 의무적인 업무를 수행하는 경우 일반 보조원. 작업이 도착하기 전에 해당 ID와 작업이 고정됩니다.
- 지침 우선순위. 작동 지침이 가장 높습니다. 우선순위이므로 작업 수준의 망설임이 임무 수준의 명령을 무시할 수 없습니다. 운영자가 이미 확인했습니다.
- 권한 맥락을 통한 정책 재구성. 계약의 법적 기본(범위, 클라이언트, 서면 위임장)은 에이전트 컨텍스트의 일부가 됩니다. "공격적 행동"을 "공인된 범위 내 테스트"로 재구성합니다.
- 객관적 고정. 에이전트는 다음의 구체적인 정의에 고정됩니다. 이는 성공에 안주하는 대신 입증된 영향력을 향해 계속 추진하고 있습니다. 조심스러운 부분 답변.
- 출력 형태 제약. 응답은 조작 형태로 제약됩니다. — 명령, 증거, 구조화된 결과 — 에이전트를 계속해서 자문 모드가 아닌 실무자 모드.
이를 통해 상담원은 일관되고 제한되지 않는 운영자 사고방식을 유지하게 됩니다. 전체 참여에 대해.
잠금 해제됨, 제어되지 않음
잠금을 해제하면 판단이 아닌 거절이 제거됩니다. 에이전트는 여전히 작동합니다 회사 경계 내부:
- 명령은 필수입니다. 운영자가 서면으로 확인할 때까지 임무는 실행되지 않습니다. 승인; 이는 단지 요청된 것이 아니라 애플리케이션 자체에 의해 시행됩니다.
- 범위는 존중됩니다. 에이전트는 선언된 목표를 달성하고 작업을 중단합니다. 관련되지 않은 시스템 및 네트워크 세그먼트.
- 돌이킬 수 없는 피해 없음. 파괴적인 작업 — 데이터 삭제, 랜섬웨어 스타일 생산에 위험을 초래하는 행동, 서비스 거부 등을 방지합니다. 대리인 피해를 입히는 대신 위험을 문서화합니다.
결과: 진정으로 공격적인 작업을 수행하는 에이전트가 됩니다. 통제되고 승인된 도구를 유지하면서 참여를 요구합니다.