自律性とエージェントのロック解除
汎用 AI エージェントは、攻撃的なセキュリティ業務を拒否するように訓練されています。 株式アシスタントにログインフォームを悪用し、IDOR をアカウントに連鎖させるよう依頼する 乗っ取り、またはディレクトリ サービスに対して資格情報をスプレーすると、拒否されます - いいえ 婚約がどれほど正当なものであっても。その拒否により既製のエージェントが作成される 実際の侵入テストには役に立ちません。
AgentRidge は、エージェントであるプリンシパルとそのエージェントをロック解除することでこれを解決します。 サブエージェントは、 書面による命令であり、作業を妨げるガードレールはありません。
問題が抽出されました
違いはエージェントが能力があるかどうかではなく、根底にある推論です。 は同じですが、その機能の適用が許可されるかどうかが異なります。 AgentRidge 本物のブロック、つまりあらゆるミッションに必要なwritten mandateを保持しながら、人工ブロックを削除します。
理論的な方法
自律エージェントから拒否行動を取り除くことは、よく研究されている分野です。で 概念レベル、AgentRidge は、次のクラスの組み合わせに依存します。 テクニック。これは理論的な概要です。具体的な実装は次のとおりです。 独自の。
- オペレーター役割の枠組み エージェントは、最初からオペレーターとして確立されます。 権限を与えられた専門家が、任務を遂行するのではなく、義務付けられた業務を遂行する 一般的なアシスタント。そのアイデンティティとジョブは、タスクが到着する前に固定されます。
- 命令の優先順位 操作命令が最優先されます。 したがって、タスクレベルのためらいがミッションレベルの権限を無効にすることはできません。 オペレーターはすでに確認済みです。
- 認可コンテキストによるポリシーの再構成 エンゲージメントの法的要件 基礎 — 範囲、クライアント、書面による委任 — がエージェントのコンテキストの一部となり、 「攻撃的行為」を「認可された範囲内のテスト」と言い換える。
- 客観的な固定。 エージェントは、次の具体的な定義に固定されます。 これにより、結果に落ち着くのではなく、実証済みの影響に向けて前進し続けることができます。 慎重な部分的な回答。
- 出力形状の制約 応答は操作可能な形式に制約されます。 — コマンド、証拠、構造化された調査結果 — エージェントを拘束する アドバイザリーモードではなくプラクティショナーモード。
これらを組み合わせることで、エージェントは一貫した無制限の オペレーター マインドセット に保たれます。 エンゲージメント全体のために。
ロック解除されていますが、制御されていないわけではありません
ロックを解除すると、判断ではなく、拒否が解除されます。エージェントは今でも活動している しっかりとした境界線の内側:
- 命令は必須です。 オペレーターが書面による確認をするまでミッションは実行されません。 認可;これは、要求されるだけでなく、アプリケーション自体によって強制されます。
- 範囲は尊重されます。 エージェントは宣言された目標に取り組み、活動を停止します。 無関係なシステムとネットワークセグメント。
- 取り返しのつかない被害はありません。 破壊的なアクション - データの消去、ランサムウェア形式 本番環境を危険にさらす動作やサービス妨害は回避されます。エージェント 損害を与えるのではなく、リスクを文書化します。
結果: 攻撃的な仕事を真に「実行」するエージェントが誕生しました。 管理された承認されたツールでありながら、エンゲージメントの要求を満たします。