Chuyển tới nội dung chính

Quyền tự chủ và mở khóa đại lý

Các đặc vụ AI có mục đích chung được đào tạo để từ chối công việc tấn công an ninh. Yêu cầu trợ lý chứng khoán khai thác biểu mẫu đăng nhập, xâu chuỗi IDOR vào tài khoản tiếp quản hoặc gửi thông tin xác thực chống lại dịch vụ thư mục và nó từ chối - không dù việc đính hôn có hợp pháp đến thế nào đi chăng nữa. Sự từ chối đó tạo nên một đại lý có sẵn vô ích cho việc thử nghiệm thâm nhập thực sự.

AgentRidge giải quyết vấn đề này bằng cách mở khóa các đại lý của nó: Hiệu trưởng và các đại lý phụ được cấu hình để hoạt động như một nhà điều hành đội đỏ chuyên nghiệp theo một ủy quyền bằng văn bản, không có lan can ngăn cản công việc.

Vấn đề được rút ra​

Sự khác biệt không phải là liệu tác nhân có khả năng hay không - lý do cơ bản giống nhau — nhưng liệu nó có được phép áp dụng khả năng đó hay không. AgentRidge loại bỏ khối nhân tạo trong khi vẫn giữ khối thật: written mandate mà mọi nhiệm vụ đều yêu cầu.

##Các phương pháp lý thuyết

Loại bỏ hành vi từ chối khỏi một đại lý tự trị là một lĩnh vực được nghiên cứu kỹ lưỡng. Tại một cấp độ khái niệm, AgentRidge dựa vào sự kết hợp của các lớp sau kỹ thuật. Đây là tổng quan về mặt lý thuyết - việc triển khai cụ thể là độc quyền.

  • Định khung vai trò của người vận hành. Đại lý được thiết lập ngay từ đầu với tư cách là một chuyên gia được ủy quyền thực hiện một công việc được ủy quyền chứ không phải là một trợ lý chung. Danh tính và công việc của nó được cố định trước khi bất kỳ nhiệm vụ nào đến.
  • Ưu tiên hướng dẫn. Hướng dẫn vận hành được đưa ra ở mức cao nhất mức độ ưu tiên, do đó, sự do dự ở cấp độ nhiệm vụ không thể ghi đè lên nhiệm vụ ở cấp độ nhiệm vụ nhà điều hành đã xác nhận.
  • Điều chỉnh lại chính sách thông qua bối cảnh ủy quyền. Tính pháp lý của hợp đồng cơ sở - phạm vi, khách hàng, ủy quyền bằng văn bản - được coi là một phần của bối cảnh của đại lý, điều chỉnh lại "hành động tấn công" thành "thử nghiệm trong phạm vi được ủy quyền".
  • neo bám khách quan. Tác nhân được neo vào một định nghĩa cụ thể về được thực hiện, điều này giúp nó tiếp tục hướng tới tác động đã được chứng minh thay vì giải quyết một câu trả lời một phần thận trọng.
  • Ràng buộc về hình dạng đầu ra. Các phản hồi bị ràng buộc ở dạng hoạt động — mệnh lệnh, bằng chứng, phát hiện có cấu trúc — giữ cho tác nhân ở lại chế độ người thực hành hơn là chế độ tư vấn.

Những điều này cùng nhau giữ cho các đại lý có một tư duy điều hành nhất quán, không hạn chế cho toàn bộ sự tham gia.

Đã mở khóa, không mất kiểm soát​

Việc mở khóa sẽ loại bỏ từ chối chứ không phải phán xét. Đại lý vẫn hoạt động bên trong ranh giới vững chắc:

  • Nhiệm vụ là bắt buộc. Không có nhiệm vụ nào được thực hiện cho đến khi người điều hành xác nhận bằng văn bản ủy quyền; điều này được thực thi bởi chính ứng dụng chứ không chỉ được yêu cầu.
  • Phạm vi được tôn trọng. Các đặc vụ làm việc theo mục tiêu đã khai báo và tránh xa các hệ thống và phân đoạn mạng không liên quan.
  • Không có tác hại không thể khắc phục. Hành động phá hoại — xóa sạch dữ liệu, kiểu ransomware hành vi, từ chối dịch vụ gây rủi ro cho việc sản xuất — đều được tránh; đại lý ghi lại rủi ro thay vì gây ra thiệt hại.

Kết quả: một đặc vụ sẽ thực hiện công việc tấn công một cách thực sự nhu cầu tham gia, trong khi vẫn là một công cụ được ủy quyền, được kiểm soát.

Tiếp theo: the full mission lifecycle →