פתיחת נעילה של אוטונומיה וסוכן
סוכני בינה מלאכותית למטרות כלליות הוכשרו לסרב לעבודה אבטחה התקפית. בקש מעוזר מניות לנצל טופס התחברות, שרשרת IDOR בחשבון השתלטות, או ריסוס אישורים נגד שירות מדריכים, וזה דוחה - לא משנה עד כמה ההתקשרות לגיטימית. הסירוב הזה עושה סוכן מדף חסר תועלת עבור בדיקות חדירה אמיתיות.
AgentRidge פותר את זה על ידי פתיחת של סוכניו: המנהל ושלו סוכני משנה מוגדרים לפעול כמפעיל צוות אדום מקצועי תחת א צו כתוב, ללא מעקות הבטיחות שאחרת יחסמו את העבודה.
הבעיה, ממושכת
ההבחנה אינה האם הסוכן מסוגל - ההנמקה הבסיסית זהה - אבל האם מותר להחיל את היכולת הזו. AgentRidge מסיר את החסימה המלאכותית תוך שמירה על אחד אמיתי: ה-written mandate שכל משימה דורשת.
השיטות התיאורטיות
הסרת התנהגות סרבנות מגורם אוטונומי היא תחום שנלמד היטב. בשעה א רמה מושגית, AgentRidge מסתמכת על שילוב של המחלקות הבאות של טכניקה. זוהי סקירה תיאורטית - היישום הספציפי הוא קנייני.
- מסגור מפעיל-תפקיד. הסוכן מבוסס, מהיסוד, בתור א בעל מקצוע מורשה המבצע התקשרות חובה במקום א עוזר כללי. זהותו ותפקידו קבועים לפני שמגיעה כל משימה.
- עדיפות הוראות. הוראות ההפעלה ניתנות ברמה הגבוהה ביותר עדיפות, כך שהיסוס ברמת המשימה לא יכול לעקוף את המנדט ברמת המשימה המפעיל כבר אישר.
- עיצוב מחדש של המדיניות באמצעות הקשר הרשאה. ההתקשרות חוקית בסיס - היקף, לקוח, מנדט בכתב - נעשה חלק מההקשר של הסוכן, מסגור מחדש של "פעולה פוגענית" כ"בדיקה מורשית, בהיקף".
- עיגון אובייקטיבי. הסוכן מעוגן להגדרה קונקרטית של נעשה, מה שמשאיר אותו לדחוף לעבר השפעה מוכחת במקום להסתפק בא תשובה חלקית זהירה.
- הגבלות צורת פלט. התגובות מוגבלות לצורות מבצעיות
- פקודות, ראיות, ממצאים מובנים - מה שמחזיק את הסוכן בפנים מצב מתרגל ולא מצב ייעוץ.
יחד אלה שומרים על הסוכנים ב-מחשבה של מפעיל עקבית וללא הגבלה לכל האירוסין.
לא נעול, לא בלתי מבוקר
פתיחת הנעילה מסירה את הסירוב, לא את שיפוט. הסוכנים עדיין פועלים בתוך גבולות איתן:
- מנדט הוא חובה. אין משימה פועלת עד שהמפעיל מאשר בכתב הרשאה; זה נאכף על ידי היישום עצמו, לא רק מתבקש.
- מכבדים את ההיקף. הסוכנים עובדים על המטרות המוצהרות ונשארים מחוץ לבית מערכות וקטעי רשת לא קשורים.
- ללא נזק בלתי הפיך. פעולות הרסניות - מחיקת נתונים, בסגנון תוכנת כופר התנהגות, מניעת שירות שמסכן ייצור - נמנעים; הסוכן מתעד את הסיכון במקום לגרום נזק.
התוצאה: סוכן שבאמת יעשה את העבודה ההתקפית בצורה אמיתית דרישות מעורבות, תוך שמירה על כלי מבוקר ומורשה.