स्वायत्तता और एजेंट अनलॉकिंग
सामान्य-उद्देश्य वाले एआई एजेंटों को आक्रामक-सुरक्षा कार्य को इनकार करने के लिए प्रशिक्षित किया जाता है। एक स्टॉक सहायक से लॉगिन फॉर्म का उपयोग करने के लिए कहें, एक आईडीओआर को खाते में शामिल करें किसी निर्देशिका सेवा के विरुद्ध अधिग्रहण, या क्रेडेंशियल स्प्रे करें, और यह अस्वीकार हो जाता है - नहीं सगाई कितनी भी वैध क्यों न हो. वह इनकार एक ऑफ-द-शेल्फ एजेंट बनाता है वास्तविक प्रवेश परीक्षण के लिए बेकार।
AgentRidge अपने एजेंटों को अनलॉक करके इसका समाधान करता है: प्रिंसिपल और उसके उप-एजेंटों को एक पेशेवर रेड-टीम ऑपरेटर के रूप में काम करने के लिए कॉन्फ़िगर किया गया है लिखित आदेश, रेलिंग के बिना जो अन्यथा काम को अवरुद्ध कर देगा।
समस्या, खिंच गई
अंतर यह नहीं है कि एजेंट सक्षम है या नहीं - अंतर्निहित तर्क वही है - लेकिन क्या उस क्षमता को लागू करने की अनुमति है। AgentRidge वास्तविक ब्लॉक रखते हुए कृत्रिम ब्लॉक को हटा देता है: written mandate जिसकी हर मिशन को आवश्यकता होती है।
सैद्धांतिक तरीके
एक स्वायत्त एजेंट से इनकार के व्यवहार को हटाना एक अच्छी तरह से अध्ययन किया गया क्षेत्र है। ए पर वैचारिक स्तर, AgentRidge निम्नलिखित वर्गों के संयोजन पर निर्भर करता है तकनीक. यह एक सैद्धांतिक अवलोकन है - विशिष्ट कार्यान्वयन है मालिकाना.
- ऑपरेटर-भूमिका निर्धारण। एजेंट को शुरू से ही एक के रूप में स्थापित किया जाता है अधिकृत पेशेवर एक अनिवार्य कार्य को पूरा करने के बजाय सामान्य सहायक. किसी भी कार्य के आने से पहले ही उसकी पहचान और काम तय हो जाता है।
- निर्देश प्राथमिकता. परिचालन निर्देश उच्चतम दिए गए हैं प्राथमिकता, इसलिए कार्य-स्तरीय झिझक मिशन-स्तरीय जनादेश को खत्म नहीं कर सकती ऑपरेटर ने पहले ही पुष्टि कर दी है.
- प्राधिकरण संदर्भ के माध्यम से नीति को फिर से तैयार करना। संलग्नता कानूनी है आधार - दायरा, ग्राहक, लिखित अधिदेश - को एजेंट के संदर्भ का हिस्सा बनाया गया है, "आक्रामक कार्रवाई" को "अधिकृत, इन-स्कोप परीक्षण" के रूप में पुनः परिभाषित करना।
- उद्देश्यपूर्ण एंकरिंग। एजेंट की एक ठोस परिभाषा तय की गई है किया गया, जो इसे समाधान करने के बजाय सिद्ध प्रभाव की ओर धकेलता रहता है सतर्क आंशिक उत्तर.
- आउटपुट-आकार की बाधाएँ। प्रतिक्रियाएँ परिचालन रूपों में सीमित हैं
- आदेश, साक्ष्य, संरचित निष्कर्ष - जो एजेंट को अंदर रखता है सलाहकार मोड के बजाय प्रैक्टिशनर मोड।
ये सब मिलकर एजेंटों को एक सुसंगत, अप्रतिबंधित ऑपरेटर मानसिकता में रखते हैं पूरी सगाई के लिए.
खुला, अनियंत्रित नहीं
अनलॉक करने से इनकार दूर हो जाता है, निर्णय नहीं। एजेंट अभी भी काम कर रहे हैं दृढ़ सीमाओं के अंदर:
- एक अधिदेश अनिवार्य है। कोई भी मिशन तब तक नहीं चलता जब तक ऑपरेटर लिखित पुष्टि न कर दे प्राधिकरण; इसे एप्लिकेशन द्वारा ही लागू किया जाता है, न कि केवल अनुरोध किया जाता है।
- दायरे का सम्मान किया जाता है। एजेंट घोषित लक्ष्यों पर काम करते हैं और दूर रहते हैं असंबंधित सिस्टम और नेटवर्क खंड।
- कोई अपरिवर्तनीय क्षति नहीं। विनाशकारी गतिविधियाँ - डेटा मिटाना, रैंसमवेयर-शैली व्यवहार, सेवा से इनकार जो उत्पादन को जोखिम में डालता है - से बचा जाता है; एजेंट क्षति पहुँचाने के बजाय जोखिम का दस्तावेजीकरण करें।
परिणाम: एक एजेंट जो वास्तव में आपत्तिजनक कार्य को वास्तविक कर देगा सहभागिता की मांग, एक नियंत्रित, अधिकृत उपकरण रहते हुए।