मूल स्रोत: Agent Harness: Working with your data, safely
यह इस साल के सबसे उपयोगी एजेंट इंजीनियरिंग पोस्टों में से एक है क्योंकि यह डेमो-प्रथम स्वायत्तता के सामान्य जाल को अस्वीकार करता है। इसके बजाय, यह इस बात पर ध्यान केंद्रित करता है कि एजेंटों को वास्तविक उपयोगकर्ता डेटा और वास्तविक परिणामों के आसपास कैसे काम करना चाहिए।
यहाँ highlighted तीन बिल्डिंग ब्लॉक बिल्कुल सही हैं।
फ़ाइल एक्सेस एजेंटों को उपयोगकर्ता-स्वामित्व वाले डेटा में उपयोगी ग्राउंडिंग देता है।
अनुमोदन गेटिंग महत्वपूर्ण कार्यों के मूक निष्पादन को रोकता है।
टिकाऊ मेमोरी नियंत्रण का त्याग किए बिना दोहराव वाली बातचीत से बचाती है।
अधिकांश टीमें टूल विस्तार में अधिक निवेश करती हैं और अनुमति शब्दार्थ में कम निवेश करती हैं। यह उल्टा है। कमजोर अनुमोदन सीमाओं वाला दस टूल वाला एजेंट, तीन टूल और पूर्वानुमानित नियंत्रण बिंदुओं वाले एजेंट से कम मूल्यवान है।
इस लेख में सबसे अच्छा व्यावहारिक पैटर्न स्तरित अनुमोदन रणनीति है:
उच्च-प्रभाव वाले टूल जैसे ट्रेडिंग या विनाशकारी संचालन के लिए हमेशा अनुमोदन आवश्यक करें।
प्रवाह बनाए रखने के लिए कम-जोखिम वाली रीड को स्वतः-अनुमोदित करें।
एक सेशन के भीतर दोहराए जाने वाले विश्वसनीय कार्यों के लिए स्कोप्ड स्थायी अनुमोदन का उपयोग करें।
यह एक स्वस्थ जोखिम ग्रेडिएंट बनाता है। उपयोगकर्ता हानिरहित रीड के लिए बाधित नहीं होते, लेकिन जब परिणाम महंगे या अपरिवर्तनीय हो जाते हैं तब भी वे लूप में रहते हैं।
मुझे फ़ाइल मेमोरी और Foundry मेमोरी के बीच स्पष्ट विभाजन भी पसंद है। टीमों को एक मेमोरी मॉडल को हर समस्या को हल करने के लिए मजबूर करना बंद कर देना चाहिए। मोटे, स्पष्ट फ़ाइल आर्टिफैक्ट रिपोर्ट और वॉचलिस्ट जैसी उपयोगकर्ता-दृश्य स्थिति के लिए उत्कृष्ट हैं। तथ्य-स्तरीय मेमोरी निष्कर्षण प्राथमिकताओं और वार्तालाप संदर्भ के लिए बेहतर है। दोनों को मिलाने से यह दिखावा करने से बेहतर परिणाम मिलते हैं कि कोई एक पर्याप्त है।
मेरी राय: एजेंट गुणवत्ता का भविष्य चतुर प्रॉम्प्ट से कम और सुरक्षा एर्गोनॉमिक्स से अधिक मापा जाएगा। यदि आपके अनुमोदन प्रॉम्प्ट शोरगुल वाले हैं, तो उपयोगकर्ता आँख बंद करके क्लिक करते हैं। यदि आपकी मेमोरी सीमाएँ अस्पष्ट हैं, तो उपयोगकर्ता सहायक पर भरोसा करना बंद कर देते हैं। यदि आपके डेटा एक्सेस डिफ़ॉल्ट अनुमतिपूर्ण हैं, तो सुरक्षा टीमें प्रोजेक्ट को बंद कर देंगी।
.NET और Python टीमों के लिए जो इस पैटर्न को अपना रही हैं, मुख्य कदम पॉलिसी कॉलबैक और अनुमोदन नियमों को कोर बिज़नेस लॉजिक के रूप में मानना है, जो किसी भी अन्य महत्वपूर्ण कोड की तरह वर्जन और परीक्षण किया गया हो। उन्हें नमूनों में दबे ad-hoc lambdas के रूप में न छोड़ें।
एजेंट सिस्टम जो विश्वास अर्जित करते हैं वे वे नहीं हैं जो सबसे अधिक करते हैं। वे वे हैं जो उपयोगकर्ता के इरादे के अनुसार ठीक वही करते हैं, न अधिक, न कम, जोखिम बढ़ने पर स्पष्ट रुकावट बिंदुओं के साथ।
यह एक प्रभावशाली डेमो और उस सॉफ़्टवेयर के बीच का अंतर है जिसे लोग वास्तविक कार्य सौंपने को तैयार हैं।
