تمت ترجمة هذا المقال تلقائياً. للنسخة الأصلية، انقر هنا.
المصدر الأصلي: Agent Harness: Working with your data, safely
هذا واحد من منشورات هندسة الوكلاء الأكثر فائدة هذا العام لأنه يرفض الفخ الشائع المتمثل في إعطاء الأولوية للاستقلالية من أجل العرض التوضيحي أولاً. بدلاً من ذلك، يركّز على كيفية عمل الوكلاء حول بيانات المستخدمين الحقيقية والعواقب الحقيقية.
اللبنات الثلاث المُبرزة هنا صحيحة تمامًا.
الوصول إلى الملفات يمنح الوكلاء تأسيسًا مفيدًا في بيانات مملوكة للمستخدم.
بوابة الموافقة تمنع التنفيذ الصامت للإجراءات ذات العواقب.
الذاكرة الدائمة تتجنّب التفاعلات المتكررة دون التضحية بالتحكم.
معظم الفرق تُفرط في الاستثمار في اتساع الأدوات وتُقصّر في الاستثمار في دلالات الأذونات. هذا معكوس. وكيل بعشر أدوات وحدود موافقة ضعيفة أقل قيمة من وكيل بثلاث أدوات ونقاط تحكم يمكن التنبؤ بها.
أفضل نمط عملي في هذا المقال هو استراتيجية الموافقة المتدرجة (layered approval):
اطلب الموافقة دائمًا للأدوات عالية التأثير مثل التداول أو العمليات التدميرية.
اعتمد الموافقة التلقائية للقراءات منخفضة المخاطر للحفاظ على تدفق العمل.
استخدم موافقات دائمة محدودة النطاق للإجراءات الموثوقة المتكررة ضمن الجلسة نفسها.
هذا يخلق تدرّجًا صحيًا للمخاطر. لا يُقاطَع المستخدمون من أجل قراءات غير ضارة، لكنهم يظلون في الحلقة عندما تصبح العواقب مكلفة أو غير قابلة للتراجع عنها.
يعجبني أيضًا الفصل الصريح بين ذاكرة الملفات وذاكرة Foundry. يجب أن تتوقف الفرق عن محاولة إجبار نموذج ذاكرة واحد على حل كل مشكلة. عناصر الملفات الصريحة الخشنة ممتازة للحالة المرئية للمستخدم مثل التقارير وقوائم المراقبة. استخراج الذاكرة على مستوى الحقائق أفضل للتفضيلات وسياق المحادثة. مزج الاثنين يعطي نتائج أفضل من محاولة التظاهر بأن أحدهما كافٍ بمفرده.
رأيي الشخصي: مستقبل جودة الوكلاء سيُقاس بشكل أقل عبر الأوامر النصية الذكية وأكثر عبر بيئة ملائمة للأمان (safety ergonomics). إذا كانت مطالبات الموافقة لديك مزعجة، سينقر المستخدمون عبرها دون تفكير. إذا كانت حدود ذاكرتك غير واضحة، سيتوقف المستخدمون عن الثقة بالمساعد. إذا كانت إعدادات الوصول إلى البيانات لديك متساهلة، ستُغلق فرق الأمان المشروع.
بالنسبة لفرق .NET وPython التي تتبنى هذا النمط، الخطوة الأساسية هي التعامل مع استدعاءات السياسات وقواعد الموافقة كمنطق أعمال أساسي، يُصدَر بإصدارات ويُختبَر مثل أي كود حرج آخر. لا تتركها كدوال lambda مؤقتة مدفونة في العيّنات.
أنظمة الوكلاء التي تكسب الثقة ليست تلك التي تفعل أكبر قدر ممكن. إنها تلك التي تفعل بالضبط ما قصده المستخدمون، لا أكثر ولا أقل، مع نقاط مقاطعة واضحة عندما ترتفع المخاطر.
هذا هو الفرق بين عرض توضيحي مثير للإعجاب وبرمجيات يرغب الناس في تفويض عمل حقيقي لها.
