मिस्ट्राल एआई शोध से पता चला कि प्रमाण-आधारित समीक्षक एजेंट भ्रष्टाचार रोकते हैं

मिस्ट्राल एआई और LLM समीक्षकों पर नया मल्टी-एजेंट शोध क्या बताता है?

मल्टी-एजेंट आर्किटेक्चर जटिल कार्यों के निष्पादन के लिए तेजी से मानक डिजाइन पैटर्न बनते जा रहे हैं। सामान्य सेटअप में, एक प्राथमिक निर्माण एजेंट एक प्रस्ताव या कोड बनाता है, और एक द्वितीयक समीक्षक एजेंट आउटपुट को अंतिम निष्पादन से पहले ऑडिट करता है। हालांकि, शोधकर्ताओं ने पाया कि बिना प्रतिबंधित समीक्षक एजेंट अक्सर पहले से सही आउटपुट को बदलकर प्रणालीगत त्रुटियाँ पैदा करते हैं—जिसे प्रस्ताव भ्रष्टाचार कहा जाता है।

प्रमाण-आधारित अधिकार कैसे समीक्षक भ्रष्टाचार को रोकता है?

ए arxiv CS.AI के शोधकर्ताओं ने मल्टी-एजेंट सिस्टम में संस्थागत अधिकार पर अध्ययन किया, 96 स्थानिक-नीति कार्यों और 96-कार्य पोर्टफोलियो-ट्रांसफर बेंचमार्क पर मॉडल का परीक्षण किया। व्यापक ओवरराइड अधिकार की तुलना एक "प्रमाण गेट"—एक नियम जो केवल तब प्रतिस्थापन की अनुमति देता है जब समीक्षक बंधन उल्लंघन का यांत्रिक रूप से मान्य रिकॉर्ड प्रस्तुत करता है—से शोध ने साबित किया कि संरचनात्मक सीमाएँ आउटपुट भ्रष्टाचार को तेज़ी से घटाती हैं जबकि लाभकारी मरम्मतों को बनाए रखती हैं।

प्रमुख मुख्य बिंदु

• बिना प्रतिबंधित LLM समीक्षक अक्सर मल्टी-एजेंट कार्यप्रवाहों में सही प्रस्तावों को भ्रष्ट करते हैं।
• प्रमाण-आधारित अधिकार केवल तब समीक्षक ओवरराइड की अनुमति देता है जब एक यांत्रिक बंधन उल्लंघन का प्रमाण प्रस्तुत किया जाए।
• मिस्ट्राल एआई और क्यूवेन मॉडलों पर परीक्षण ने गेटेड नियमों के तहत आउटपुट भ्रष्टाचार में महत्वपूर्ण कमी दिखाई।
• मॉडल व्यवहार शासन इंटरफेस के तहत व्यापक रूप से भिन्न होता है; क्यूवेन ने भ्रष्टाचार समाप्त किया जबकि मिस्ट्राल अभी भी हस्तक्षेप प्रवृत्त था।
• एंटरप्राइज़ एआई कार्यान्वयन के लिए संरचनात्मक इंटरफ़ेस डिजाइन आवश्यक है, केवल कच्चे मॉडल प्रॉम्प्ट पर निर्भर नहीं होना चाहिए।

यह क्यों महत्वपूर्ण है

जैसे-जैसे व्यवसाय मल्टी-एजेंट LLM सिस्टम को कोड जनरेशन, कानूनी समीक्षा और वित्तीय रिपोर्टिंग जैसे एंटरप्राइज़ कार्यों के लिए तैनात करते हैं, विश्वसनीयता सर्वोपरि है। बिना निगरानी वाले समीक्षक एजेंट सूक्ष्म त्रुटियाँ प्रस्तुत करते हैं जो मान्य डाउनस्ट्रीम निर्णयों को भ्रष्ट कर सकती हैं, जिससे परिचालन जोखिम पैदा होता है।

यह शोध मल्टी-एजेंट इंटरैक्शन को नियंत्रित करने के लिए एक ठोस गणितीय और वास्तुकला ब्लूप्रिंट प्रदान करता है। ओपन-एंडेड एजेंट मूल्यांकन से प्रमाण-आधारित अधिकार में परिवर्तन करके, तकनीकी टीमें वैध कार्य में कोई गिरावट लाए बिना स्वायत्त संचालन को सुरक्षित रूप से स्केल कर सकती हैं।

इसके अलावा, अध्ययन यह सिद्ध करता है कि मॉडल चयन सिस्टम स्थिरता को निर्धारित करता है। संगठनों को मिस्ट्राल एआई या क्यूवेन जैसे विशिष्ट फाउंडेशन मॉडलों के व्यवहारिक प्रवृत्तियों के साथ मेल खाते कस्टम इंटरफेस डिजाइन करने की आवश्यकता है।

अक्सर पूछे जाने वाले प्रश्न

• प्रमाण-आधारित अधिकार क्या है?

यह एक मल्टी-एजेंट शासन प्रोटोकॉल है जो समीक्षक भाषा मॉडल को प्राथमिक एजेंट के आउटपुट को ओवरराइड करने से रोकता है जब तक कि समीक्षक बंधन उल्लंघन का यांत्रिक रूप से सत्यापन योग्य प्रमाण और एक अनुपालन मरम्मत प्रस्तुत नहीं करता।

• मिस्ट्राल एआई मॉडल को समीक्षक समीक्षाओं के दौरान विशिष्ट संरचनात्मक गार्डरेल्स की आवश्यकता क्यों होती है?

शोध दर्शाता है कि मिस्ट्राल एआई ओपन-वेट मॉडल अक्सर आक्रामक रूप से हस्तक्षेप करते हैं और वैध आउटपुट को प्रतिस्थापित करते हैं; प्रमाण गेट जैसे संरचनात्मक गार्डरेल्स औपचारिक जाँच लागू करते हैं जो अनावश्यक प्रस्ताव भ्रष्टाचार को रोकते हैं।

• व्यवसाय इस शोध को विश्वसनीय मल्टी-एजेंट सिस्टम बनाने के लिए कैसे लागू कर सकते हैं?

व्यवसाय विशेष इंजीनियरिंग प्रदाताओं के साथ साझेदारी करके कस्टम AI टूल विकास और AI स्वचालन के लिए औपचारिक शासन गेट, यांत्रिक सत्यापन जाँच, और संरचित उन्नयन इंटरफ़ेस बना सकते हैं।