सध्या GitHub वर मल्टी-एजंट वर्कफ्लोचे (Multi-agent workflows) वर्चस्व आहे. डेव्हलपर्स लार्ज लँग्वेज मॉडेल्सना एकमेकांशी जोडत आहेत, प्रत्येक एजंटला एक विशिष्ट स्पेशालिटी देत आहेत आणि अशा प्रकारे त्यांच्या आउटपुट्सचे नियोजन (orchestrating) करत आहेत की, ज्याद्वारे अशी कामे पूर्ण करता येतील जी एखादे मॉडेल एकट्याने करू शकत नाही. याचे परिणाम प्रभावी असू शकतात. एक एजंट संशोधन करतो, दुसरा मसुदा तयार करतो, तिसरा तथ्यांची पडताळणी करतो आणि चौथा अंतिम आउटपुट फॉरमॅट करतो. परंतु या सर्व समन्वयामागे एक नाजूक अवलंबित्व (brittle dependency) दडलेले आहे. जर पहिली पायरी, म्हणजेच मानवी इनपुटचे मशीन-रीडेबल सूचनांमध्ये रूपांतर करणे, संथ किंवा चुकीचे असेल, तर संपूर्ण साखळी विस्कळीत होते. एक डाउनस्ट्रीम एजंट चुकीची माहिती (garbage) सुधारू शकत नाही; तो फक्त ती पुढे पसरवू शकतो.

हा अडथळा (bottleneck) जिथे Iflytek/domux कामाला येते. हे नेमके एका अत्यंत महत्त्वाच्या कामासाठी बनवलेले ओपन-सोर्स मॉडेल आहे: जलद कमांड समजून घेणे. निबंध लिहिण्याऐवजी किंवा दीर्घ संवाद साधण्याऐवजी, domux नैसर्गिक भाषांचे विश्लेषण करते आणि कठोर, स्ट्रक्चर्ड डेटा एक्सपोर्ट करते जो इतर एजंट्स लगेच वापरू शकतात. स्मार्ट होम हबपासून ते औद्योगिक नियंत्रण पॅनेलपर्यंत, ज्या कोणत्याही सिस्टमला रिअल-टाइम स्ट्रक्चर्ड इनपुटची आवश्यकता आहे, ती याचा 'पर्सेप्शन लेयर' (perception layer) म्हणून वापर करू शकते.

साखळीतील सर्वात कमकुवत दुवा

जेव्हा एखादा वापरकर्ता “make it brighter in here” (इथे थोडे उजेड वाढवा) सारखी साधी कमांड देतो, तेव्हा काय होते याचा विचार करा. मल्टी-एजंट सेटअपमध्ये, हे विधान लाइटिंग कंट्रोलर, एनर्जी मॉनिटर आणि सिक्युरिटी लॉगरमधून जाण्याची आवश्यकता असू शकते. जर सुरुवातीच्या पार्सरने “user wants more light” (वापरकर्त्याला अधिक प्रकाश हवा आहे) असे अस्पष्ट वाक्य दिले, तर प्रत्येक पुढील एजंटला त्याचा अर्थ पुन्हा लावणे आवश्यक असते. काही एजंट अचूक पॅरामीटर्सची प्रतीक्षा करत थांबून राहू शकतात. इतर कदाचित खोली किंवा ब्राइटनेसची पातळी ओळखण्याचा अंदाज लावतील आणि त्यात चूक करू शकतात. यामुळे वर्कफ्लो पूर्णपणे थांबतो.

लॅटन्सी (Latency) ही समस्या अधिक गंभीर बनवते. जर प्रवेश बिंदूवर (entry point) काही शेकडो मिलीसेकंदचा पार्सिंग विलंब झाला, तर माहिती तिसऱ्या एजंटपर्यंत पोहोचण्यापूर्वीच सिस्टम खराब झाल्यासारखी वाटते. रिअल-टाइम वातावरणात संथ सुरुवातीला क्षमा केली जात नाही. डेव्हलपर्सना असे आढळत आहे की ऑर्केस्ट्रेशन फ्रेमवर्क्स आर्किटेक्चर डायग्रामवर सुंदर दिसतात, परंतु जेव्हा त्यांना संदिग्ध किंवा संथ इनपुट्स दिले जातात, तेव्हा ते कोलमडतात. तुम्हाला अशा समर्पित लेयरची गरज आहे जो उर्वरित वर्कफ्लो विचार करण्यास सुरुवात करण्यापूर्वीच कमांड्सचे मानकीकरण (standardize) करेल.

Domux हे लेयर म्हणून डिझाइन केलेले आहे. ते मानवी भाषेतील गोंधळ स्वीकारते आणि त्याचे स्वच्छ स्कीमामध्ये (clean schema) रूपांतर करते, ज्याला डाउनस्ट्रीम एजंट्स 'ग्राउंड ट्रुथ' (ground truth) म्हणून मानू शकतात.

वेग, रचना आणि अचूकता

हा प्रकल्प तीन वैशिष्ट्यांची जाहिरात करतो जे थेट प्रोडक्शन बिहेविअरवर परिणाम करतात.

पहिले म्हणजे, ते 150 मिलीसेकंदपेक्षा कमी वेळात प्रतिसाद देते. ही मर्यादा महत्त्वाची आहे. इंटरअॅक्टिव्ह सेटिंग्जमध्ये, पावणे सेकंदापेक्षा कमी वेळेतील प्रतिसाद तात्काळ वाटतो, तर एक पूर्ण सेकंद घेणारा प्रतिसाद वापरकर्त्यांना ते टूल वापरणे सोडून देण्यास प्रवृत्त करतो. इनपुट आवाजातून असो किंवा चॅट इंटरफेस मधून, domux पाईपलाईन गतिमान ठेवते.

दुसरे म्हणजे, ते इनपुट्सना एका कडक सात-फील्ड स्कीमामध्ये (seven-field schema) मॅप करते. डाउनस्ट्रीम सिस्टम्सना डिकोड करण्यासाठी कोणताही मुक्त-स्वरूपातील मजकूर (free-form text) नसतो. प्रत्येक कमांड एका अंदाजित कॉलममध्ये विभागली जाते.

तिसरे म्हणजे, ते 100 टक्के फॉरमॅट कंप्लायन्ससह 98.37 टक्के अचूकतेचा दावा करते. अचूकता म्हणजे मॉडेल सहसा वापरकर्त्याला योग्यरित्या समजते. फॉरमॅट कंप्लायन्स म्हणजे आउटपुट प्रत्येक वेळी स्ट्रक्चरलदृष्ट्या वैध असते. एखादा पार्सर जो 99 टक्के अचूक आहे परंतु अधूनमधून एखादे फील्ड सोडतो किंवा नवीन फील्ड तयार करतो, तो ऑटोमेटेड साखळीमध्ये धोकादायक ठरू शकतो. एक चुकीची ओळ (malformed row) कन्झ्युमर एजंट क्रॅश करू शकते.

आउटपुट प्रत्यक्षात कसे दिसते ते खालीलप्रमाणे आहे. जेव्हा मॉडेल कमांडवर प्रक्रिया करते, तेव्हा ते पाईप-डिलिमिटेड रेकॉर्ड परत करते:

action|device|attribute|value|unit|room|floor
turnOn|light|brightness|80|percent|living room|ground floor

ही रचना हेतुपुरस्सर आहे. पाईप-डिलिमिटेड मजकूर कोणत्याही प्रोग्रामिंग भाषेत कोणत्याही जड अवलंबनाशिवाय (dependencies) पार्स करणे सोपे असते. हे JSON ब्लोट आणि नेस्टेड सिरीयलायझेशनच्या लॅटन्सी टाळते. लाइटिंग एजंट 'action' आणि 'device' कॉलम्स वाचून त्वरित कृती करू शकतो. लॉगिंग एजंट पुन्हा इन्फरन्स पास न चालवता खोली (room) आणि मजला (floor) काढू शकतो. ही रचना रचनेद्वारेच संदिग्धता दूर करते.

मानवी संभ्रमित हेतू हाताळणे

खरे लोक API डॉक्युमेंटेशनसारखे बोलत नाहीत. ते “make it brighter” किंवा “warm this place up” सारख्या गोष्टी म्हणतात. एक नाजूक पार्सर यावर अपयशी ठरेल. Domux हेते (intent) एका ॲडजस्टमेंट ॲक्शनमध्ये मॅप करून आणि डाउनस्ट्रीम सिस्टम्सना नेमकी व्हॅल्यू ठरवू देऊन या अस्पष्टतेचे निराकरण करते. जर कोणी “make it brighter” असे म्हटले, तर मॉडेल त्या कृतीला ब्राइटनेस वाढवणे म्हणून ओळखते. विशिष्ट संख्यात्मक पातळी सध्याची रीडिंग, दिवसाची वेळ, किंवा