Aliran kerja pelbagai ejen sedang mendominasi GitHub sekarang. Pembangun sedang merangkaian model bahasa besar, memberikan setiap ejen pengkhususan yang sempit, dan menyelaraskan output mereka untuk menangani tugasan yang tidak dapat dikendalikan oleh satu model sahaja. Hasilnya boleh menjadi sangat mengagumkan. Satu ejen melakukan penyelidikan, satu lagi merangka draf, ejen ketiga menyemak fakta, dan ejen keempat memformat output akhir. Namun, di sebalik semua penyelarasan itu, wujud satu kebergantungan yang rapuh. Jika langkah pertama, iaitu menukar input manusia kepada arahan yang boleh dibaca oleh mesin, adalah perlahan atau tidak tepat, seluruh rantaian akan runtuh. Ejen hiliran tidak boleh membaiki data sampah. Ia hanya boleh menyebarkannya.
Kesesakan inilah tempat di mana Iflytek/domux memainkan peranan. Ia adalah model sumber terbuka yang dibina khusus untuk satu tugas berisiko tinggi: pemahaman arahan yang pantas. Daripada menjana esei atau mengadakan perbualan terbuka, domux menterjemah bahasa tabii dan mengeksport data berstruktur yang tegar yang boleh digunakan oleh ejen lain dengan serta-merta. Mana-mana sistem yang memerlukan input berstruktur masa nyata, daripada hab rumah pintar hingga ke panel kawalan industri, boleh menggunakannya sebagai lapisan persepsi.
Pautan paling lemah dalam rantaian
Pertimbangkan apa yang berlaku apabila seorang pengguna memberikan arahan mudah seperti “jadikan ia lebih terang di sini.” Dalam tetapan pelbagai ejen, ucapan tersebut mungkin perlu melalui pengawal pencahayaan, pemantau tenaga, dan log keselamatan. Jika penterjemah awal mengembalikan ayat yang kabur seperti “pengguna mahukan lebih cahaya,” setiap ejen seterusnya perlu mentafsir semula maksudnya. Sesetengah ejen mungkin terhenti sementara menunggu parameter yang tepat. Yang lain mungkin meneka bilik atau tahap kecerahan dan melakukan kesilapan. Aliran kerja tersebut akan terhenti sepenuhnya.
Latensi memburukkan lagi masalah ini. Tambah beberapa ratus milisaat kelewatan penterjemahan pada titik masuk, dan menjelang masa maklumat sampai ke ejen ketiga, sistem tersebut sudah terasa rosak. Persekitaran masa nyata tidak memberi ruang kepada permulaan yang perlahan. Pembangun mendapati bahawa rangka kerja penyelarasan kelihatan cantik pada rajah seni bina tetapi runtuh apabila diberikan input yang kabur atau lembap. Anda memerlukan lapisan khusus yang menyeragamkan arahan sebelum baki aliran kerja mula berfikir.
Domux direka untuk menjadi lapisan tersebut. Ia menerima bahasa manusia yang tidak teratur dan menukarkannya kepada skema bersih yang boleh dianggap sebagai kebenaran asas oleh ejen hiliran.
Kelajuan, struktur, dan ketepatan
Projek ini mempromosikan tiga ciri yang memberi kesan langsung kepada tingkah laku produksi.
Pertama, ia bertindak balas dalam masa kurang daripada 150 milisaat. Ambang ini sangat penting. Dalam tetapan interaktif, respons di bawah suku saat terasa serta-merta, manakala apa sahaja yang menghampiri satu saat penuh akan melatih pengguna untuk meninggalkan alatan tersebut. Sama ada input datang daripada suara atau antara muka sembang, domux memastikan saluran kerja terus bergerak.
Kedua, ia memetakan input kepada skema tujuh-medan yang ketat. Tiada teks bebas untuk dinyahkod oleh sistem hiliran. Setiap arahan dimasukkan ke dalam lajur yang boleh diramal.
Ketiga, ia mendakwa ketepatan 98.37 peratus di samping pematuhan format 100 peratus. Ketepatan bermaksud model biasanya memahami pengguna dengan betul. Pematuhan format bermaksud output adalah sah secara struktur setiap masa. Penterjemah yang mempunyai ketepatan 99 peratus tetapi kadangkala menggugurkan medan atau mencipta medan baharu adalah satu liabiliti dalam rantaian automatik. Satu baris yang salah format boleh menyebabkan ejen pengguna terhenti.
Berikut adalah rupa output yang sebenar. Apabila model memproses arahan, ia mengembalikan rekod bersempadan paip:
action|device|attribute|value|unit|room|floorturnOn|light|brightness|80|percent|living room|ground floor
Format ini adalah disengajakan. Teks bersempadan paip sangat mudah diterjemah dalam mana-mana bahasa pengaturcaraan tanpa kebergantungan yang berat. Ia mengelakkan pembengkakan JSON dan latensi penserialan bersarang. Ejen pencahayaan boleh membaca lajur tindakan dan peranti serta bertindak serta-merta. Ejen log boleh mengekstrak bilik dan tingkat tanpa menjalankan proses inferens yang lain. Struktur ini menghapuskan kekaburan melalui reka bentuknya.
Mengendalikan niat manusia yang tidak teratur
Manusia sebenar tidak bercakap seperti dokumentasi API. Mereka menyebut perkara seperti “jadikan ia lebih terang” atau “hangatkan tempat ini.” Penterjemah yang rapuh akan gagal dalam situasi tersebut. Domux mengendalikan kekaburan dengan memetakan niat kepada tindakan pelarasan dan membiarkan sistem hiliran menyelesaikan nilai yang tepat. Jika seseorang berkata “jadikan ia lebih terang,” model mengenal pasti tindakan tersebut sebagai peningkatan kecerahan. Tahap numerik yang khusus diserahkan kepada ejen pencahayaan untuk ditentukan berdasarkan bacaan semasa, waktu, atau