Mengapa Pemampatan Konteks AI Secara Senyap Mengabaikan Arahan Anda
Apabila perbualan dengan Model Bahasa Besar (LLM) menjadi semakin panjang, pembangun semakin bergantung kepada "pemampatan konteks" (context compression) atau pemampatan untuk menguruskan had token dan mengelakkan kesesakan prestasi. Walau bagaimanapun, penyelidikan baharu mendedahkan kecacatan kritikal dalam pengoptimuman ini: apabila sistem AI meringkaskan sejarah perbualan untuk menjimatkan ruang, mereka sering membuang peraturan yang sepatutnya mengawal tingkah laku mereka.
Kerapuhan Kekangan Sesi
Apabila sistem AI menjalani pemampatan, matlamat utamanya adalah untuk mengekalkan kesinambungan tugas—mengekalkan objektif, keadaan semasa, dan langkah seterusnya yang diperlukan. Walaupun ini mengekalkan aspek "apa" dalam sesuatu perbualan, ia sering mengorbankan aspek "bagaimana."
Penyelidik di Penn State telah mengenal pasti bahawa "kekangan sesi" (session constraints) adalah mangsa pertama proses ini. Ini merupakan peraturan tidak kekal yang ditetapkan oleh pengguna seperti "Jangan sesekali gunakan nama saya dalam jawapan anda" atau "Sahkan dengan saya sebelum membuat sebarang perubahan." Oleh kerana arahan ini bukan sebahagian daripada tugas teras atau arahan sistem (system prompt) yang kekal, algoritma pemampatan menganggapnya sebagai butiran sekunder dan membuangnya untuk memberi ruang kepada data yang lebih relevan.
Penemuan COMPINT: Kadar Kelangsungan 17%
Untuk mengukur kemerosotan ini, penyelidik telah membangunkan suite penilaian COMPINT. Keputusannya sangat ketara: secara purata, hanya 17 peratus kekangan sesi yang dimasukkan berjaya melepasi proses pemampatan.
Kajian tersebut menonjolkan penurunan ketara dalam pematuhan peraturan. Apabila ejen mempunyai akses kepada konteks penuh yang tidak dimampatkan, kadar pematuhan biasanya berada antara 59% hingga 71%. Sebaik sahaja pemampatan berlaku, pematuhan merosot tajam, sering kali jatuh ke tahap yang sukar dibezakan daripada senario di mana tiada kekangan pernah diberikan.
Ini bukan sekadar isu nuansa perbualan; ia adalah risiko keselamatan dan kebolehpercayaan yang besar. Dalam aliran kerja ejen (agentic workflows), kehilangan kekangan seperti "Jangan laksanakan kod tanpa kelulusan" boleh menyebabkan panggilan alatan yang tidak dibenarkan, kebocoran data, atau perubahan yang tidak disahkan pada sistem luaran seperti kalendar atau e-mel.
Penyelesaian Ringan melalui Qwen3.5-9B
Daripada merombak logik pemampatan kompleks yang digunakan oleh makmal AI utama, penyelidik mencadangkan penyelesaian seni bina "plug-and-play". Mereka membangunkan modul tambahan kecil berasaskan model Qwen3.5-9B yang direka untuk bertindak sebagai pengekstrak khusus.
Modul ini berfungsi dengan:
- Mengimbas setiap input pengguna dalam masa nyata untuk mengesan dan mengasingkan kekangan sesi.
- Mengekalkan senarai peraturan yang khusus dan bebas.
- Menambah senarai ringkas ini ke dalam ringkasan setiap kali sistem utama melakukan pemampatan.
Hasil pendekatan ini sangat berkesan. Pengekstrak tersebut mencapai pengekalan melebihi 90 peratus merentasi pelbagai senario ujian, termasuk kadar kejayaan 95.6% untuk trajektori ejen dan 90.3% untuk sembang berbilang pusingan (multi-turn chats). Oleh kerana kaedah ini tidak memerlukan latihan semula model utama dan tiada perubahan pada infrastruktur pemampatan sedia ada, ia menawarkan jalan yang boleh diskalakan ke arah interaksi AI konteks panjang yang lebih boleh dipercayai.
Ringkasan Utama
- Penghapusan Kekangan: Pemampatan konteks mengutamakan matlamat tugas berbanding peraturan tingkah laku, menyebabkan kebanyakan "kekangan sesi" yang ditetapkan pengguna hilang semasa peringkasan.
- Risiko Keselamatan: Kehilangan arahan—seperti keperluan untuk pengesahan manusia-dalam-gelung (human-in-the-loop)—boleh menyebabkan tindakan ejen yang tidak dibenarkan dan keselamatan yang terjejas.
- Penyelesaian Modular: Menggunakan model khusus yang kecil seperti Qwen3.5-9B untuk menjejaki kekangan secara berasingan boleh memulihkan pengekalan arahan kepada lebih 90%.