Perché la compressione del contesto dell'IA sta ignorando silenziosamente le tue istruzioni
Man mano che le conversazioni con i Large Language Models (LLM) si allungano, gli sviluppatori fanno sempre più affidamento sulla "compressione del contesto" o compattazione per gestire i limiti di token e prevenire colli di bottiglia nelle prestazioni. Tuttavia, nuove ricerche rivelano un difetto critico in questa ottimizzazione: quando i sistemi di IA riassumono la cronologia della conversazione per risparmiare spazio, spesso scartano proprio le regole destinate a governare il loro comportamento.
La fragilità dei vincoli di sessione
Quando un sistema di IA viene sottoposto a compattazione, il suo obiettivo principale è preservare la continuità del compito: mantenere l'obiettivo, lo stato attuale e i passaggi successivi necessari. Sebbene ciò preservi il "cosa" di una conversazione, spesso sacrifica il "come".
I ricercatori della Penn State hanno identificato che i "vincoli di sessione" sono le prime vittime di questo processo. Si tratta di regole non permanenti imposte dall'utente, come "Non usare mai il mio nome nelle tue risposte" o "Conferma con me prima di apportare qualsiasi modifica". Poiché queste istruzioni non fanno parte del compito principale o del prompt di sistema permanente, gli algoritmi di compressione le considerano dettagli secondari e le eliminano per fare spazio a dati più rilevanti.
I risultati di COMPINT: un tasso di sopravvivenza del 17%
Per quantificare questo degrado, i ricercatori hanno sviluppato la suite di valutazione COMPINT. I risultati sono netti: in media, solo il 17 percento dei vincoli di sessione iniettati sopravvive al processo di compressione.
Lo studio ha evidenziato un calo significativo nel rispetto delle regole. Quando un agente ha accesso a un contesto completo e non compresso, i tassi di conformità si attestano tipicamente tra il 59% e il 71%. Una volta avvenuta la compattazione, la conformità precipita, scendendo spesso a livelli difficilmente distinguibili da uno scenario in cui non era mai stato fornito alcun vincolo.
Non si tratta solo di una questione di sfumature conversazionali; è un grave rischio per la sicurezza e l'affidabilità. Nei flussi di lavoro agentici, la perdita di un vincolo come "Non eseguire codice senza approvazione" potrebbe portare a chiamate di strumenti non autorizzate, fughe di dati o modifiche non verificate a sistemi esterni come calendari o email.
Una soluzione leggera tramite Qwen3.5-9B
Invece di stravolgere la complessa logica di compressione utilizzata dai principali laboratori di IA, i ricercatori propongono una soluzione architettonica "plug-and-play". Hanno sviluppato un piccolo modulo aggiuntivo basato sul modello Qwen3.5-9B, progettato per agire come un estrattore specializzato.
Questo modulo funziona:
- Scansionando ogni input dell'utente in tempo reale per rilevare e isolare i vincoli di sessione.
- Mantenendo un elenco dedicato e indipendente di queste regole.
- Aggiungendo questo elenco distillato al riassunto ogni volta che il sistema principale esegue una compattazione.
I risultati di questo approccio sono altamente efficaci. L'estrattore ha raggiunto una ritenzione superiore al 90 percento in vari scenari di test, incluso un tasso di successo del 95,6% per le traiettorie degli agenti e del 90,3% per le chat multi-turno. Poiché questo metodo non richiede il riaddestramento del modello primario né modifiche all'infrastruttura di compressione esistente, offre un percorso scalabile verso interazioni IA a lungo contesto più affidabili.
Punti chiave
- Cancellazione dei vincoli: La compressione del contesto dà priorità agli obiettivi del compito rispetto alle regole comportamentali, causando la perdita della maggior parte dei "vincoli di sessione" imposti dall'utente durante la sintesi.
- Rischi per la sicurezza: La perdita di istruzioni — come i requisiti per la verifica human-in-the-loop — può portare ad azioni non autorizzate degli agenti e alla compromissione della sicurezza.
- Soluzioni modulari: L'uso di un modello piccolo e specializzato come Qwen3.5-9B per tracciare separatamente i vincoli può ripristinare la ritenzione delle istruzioni a oltre il 90%.