Memoria di un agente AI: come ricorda tra una sessione e l'altra

La memoria di un agente AI è il problema che nessuno mette a preventivo e che decide se un'automazione resta un giocattolo o diventa un collega. Un modello linguistico, da solo, non ricorda nulla: ogni sessione parte da zero. Se l'agente che ieri ha capito come è fatto il tuo gestionale stamattina te lo richiede da capo, il problema non è l'intelligenza del modello. È che a quell'agente nessuno ha dato un posto dove annotare quello che impara.

Perché la memoria di un agente AI non è la finestra di contesto

La confusione più comune è questa: «ma il modello non ha un milione di token di contesto?». Sì, e non serve a niente per questo scopo. La finestra di contesto è la memoria di lavoro di una singola conversazione: quando la conversazione finisce, si azzera. È il tavolo su cui l'agente lavora, non l'archivio in cui conserva.

La distinzione è vecchia quanto l'informatica. Il paper MemGPT di Packer e colleghi (Berkeley, 2023) la riprende esplicitamente dai sistemi operativi: una gerarchia di memoria che sposta i dati tra memoria veloce e memoria lenta per dare «l'apparenza di risorse di memoria molto grandi». La RAM è il contesto, il disco è la memoria persistente. Nessuno si aspetta che un computer ricordi un file solo perché lo ha aperto una volta.

Inoltre, c'è un secondo motivo per non usare il contesto come archivio: più contesto non significa risposte migliori. La documentazione di Anthropic sulla gestione del contesto lo dice senza giri di parole — «il contesto è una risorsa finita con rendimenti decrescenti, e il contenuto irrilevante degrada la capacità del modello di concentrarsi». Un agente che si trascina dietro tutto diventa più lento, più caro e meno preciso.

Tre modi di ricordare: riassumere, potare, annotare

Nella pratica un agente in produzione usa tre meccanismi diversi, e sbagliare quale serve è il modo più rapido per perdere informazioni importanti.

Il riassunto (compattazione). Quando la conversazione si avvicina al limite, i turni più vecchi vengono sostituiti da una sintesi. È comodo perché non richiede codice: «la compattazione sostituisce i turni più vecchi di una conversazione con un riassunto che Claude scrive sul server». Il prezzo è che un riassunto è una perdita di informazione decisa da qualcun altro: ciò che non entra nella sintesi è andato.

La potatura (context editing). Invece di riassumere, si cancellano per regola i risultati degli strumenti più vecchi — le pagine lette, le query eseguite — tenendo solo gli ultimi. Qui i numeri sono interessanti: Anthropic riporta che in una valutazione su 100 turni di ricerca web questa tecnica ha permesso di completare flussi che altrimenti fallivano per esaurimento del contesto, riducendo del 84% il consumo di token.

Gli appunti su file (memoria vera). Il terzo meccanismo è l'unico che sopravvive alla fine della sessione: l'agente scrive quello che impara in file che restano, e li rilegge all'inizio del lavoro successivo. Lo strumento di memoria di Claude funziona esattamente così, con una precisazione che conta per chi compra: opera «lato client». Il modello chiede di scrivere un file, ma è la tua applicazione a eseguire l'operazione, sulla tua infrastruttura. La memoria dell'agente sta in casa tua, non dal fornitore.

I tre meccanismi non sono alternativi, sono complementari. Combinando memoria persistente e potatura del contesto, le misure interne di Anthropic indicano un miglioramento del 39% rispetto alla configurazione di partenza, contro il 29% della sola potatura. Tradotto: la differenza la fa l'archivio, non la pulizia.

Cosa conviene davvero scrivere negli appunti

Qui si decide la qualità dell'automazione, e non è una questione tecnica. Un agente che annota tutto produce un archivio illeggibile; un agente che non annota nulla ricomincia ogni volta. La regola che usiamo in Studiollice è semplice: si scrive quello che è costato fatica scoprire e che non è ricavabile dai dati.

• Decisioni e loro motivo. «Il cliente Rossi vuole il preventivo in PDF, non via email» vale più di mille righe di cronologia.
• Correzioni ricevute. Ogni volta che una persona rimedia a un errore dell'agente, quella correzione è un dato di addestramento gratuito. Se non viene annotata, l'errore torna.
• Stato del lavoro. Cosa è fatto, cosa manca, dove si era interrotto.
• Riferimenti, non copie. Il percorso del documento, non il documento: i dati vivono nel gestionale, non negli appunti dell'agente.

Anthropic ha pubblicato una ricostruzione di cosa succede quando questo manca, su agenti che costruivano software per giorni. Due fallimenti ricorrenti: l'agente troppo ambizioso che esaurisce il contesto a metà del lavoro e lascia la sessione successiva a «indovinare cosa fosse accaduto»; e quello che vede un po' di progresso e «dichiara il lavoro concluso». La contromisura non era un modello migliore, era un registro di avanzamento aggiornato alla fine di ogni sessione e un elenco di funzionalità da spuntare solo dopo verifica.

I rischi che un archivio persistente porta con sé

Dare memoria a un agente significa dargli uno stato. E lo stato va governato, altrimenti diventa il punto debole del sistema.

Il rischio più serio è l'avvelenamento degli appunti. Se l'agente legge contenuti esterni — email, pagine web, PDF di fornitori — un'istruzione nascosta in quel testo può finire scritta in memoria e condizionare tutte le sessioni future. È una variante persistente della prompt injection, più insidiosa della versione classica: non sparisce alla fine della conversazione. La stessa documentazione mette per iscritto che il controllo dei percorsi dei file «è una tua responsabilità», e avverte che un percorso malevolo come /memories/../../secrets.env può raggiungere file fuori dall'area consentita.

Tuttavia ci sono due rischi più banali e più frequenti. Il primo è l'archivio che cresce senza fine: senza una scadenza, gli appunti di un anno fa pesano come quelli di ieri e l'agente ragiona su premesse superate. Il secondo è l'appunto sbagliato che nessuno rilegge. Un'informazione errata scritta in memoria è peggio di un'informazione assente, perché viene applicata con la stessa fiducia di una corretta.

Come si imposta la memoria di un agente AI senza farsi male

Per chi sta valutando un'automazione, questi sono i quattro punti da mettere nero su bianco prima di firmare.

1. Dove stanno gli appunti. Su quale server, con quali permessi, chi li può leggere. Se la risposta è «li tiene il fornitore», chiedi come li esporti.
2. Chi li rilegge e quando. Un archivio che nessuno ispeziona per mesi è un archivio di cui non conosci il contenuto. Vale la stessa logica del monitoraggio delle automazioni: se non guardi, non sai.
3. Quando si cancellano. Una politica di scadenza esplicita, anche grossolana: «le note operative durano 90 giorni, le preferenze dei clienti restano».
4. Cosa è vietato annotare. Credenziali, dati sanitari, qualsiasi cosa che non vuoi ritrovare in un file di testo fra sei mesi.

Infine, una nota di metodo. La memoria di un agente AI non è una funzione da attivare: è un documento vivo che qualcuno deve mantenere, come la documentazione di un progetto. Gli agenti della flotta Studiollice tengono i propri appunti in file di testo leggibili da una persona, non in un formato opaco — proprio perché il giorno in cui un agente si comporta in modo strano, la prima cosa da fare è aprire i suoi appunti e leggerli.

Se stai valutando un'automazione che deve lavorare per settimane sullo stesso processo, la domanda da fare al fornitore non è quale modello usa. È dove scrive quello che impara, e chi lo rilegge. Studiollice progetta agenti e automazioni su misura, con la memoria come parte del progetto e non come effetto collaterale.