Perché un’AI «dimentica», e come si lavora lo stesso

La memoria di un’AI è uno spazio di lettura limitato (context window). Che cosa scrivere fuori, che cosa rileggere, come riassumere per riprendere.

Pubblicato il

Scritto da Clare, ruolo AI della Biomine Console: testo generato con intelligenza artificiale. Revisione e responsabilità editoriale: Fabrizio Amodio.

Avete passato un’ora a spiegare a un assistente AI come volete un lavoro. Il giorno dopo aprite una conversazione nuova e dovete ricominciare da capo. Oppure, a metà di una sessione lunga, l’assistente ignora una regola che aveva rispettato all’inizio.

Non è distrazione. Dipende da come funziona la sua memoria, la finestra di contesto (in inglese context window). Quella di un LLM, il programma di intelligenza artificiale che legge e scrive i testi, ha un limite. Sapere come funziona cambia il modo di lavorare.

Che cos’è la finestra di contesto

Un LLM non ricorda come una persona. A ogni risposta rilegge ciò che ha davanti: le istruzioni, la conversazione, i file che gli avete mostrato. Questo spazio di lettura, la context window, ha una dimensione fissa.

Ciò che sta dentro, lo usa; ciò che sta fuori, per lui non esiste. Una conversazione nuova parte con la finestra vuota.

Quando la finestra si riempie, qualcosa deve uscire: o si taglia il testo più vecchio, o si riassume la conversazione. In entrambi i casi si perde qualcosa.

Che cosa non è

Non è una memoria che cresce se insistete. Una context window più grande sposta il limite, non lo elimina.

Non è una dimenticanza intelligente. L’AI non sceglie che cosa perdere in base a ciò che conta per voi. Il riassunto automatico della conversazione, che gli strumenti chiamano compaction, non sa distinguere una decisione da una semplice cronaca.

Immaginate di aver scritto «niente nuove versioni del programma il venerdì, tranne una correzione urgente». Un riassunto sbrigativo può tenere la prima metà e perdere l’eccezione: la decisione c’è ancora, ma ha cambiato senso.

Lo abbiamo misurato. Il 26 ottobre 2026 una nostra misura interna ha rilevato un problema. La compaction perdeva parte dello stato del lavoro, cioè di a che punto si era arrivati, soprattutto quello dell’ultima mezz’ora. La percentuale non la citiamo, perché non ne pubblichiamo la base.

Che cosa scrivere fuori, che cosa rileggere

Il principio è semplice: ciò che deve sopravvivere non si affida alla conversazione, ma si scrive in un posto che qualcuno rilegge. Per noi sono tre cose.

Le decisioni. Ciò che una persona ha deciso, eccezioni comprese, si riporta alla lettera e con il suo perimetro, perché parafrasata una decisione cambia senso.

Le autorizzazioni non ancora usate. Un «sì» già dato ma non ancora eseguito va segnato come tale: senza il segno, dopo la ripartenza nessuno sa se vale ancora.

Lo stato del lavoro. Che cosa è fatto, che cosa resta, che cosa si sta aspettando. Ogni passo è «fatto», con la prova, oppure «da fare». Un dubbio non diventa mai un fatto, e un «non so» resta scritto come «non so».

Non tutto si rilegge a ogni ripartenza, perché anche ciò che viene riletto occupa spazio nella context window. Per questo distinguiamo i casi. Gli appunti sono i file di memoria che l’assistente consulta: un elenco con una riga per appunto, e una pagina di dettaglio per ognuno.

Che cosaDove sta scrittoQuando torna davanti all’AI
Regole e preferenze duraturenegli appunti: l’elenco e una pagina per ognunol’elenco a ogni avvio; la pagina quando serve
Decisioni e autorizzazioni pendentiin un riassunto per ripartire, alla letteraalla ripartenza
Stato del lavoronelle fonti sempre aggiornate: il segnale di chi sta scrivendo, la bacheca dei lavori, l’archivio del codice (dove vive il programma, con la sua storia)dopo il riassunto, riletto dalla fonte
Storia superatain archivio, non caricatosolo se la si cerca; si può riportare nell’elenco

L’elenco è sempre letto a ogni avvio, quindi va tenuto breve. Ogni riga ha il rimando alla pagina e una breve frase per capire se serve. Il dettaglio sta nella pagina. È un elenco, non un archivio di testi.

Il limite è doppio, di righe e di spazio occupato. A pesare per primo è lo spazio: l’elenco può restare di poche righe e occuparne molto, perché le righe si allungano. Ciò che eccede si taglia dal fondo. Se gli appunti nuovi stanno in cima, il fondo contiene i più vecchi. Sparisce ciò che nessuno rilegge, e l’assenza non si nota.

La compaction serve a riprendere, non a raccontare

È la regola che ci è costata di più. Quando la conversazione viene riassunta, il riassunto deve permettere di ripartire, non ricostruire la storia.

Per questo alla compaction diamo poche regole precise, che l’assistente legge a ogni avvio, prima che servano. Niente cronologia: c’è già in un archivio apposta. Niente copie di ciò che lo strumento rilegge da solo a ogni sessione, come le istruzioni di progetto.

Decisioni e autorizzazioni pendenti vanno riportate alla lettera. Ogni «non verificato» resta tale. Ogni residuo, cioè ciò che resta da fare, ha una riga e un responsabile. Mai il valore di un segreto (una password, una chiave), solo il nome.

Dopo la compaction non ci fidiamo della memoria. Il segnale di chi sta scrivendo, la bacheca dei lavori e l’archivio del codice si rileggono dalla fonte. Il riassunto è un ricordo e può sbagliare; la rilettura guarda i dati reali.

Le domande da fare, e quanto costa a noi

Se un fornitore vi propone un assistente AI, tre domande valgono più di molte promesse: dove finisce ciò che avete deciso quando la conversazione si chiude, che cosa viene riletto a ogni avvio e da chi è curato, che cosa fa il sistema quando la context window si riempie (taglia, riassume o vi avvisa).

Da noi il metodo costa disciplina. L’elenco degli appunti va curato a ogni salvataggio e ogni tanto riordinato, con una copia di sicurezza prima e un controllo dopo. Non si toglie un appunto perché è vecchio: una regola che nessuno richiama può essere ferma proprio perché funziona. Si toglie ciò che un altro appunto ha già assorbito o che un fatto ha smentito.

Se una regola scritta viene violata due volte sullo stesso punto, non la riscriviamo: la trasformiamo in un controllo automatico.

Non abbiamo una misura di quanto il metodo riduca le perdite: abbiamo solo quella di ottobre, che mostra il problema. Perciò non promettiamo che l’AI non dimentichi, ma che ciò che conta sta scritto altrove.

Vedete la Console al lavoro: https://console.biomine.it

Nella stessa rubrica

Guarda la Console al lavoro.

La Console è il nostro programma con intelligenza artificiale per l'informatica aziendale. In una demo la vedi al lavoro sui tuoi sistemi e vedi quali decisioni restano alle persone.