Cosa fa un LLM, e cosa non fa

LLM sta per Large Language Model. In italiano: un modello di linguaggio grande. ChatGPT, Claude, Gemini e compagnia sono interfacce sopra un LLM. Il prodotto ha un nome. Il meccanismo è lo stesso tipo di macchina.

Non è un cervello. Non è un motore di ricerca. Non è il database della tua azienda. Non "sa" le cose nel senso in cui le sa un commercialista o un gestionale.

Predice il pezzo di testo successivo, in modo molto sofisticato, addestrato su una quantità enorme di testo. Il risultato sembra una risposta. A volte è utile. A volte è inventata con la stessa sicurezza.

Questo articolo spiega il meccanismo quanto basta per usarlo senza prenderlo per un oracolo. Niente promesse su chi verrà sostituito. Solo cosa fa, cosa non fa, e dove ti brucia se lo tratti male.

Un LLM produce testo plausibile. Plausibile non è sinonimo di vero.

Token, non "parole che capisce"

Il modello non legge come te. Spezza il testo in token: pezzi di parola, parole intere, punteggiatura. "Fattura" può essere un token. "Relicsoftware" può essere due o tre.

Ogni token è un numero. Il modello lavora su sequenze di numeri. Quando scrivi un prompt, quella sequenza entra. Quando risponde, esce una sequenza. Poi viene ritradotta in testo.

Perché ti importa:

C'è un limite a quanti token entrano e escono (finestra di contesto, sotto)
Una pagina di codice "corta" per te può essere lunga per il modello
Contare le parole è un'approssimazione. I prezzi e i limiti si contano in token

Non ti serve sapere l'algoritmo. Ti serve smettere di pensare che "ha letto il PDF" come lo leggeresti tu. Ha visto una sequenza. Ne ha prodotta un'altra.

Addestramento e inferenza sono due momenti diversi

Addestramento (training): mesi, cluster, soldi, testi. Il modello regola miliardi di parametri guardando esempi. Alla fine "sa" statistiche sul linguaggio: che dopo "Agenzia delle" spesso arriva "Entrate", che un'email di reclamo ha una certa forma, che Python spesso segue certe convenzioni.

Quel passaggio lo fa chi costruisce il modello. Non lo fai tu quando apri ChatGPT.

Inferenza: la risposta a questa domanda, adesso. Il modello non sta studiando. Sta generando. I pesi sono fissi, salvo che tu non sia in un flusso di fine-tuning o di retrieval che gli attacca documenti accanto al prompt.

Cosa significa in pratica

Non aggiorna da solo la conoscenza sul tuo listino, sul tuo codice, sul verbale di ieri
Se una legge è cambiata dopo la data di taglio dell'addestramento, può raccontarti la versione vecchia con tono sicuro
Incollare un file nel chat non è "insegnare" il modello. È dargli contesto per questa conversazione

Alcuni prodotti cercano sul web e poi scrivono. Quella è una funzione del prodotto, non una proprietà dell'LLM. Sotto, il modello continua a generare testo. Se la ricerca è spenta o sbaglia fonte, inventa lo stesso.

Perché inventa (allucinazioni)

L'allucinazione non è un bug raro. È il mestiere del modello visto dal lato sbagliato.

Il mestiere è: continuare il testo in modo coerente. Se gli chiedi un numero di sentenza, un prezzo, un articolo di legge, un citazione, una API che non esiste, produrrà qualcosa che sembra una sentenza, un prezzo, un articolo. La forma è giusta. Il fatto può essere no.

Lo fa di più quando:

gli chiedi un fatto preciso senza fonti
il tema è di nicchia o locale (normativa italiana di un settore, un software poco documentato)
gli chiedi di "ricordare" dati che non gli hai messo nel prompt
lo spingi a rispondere comunque ("non dire che non sai")

Non usarlo come fonte unica per cifre, scadenze, obblighi di legge, diagnosi mediche, clausole contrattuali. Può essere un abbozzo. La verifica è tua, o di chi di mestiere firma quel tipo di output.

Non è in malafede. Non "sa" di non sapere, nel modo in cui lo sai tu. Puoi chiedergli di dubitare. Aiuta. Non è una garanzia.

La finestra di contesto

La finestra di contesto è la quantità di token che il modello vede in una volta: il tuo prompt, i messaggi precedenti, i file che hai allegato, la risposta che sta scrivendo.

Fuori da quella finestra, per il modello non esiste. Non ha il filo di tre settimane fa, se il prodotto non glielo rialimenta. Non ha "memoria dell'azienda" se nessuno gli ha messo i documenti accanto.

Conseguenze noiose e vere:

Conversazioni lunghe: i primi messaggi cadono. Il modello contraddice quello che aveva detto
PDF enormi: "l'ha letto" fino a un certo punto. Poi riassume a sentimento
Incollare tutto il gestionale nel chat non scala. Costa, e comunque non entra

Se un dato deve essere vero, deve stare nel contesto (tu lo incolli, o un sistema lo recupera) oppure lo verifichi altrove. Il modello non "va a prenderlo" dal nulla.

Dove è bravo, dove è un problema

Bravo

Prima stesura di una mail, una pagina, un bando interno
Riassumere un testo che gli hai dato tu
Riscrivere: più corto, più formale, in un'altra lingua
Spiegare un pezzo di codice che hai incollato
Elencare opzioni, checklist, domande da fare a un fornitore
Tradurre un ragionamento disordinato in passi

È un bravo assistente di redazione. Lavora sul testo che gli passi e sul linguaggio che ha visto in addestramento.

Un problema

Fatti: date, importi, "chi ha detto cosa", giurisprudenza
Legale e fiscale: può sembrare un parere. Non lo è
Numeri: somme, percentuali, "quanto mi costa". Sbaglia in silenzio
I tuoi dati privati, se non glieli hai messi. Non ha accesso a Drive, al gestionale, alla casella, al server. A meno che il prodotto che usi non sia collegato di proposito
Decisioni con responsabilità: licenziare, firmare, pagare, diagnosticare

Usalo per

Bozze
Riassunti di testi forniti
Riscritture
Brainstorming di domande

Non usarlo per

Verità su legge e numeri
Dati che non hai incollato
Sostituire un parere firmato
Incollare segreti "tanto è in chat"

Non è una ricerca, non è un database

Tre strumenti diversi. Si confondono perché tutti e tre "rispondono".

	LLM	Motore di ricerca	Database / gestionale
Cosa fa	Genera testo plausibile	Trova pagine e le elenca	Restituisce record che hai
Fonte	Statistiche da addestramento + prompt	Indice del web (o interno)	I tuoi dati, con schema
Errore tipico	Invenzione fluida	Risultato vecchio o irrilevante	Dato sbagliato in ingresso
Va bene per	Scrivere, riassumere, riformulare	Trovare una fonte	Fatture, stock, ore, clienti

Se ti serve "quanto abbiamo fatturato a marzo", la risposta sta nel gestionale. L'LLM può aiutarti a scrivere la query o a spiegare un export. Non è lui la fonte.

Se ti serve "cosa ha scritto AGID su X", vai sul sito o su una ricerca, poi eventualmente chiedi al modello di riassumere quella pagina.

Se ti serve "una mail al cliente che ha aspettato due settimane", l'LLM è lo strumento giusto. I fatti della mail li metti tu.

I prodotti "con ricerca" e i sistemi RAG (documenti aziendali pescati e messi nel prompt) mescolano i tre mondi. Restano tre mondi. Se il recupero sbaglia documento, il testo uscito è sbagliato in bella forma.

Privacy: non è una stanza chiusa

Il testo che incolli è testo che esce dal tuo PC. Dove arriva dipende dal contratto, dal prodotto, dal tasto "non usare per addestrare". Non dipende dalla sensazione che "è una chat".

Non incollare:

anagrafiche e pratiche dei clienti
password, chiavi API, dump di .env, connection string
codice con segreti, token, certificati
cartelle cliniche, buste paga, documenti di identità
verbali e liti che non devono uscire dallo studio

"Tanto è interno" non vale se stai usando un servizio in cloud con un account personale. Quella conversazione non sta sul file server. Sta dal fornitore. Trattala come una mail inviata fuori.

Se in azienda volete usare un modello, servono regole scritte e, se i dati sono seri, un contratto e un prodotto dove i dati non addestrano il modello pubblico. Non è un dettaglio da nerd. È lo stesso tipo di decisione che fai con la posta e il cloud.

Come usarlo in azienda senza trattarlo da oracolo

Un uso adulto è noioso. Funziona.

Definisci il compito. "Bozza", "riassunto di questo testo", "lista di rischi da verificare". Non "dimmi la verità su"
Metti tu i fatti. Incolla il pezzo. Allega il PDF giusto. Scrivi i vincoli (tono, lunghezza, cosa non dire)
Tieni un umano sul pezzo che esce. Chi firma la mail, il contratto, il preventivo, il commit, rilegge. Il modello non ha responsabilità. Tu sì
Non collegarlo a tutto. Accesso al gestionale + modello che genera SQL è potente. È anche un modo elegante per estrarre o rovinare dati se nessuno controlla
Misura il tempo risparmiato, non la magia. Se accorcia le bozze e non inventa IBAN, sta lavorando. Se qualcuno ci basa i prezzi, avete un problema di processo

Regole minime che puoi appendere vicino allo schermo

Niente dati cliente, password, chiavi, buste paga
Ogni fatto numerico o legale si verifica sulla fonte
Il modello abbozza, la persona pubblica
Account aziendale, non l'iscrizione personale sul PC di lavoro

Non serve una task force. Serve non fingere che sia un dipendente onnisciente. È uno strumento di scrittura e di sintesi. Come un collega velocissimo che non ha accesso agli archivi e a volte si inventa una riunione.

Noi, quando lo usiamo sul lavoro, lo teniamo su bozze e riassunti. I numeri e i vincoli li mettiamo noi. Se in azienda volete lo stesso tipo di uso, senza teatro, si parte da lì.

Volete usare un LLM in azienda senza trattarlo da oracolo? Parliamone

Cosa portarti a casa

Un LLM è una macchina che genera testo plausibile, a token, con una memoria corta quanto la finestra di contesto. L'addestramento è già successo. L'inferenza è adesso. L'allucinazione è il mestiere visto dal lato dei fatti.

È utile per bozze, riassunti, riscritture. Non è una ricerca. Non è il tuo database. Non ha i dati del cliente finché non glieli dai, e a quel punto li hai dati a qualcuno.

Usalo così. Ti resta uno strumento. Usalo come oracolo, e ti resta un rischio con una prosa impeccabile. Se invece volete automatizzare un processo aziendale senza incollare dati nei chatbot pubblici, il percorso è l’automazione con IA.

Risorse utili (autorevoli):