Cosa sono prompting, ICL e chain of thought?

Sono tre tecniche che si usano senza toccare i pesi del modello, in ordine crescente di sofisticazione. Il prompting è la base: la formulazione dell'istruzione che dai al modello. L'ICL (In-Context Learning) è il passo successivo: invece di descrivere solo cosa vuoi, gli mostri esempi dentro lo stesso messaggio ("ecco tre email classificate correttamente, ora classifica la quarta") e il modello impara il pattern al volo, dal contesto, senza alcun addestramento. Il chain of thought è il terzo gradino: chiedere al modello di scomporre il ragionamento in passaggi espliciti prima della risposta finale, invece di sparare la conclusione di getto. Le tre tecniche si combinano, non si escludono: un prompt ben scritto con esempi pertinenti e una richiesta esplicita di ragionamento passo passo produce quasi sempre risultati migliori di una qualunque delle tre applicata da sola, ed è questa combinazione, più che una singola tecnica isolata, a fare la differenza in produzione.

Leggi anche: Zero-shot classification · Assegnare dati a categorie mai viste in addestramento; per i testi la variante più diffusa usa l'entailment (NLI).

Perché funzionano (in breve)

L'ICL sfrutta il fatto che un LLM, durante l'addestramento, ha visto milioni di esempi di "pattern seguito da applicazione del pattern": mostrargliene alcuni nel prompt attiva quella capacità senza bisogno di fine-tuning, ed è per questo il modo più economico e veloce di specializzare un modello su un compito. Il chain of thought funziona perché forzare i passaggi intermedi riduce gli errori sui problemi che richiedono più passi logici o aritmetici: il modello "vede" i propri passaggi e li usa come contesto per il passo successivo, invece di dover tenere tutto il ragionamento implicito in un solo balzo. Nei modelli di reasoning questo meccanismo è integrato di serie.

Come usarli in pratica

La combinazione vincente per un caso d'uso aziendale: istruzioni chiare e stabili (che puoi mettere in cache), 2-5 esempi rappresentativi dei casi limite reali (non casi facili), e la richiesta esplicita di ragionare passo passo quando il compito lo richiede (classificazioni ambigue, calcoli, decisioni con più criteri) e non quando non serve (un compito banale non guadagna nulla dal chain of thought, solo più token e più costo). È lavoro di context engineering applicato: la differenza tra un prompt scritto d'istinto e uno progettato sta quasi sempre qui.