Cos'è un foundation model?
Un modello addestrato su dati vasti e generici, adattabile a molti compiti diversi: la categoria a cui appartengono LLM e modelli multimodali.
Un foundation model è un modello addestrato una volta su una quantità enorme di dati generici e poi riutilizzato, con adattamenti minimi, per molti compiti diversi da quello per cui è stato addestrato in origine. Gli LLM sono l'esempio più visibile, ma la categoria include anche modelli visivi, modelli multimodali, i tabular foundation model e, sempre di più, i world models usati nella robotica. Il tratto comune è: una base, molte applicazioni. Prima di questi modelli, ogni compito di AI richiedeva un addestramento da zero su dati specifici per quel compito; i foundation model ribaltano l'economia, perché si addestra una sola volta un modello capace di comprendere linguaggio, immagini o codice in generale, e poi lo si adatta con prompting o fine-tuning ai casi specifici a una frazione del costo. Per la maggior parte delle aziende non ha senso costruirne uno da zero: i costi necessari sono alla portata di poche organizzazioni al mondo, e la scelta competitiva sta nell'adattare bene un modello esistente con dati proprietari.
Perché il termine conta
Prima dei foundation model, ogni compito di AI richiedeva un modello addestrato da zero su dati specifici per quel compito. I foundation model ribaltano l'economia: si addestra una sola volta un modello capace di comprendere linguaggio, immagini o codice in generale, e poi lo si adatta con prompting o fine-tuning ai casi specifici, a una frazione del costo e del tempo. È la ragione per cui oggi un'azienda può avere un assistente AI operativo in settimane invece che in anni.
Costruire o adattare: la scelta economica
Per la stragrande maggioranza delle aziende addestrare un foundation model da zero non ha senso economico: i costi di calcolo e i dati necessari sono alla portata di poche organizzazioni al mondo. La domanda giusta non è "costruiamo il nostro modello" ma "quale foundation model esistente adattiamo, e con quali dati proprietari lo rendiamo specifico per il nostro business". È lì che il fine-tuning e la qualità dei dati interni fanno la differenza competitiva, non la dimensione del modello di base.
Termini correlati
- LLM · Modello AI addestrato su enormi quantità di testo che comprende e genera linguaggio: il motore di ChatGPT, Claude e Gemini.
- Fine-tuning · Addestrare ulteriormente un modello pretrainato sui tuoi esempi: ottimo per stile, formato e compiti ricorrenti, sbagliato per i fatti che cambiano ogni giorno.
- AI multimodale · Modelli che capiscono e producono più formati insieme: testo, immagini, audio, video. Il documento si legge, non si trascrive.
- World models · Modelli AI che imparano come funziona il mondo e ne prevedono le conseguenze fisiche, invece di prevedere la prossima parola come fa un LLM.
- Mixture of experts (MoE) · Architettura sparsa che attiva solo una parte dei parametri per token: meno costo e latenza di un modello denso equivalente.
Un termine che ti riguarda da vicino? Parliamone.
CONTATTAMI