Cos'è un embedding?

Un embedding è la rappresentazione numerica del significato di un contenuto, testo, immagine o codice, sotto forma di un vettore: una lista ordinata di centinaia o migliaia di numeri. Un modello di embedding legge il contenuto e produce quel vettore in modo che elementi con significato simile finiscano vicini nello spazio matematico, indipendentemente dalle parole esatte usate. "Disdire il contratto" e "recesso anticipato" produrranno vettori vicini pur non condividendo termini. Ogni numero del vettore, detto dimensione, cattura una sfumatura del significato appresa durante l'addestramento del modello: non ha un'etichetta leggibile, ma insieme alle altre dimensioni definisce la posizione del contenuto in quello spazio. Più dimensioni un modello usa, più sfumature può distinguere, a costo di più spazio di archiviazione e calcolo. Gli embedding sono il livello di rappresentazione su cui si basano la ricerca semantica, i sistemi di raccomandazione e il recupero documentale della RAG, ma il concetto è distinto dal database che li indicizza e dal pattern applicativo che li impiega.

Cosa cattura la dimensionalità, e cosa no

I modelli più diffusi oggi (le famiglie OpenAI text-embedding-3, Cohere Embed, i modelli open source della serie BGE o E5) producono vettori tra le 384 e le 3072 dimensioni. OpenAI, ad esempio, documenta che text-embedding-3-large arriva fino a 3072 dimensioni e supporta la tecnica Matryoshka: si può troncare il vettore a un numero inferiore di dimensioni (ad esempio 512) perdendo precisione in modo graduale invece che brusco, per bilanciare costo di storage e qualità del recupero (fonte: annuncio ufficiale OpenAI "New embedding models and API updates"). Ma la dimensionalità non è tutto: un embedding cattura similarità distribuzionale, cioè quanto due contenuti tendono a comparire in contesti simili nei dati di addestramento, non verità fattuale né relazioni esplicite tra entità. Due frasi possono avere vettori vicini pur essendo in contraddizione logica, perché parlano dello stesso argomento con lo stesso registro. Per quel tipo di ragionamento relazionale serve un livello diverso, come un grafo di conoscenza.

Il costo nascosto: cambiare modello di embedding

Un vincolo enterprise spesso sottovalutato: i vettori prodotti da modelli di embedding diversi non sono compatibili tra loro e non si possono confrontare. Se un'azienda ha indicizzato milioni di documenti con un modello e decide di passare a una versione più recente o a un fornitore diverso, deve ri-embeddare l'intero corpus da zero, non solo aggiornare la configurazione. Il costo dipende dal numero di token del corpus e dal prezzo del nuovo modello: per un miliardo di token, il passaggio da un modello di generazione precedente a text-embedding-3-small costa circa 20 dollari al prezzo pubblico OpenAI di 0,02 dollari per milione di token, cifra che sale sensibilmente con corpora aziendali di miliardi di documenti e con modelli di fascia più alta come text-embedding-3-large, listato a 0,13 dollari per milione di token (fonte: pricing pubblico OpenAI). È un costo operativo reale da preventivare prima di ogni cambio modello, non un dettaglio tecnico da ignorare in fase di scelta iniziale.

Perché conta per chi decide

Scegliere un modello di embedding non è una decisione una tantum: condiziona la qualità del recupero semantico su cui si appoggiano assistenti RAG e ricerca interna, e vincola l'azienda a un costo di migrazione ogni volta che il modello cambia o un fornitore ne rilascia uno migliore. Le domande giuste in fase di valutazione sono tre: quale dimensionalità serve davvero per il caso d'uso, quanto costa ri-embeddare l'intero corpus se si cambia modello tra un anno, e se il tipo di ragionamento richiesto è davvero di similarità semantica o se serve invece tracciare relazioni esplicite tra entità, nel qual caso un embedding da solo non basta.