Cosa sono ricerca ibrida e reranking in una pipeline RAG?

La ricerca ibrida con reranking è lo stadio di ranking di una pipeline di recupero: combina la ricerca lessicale (tipicamente BM25, che pesa la corrispondenza esatta di termini e sigle) con la ricerca densa su un database vettoriale (che coglie il significato anche senza corrispondenza di parole), fonde i due elenchi di risultati con un metodo come la Reciprocal Rank Fusion, e passa i migliori candidati a un reranker cross-encoder, un modello più piccolo che confronta query e documento insieme e riordina i primi N prima di darli al modello linguistico. Serve perché la ricerca lessicale e quella vettoriale falliscono su casi diversi (codici prodotto, acronimi, sinonimi) e nessuna delle due, da sola, è affidabile ovunque: la fusione recupera più candidati corretti, il reranking corregge l'ordine con cui arrivano al modello, un passaggio che i soli punteggi di similarità vettoriale spesso sbagliano.

Come funziona in pratica

Alla domanda dell'utente rispondono in parallelo due motori: BM25 restituisce i documenti con più termini in comune con la query, la ricerca vettoriale restituisce quelli più vicini per significato nello spazio degli embedding. La Reciprocal Rank Fusion unisce le due classifiche sommando, per ogni documento, l'inverso della sua posizione in ciascuna lista (con una costante di smorzamento, tipicamente 60): premia chi compare in alto in entrambe senza richiedere di normalizzare punteggi eterogenei. I primi 20-50 documenti fusi passano poi al cross-encoder, che processa query e documento insieme invece che separatamente (a differenza del bi-encoder usato per generare gli embedding) e produce un punteggio di rilevanza molto più accurato, ma troppo lento per essere applicato su milioni di documenti: per questo agisce solo sul sottoinsieme già filtrato.

Un caso enterprise tipico: un assistente legale interno che cerca clausole contrattuali. La query cita un codice di fornitura specifico più un concetto generico ("limitazione di responsabilità per ritardo"). La sola ricerca vettoriale trova clausole concettualmente simili ma perde il codice esatto; la sola BM25 trova il codice ma ignora clausole formulate diversamente con lo stesso significato. La fusione recupera entrambi i tipi di candidati, e il reranker cross-encoder mette in cima la clausola che soddisfa davvero entrambi i criteri, anche se non era la più simile in base al solo embedding o alle sole parole chiave.

Perché conta per chi decide

Il reranking aggiunge latenza e costo di calcolo: ha senso quando la precisione dei primi risultati è critica (assistenti su documenti normativi, ricerca clienti, supporto tecnico con conseguenze operative), non quando basta un recupero approssimativo o il volume di query è talmente alto da rendere il costo insostenibile rispetto al guadagno. Per query semplici, ricerche esplorative o cataloghi con pochi documenti simili tra loro, la sola ricerca ibrida senza reranking è spesso già sufficiente. La decisione va presa sul dato reale di errore della pipeline, non per convenzione architetturale predefinita.