Un modello linguistico generico sa molto del mondo, ma nulla dei tuoi prezzi, contratti o regole interne. La generazione aumentata dal recupero, o RAG, colma questa lacuna senza addestrare un nuovo modello.
Come funziona
Il RAG aggiunge una fase di ricerca prima della risposta. I tuoi documenti - articoli della knowledge base, policy, descrizioni dei prodotti, risposte già date ai clienti - vengono suddivisi in piccoli frammenti e indicizzati per significato. Quando arriva una domanda, il sistema trova i frammenti più pertinenti e li passa al modello insieme alla domanda. Il modello scrive la risposta basandosi su quel materiale, idealmente con i riferimenti alle fonti utilizzate.
Quando il RAG è la scelta giusta
Il RAG funziona bene quando le informazioni cambiano spesso e devono restare precise: cataloghi prodotti, conoscenze del supporto, procedure interne, documentazione legale o tecnica. Per aggiornare l’assistente basta aggiornare i documenti, senza riaddestramento. È anche più controllabile: si vede quali frammenti sono stati usati e si può verificare la risposta.
Cosa va storto più spesso
La maggior parte dei problemi nasce dai dati, non dal modello. Documenti obsoleti o contraddittori producono risposte contraddittorie. File enormi e non strutturati vengono suddivisi male e la ricerca restituisce frammenti irrilevanti. Spesso ci si dimentica dei permessi: un assistente per i clienti non deve vedere i documenti interni. Infine, senza una serie di domande di test con risposte corrette note, nessuno può dire se una modifica abbia migliorato o peggiorato il sistema.
Da dove iniziare
Scegli un ambito chiaro, ad esempio le risposte alle cento domande più frequenti dei clienti. Metti in ordine i documenti di quell’ambito, stabilisci chi può vedere cosa, prepara venti o trenta domande di test e misura quanto spesso l’assistente risponde correttamente citando la fonte giusta. Solo dopo estendi a nuovi argomenti.
In breve
Il RAG trasforma un modello generico in un assistente che parla a partire dai tuoi documenti. La sua qualità dipende molto più da dati puliti, permessi ben definiti e test regolari che dalla scelta del modello.