Che cos’è la RAG e come migliora i modelli linguistici

In questo articolo, esploreremo una recente scoperta scientifica che sta contribuendo in modo significativo al miglioramento dell’efficacia e delle prestazioni dei modelli linguistici di grandi dimensioni (LLM): la Retrieval-Augmented Generation, abbreviata RAG.

Gli LLM sono innovazioni straordinarie, in grado di sfruttare una potenza di calcolo paragonabile a quella dei supercomputer più avanzati al mondo.

Tuttavia, non sono esenti da criticità, specialmente quando si tratta di creare applicazioni personalizzate o di integrazioni nei sistemi aziendali, una sfida che molte imprese stanno affrontando. Per superare queste difficoltà, una delle tecniche più efficaci è proprio la RAG. Comprenderne il funzionamento è quindi essenziale per sfruttarne appieno il potenziale.

Ottimizzazione LLM con RAG

Sebbene la maggior parte dei modelli linguistici di grandi dimensioni (LLM) venga pre-addestrata su una vasta quantità di dati per acquisire la capacità di comprendere il linguaggio e il contesto delle interazioni, ciò non garantisce necessariamente che siano in grado di rispondere in modo soddisfacente a tutte le richieste, soprattutto se riguardano ambiti specifici.

Dopo l’addestramento, molti LLM non hanno accesso a dati aggiornati. Questo li rende statici e può causare risposte errate o obsolete quando vengono interrogati su informazioni che non fanno parte del loro dataset. Pertanto, è spesso necessario ottimizzare ulteriormente gli LLM per eseguire compiti specifici. Tra i metodi di ottimizzazione vi sono il prompt engineering, il fine-tuning e la RAG.

Inoltre, è importante consideare che ri-addestrare un modello per includere nuovi dati è un processo molto dispendioso in termini di risorse sia computazionali sia di tempo. Una possibile alternativa è l’uso di modelli linguistici più piccoli, noti come Small Language Models, di cui avevamo scritto qui.

Che cos’è la RAG?

La RAG, acronimo di Retrieval-Augmented Generation, è una metodologia innovativa che migliora l’efficacia delle applicazioni basate su Large Language Models permettendo di sfruttare dati personalizzati.

Invece di fare affidamento esclusivamente sulle conoscenze già apprese durante l’addestramento del modello, la RAG integra un processo di recupero di dati o documenti rilevanti per una specifica domanda o compito, utilizzandoli come contesto aggiuntivo per migliorare la precisione e la pertinenza delle risposte generate.

Questa metodologia è stata sviluppata da Patrick Lewis e un gruppo di ricercatori del Facebook AI Research, dell’University College di Londra e della New York University e l’acronimo RAG è stato introdotto per la prima volta nel loro articolo pubblicato nel 2020. Da allora, sono stati scritti centinaia di articoli sul tema e sviluppati altrettanti servizi che sfruttano questa metodologia.

Come funziona la RAG

Un buon punto di partenza per comprendere la RAG è il suo stesso acronimo, che sta per Retrieval-Augmented Generation, traducibile in italiano come Generazione Aumentata del Recupero. Questa metodologia unisce due tecniche chiave: retrieval (recupero) e generation (generazione):

1. Retrieval (Recupero): prima di generare una risposta, il modello RAG esegue un’operazione di retrieval (recupero) per cercare informazioni rilevanti in un data base esterno, che potrebbe contenere documenti, articoli, o qualsiasi altra fonte di conoscenza. Le informazioni trovate vengono poi integrate nel contesto iniziale. Il contesto, in un modello di linguaggio, si riferisce a tutte le informazioni disponibili che il modello può utilizzare per generare una risposta. Attraverso la RAG, il modello non solo ha accesso al contesto originale, ma anche a nuove informazioni specifiche e aggiornate provenienti dal database esterno.
2. Generation (Generazione): una volta che le informazioni rilevanti sono state recuperate, il modello le utilizza come input per generare una risposta più accurata e informata.

L’LLM può così combinare le sue capacità generative con le conoscenze recuperate.

RAG o Fine-Tuning?

Non è raro imbattersi in affermazioni che evidenziano l’importanza del Fine-Tuning per migliorare le capacità di un LLM. Ma in cosa consiste esattamente questa tecnica, e come si confronta con l’approccio della RAG?

• Il Fine-Tuning è un processo che implica l’ulteriore addestramento di un modello già pre-addestrato, utilizzando un dataset specifico per adattarlo meglio a un particolare compito o dominio. Durante questo processo, i parametri interni del modello vengono modificati per ottimizzare le sue performance in quel contesto specifico. Una volta completato, il modello diventa altamente specializzato nel dominio per cui è stato addestrato, ma perde in parte la sua flessibilità: per affrontare compiti in altri domini, potrebbe essere necessario eseguire un nuovo Fine-Tuning o addestrare un modello diverso.
• La RAG non richiede di modificare i parametri interni del modello. Invece, combina la generazione del testo con un sistema di recupero di informazioni esterne, permettendo al modello di accedere a una base di conoscenze aggiornata e specifica per ogni interrogazione. Questo approccio è vantaggioso per domande che richiedono informazioni puntuali o aggiornate, ma ha i suoi limiti: come evidenziato dal blog specializzato in Intelligenza Artificiale “The Gradient“, se un modello pre-addestrato ha difficoltà a comprendere e sintetizzare documenti complessi (come documentazione medica o rapporti finanziari), l’aggiunta di ulteriore contesto tramite la RAG potrebbe non risolvere completamente il problema.

Il Fine-Tuning è dunque ideale quando si desidera un modello estremamente preciso per un compito specifico o un dominio particolare, garantendo che il modello sia perfettamente allineato alle esigenze di quel contesto. La RAG, invece, è più adatta quando è necessario accedere a informazioni aggiornate o contestuali che non sono presenti nel modello di base, mantenendo al contempo la flessibilità di un modello generico.

Secondo quanto riportato da “The Gradient”, spesso la soluzione migliore è una combinazione dei due metodi: il Fine-Tuning affina le capacità del modello in un dominio specifico, mentre la RAG arricchisce le risposte con informazioni aggiornate e contestuali, rendendo il modello più preciso e completo. Questa sinergia permette di sfruttare al meglio sia la specializzazione che la flessibilità, adattando il modello a una vasta gamma di scenari.

Nonostante alcuni limiti, la RAG rappresenta un’innovazione di grande rilevanza e potenziale. Con il continuo progredire dell’IA possiamo aspettarci soluzioni RAG sempre più sofisticate, che contribuiranno a migliorare la gestione delle informazioni, mettendo la conoscenza aziendale al centro e permettendo alle organizzazioni di sfruttare al massimo i dati per generare valore.

4 vantaggi della RAG

I principali vantaggi dell’utilizzo della RAG sono:

1. Precisione: grazie alla RAG, le risposte fornite sono più accurate, in quanto questa tecnica riduce il rischio di fornire informazioni errate o inventate.
2. Scalabilità e convenienza: la RAG permette di integrare nuove fonti di informazione senza dover modificare il modello di base, risultando più conveniente rispetto ad altri approcci che richiedono la personalizzazione del modello su dati specifici di dominio. Questo è particolarmente vantaggioso per le organizzazioni che necessitano di aggiornamenti frequenti con nuovi dati.
3. Maggiore trasparenza: la RAG consente al modello di citare le fonti, migliorando la trasparenza delle informazioni. In ambito aziendale, la possibilità di tracciare l’origine di una risposta è utile per il monitoraggio interno e per garantire la qualità.
4. Personalizzazione: Gli LLM, non avendo accesso a dati privati, possono commettere errori quando vengono interrogati su domande specifiche di un dominio o di un’azienda. La RAG fornisce informazioni aggiornate e dati specifici del dominio, consentendo al modello di generare risposte più informate.

E 4 applicazioni della RAG

Esistono numerosi casi d’uso per la RAG, tra i più comuni troviamo:

1. Chatbot: la RAG migliora la qualità delle interazioni con i chatbot. Questa tecnica consente ai modelli di linguaggio di adattare le risposte a situazioni specifiche. Ad esempio, in contesti dove è necessario considerare dettagli particolari relativi a una situazione o a un utente, la RAG permette di recuperare informazioni in tempo reale, generando risposte non solo accurate, ma anche altamente rilevanti per il contesto specifico.
2. Raccomandazioni: grazie alla RAG, i modelli di linguaggio possono recuperare informazioni aggiornate e pertinenti da un database, generando così raccomandazioni di contenuti. Questo garantisce che gli utenti ricevano suggerimenti aggiornati e pertinenti.
3. Motore di conoscenza: un’applicazione interessante in ambito aziendale è rappresentata dalla capacità della RAG di interrogare dati e documenti specifici forniti dall’utente. Questo consente ai dipendenti di ottenere risposte articolate e basate sulle informazioni recuperate attraverso questa tecnica.
4. Gestione di domande e risposte complesse: per migliorare la capacità di un modello di gestire interrogazioni complesse o molto specifiche, la RAG è essenziale. Essa permette al modello di rispondere a domande che richiedono un contesto approfondito, garantendo risposte più accurate e mirate.