Assistente virtuale AI RAG per supporto tecnico

L'assistente virtuale per supporto tecnico nasce dalla collaborazione fra KEA ed E-Plato, azienda italiana specializzata dal 2021 in soluzioni per la gestione e la ricerca documentale basate sull’intelligenza artificiale, fra gli altri per Fassi Gru, Pelliconi e Chiesi Farmaceutici.

Che cosa sa fare l’assistente virtuale AI RAG?

Capita mai che il customer service o l’assistenza tecnica della vostra azienda debbano rispondere, anche ripetutamente, a quesiti la cui risposta già si trova nei topic della documentazione tecnica, ma che i vostri interlocutori non riescono o non hanno la pazienza di individuare?

Il nostro assistente virtuale risolve proprio questi casi.

Basato su un insieme integrato di tecnologie dell’intelligenza artificiale, l’assistente virtuale è uno strumento di self-help che permette a interlocutori autorizzati dall’azienda (per esempio clienti, rivenditori, tecnici) di dialogare con i topic della documentazione tecnica - in linguaggio naturale e in multilingua, senza dover sapere né dove cercare le informazioni, né come l’azienda chiama e descrive ciò che si cerca -, ottenendo dall'assistente una risposta di sintesi, la citazione delle fonti della risposta (testi, immagini), nonché l’accesso diretto e puntuale a ogni fonte (cioè, per esempio, al singolo paragrafo rilevante contenuto in un documento molto più esteso).

Nel caso in cui i topic non contengano informazioni su cui basare la risposta, l’assistente virtuale lo comunica in modo chiaro all’utente, dandogli indicazioni utili per contattare il customer service o l’assistenza tecnica dell’azienda.

Pensato per fornire supporto tecnico di primo livello, l’assistente virtuale ci comprende e dialoga con noi come un chatbot, fornendoci però risposte complete, precise e corroborate da fonti come un motore di ricerca.

Guarda il video che contiene la DEMO dal vivo dell'assistente virtuale AI RAG (minuto 9:15)

Perché l’assistente virtuale AI RAG è utile a clienti, rivenditori e/o tecnici?

La normale ricerca per parole chiave presuppone che sappiamo sia dove cercare, sia come l’azienda chiama e descrive ciò che cerchiamo. Ecco perché capita che gli interlocutori dell’azienda non trovino le risposte, pur essendo esse contenute nella documentazione tecnica.

Usare l'assistente virtuale per supporto tecnico è molto diverso:

• Non dobbiamo sapere dove cercare, perché l’assistente ha sottomano tutti i topic che l’azienda rende disponibili
• Non dobbiamo sapere come l’azienda chiama e descrive ciò che cerchiamo, perché l’assistente virtuale comprende il nostro linguaggio naturale, ricerca per similarità semantica in tutta la documentazione tecnica le informazioni più rilevanti e ci risponde citando le sue fonti, in modo tale che possiamo facilmente verificare e approfondire i contenuti.

L'assistente virtuale AI RAG per supporto tecnico è dunque è utile a clienti, rivenditori e/o tecnici, perché:

• È uno strumento di self-help sempre disponibile
• In base alle nostre autorizzazioni ci permette di accedere da un’unica interfaccia conversazionale a tutta la documentazione tecnica integrata resa disponibile dall’azienda
• Ci permette di dialogare in linguaggio naturale, cercando informazioni per similarità semantica. È previsto il prossimo supporto Speech-to-Text e Text-to-Speech per poter parlare a mani libere con l’assistente virtuale AI, una funzione particolarmente utile per operatori e tecnici
• In base alle lingue supportate dal modello linguistico sottostante, ci consente di dialogare in lingue diverse da quelle in cui è disponibile la documentazione tecnica tradotta dall’azienda. È il LLM (Large Language Model) a fungere da traduttore automatico
• Ci permette di cercare testo su testo e testo su immagine. È previsto il prossimo supporto della ricerca mediante upload di immagini, una funzione particolarmente utile per installatori e manutentori che, scattata la foto del gruppo o componente, ricevono informazioni per esempio su procedure, ricambi, accessori, ecc.

Perché l’assistente virtuale AI RAG è utile all’azienda?

L'assistente virtuale offre un supporto tecnico di primo livello e va pensato in affiancamento al customer service o l’assistenza tecnica aziendali. Il suo obiettivo è liberare i collaboratori dell’azienda da compiti di routine - come quello di rispondere a quesiti la cui risposta già si trova nella documentazione tecnica -, permettendo loro di dedicare più tempo e attenzione a esigenze e problemi più complessi.

Gli strumenti di log e, in previsione, quelli di business intelligence integrati con l’assistente virtuale tracciano e rendono analizzabile l’interazione fra utente e documentazione tecnica. L’azienda è così facilitata a rilevare oggettivi punti deboli dei topic e a intraprendere un percorso di miglioramento continuo volto a incrementare qualità e quantità del sapere tecnico aziendale esplicitato e condivisibile con interlocutori autorizzati mediante l’assistente virtuale. Si tratta di un obiettivo che può rientrare anche nella gestione del Sistema Qualità dell’azienda.

Che cosa fare per realizzare l’assistente virtuale AI RAG

Attività a cura dell’azienda prima del lancio dell'assistente virtuale

Anzitutto è necessario definire chi è o chi sono i destinatari dell’assistente virtuale AI RAG, per esempio utilizzatori finali, rivenditori, tecnici installatori e manutentori, ecc. Identificare il target dell’applicazione permette all’azienda di selezionare fonti e topic della documentazione tecnica rilevanti, nonché di progettare autorizzazioni e filtri coerenti.

Va poi strutturato l’albero di classificazione gerarchica dei topic, in modo tale che possa riflettere l’architettura delle informazioni, e supportare autorizzazioni e filtri lato interfaccia utente (per esempio per lingua, informazioni generali, informazioni specifiche per famiglia, modello, prodotto, versione o variante, ecc.).

Fondamentale è collezionare i contenuti sulla base dei quali l’assistente virtuale risponderà alle domande degli utenti. I contenuti possono provenire da più fonti, per esempio: topic esportati da Argo CCMS di KEA, PDF di manuali di prodotti obsoleti ma ancora in uso, FAQ provenienti da CRM, sistemi di gestione di ticket dell’assistenza tecnica e/o di reportistica di rivenditori e tecnici, dati e metadati prelevati da altri componenti dell’ecosistema informativo aziendale mediante connettori sviluppati ad hoc, ecc. Inutile sottolineare che la qualità della documentazione tecnica fa la differenza nel funzionamento dell'assistente virtuale: correttezza, rilevanza per i destinatari, completezza, chiarezza linguistica (grazie anche all'impiego di linguaggi controllati/semplificati) e aggiornamento sono fra gli elementi chiave.

Attività a cura di KEA ed E-Plato per il lancio dell'assistente virtuale

Mediante il back-office dell’assistente virtuale AI RAG impostiamo l’albero di classificazione dei topic ed eventuali autorizzazioni, e vettorializziamo la collezione di contenuti salvandoli nel database vettoriale, pronti per essere ricercati dall’applicazione in base al criterio della similarità semantica. In particolare, per le PMI l’infrastruttura tecnologica è gestita da E-Plato sui suoi server in cloud ubicati in Italia o in altre nazioni europee.

In base alle specifiche dell’azienda sviluppiamo l’interfaccia utente, che può prevedere login, filtri, ricerca testo su testo e anche testo su immagine, visualizzazione della risposta sintetica generata dall’applicazione, citazione e accesso diretto e puntuale alle fonti della risposta, strumenti di feedback per l’utente, comportamento in caso di mancata risposta, ecc. L’interfaccia utente può essere accessibile via web e/o via app. Tendenzialmente l’accessibilità web ha costi di sviluppo più contenuti e permette una maggiore diffusione della conoscenza e dell’utilizzo dell’assistente virtuale (grazie a indicizzazione e posizionamento da parte dei motori di ricerca). Lo sviluppo dell’accessibilità via app è un’opzione da valutare per esempio se l’azienda dispone già di una app che intende valorizzare. Accessibilità via web e via app non sono fra loro in alternativa: possono essere supportate anche entrambe.

Attività a cura dell’azienda dopo il lancio dell'assistente virtuale

Analizzando i file di log, l’azienda può monitorare in modo costante il comportamento dell’assistente virtuale AI RAG, i feedback degli utenti e le mancate risposte, attivando processi di miglioramento continuo dei contenuti e intraprendendo eventuali misure correttive puntuali.

Quali sono le tecnologie dell'intelligenza artificiale che concorrono al funzionamento dell’assistente virtuale nato dalla collaborazione fra KEA ed E-Plato?

L'assistente virtuale AI RAG comprende le nostre domande multilingua; rispettando autorizzazioni e filtri, scandaglia tutta la base di conoscenza aziendale alla ricerca di informazioni rilevanti (testi e immagini); genera una risposta di sintesi; ci elenca le fonti della sua risposta, permettendoci di accedere a esse in modo diretto e puntuale, cioè proprio al paragrafo o all’immagine che ha giudicato rilevanti.

Rispetto alla tradizionale ricerca per parole chiave, l’assistente virtuale potenziato dall'intelligenza artificiale dialoga con noi in linguaggio naturale e ci libera dalla necessità di sapere a priori dove cercare e come l’azienda chiama e descrive ciò che cerchiamo.

Al raggiungimento di un’esperienza utente così naturale concorre un insieme di tecnologie basate sulla Artificial Intelligence messe a sistema. Conoscerle più da vicino ci permette di capire e apprezzare di più il lavoro “automagico” dell'assistente virtuale.

L'assistente virtuale AI RAG per supporto tecnico nato dalla collaborazione fra KEA ed E-Plato si basa sulla messa a sistema dal database vettoriale con la base di conoscenza aziendale, il motore di Information Retrival con suo componente dedicato alla gestione delle Citazioni, il motore di Retrival Augmented Generation, uno o più modelli linguistici open source (ottimizzati, cioè quantizzati da E-Plato per renderli di efficace ed efficiente gestione anche nell’ambito di progetti per PMI) e l’interfaccia utente.

Gli obiettivi peculiari che raggiungiamo attraverso questa costellazione tecnologica sono:

• Accuratezza e precisione: si tende a escludere il rischio di risposte inventate, cioè di allucinazioni da parte dell'assistente virtuale, grazie all’integrazione diretta con la documentazione aziendale
• Scalabilità: il modello di costo a consumo si adatta al mutamento delle esigenze dell’azienda, che non investe nello sviluppo di software e che quindi può anche più facilmente migrare verso soluzioni AI diverse, nel caso in cui dovessero rivelarsi migliorative nel tempo
• Flessibilità: funziona con dati non strutturati e può essere aggiornato con nuovi contenuti da parte dell’azienda con semplici upload
• Facilità d’uso: nessuna installazione o configurazione per i clienti.

Database vettoriale e supporto alla ricerca per similarità semantica

Un database vettoriale è un sistema che archivia le informazioni in una forma matematica chiamata vettori. Ogni concetto, parola o frase è trasformato in un insieme di numeri che ne rappresentano il significato. Questo permette confrontare contenuti in base a quanto si somigliano nel significato, anziché solo per le parole che contengono.

Nel caso dell’assistente virtuale, per contenuti intendiamo sia la domanda dell’utente e sia la knowledge base aziendale. Possiamo quindi immaginare il database vettoriale come un archivio in cui ogni contenuto è tradotto in un codice numerico che ne descrive il senso complessivo, rendendo possibile trovare testi affini anche se scritti con parole diverse.

Trasformare la base di conoscenza dell’azienda in un database vettoriale permette di eseguire ricerche simili a quelle che farebbe un essere umano, perché il sistema non si limita a cercare una parola specifica, ma capisce cosa sta cercando l’utente e trova i documenti più rilevanti anche se i termini usati sono diversi. Per esempio, se un utente chiede “Come posso ridurre il consumo energetico della mia macchina?”, il sistema può suggerire documenti che parlano di “ottimizzazione dei consumi” o “modalità eco”, anche se le parole esatte non coincidono.

In sintesi, ecco la differenza tra ricerca per parole chiave e ricerca per similarità semantica.

Ricerca per parole chiave:

• Funziona come un motore di ricerca classico: trova esattamente i documenti che contengono le parole richieste
• Se le parole non sono esatte, non trova nulla.

Ricerca per similarità semantica:

• Usa l’intelligenza artificiale per capire il significato della richiesta e trova i contenuti anche se le parole sono diverse
• Restituisce risultati più pertinenti, anche se l’utente usa termini diversi da quelli nei documenti.

Esempio pratico:

• Ricerca per parole chiave → Se l’utente cerca “manuale del prodotto XYZ”, trova solo i documenti che contengono esattamente quelle parole
• Ricerca per similarità semantica → Se l’utente cerca “istruzioni per l'uso del prodotto XYZ”, il sistema capisce il senso e suggerisce uno o più “manuali” anche se non contengono la parola “istruzioni d'uso”.

Motore di Information Retrival + Citazioni

Il motore di Information Retrival e il suo componente dedicato alla gestione delle Citazioni sono preposti all’esecuzione delle ricerche per rilevanza semantica e all’esposizione delle fonti giudicate rilevanti. Poter accedere in modo diretto e puntuale alle fonti permette all’utente di verificare e approfondire le risposte dell’assistente virtuale, e di costruire la fiducia nei confronti dell’applicazione.

Motore RAG (Retrival Augmented Generation)

Il motore RAG preposto alla generazione automatica del prompt per il modello linguistico sulla base della domanda dell’utente, delle informazioni più rilevanti recuperate dal motore di Information Retrival e di istruzioni specifiche. L’approccio RAG assicura la generazione di risposte precise da parte del LLM, poiché aderenti alle fonti.

Modello linguistico (LLM, Large Language Model)

In sua assenza l’utente non potrebbe formulare domande in linguaggio naturale e in multilingua, né ricevere le risposte che il modello linguistico genera sulla base del prompt del motore RAG.

• info@keanet.it
• +39 045 6152381
• Via Strà, 102
  I-37042 Caldiero (VR)
  Italia