Risposta alle domande che mescola ricerca semantica e IA generativa
Per rispondere a domande sulla conoscenza del dominio, la strategia che preferiamo in NLP Cloud è la seguente: prima fare una richiesta con la ricerca semantica per recuperare le risorse che meglio rispondono alla domanda, e poi usare la generazione di testo per rispondere alla domanda sulla base di queste risorse come un umano.
Supponiamo di essere un rivenditore di stampanti HP e di voler rispondere alle domande dei nostri clienti sul nostro sito web.
Per prima cosa dovremo calcolare gli embeddings e memorizzarli in un database vettoriale, oppure creare il nostro modello di ricerca semantica. In questo caso sarà composto da soli 3 esempi, ma nella vita reale è possibile includere fino a 1 milione di esempi quando si utilizza la ricerca semantica su NLP Cloud. È sufficiente creare un file CSV e inserirvi quanto segue:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Carichiamo quindi il nostro set di dati CSV su NLP Cloud e facciamo clic su "Crea modello". Dopo un po', il nostro modello di ricerca semantica contenente la nostra conoscenza del dominio sarà pronto e riceveremo un URL API privato per poterlo utilizzare.
Poniamo una domanda al nostro nuovo modello utilizzando il client Python di NLP Cloud:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Il modello restituisce rapidamente quanto segue con un breve tempo di risposta:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Ora recuperiamo la risposta che ha il punteggio più alto (potremmo anche recuperare più risposte): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
La risposta è corretta, ma non è molto facile da usare, poiché l'utente deve leggere un testo piuttosto lungo per ottenere la risposta. Ora poniamo nuovamente la stessa domanda al nostro endpoint di risposta alle domande, utilizzando il modello ChatDolphin. Utilizzeremo la risposta della ricerca semantica come contesto:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
La risposta è la seguente:
{
"answer": "The warranty lasts for three years."
}
Non è male, vero?
