Odpovídání na otázky kombinující sémantické vyhledávání a generativní umělou inteligenci
Pro zodpovězení otázek týkajících se znalostí domény upřednostňujeme v NLP Cloud následující strategii: nejprve zadáme požadavek pomocí sémantického vyhledávání, abychom získali zdroje, které nejlépe odpovídají na vaši otázku, a poté pomocí generování textu odpovíme na otázku na základě těchto zdrojů jako člověk.
Řekněme, že jsme prodejci tiskáren HP a chceme na našich webových stránkách odpovídat na dotazy našich zákazníků.
Nejprve budeme muset vypočítat vložené hodnoty a uložit je do vektorové databáze nebo vytvořit vlastní model sémantického vyhledávání. Zde bude složen pouze ze 3 příkladů, ale v reálném životě můžete při použití sémantického vyhledávání v NLP Cloud zahrnout až 1 milion příkladů. Jednoduše vytvoříme soubor CSV a vložíme do něj následující příklady:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Poté nahrajeme naši sadu dat CSV do služby NLP Cloud a klikneme na tlačítko "Vytvořit model". Po chvíli bude náš vlastní sémantický vyhledávací model obsahující naše vlastní doménové znalosti připraven a my obdržíme soukromou adresu API, abychom jej mohli používat.
Položme našemu novému modelu otázku pomocí klienta NLP Cloud Python:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Model rychle vrátí následující údaje s krátkou dobou odezvy:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Nyní načteme odpověď, která má nejvyšší skóre (mohli bychom dokonale načíst i několik odpovědí): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Tato odpověď je správná, ale není příliš uživatelsky přívětivá, protože uživatel musí číst poměrně dlouhý text, aby se dozvěděl odpověď. Nyní tedy položíme stejnou otázku znovu našemu koncovému bodu pro zodpovídání otázek pomocí modelu ChatDolphin. Jako kontext použijeme odpověď sémantického vyhledávání:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Vrátí následující odpověď:
{
"answer": "The warranty lasts for three years."
}
Docela dobré, že?
