Zodpovedanie otázok zmiešaním sémantického vyhľadávania a generatívnej AI
Na zodpovedanie otázok týkajúcich sa doménových znalostí uprednostňujeme v službe NLP Cloud túto stratégiu: najprv zadáme požiadavku pomocou sémantického vyhľadávania, aby sme získali zdroje, ktoré najlepšie odpovedajú na vašu otázku, a potom pomocou generovania textu odpovieme na otázku na základe týchto zdrojov ako človek.
Povedzme, že sme predajca tlačiarní HP a chceme odpovedať na otázky našich zákazníkov na našej webovej lokalite.
Najprv budeme musieť vypočítať vložené hodnoty a uložiť ich do vektorovej databázy alebo vytvoriť vlastný model sémantického vyhľadávania. V tomto prípade bude pozostávať len z 3 príkladov, ale v reálnom živote môžete pri používaní sémantického vyhľadávania v službe NLP Cloud zahrnúť až 1 milión príkladov. Jednoducho vytvoríme súbor CSV a vložíme doň nasledujúce príklady:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Potom nahráme náš súbor údajov CSV do služby NLP Cloud a klikneme na tlačidlo "Vytvoriť model". Po chvíli bude náš vlastný model sémantického vyhľadávania obsahujúci naše vlastné doménové znalosti pripravený a my dostaneme súkromnú adresu API, aby sme ho mohli používať.
Položme nášmu úplne novému modelu otázku pomocou klienta NLP Cloud Python:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Model rýchlo vráti nasledujúce údaje s krátkou odozvou:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Teraz načítame odpoveď, ktorá má najvyššie skóre (mohli by sme dokonale načítať aj viacero odpovedí): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Táto odpoveď je správna, ale nie je príliš užívateľsky prívetivá, pretože používateľ musí prečítať pomerne dlhý text, aby získal odpoveď. Preto teraz položíme tú istú otázku znova nášmu koncovému bodu odpovedania na otázky pomocou modelu ChatDolphin. Ako kontext použijeme odpoveď sémantického vyhľadávania:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Vráti nasledujúcu odpoveď:
{
"answer": "The warranty lasts for three years."
}
Je to celkom dobré, nie?
