Spørgsmålsbesvarelse blander semantisk søgning og generativ AI
For at besvare spørgsmål om domæneviden er den strategi, vi foretrækker hos NLP Cloud, følgende: Lav først en anmodning med semantisk søgning for at hente de ressourcer, der bedst besvarer dit spørgsmål, og brug derefter tekstgenerering til at besvare spørgsmålet baseret på disse ressourcer som et menneske.
Lad os sige, at vi er forhandler af HP-printere, og at vi ønsker at besvare vores kunders spørgsmål på vores hjemmeside.
Først skal vi beregne indlejringer og gemme dem i en vektordatabase eller oprette vores egen semantiske søgemodel. Her vil den kun bestå af 3 eksempler, men i det virkelige liv kan du inkludere op til 1 million eksempler, når du bruger semantisk søgning på NLP Cloud. Vi opretter simpelthen en CSV-fil og lægger følgende ind:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Derefter uploader vi vores CSV-datasæt til NLP Cloud og klikker på "Create model". Efter et stykke tid vil vores egen semantiske søgemodel, der indeholder vores egen domæneviden, være klar, og vi vil modtage en privat API-URL for at kunne bruge den.
Lad os stille et spørgsmål til vores helt nye model ved hjælp af NLP Cloud Python-klienten:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Modellen returnerer hurtigt følgende med en kort svartid:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Nu henter vi det svar, der har den højeste score (vi kan også sagtens hente flere svar): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Dette svar er korrekt, men det er ikke særlig brugervenligt, da brugeren skal læse et ret langt stykke tekst for at få svaret. Så nu stiller vi det samme spørgsmål igen til vores slutpunkt for besvarelse af spørgsmål ved hjælp af ChatDolphin-modellen. Vi vil bruge svaret fra den semantiske søgning som kontekst:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Den returnerer følgende svar:
{
"answer": "The warranty lasts for three years."
}
Det er ret godt, ikke?
