Kérdésválaszolás a szemantikus keresés és a generatív mesterséges intelligencia keverése
Az NLP Cloudnál a domain tudással kapcsolatos kérdések megválaszolásához a következő stratégiát részesítjük előnyben: először szemantikus kereséssel kérdezzük meg, hogy megtaláljuk a kérdésre legjobban válaszoló erőforrásokat, majd szöveggenerálással válaszoljuk meg a kérdést ezen erőforrások alapján, mint egy ember.
Tegyük fel, hogy HP nyomtatók viszonteladói vagyunk, és a weboldalunkon szeretnénk válaszolni ügyfeleink kérdéseire.
Először is ki kell számolnunk a beágyazásokat, és egy vektoros adatbázisban kell tárolnunk őket, vagy saját szemantikus keresési modellt kell létrehoznunk. Itt csak 3 példából fog állni, de a való életben akár 1 millió példát is felvehetünk, ha szemantikus keresést használunk az NLP Cloudon. Egyszerűen létrehozunk egy CSV fájlt, és beletesszük a következőket:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Ezután feltöltjük a CSV-adatkészletünket az NLP Cloudba, és a "Create model" (Modell létrehozása) gombra kattintunk. Egy idő után elkészül a saját szemantikus keresési modellünk, amely tartalmazza a saját domain tudásunkat, és kapunk egy privát API URL-t a használatához.
Tegyünk fel egy kérdést a vadonatúj modellünknek az NLP Cloud Python kliens segítségével:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
A modell rövid válaszidővel gyorsan visszaadja a következőket:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Most a legmagasabb pontszámmal rendelkező választ keressük meg (tökéletesen több választ is meg tudunk keresni): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Ez a válasz helyes, de nem túl felhasználóbarát, mivel a felhasználónak elég hosszú szöveget kell elolvasnia ahhoz, hogy megkapja a választ. Ezért most újra feltesszük ugyanazt a kérdést a kérdésválaszoló végpontunknak, a ChatDolphin modellt használva. A szemantikus keresési választ fogjuk használni kontextusként:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
A következő választ adja vissza:
{
"answer": "The warranty lasts for three years."
}
Elég jó, nem?
