Fragenbeantwortung mit einer Mischung aus semantischer Suche und generativer KI
Zur Beantwortung von Fragen zum Domänenwissen bevorzugen wir bei NLP Cloud folgende Strategie: Zunächst wird eine Anfrage mit der semantischen Suche gestellt, um die Ressourcen abzurufen, die Ihre Frage am besten beantworten, und dann wird die Frage mit Hilfe der Texterstellung auf der Grundlage dieser Ressourcen wie ein Mensch beantwortet.
Nehmen wir an, wir sind ein Wiederverkäufer von HP-Druckern und möchten die Fragen unserer Kunden auf unserer Website beantworten.
Zunächst müssen wir die Einbettungen berechnen und in einer Vektordatenbank speichern oder unser eigenes semantisches Suchmodell erstellen. Hier wird es nur aus 3 Beispielen bestehen, aber im wirklichen Leben kann man bis zu 1 Million Beispiele einbeziehen, wenn man die semantische Suche in der NLP Cloud verwendet. Wir erstellen einfach eine CSV-Datei und fügen das Folgende ein:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Anschließend laden wir unseren CSV-Datensatz in die NLP Cloud hoch und klicken auf "Modell erstellen". Nach einer Weile ist unser eigenes semantisches Suchmodell, das unser eigenes Domänenwissen enthält, fertig und wir erhalten eine private API-URL, um es zu verwenden.
Stellen wir unserem brandneuen Modell eine Frage mit dem NLP Cloud Python-Client:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Das Modell liefert mit kurzer Reaktionszeit folgende Ergebnisse:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Jetzt suchen wir die Antwort mit der höchsten Punktzahl heraus (wir könnten auch mehrere Antworten heraussuchen): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Diese Antwort ist zwar richtig, aber nicht sehr benutzerfreundlich, da der Benutzer einen ziemlich langen Text lesen muss, um die Antwort zu erhalten. Also stellen wir dieselbe Frage noch einmal an unseren Endpunkt zur Beantwortung von Fragen, wobei wir das ChatDolphin-Modell verwenden. Wir werden die Antwort der semantischen Suche als Kontext verwenden:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Sie liefert folgende Antwort:
{
"answer": "The warranty lasts for three years."
}
Ziemlich gut, oder?
