Отговаряне на въпроси Смесване на семантично търсене и генеративен ИИ
За да отговорим на въпроси, свързани с познания в областта, стратегията, която предпочитаме в NLP Cloud, е следната: първо отправяме заявка със семантично търсене, за да извлечем ресурсите, които най-добре отговарят на въпроса ви, и след това използваме генериране на текст, за да отговорим на въпроса въз основа на тези ресурси като човек.
Да кажем, че сме дистрибутор на принтери HP и искаме да отговорим на въпросите на клиентите си на нашия уебсайт.
Първо ще трябва да изчислим вгражданията и да ги съхраним във векторна база данни или да създадем собствен модел за семантично търсене. Тук той ще бъде съставен само от 3 примера, но в реалния живот можете да включите до 1 милион примера, когато използвате семантично търсене в NLP Cloud. Просто създаваме CSV файл и поставяме в него следното:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
След това качваме нашия CSV набор от данни в NLP Cloud и щракваме върху "Create model". След известно време нашият собствен модел за семантично търсене, съдържащ нашите собствени знания за домейна, ще бъде готов и ще получим частен API URL адрес, за да го използваме.
Нека зададем въпрос на нашия чисто нов модел, като използваме клиента NLP Cloud Python:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Моделът бързо връща следните данни с кратко време за реакция:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Сега извличаме отговора, който има най-висок резултат (можем да извлечем и няколко отговора): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Този отговор е верен, но не е много удобен за потребителя, тъй като той трябва да прочете доста дълъг текст, за да получи отговора. Затова сега отново задаваме същия въпрос на нашата крайна точка за отговор на въпроси, като използваме модела ChatDolphin. Ще използваме отговора от семантичното търсене като контекст:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Той връща следния отговор:
{
"answer": "The warranty lasts for three years."
}
Доста добро, нали?
