Поєднання семантичного пошуку та генеративного ШІ
Для того, щоб відповісти на питання про знання предметної області, ми в NLP Cloud надаємо перевагу наступній стратегії: спочатку зробіть запит з семантичним пошуком, щоб отримати ресурси, які найкраще відповідають на ваше запитання, а потім використовуйте генерацію тексту, щоб відповісти на запитання на основі цих ресурсів, як людина.
Припустимо, ми є реселлером принтерів HP і хочемо відповісти на запитання наших клієнтів на нашому веб-сайті.
Спочатку нам потрібно буде обчислити вкраплення і зберегти їх у векторній базі даних, або створити власну модель семантичного пошуку. Тут вона буде складатися лише з 3 прикладів, але в реальному житті ви можете включити до 1 мільйона прикладів, використовуючи семантичний пошук на NLP Cloud. Ми просто створюємо CSV-файл і поміщаємо всередину наступне:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Потім ми завантажуємо наш набір даних у форматі CSV до NLP Cloud і натискаємо "Створити модель". Через деякий час наша власна модель семантичного пошуку, що містить наші власні знання про предметну область, буде готова, і ми отримаємо приватну URL-адресу API для її використання.
Давайте поставимо запитання нашій новій моделі за допомогою клієнта NLP Cloud Python:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Модель швидко повертає наступні дані з коротким часом відгуку:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Тепер ми отримуємо відповідь, яка набрала найбільшу кількість балів (ми також можемо отримати декілька відповідей): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Ця відповідь є правильною, але вона не дуже зручна для користувача, оскільки користувачеві потрібно прочитати досить довгий шматок тексту, щоб отримати відповідь. Тепер ми знову задамо те саме питання нашій кінцевій точці, яка відповідає на питання, використовуючи модель ChatDolphin. Ми будемо використовувати відповідь семантичного пошуку як контекст:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Він повертає наступну відповідь:
{
"answer": "The warranty lasts for three years."
}
Непогано, чи не так?
