Odpowiadanie na pytania łączące wyszukiwanie semantyczne i generatywną sztuczną inteligencję
Aby odpowiedzieć na pytania dotyczące wiedzy dziedzinowej, strategia, którą preferujemy w NLP Cloud, jest następująca: najpierw wyślij zapytanie za pomocą wyszukiwania semantycznego, aby pobrać zasoby, które najlepiej odpowiadają na Twoje pytanie, a następnie użyj generowania tekstu, aby odpowiedzieć na pytanie w oparciu o te zasoby, tak jak człowiek.
Załóżmy, że jesteśmy sprzedawcą drukarek HP i chcemy odpowiadać na pytania naszych klientów na naszej stronie internetowej.
Najpierw będziemy musieli obliczyć osadzenia i przechowywać je w wektorowej bazie danych lub stworzyć własny model wyszukiwania semantycznego. Tutaj będzie on składał się tylko z 3 przykładów, ale w rzeczywistości można uwzględnić do 1 miliona przykładów podczas korzystania z wyszukiwania semantycznego w NLP Cloud. Po prostu tworzymy plik CSV i umieszczamy w nim następujące dane:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
Następnie przesyłamy nasz zestaw danych CSV do NLP Cloud i klikamy "Create model". Po chwili nasz własny model wyszukiwania semantycznego zawierający naszą własną wiedzę o domenie będzie gotowy i otrzymamy prywatny adres URL API, aby z niego korzystać.
Zadajmy pytanie naszemu nowemu modelowi przy użyciu klienta NLP Cloud Python:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
Model szybko zwraca następujące informacje z krótkim czasem reakcji:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Teraz pobieramy odpowiedź, która uzyskała najwyższy wynik (możemy też idealnie pobrać kilka odpowiedzi): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Ta odpowiedź jest poprawna, ale nie jest zbyt przyjazna dla użytkownika, ponieważ użytkownik musi przeczytać dość długi fragment tekstu, aby uzyskać odpowiedź. Teraz ponownie zadamy to samo pytanie naszemu punktowi końcowemu odpowiadającemu na pytania, używając modelu ChatDolphin. Użyjemy odpowiedzi wyszukiwania semantycznego jako kontekstu:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
Zwraca następującą odpowiedź:
{
"answer": "The warranty lasts for three years."
}
Całkiem nieźle, prawda?
