Respuesta a preguntas combinando búsqueda semántica e inteligencia artificial generativa
Para responder a preguntas sobre conocimiento del dominio, la estrategia que preferimos en NLP Cloud es la siguiente: primero realizar una petición con búsqueda semántica para recuperar los recursos que mejor respondan a su pregunta y, a continuación, utilizar la generación de texto para responder a la pregunta basándose en estos recursos como un humano.
Supongamos que somos distribuidores de impresoras HP y queremos responder a las preguntas de nuestros clientes en nuestro sitio web.
Primero tendremos que calcular los embeddings y almacenarlos en una base de datos vectorial, o crear nuestro propio modelo de búsqueda semántica. Aquí se compondrá únicamente de 3 ejemplos, pero en la vida real se pueden incluir hasta 1 millón de ejemplos cuando se utiliza la búsqueda semántica en NLP Cloud. Simplemente creamos un archivo CSV y ponemos lo siguiente dentro:
HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online.
Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert.
HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00.
A continuación, cargamos nuestro conjunto de datos CSV en NLP Cloud y hacemos clic en "Crear modelo". Al cabo de un rato, nuestro propio modelo de búsqueda semántica que contiene nuestro propio conocimiento del dominio estará listo y recibiremos una URL de API privada para poder utilizarlo.
Formulemos una pregunta a nuestro flamante modelo utilizando el cliente Python de NLP Cloud:
import nlpcloud
# We use a fake model name and a fake API key for illustration reasons.
client = nlpcloud.Client("custom-model/5d8e6s8w5", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.semantic_search("How long is the warranty on the HP Color LaserJet Pro?")
El modelo devuelve rápidamente lo siguiente con un breve tiempo de respuesta:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Ahora recuperamos la respuesta que tenga la puntuación más alta (también podríamos recuperar perfectamente varias respuestas): "Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."
Esta respuesta es correcta, pero no es muy fácil de usar, ya que el usuario tiene que leer un texto bastante largo para obtener la respuesta. Así que ahora volvemos a hacer la misma pregunta a nuestro punto final de respuesta de preguntas, utilizando el modelo ChatDolphin. Utilizaremos la respuesta de la búsqueda semántica como contexto:
import nlpcloud
client = nlpcloud.Client("chatdolphin", "poigre5754gaefdsf5486gdsa56", gpu=True)
client.question(
"""How long is the warranty on the HP Color LaserJet Pro?""",
context="""Every HP printer comes with at least a one-year HP commercial warranty (or HP Limited Warranty). Some models automatically benefit from a three-year warranty, which is the case of the HP Color LaserJet Plus, the HP Color LaserJet Pro, and the HP Color LaserJet Expert."""
)
La respuesta es la siguiente:
{
"answer": "The warranty lasts for three years."
}
Bastante bueno, ¿no?
