Kendi Anlamsal Arama Modelinizi Oluşturma
Kendi anlamsal arama modelinizi oluşturmak, çok düşük bir gecikme süresi sağlarken doğru sonuçlar elde etmenin harika bir yoludur. Kendi anlamsal arama modelinizi bir GPU'ya yerleştirirseniz bu daha da doğru olur.
İlk olarak, verilerimizi içeren küçük bir veri kümesi oluşturalım. HP yazıcılarla ilgili aşağıdaki teknik belgeleri içeren 1 sütunlu bir CSV dosyası ("dataset.csv" olarak adlandırılır) oluşturun (gerçek hayat senaryosunda elbette çok daha fazla örnek eklemek isteyeceksiniz):
"HP® LaserJets have unmatched printing speed, performance and reliability that you can trust. Enjoy Low Prices and Free Shipping when you buy now online."
"Every HP LaserJet comes with a one-year HP commercial warranty (or HP Limited Warranty)."
"HP LaserJet ; Lowest cost per page on mono laser printing. · $319.99 ; Wireless options available. · $109.00 ; Essential management features. · $209.00."
Her satır en fazla 512 belirteç (kabaca 400 kelimeye eşdeğer) içerebilir ve doğruluğu en üst düzeye çıkarmak için 128 belirtecin (kabaca 100 kelimeye eşdeğer) altında kalınması önerilir. Artık veri kümemizde 3 adet dokümantasyonumuz olduğuna göre, modelimizi kullanarak verileri Sentence Transformers ile kodlayabiliriz. Aşağıdakileri içeren bir Python betiği oluşturun (PyTorch ve Sentence Transformers'ın yüklü olduğundan emin olun).
from sentence_transformers import SentenceTransformer
import csv
import torch
model_name = 'paraphrase-multilingual-mpnet-base-v2'
encoded_model_path = 'semantic_search_model.pt'
dataset_path = 'dataset.csv'
bi_encoder = SentenceTransformer(model_name)
passages = []
with open(dataset_path) as csv_file:
csv_reader = csv.reader(csv_file)
for row in csv_reader:
passages.append(row[0])
corpus_embeddings = bi_encoder.encode(
passages, batch_size=32, convert_to_tensor=True, show_progress_bar=True)
torch.save(corpus_embeddings, encoded_model_path)
Bu komut dosyası paraphrase-multilingual-mpnet-base-v2'yi temel model olarak indirip kullanır ve verilerimizi kodlamak için kullanır. Gereksinimlerinize bağlı olarak (model boyutu, kullanım durumu, desteklenen diller, ...) mevcut birçok önceden eğitilmiş model arasından seçim yapabilirsiniz. Donanımınıza bağlı olarak, kodlama işlemini hızlandırmak için "batch_size" parametresini uyarlamak isteyeceksiniz.
Oluşturulduktan sonra aşağıdaki Python betiği ile modelinizi çıkarım için kullanabilirsiniz:
import csv
from sentence_transformers import SentenceTransformer, util
import torch
bi_encoder = SentenceTransformer('paraphrase-multilingual-mpnet-base-v2')
semantic_search_model = torch.load('semantic_search_model.pt')
passages = []
with open('app/custom_model/dataset.csv') as csv_file:
csv_reader = csv.reader(csv_file)
for row in csv_reader:
passages.append(row[0])
question_embedding = bi_encoder.encode(
"How long is the warranty on the HP Color LaserJet Pro?", convert_to_tensor=True)
hits = util.semantic_search(
question_embedding, semantic_search_model, top_k=3)
hits = hits[0]
result = {"search_results": [
{"score": hit['score'], "text": passages[hit['corpus_id']]} for hit in hits]}
Yukarıdaki çıkarım komut dosyası aşağıdaki sonuçları döndürür:
{
"search_results": [
{
"score": 0.99,
"text": "Every HP LaserJet comes with a one-year HP commercial warranty (or HP Limited Warranty)."
},
{
"score": 0.74,
"text": "All consumer PCs and printers come with a standard one-year warranty. Care packs provide an enhanced level of support and/or an extended period of coverage for your HP hardware. All commercial PCs and printers come with either a one-year or three-year warranty."
},
{
"score": 0.68,
"text": "In-warranty plan · Available in 2-, 3-, or 4-year extension plans · Includes remote problem diagnosis support and Next Business Day Exchange Service."
},
]
}
Çıkarım kodumuzda, "top_k" parametresi kaç sonuç döndürmek istediğimizi belirler. Sonuç olarak, veri kümesindeki eşleşen metni bir güven puanıyla birlikte gösteriyoruz. Bu puan önemlidir çünkü yanıtı kabul edip etmeyeceğimize karar vermemize yardımcı olur.
