API för semantisk sökning för RAG (Retrieval Augmented Generation)

Vad är semantisk sökning?

Semantisk sökning handlar om att söka efter innehåll med hjälp av naturligt språk, precis på samma sätt som Google gör. När du använder semantisk sökning behöver du inte söka efter exakta nyckelord (även känt som nyckelordssökning) eftersom AI kan förstå din förfrågan och tolka den.

Låt oss säga att du är återförsäljare av HP-skrivare och att du har tusentals dokument som tekniska beskrivningar av skrivare, priser, användarvillkor... Kanske vill du göra det enkelt att söka i dessa dokument på din e-handelswebbplats? Se dessa 3 korta dokument som exempel:

Föreställ dig nu att en av dina kunder ställer följande fråga på din e-handelswebbplats:

AI-modellen för semantisk sökning ger följande resultat på ett ögonblick:

Din kund kanske inte ställde en korrekt formulerad fråga? Inga problem, en fråga som denna fungerar också:

Som du ser är semantisk sökning mycket mer avancerad än traditionell nyckelordssökning, eftersom du kan ställa frågor på naturligt språk som du skulle göra med en människa. Dessutom är AI för semantisk sökning mycket bra på att utföra disambiguering (förstå innebörden av ett ord tack vare dess sammanhang).

Semantisk sökning är en mycket bra lösning när det gäller att söka och svara på frågor i dina egna data, eftersom det är både blixtsnabbt och exakt.

Om du vill besvara frågor om en stor samling intern domänkunskap kanske du vill sätta upp ett RAG-system (Retrieval Augmented Generation). Läs i så fall vår särskilda artikel om RAG: läs det här.

Semantisk sökning kan uppnås genom att fylla en vektordatabas med inbäddningar, vilket är det tillvägagångssätt som vektordatabasleverantörer som Pinecone eller Milvus använder. Men för de mest avancerade svarstiderna vill du skapa din egen semantiska sökmodell och distribuera den på en GPU, vilket är vad vi gör på NLP Cloud.

NLP Clouds API för semantisk sökning

NLP Cloud erbjuder ett API för semantisk sökning som gör att du kan skapa din egen semantiska sökmotor utifrån dina egna affärsdata och sedan utföra semantisk sökning direkt, baserat på de bästa Sentence Transformers-modellerna.
Svarstiden (latency) är mycket bra för dessa modeller!

För mer information, se vår dokumentation om semantisk sökning här.

Att testa semantisk sökning lokalt är en sak, men att använda den på ett tillförlitligt sätt i produktionen är en annan sak. Med NLP Cloud kan du göra både och!