Sliter du med AI eller fullstack-utvikling? Ekspertene våre er her for å veilede deg: skreddersydde råd, teknisk integrasjon og mer. Ta kontakt på [email protected].

Analysere side-diffs i stor skala med GPT-OSS 120B: historien om Page Deltas powered by NLP Cloud

Å holde oversikt over endringer på nettet er kritisk for competitive intelligence-, compliance- og produktteam, men rå side-diffs er støyende og umulige å gjennomgå manuelt i stor skala. Page Deltas, en AI-drevet plattform for nettstedendringsovervåking, baserer seg på GPT-OSS 120B på NLP Cloud for å filtrere, kategorisere og oppsummere side-diffs i stor skala. I denne artikkelen utforsker vi hvordan Page Deltas utnytter open source-modellen GPT-OSS 120B på NLP Cloud til å gjøre rå side-diffs om til handlingsbare varsler. Les mer om Page Deltas på nettstedet deres.

Page Deltas

Om nettstedendringsovervåking, Page Deltas og NLP Cloud

Nettet endrer seg stadig. Konkurrenter justerer priser, leverandører oppdaterer stille sine vilkår, regulatorer publiserer nye retningslinjer, og dokumentasjonssider utvikler seg uten noen kunngjøring. For mange team er det dyrt å oppdage disse endringene dager eller uker for sent: en mistet prisbevegelse, en ubemerket policyoppdatering eller et stille avviklet API kan ha reelle forretningskonsekvenser. Page Deltas ble bygget for å løse akkurat dette problemet. Det overvåker kontinuerlig nettsidene som betyr noe for et team, oppdager endringer og leverer klare, AI-genererte sammendrag direkte til Slack, Microsoft Teams, Discord, e-post eller webhooks.

Bak kulissene drives intelligenslaget i Page Deltas av GPT-OSS 120B, en open-weight storspråkmodell servert via NLP Cloud API. Partnerskapet illustrerer godt hva moderne åpen kildekode-AI gjør mulig: en produksjonsfunksjon som hver dag leser tusenvis av side-diffs, avgjør hvilke som faktisk betyr noe, og forklarer dem i klart språk — uten å ofre personvern eller kostnadskontroll.

Hvorfor det er vanskelig å analysere side-diffs i stor skala

Å oppdage at en side har endret seg er den enkle delen. En enkel sammenligning mellom to versjoner av en side flagger noe ved nesten hvert hent: roterende bannere, widgets med trending artikler, cookie-varsler, oppdaterte tidsstempler, tilfeldig markup generert av moderne frontend-rammeverk eller A/B-testvariasjoner. Den vanskelige delen er å avgjøre om en endring faktisk betyr noe.

Tradisjonelle regelbaserte tilnærminger som CSS-selektor-ignoreringslister og terskler for endringsstørrelse når raskt sine grenser. De er skjøre, må vedlikeholdes separat for hvert overvåket nettsted, og kan i bunn og grunn ikke avgjøre om et omskrevet avsnitt er en vesentlig oppdatering av en refusjonspolicy eller en ufarlig stavefeilretting. Å forstå en diff krever at man faktisk leser den — som er nøyaktig det store språkmodeller er gode til.

Men i skalaen av tusenvis av kontinuerlig overvåkede URL-er er det bare levedyktig å sende hver kandidat-diff til en LLM hvis modellen samtidig er nøyaktig, rask og kostnadseffektiv. Det er her GPT-OSS 120B på NLP Cloud kommer inn.

Page Deltas gjør rå sideendringer om til handlingsbare varsler

Page Deltas henter de overvåkede sidene etter en tidsplan, sammenligner hver ny versjon med den forrige og tar før-og-etter-skjermbilder slik at brukere visuelt kan verifisere enhver endring. Sitemap-discovery-funksjonen oppdager til og med helt nye URL-er så snart de publiseres, noe som er særlig nyttig for å oppdage produktlanseringer tidlig. Team kan samarbeide om monitorer med rollebasert tilgang og sende varsler til kanalene de allerede bruker: Slack, Discord, Microsoft Teams, e-post eller webhooks for tilpassede integrasjoner.

Typiske brukstilfeller inkluderer overvåking av konkurrenters prissider, sporing av produktlanseringer og changelogs, overvåking av regulatoriske og juridiske sider for compliance, og analyse av stillingssider for å forstå et marked. I alle tilfeller er løftet det samme: i stedet for en vegg av rå HTML-diffs mottar brukerne et kort, lesbart sammendrag av hva som er endret og hvorfor det kan bety noe — bare når det faktisk betyr noe.

Filtrere og oppsummere side-diffs med GPT-OSS 120B

For hver endring oppdaget av overvåkingsmotoren sender Page Deltas diffen, sammen med litt sidekontekst, til GPT-OSS 120B via NLP Cloud API. Modellen spiller to roller samtidig. Først fungerer den som filter: den vurderer om endringen er meningsfull eller bare støy, slik at irrelevante oppdateringer aldri når brukeren. Deretter fungerer den som skribent: for meningsfulle endringer produserer den det konsise sammendraget som lander i varselet, og forklarer i klart språk hva som er endret på siden.

GPT-OSS 120B passer spesielt godt til denne arbeidsbelastningen. Utgitt av OpenAI under den permissive Apache 2.0-lisensen er det en mixture-of-experts-modell: bare rundt 5 milliarder av dens 117 milliarder parametere er aktive per token, noe som gir resonnerings- og instruksjonsfølgingskvalitet nær toppen til latens og kostnad som en mye mindre modell. Det store kontekstvinduet rommer komfortabelt selv store diffs sammen med det omkringliggende sideinnholdet. For en høyvolum, alltid-på-oppgave som side-diff-analyse er denne balansen av kvalitet, hastighet og pris nøyaktig det som trengs.

Å servere GPT-OSS 120B på NLP Cloud gir ytterligere fordeler. Pay-as-you-go-API-et skalerer med volumet av overvåkede sider uten noe infrastrukturarbeid på Page Deltas-siden, og data sendt til API-et brukes aldri til å trene andre modeller. Og fordi GPT-OSS 120B er open source, beholder Page Deltas full kontroll over veikartet: modellen kan senere finjusteres på egne eksempler på relevante og irrelevante endringer, eller deployes på en dedikert server når volumene vokser — uten vendor lock-in. Les mer om generative AI-modeller som GPT-OSS 120B på NLP Cloud her.

Hva er det neste for Page Deltas og NLP Cloud

Dette samarbeidet har bare så vidt startet. Etter hvert som Page Deltas vokser, utforsker begge teamene dypere AI-muligheter: rikere kategorisering av endringer, trendanalyse på tvers av successive versjoner av en side, og overvåking av nettsteder på mange språk — et område der de flerspråklige evnene til modellene på NLP Cloud skinner. På NLP Cloud-siden presser arbeidsbelastninger som denne oss til å optimalisere inference-stacken vår slik at store open source-modeller forblir raske og rimelige i stor skala.

Page Deltas er et godt eksempel på hva utviklere kan bygge i dag ved å kombinere et fokusert produkt med avanserte open source AI-modeller servert via et enkelt API.

Hvis du ikke har gjort det ennå, kan du registrere deg for NLP Cloud her.

Du kan prøve Page Deltas gratis her.

Jessica
Markedssjef i NLP Cloud