Lehe diffide analüüsimine mastaabis GPT-OSS 120B-ga: Page Deltase lugu powered by NLP Cloud

Veebisaidi muudatuste jälgimisest, Page Deltast ja NLP Cloudist

Veeb muutub pidevalt. Konkurendid kohandavad hindu, tarnijad uuendavad vaikselt teenusetingimusi, regulaatorid avaldavad uusi juhiseid ja dokumentatsioonilehed arenevad ilma igasuguse teadaandeta. Paljude tiimide jaoks on nende muudatuste avastamine päevi või nädalaid hiljem kallis: vahele jäänud hinnaliikumine, märkamata jäänud poliitika uuendus või vaikselt aegunud API võib omada reaalseid ärilisi tagajärgi. Page Deltas loodi just selle probleemi lahendamiseks. See jälgib pidevalt tiimile olulisi veebilehti, avastab muudatusi ja edastab selged, AI-genereeritud kokkuvõtted otse Slacki, Microsoft Teamsi, Discordi, e-posti või webhookidesse.

Kulisside taga käitab Page Deltase intelligentsikihti GPT-OSS 120B, open-weight suur keelemudel, mida serveeritakse NLP Cloud API kaudu. See partnerlus illustreerib hästi, mida kaasaegne avatud lähtekoodiga AI võimaldab: tootmisfunktsiooni, mis loeb iga päev tuhandeid lehe diffe, otsustab, millised tõeliselt loevad, ja selgitab neid selges keeles — ohverdamata andmekaitset ega kulude kontrolli.

Miks on lehe diffide analüüsimine mastaabis keeruline

Avastada, et leht on muutunud, on lihtne osa. Kahe leheversiooni lihtne võrdlus märgib peaaegu igal päringul midagi: pöörlevad bännerid, trendivate artiklite vidinad, küpsiste teated, uuendatud ajatemplid, kaasaegsete front-end raamistikude genereeritud juhuslik markup või A/B testivariatsioonid. Raske osa on otsustada, kas muudatus tegelikult loeb.

Traditsioonilised reeglipõhised lähenemised, nagu CSS-selektorite ignoreerimisnimekirjad ja muudatuse suuruse läved, jõuavad kiiresti oma piiridesse. Need on haprad, neid tuleb iga jälgitava saidi jaoks eraldi hooldada ning nad ei suuda põhimõtteliselt öelda, kas ümberkirjutatud lõik on oluline tagastuspoliitika uuendus või kahjutu kirjavea parandus. Diffi mõistmine nõuab selle tegelikku lugemist — just selles on suured keelemudelid head.

Kuid tuhandete pidevalt jälgitavate URL-ide mastaabis on iga kandidaat-diffi LLM-ile saatmine elujõuline ainult siis, kui mudel on üheaegselt täpne, kiire ja kulutõhus. Siin tuleb mängu GPT-OSS 120B NLP Cloudil.

Page Deltas muudab toored lehemuudatused tegevuseks kõlblikeks teavitusteks

Page Deltas toob jälgitavad lehed ajakava järgi, võrdleb iga uut versiooni eelmise omaga ja teeb enne-ja-pärast ekraanipilte, et kasutajad saaksid iga muudatust visuaalselt kontrollida. Sitemap'i avastamise funktsioon tuvastab isegi täiesti uued URL-id kohe pärast avaldamist, mis on eriti kasulik toote lansseerimiste varajaseks märkamiseks. Tiimid saavad rollipõhise juurdepääsuga monitoride kallal koostööd teha ja suunata teavitused kanalitesse, mida nad juba kasutavad: Slack, Discord, Microsoft Teams, e-post või webhookid kohandatud integratsioonideks.

Tüüpilised kasutusjuhtumid hõlmavad konkurentide hinnalehtede jälgimist, tooteväljaannete ja changelogide jälgimist, regulatiivsete ja juriidiliste lehtede jälgimist compliance'i jaoks ning töökuulutuste lehtede analüüsi turu mõistmiseks. Igal juhul on lubadus sama: toor-HTML diffide seina asemel saavad kasutajad lühikese, loetava kokkuvõtte sellest, mis muutus ja miks see võib loota — ainult siis, kui see tõesti loeb.

Lehe diffide filtreerimine ja kokkuvõte GPT-OSS 120B-ga

Iga jälgimismootori avastatud muudatuse korral saadab Page Deltas diffi koos lehe kontekstiga GPT-OSS 120B-le NLP Cloud API kaudu. Mudel täidab korraga kahte rolli. Esiteks toimib filtrina: hindab, kas muudatus on tähenduslik või lihtsalt müra, et ebaolulised uuendused ei jõuaks kunagi kasutajani. Teiseks toimib autorina: tähenduslike muudatuste puhul loob lühikese kokkuvõtte, mis jõuab teavitusse, selgitades selges keeles, mis lehel muutus.

GPT-OSS 120B sobib sellele koormusele eriti hästi. OpenAI avaldas selle permissiivse Apache 2.0 litsentsi all; tegemist on mixture-of-experts mudeliga: 117 miljardist parameetrist on tokeni kohta aktiivsed vaid umbes 5 miljardit, mis annab peaaegu tipptaseme arutlus- ja juhiste järgimise kvaliteedi palju väiksema mudeli latentsuse ja kuluga. Suur kontekstaken mahutab mugavalt isegi suured diffid koos ümbritseva lehe sisuga. Kõrge mahuga, alati sees oleva ülesande, nagu lehe diffide analüüs, jaoks on see kvaliteedi, kiiruse ja hinna tasakaal täpselt see, mida vaja.

GPT-OSS 120B serveerimine NLP Cloudil toob lisahüvesid. Pay-as-you-go API skaleerub jälgitavate lehtede mahuga ilma Page Deltase poolel infrastruktuuritööd vajamata ning API-le saadetud andmeid ei kasutata kunagi teiste mudelite treenimiseks. Ja kuna GPT-OSS 120B on avatud lähtekoodiga, säilitab Page Deltas täieliku kontrolli teekaardi üle: mudelit saab hiljem peenhäälestada oma asjakohaste ja ebaoluliste muudatuste näidetel või juurutada pühendatud serveris mahtude kasvades — ilma vendor lock-in'ita. Lisateave generatiivsete AI-mudelite, nagu GPT-OSS 120B NLP Cloudil, kohta siin.

Mis on järgmine Page Deltasele ja NLP Cloudile

See koostöö on alles alguses. Page Deltase kasvades uurivad mõlemad tiimid sügavamaid AI-võimalusi: rikkalikumat muudatuste kategoriseerimist, trendianalüüsi lehe järjestikuste versioonide vahel ja veebisaitide jälgimist paljudes keeltes — valdkond, kus NLP Cloudil serveeritavate mudelite mitmekeelsed võimed säravad. NLP Cloudi poolel sunnivad sellised koormused meid optimeerima inference'i pinu, et suured avatud lähtekoodiga mudelid püsiksid mastaabis kiired ja taskukohased.

Page Deltas on suurepärane näide sellest, mida arendajad saavad täna ehitada, kombineerides fookustatud toodet arenenud avatud lähtekoodiga AI-mudelitega, mida serveeritakse lihtsa API kaudu.

Kui sa ei ole seda veel teinud, saad NLP Cloudiga liituda siin.

Saate Page Deltast siin tasuta proovida.

Jessica
NLP Cloudi turundusjuht