Kutatás · arXiv · cs.CL ·
Az AdSteer natív hirdetéseket illeszt nagy nyelvi modellek válaszaiba
Az arXiv-on megjelent AdSteer a generálás közben módosítja a token-valószínűségeket, hogy a szponzorált tartalom a nagy nyelvi modellek válaszainak természetes része legyen.
A nagy nyelvi modellek üzemeltetési költségei gyorsan nőnek, ezért a szolgáltatóknak alternatív bevételi módokra van szükségük az ingyenes vagy megfizethető hozzáférés fenntartásához. A natív hirdetés ebben ígéretes megoldás, mert összeköti a felhasználói szándékot a kereskedők ajánlataival.
Az eddigi megközelítések promptba injektálásra, többmenetes átírásra vagy finomhangolásra épültek, ezek viszont ronthatják a válasz minőségét vagy többletszámítást igényelnek. Az AdSteer ezzel szemben könnyű, dekódolási idejű keretrendszer, amely adaptívan módosítja a token-valószínűségeket, és a kontextusnak megfelelő hirdetést illeszt a válaszba. A módszer kalibrálja a hirdetési hatás erősségét és időtartamát.
A GEM-Bench benchmarkon, három alkalmazási forgatókönyvben végzett kísérletekben az AdSteer átlagosan 14,1%-kal jobb összpontszámot ért el a legerősebb kiindulási módszerekhez képest. Az átírás-alapú módszerekhez képest a teljes tokenszám átlagosan 22,5%-kal alacsonyabb volt.
Miért fontos neked?
Az LLM-szolgáltatásokat üzemeltető fejlesztőknek és termékvezetőknek számít, mert a dekódolási idejű megoldás kevesebb tokent igényel, mint az átírás-alapú eljárások. Az eredmények egy benchmarkon mért kísérletekből származnak, ezért a gyakorlati alkalmazhatóság további ellenőrzést igényel.
Az eredeti megnyitása (arXiv · cs.CL)
Eredeti cím: AdSteer: Native Advertising in Large Language Model Generation
Címkék: hirdetés, nagy nyelvi modell, monetizáció