Eksempler på å gjenskape en BM25-rangering
Eksemplene bruker oppdiktede dokumenter og søk. De viser hvordan de samme kandidatene kan få ulike poeng når samlingen som brukes til å beregne poengene, endres. De viser også hvordan en kandidat kan falle ut allerede i første utvalg. Beregningene bruker den fastsatte versjonen av rank-bm25.
Last ned de fem skriptene og de lagrede resultatene (ZIP). README-filen forklarer hvordan du installerer de angitte versjonene av Python-pakkene og sammenligner resultatene.
Hvordan endret den gjennomsnittlige dokumentlengden seg?
Et ekstra dokument uten noen av søkeordene kan endre gjennomsnittslengden som brukes i poengberegningen. I dette eksemplet leder A når gjennomsnittet er under 18 tokener, står likt med B ved 18 og faller bak over 18. I kontrolltesten med lengdejusteringen slått av leder B hele veien.
Hvilke dokumenter endret vekten til søkeordene?
I en samling med ni oppdiktede dokumenter matcher A red, og B matcher blue. To endringer i andre dokumenter øker antallet dokumenter med red fra to til fire. Antallet med blue holder seg på tre. A leder først, står likt med B etter den første endringen og faller bak etter den andre. Kandidatene og gjennomsnittslengden på fire tokener er de samme.
Hvilke dokumenter teller i hver shard?
I dette eksemplet med 18 dokumenter snur to bytter av andre dokumenter mellom shards rekkefølgen på A og B når hver shard bruker sin egen statistikk. Én beregning over hele den uendrede samlingen gir B de høyeste poengene i alle fordelingene som ble testet. Elasticsearchs søke-API beskriver hvor statistikken for søkeordene kan komme fra. Poengene her er fra Python-eksemplet.
Hvilke dokumenter går videre til ny rangering?
I et annet eksempel med 18 dokumenter gir poeng for alle aktuelle kandidater rekkefølgen B, C, A. Den nye rangeringen bruker de samme poengene fra hele samlingen. Første utvalg bestemmer hvilke kandidater som går videre.
Første utvalg og resultater etter ny rangering
| Første utvalg | Opprinnelig sluttrekkefølge | Sluttrekkefølge etter to bytter av bakgrunnsdokumenter |
| Lokal BM25, ett resultat per shard | C, A | B, C |
| Lokal BM25, opptil to per shard | B, C, A | B, C, A |
| BM25 for hele samlingen, ett per shard | B, C | B, C |