أبحاث
كيفية إعادة حساب ترتيب BM25 بعد تعديل الفهرس
احفظ المستندات التي تُحسب منها إحصاءات BM25، ومعرّفات العناصر المؤهلة للظهور في البحث، والمعرّفات التي تنتقل بين مراحل الترتيب. يساعدك ذلك على تحديد ما إذا كان التغيّر في أوزان الكلمات أو درجات الأجزاء أو اختيار العناصر. تستخدم الأمثلة مستندات افتراضية جرى تقسيمها إلى وحدات نصية مسبقًا، ومكتبة rank-bm25 بالإصدار 0.2.2. طريقة حساب الدرجات
تحقّق من المجموعة التي تُحسب منها الدرجات
أعد تشغيل الاستعلام نفسه بالمعرّفات المؤهلة نفسها لكل مجموعة تُحسب منها الدرجات. احفظ إصدار الفهرس أو مجموعة النصوص، وطريقة تحليل الاستعلام، وإعدادات حساب الدرجات. قارن عدد المستندات ومتوسط طولها وعدد المستندات التي تحتوي على كل كلمة من الاستعلام في النطاق الذي تُحسب منه الإحصاءات.
قد تؤثر إضافة مستند لا يطابق أي كلمة في الاستعلام في تعديل الدرجات بحسب الطول. في أحد الأمثلة، تجعل هذه الإضافة المتوسط أقل بقليل من 18 وحدة نصية، أو مساويًا لـ18، أو أعلى منه بقليل. يتقدم A دون 18، ويتعادل مع B عند 18، ويتأخر فوق 18. وإذا أوقفت التعديل بحسب الطول، ظل B متقدمًا في جميع الحالات. تجربة متوسط طول المستند
قد تتغير أوزان الكلمات أيضًا مع بقاء متوسط الطول ثابتًا. في مثال يضم تسعة مستندات، يرفع تعديلان في المستندات الأخرى عدد المستندات المحتوية على red من اثنين إلى أربعة، بينما يبقى عدد المستندات المحتوية على blue ثلاثة. يطابق A كلمة red ويطابق B كلمة blue. يتقدم A أولًا، ويتعادل مع B بعد التعديل الأول، ويتأخر بعد الثاني. ولا يتغير العنصران المرشحان ولا المتوسط البالغ أربع وحدات نصية. تجربة تكرار الكلمات
تحقّق من المستندات التي تدخل في إحصاءات كل جزء
عند حساب الدرجات محليًا، سجّل الجزء الذي ينتمي إليه كل مستند، سواء كان مرشحًا أم من المستندات الأخرى. قد يؤثر تغيير توزيع المجموعة نفسها عند إعادة بنائها في مقارنة الدرجات من أجزاء مختلفة. في مثال من 18 مستندًا، يجعل إجراء عمليتي تبديل بين المستندات الأخرى B يتقدم على A في الحساب المحلي. وعند استخدام حساب واحد للمجموعة الكاملة ذاتها، تكون درجة B أعلى في كل توزيع اختبرناه. تجربة توزيع أجزاء الفهرس
عند إعادة تنفيذ بحث موزّع، راجع طريقة حساب الدرجات التي ضُبط عليها النظام. توضح وثائق Elasticsearch مثلًا وجود طرق تستخدم تكرارات الجزء الحالي وأخرى تستخدم تكرارات جميع الأجزاء. الدرجات أعلاه من مثال Python. واجهة البحث في Elasticsearch
تحقّق من العناصر التي تصل إلى إعادة الترتيب
قارن المعرّفات قبل تقليص القائمة الأولية وبعده. سجّل طريقة حساب الدرجات في كل مرحلة، وعدد النتائج المأخوذة من كل جزء، وقاعدة حسم التعادل إذا كان تساوي الدرجات قد يؤثر في الاختيار. إذا كان استعلام الاختبار سهل المعالجة، فرتّب جميع العناصر المؤهلة وفق قاعدة إعادة الترتيب لمعرفة أيها يمكن أن يتصدر.
في مثال آخر يضم 18 مستندًا، يكون ترتيب العناصر المؤهلة B, C, A عند حساب الدرجات على المجموعة الكاملة. يوضّح الجدول أثر الاختيار الأول في الترتيب النهائي عندما تستخدم مرحلة إعادة الترتيب دائمًا درجات المجموعة الكاملة. تجربة الاختيار الأول
| الاختيار الأول | الترتيب النهائي الأصلي | الترتيب النهائي بعد عمليتي تبديل بين المستندات الأخرى |
|---|---|---|
| BM25 محلي، نتيجة واحدة لكل جزء | C, A | B, C |
| BM25 محلي، نتيجتان كحد أقصى لكل جزء | B, C, A | B, C, A |
| BM25 على المجموعة كاملةً، نتيجة واحدة لكل جزء | B, C | B, C |
في الصف الأول، يُستبعَد B قبل إعادة الترتيب في التوزيع الأصلي. تبيّن المقارنة هل التغيّر في العناصر التي تُمنح درجات أم في طريقة حساب درجات العناصر النهائية. إذا غاب عنصر عن مدخلات إعادة الترتيب، فأعد الاختيار الأول. وإذا تطابقت العناصر واختلف ترتيبها، فقارن درجات إعادة الترتيب وقاعدة حسم التعادل.