مُعيد الترتيب المخادع

الفصل الثالث — مُعيد الترتيب المخادع

في المصطلحات التقنية لـ RAG، هناك شخصية رئيسية، غير جذابة وغير معروفة كثيرًا: الـ مُعيد الترتيب. تخيل البحث في الشركة كمدخل إلى نادٍ ليلي. قاعدة بيانات المتجهات هي الحارس: ينظر بسرعة إلى الحشد ويسمح بدخول ثلاثين مرشحًا يبدو أنهم يشبهون ما تبحث عنه. مُعيد الترتيب هو البواب الداخلي: يأخذ هؤلاء الثلاثين، وينظر إليهم بهدوء، ويختار خمسة — أولئك الذين سيقرأهم LLM بالفعل لبناء الإجابة — ويرسل البقية الخمسة والعشرين إلى الوراء. إنها وظيفة صغيرة ولكنها هائلة: إذا أخطأ البواب، يخطئ الجميع. إذا كان البواب لا يعرف كيف يقرأ الوجوه، فسيمتلئ النادي بالأشخاص الخطأ ولن يفهم أحد أبدًا سبب فشل الأمسية.

في عام 2025، ظهرت في السوق العديد من الخدمات السحابية التي قدمت مُعيد الترتيب كواجهة برمجة تطبيقات (API). أرسل سؤالاً وقائمة بالمستندات، وسوف يعيدون لك الدرجات. مناسب وقابل للتطوير، لا توجد وحدات معالجة رسومات (GPU) للشراء، ولا نماذج لتنزيلها. كان أحد مزودي النماذج الأوروبيين المشهورين — دون ذكر الأسماء، ولكنك تعرف الأسماء التي نتجنبها — يعرض نموذجًا واعدًا من عائلة Qwen، بأربعة مليارات معلمة، مُصنفًا باسم "مُعيد الترتيب". كان السعر معقولاً، وكانت الكمون الزمني مقبولاً. كان أي شخص في تلك اللحظة التاريخية سيختاره. اختاره الكثيرون.

إلا أن الدرجات كانت خاطئة. ليس "قليلاً" خاطئة، كما قد يحدث مع أي نموذج: خاطئة هيكليًا. المستندات ذات الصلة بشكل واضح حصلت على 0.2، بينما المستندات غير ذات الصلة حصلت على 0.8. الشكوك الأولى، كما هو الحال دائمًا في هذه الحالات، وجهت إلى المشتبه بهم المعتادين: نموذج التضمين، التجزئة، صياغة الاستعلام، المعالجة المسبقة للمستندات. أسابيع من التحقيق في مسارات خاطئة. فقط من خلال مقارنة إجابات reranker السحابي بشكل منهجي مع إجابات reranker محلي مرجعي - نفس المدخلات، نفس المستندات، والدرجات جنبًا إلى جنب على ورقة Excel - ظهر الحقيقة المزعجة: النموذج المعرض عبر واجهة برمجة التطبيقات (API) كان معطلاً. ربما خطأ في النشر، أو ربما إصدار خاطئ تم تحميله عن طريق الخطأ، أو ربما خطأ في تسلسل الدرجات. لم يعترف المزود بذلك رسميًا أبدًا. ومع ذلك، اختفت المشكلة ببساطة في يوم من الأيام، بعد تحديث صامت ودون أي تغييرات في الملاحظات.

لبّ الموضوع في هذه القصة ليس "الخدمات السحابية تخطئ" — الجميع يخطئ، حتى النماذج المحلية تخطئ. النقطة أدق من ذلك: في نظام RAG جاد، فإن مُعيد الترتيب هو جزء يجب أن تكون قادرًا على النظر إليه من الداخل. إذا كان صندوقًا أسود مدفوعًا، وإذا كانت مخرجاته أرقامًا تبدو معقولة حتى عندما تكون عشوائية — وعادةً ما تبدو درجات مُعيد الترتيب دائمًا معقولة، لأنها أرقام بين صفر وواحد مع بعض المنازل العشرية — فلن يكون لديك أي طريقة لفهم ما الخطأ في نظامك. وبما أن مُعيد الترتيب هو "نحو نهاية" مسار العمل، فإن خطأه يلوث كل تقييم في المنبع: يبدو البحث بطيئًا، والاستعلام خاطئًا، والتضمينات ضعيفة. في الواقع، إنه حارس الباب الذي لا يعرف كيف يقرأ الوجوه، وأنت تشكك في زجاج الباب.

لقد كان اختيار بعض الفرق، في الأشهر الأخيرة — بدلاً من التوجه نحو المزيد من الخدمات السحابية، العودة إلى الخلف — هو إعادة reranker إلى *الداخل*. نموذج مفتوح المصدر من عائلة BGE، ليس ضخمًا، يتم تشغيله على وحدة معالجة رسومات محلية (حتى على Apple Silicon، مع بعض الحذر بشأن برامج التشغيل). المزيد من العمل الإداري، هذا صحيح. ولكن إمكانية إجراء تجارب خاضعة للرقابة، وفهم متى يخطئ، ومقارنة الإصدارات، والاحتفاظ بسجل تاريخي. وعدم — أخيراً — دفع جزء من السنت لكل بحث مستخدم إلى واجهة برمجة التطبيقات. الجزء الذي، إذا ضُرب في عشرات الآلاف من الاستعلامات شهريًا، سيتوقف بسرعة عن كونه جزءًا ويصبح بندًا في الميزانية.

عندما يكون المكون بالغ الأهمية لدرجة أن خلله يفسد كل قدرتك على قياس كل شيء آخر، فإن تفويضه إلى صندوق أسود ليس كفاءة. إنه عمل إيمان. وأعمال الإيمان، في الإنتاج، تُدفع فائدة مركبة.