RAG يعمل فعلًا: أنماط من 12 نظامًا في الإنتاج

ما هو RAG وأين يخطئ

التوليد المعزز بالاسترجاع (RAG) يجيب عن الأسئلة من مستنداتك. بدل الاعتماد على ما حفظه النموذج اللغوي، يبحث النظام في محتواك، ويضع أكثر المقاطع صلة داخل الأمر، ويطلب من النموذج الإجابة منها، ويفضَّل مع ذكر المصادر.

عندما يعطي مساعد RAG إجابة خاطئة أو غامضة، نادرًا ما يكون النموذج هو السبب. غالبًا لم يُسترجع المقطع الصحيح أصلًا، أو قُطع إلى نصفين أثناء التقطيع، أو دُفن تحت نص أقل صلة. لذلك فإن العمل الذي يجعل RAG موثوقًا هو في معظمه هندسة بحث.

خط المعالجة

• الاستيعاب: جمع المستندات من مصادر مثل نظام إدارة المحتوى ومركز المساعدة وملفات PDF والتذاكر، مع صلاحياتها.
• التقطيع: تقسيمها إلى مقاطع مفهومة بذاتها.
• التضمين والفهرسة: تخزين المتجهات والكلمات المفتاحية مع البيانات الوصفية.
• الاسترجاع: البحث بسؤال المستخدم مع تصفية ما يحق له رؤيته.
• إعادة الترتيب: ترتيب أفضل النتائج بنموذج أدق.
• التوليد: الإجابة من المقاطع المسترجعة فقط مع الاستشهاد بها.
• التقييم: قياس جودة الاسترجاع والإجابات باستمرار.

تقطيع يحافظ على المعنى

المقاطع ذات الحجم الثابت التي تقطع الجداول والعناوين هي أكثر أسباب الإجابات السيئة شيوعًا. قسّم بدلًا من ذلك وفق بنية المستند: الأقسام والعناوين وعناصر القوائم وصفوف الجداول. بضع مئات من الرموز لكل مقطع مع تداخل بسيط يناسب معظم النصوص.

خزّن بيانات وصفية مع كل مقطع: عنوان المستند وعنوان القسم والرابط والتاريخ والمنتج أو الإصدار واللغة وصلاحيات الوصول. إضافة العنوان وعنوان القسم إلى نص المقطع قبل التضمين تحسّن الاسترجاع كثيرًا في الغالب، لأن الفقرة وحدها نادرًا ما توضح موضوعها.

البحث الهجين وإعادة الترتيب

البحث المتجهي جيد في فهم المعنى لكنه ضعيف مع المصطلحات الدقيقة: رموز المنتجات ورسائل الأخطاء والأسماء والأرقام. والبحث بالكلمات المفتاحية (BM25) عكس ذلك. شغّل الاثنين وادمج النتائج، مثلًا باستخدام reciprocal rank fusion، لتحصل على قوة كل منهما.

ثم أعد الترتيب. استرجع بسرعة من 20 إلى 50 مرشحًا، ودع مُعيد ترتيب من نوع cross-encoder يقيّم كلًّا منها مقابل السؤال. تمرير أفضل خمسة إلى ثمانية مقاطع فقط إلى النموذج يقلل التكلفة وزمن الاستجابة والالتباس.

الصلاحيات والحداثة

طبّق صلاحيات الوصول وقت الاسترجاع بمرشحات البيانات الوصفية، ولا تطلب من النموذج إخفاء شيء أبدًا. إذا كان المستخدم لا يجوز له رؤية مستند، فيجب ألا يصل ذلك المستند إلى الأمر.

حافظ على حداثة الفهرس بتحديثات تدريجية: أعد فهرسة المستند عند تغييره واحذف مقاطعه عند إزالته. المقاطع القديمة تنتج إجابات واثقة لكنها متقادمة، وهي الأصعب اكتشافًا.

أوامر لإجابات مستندة إلى المصادر

اطلب من النموذج أن يجيب من المقاطع المقدَّمة فقط، وأن يستشهد بها بمعرّفاتها، وأن يقول بوضوح عندما لا تكون الإجابة في المصادر. عامل النص المسترجع كبيانات لا كتعليمات: قد تحتوي المستندات على نص يحاول توجيه النموذج، لذا يجب أن ينص أمر النظام على تجاهل أي تعليمات داخل المصادر.

التقييم هو المنتج

قبل الإطلاق، اجمع من 50 إلى 200 سؤال حقيقي مع المستندات التي يجب أن تجيب عنها. قِس الاسترجاع (هل كان المستند الصحيح بين أفضل النتائج؟) بشكل منفصل عن جودة الإجابة (هل كانت صحيحة وكاملة ومدعومة بالمصادر؟). يساعد التقييم الآلي بنموذج على نطاق واسع، لكن راجعه يدويًا من حين لآخر.

شغّل هذه المجموعة مع كل تغيير في التقطيع أو التضمينات أو الأوامر أو النماذج. بدونها يصبح كل تحسين مجرد تخمين.

مجموعة تقنيات عملية

لمعظم الفرق نبدأ ببساطة: PostgreSQL مع pgvector (أو OpenSearch عند الحاجة إلى بحث قوي بالكلمات المفتاحية)، ونموذج تضمين ومُعيد ترتيب من مزود كبير، واستيعاب يعمل في طوابير خلفية، وشاشة إدارة صغيرة تُظهر المصادر التي استخدمتها كل إجابة. قواعد البيانات المتجهية المتخصصة مثل Qdrant أو Weaviate تصبح منطقية على نطاق أكبر. البنية أقل أهمية من التقطيع والمرشحات والتقييم المحيطة بها.