هندسة السياق، موضحة بوضوح (مع مشاهد بصرية): (دليل مصور أدناه)

فما هي هندسة السياق؟ إنها فن وعلم تقديم المعلومات الصحيحة، بالشكل المناسب، وفي الوقت المناسب، إلى ماجستير اللغة الكبير الخاص بك. إليك اقتباسا من أندريه كارباثي حول هندسة السياق... 👇

لفهم هندسة السياق، من الضروري أولا فهم معنى السياق. لقد تطور الوكلاء اليوم ليصبحوا أكثر بكثير من مجرد روبوتات دردشة. الرسم البياني أدناه يلخص الأنواع الستة من السياقات التي يحتاجها الوكيل ليعمل بشكل صحيح. تحقق من هذا 👇

بحلول الآن، يجب أن تعلم أنه ليس كافيا فقط "تحفيز" الوكلاء. يجب عليك هندسة المدخلات (السياق). فكر في الأمر بهذه الطريقة: 🧠 LLM = وحدة المعالجة المركزية 💾 نافذة السياق = ذاكرة الوصول العشوائي أنت في الأساس تبرمج "الذاكرة العشوائية" مع التعليمات المثالية الذكاء الاصطناعي لديك. استمرار... 👇

فكيف نفعل ذلك؟ يمكن تقسيم هندسة السياق إلى أربع مراحل أساسية: - سياق الكتابة - اختيار السياق - ضغط السياق - عزل السياق دعونا نفهم كل واحد منهم، واحدا تلو الآخر... 👇

1️⃣ سياق الكتابة: كتابة السياق تعني حفظه خارج نافذة السياق لمساعدة الوكيل في أداء مهمة. يمكنك فعل ذلك من خلال كتابته إلى: - الذاكرة طويلة الأمد (تستمر عبر الجلسات) - الذاكرة قصيرة المدى (تستمر خلال الجلسة) - كائن حالة انظر إلى هذا👇

2️⃣ اقرأ السياق: قراءة السياق تعني سحبه إلى نافذة السياق لمساعدة الوكيل في أداء مهمة. الآن يمكن استخراج هذا السياق من: - أداة -ذاكرة - قاعدة المعرفة (docs، قاعدة بيانات المتجهات) انظر إلى هذا👇

3️⃣ ضغط السياق ضغط السياق يعني الاحتفاظ فقط بالرموز اللازمة للمهمة. قد يحتوي السياق المسترجع على معلومات مكررة أو زائدة (استدعاءات أدوات متعددة الأدوار)، مما يؤدي إلى رموز إضافية وزيادة التكلفة. تلخيص السياق يساعد هنا. انظر إلى هذا👇

4️⃣ عزل السياق عزل السياق يتضمن تقسيمه لمساعدة الوكيل على أداء مهمة. بعض الطرق الشائعة للقيام بذلك هي: - استخدام عدة وكلاء (أو وكلاء فرعيين)، لكل منها سياقه الخاص - استخدام بيئة صندوق الرمل لتخزين وتنفيذ الكود - وباستخدام كائن الحالة انظر إلى هذا👇

لتلخيص الأمر، سأترككم مع رسم هندسة السياق. أيضا، إليك حزمة مفتوحة المصدر لهندسة السياق: - الذاكرة: @zep_ai - قاعدة المعرفة: @milvusio - توزيع الوكلاء: @crewAIInc - الملاحظة والتتبع: @deepeval