Tady je důvod, proč je context engineering tak důležitý. Právě jsme strávili dvě hodiny debatou, kdy by se měl agent spolehnout na své interní znalosti a kdy hledat relevantní kontext v datech jen pro jeden typ otázky. Prošli jsme dvěma testovacími případy po stovkách. Ani lidé zapojení do brainstormingu se neshodli, co by od lidí v této situaci očekávali. Opravdu neexistovala správná odpověď a vždy záleží na konkrétním kontextu zákazníka od zákazníka. Vše v kontextovém inženýrství je kompromisem mezi různými faktory: jak rychle chcete, aby agent odpověděl na otázku, kolik vzájemné interakce chcete od uživatele vyžadovat, kolik práce by měl udělat, než se pokusí odpovědět na otázku, jak pozná, že má vyčerpávající zdrojový materiál k odpovědi na otázku, Jaká je míra rizika špatné odpovědi a tak dále. Každé rozhodnutí, které učiníte v jedné z těchto dimenzí, má důsledek na druhé straně. Nic není zadarmo. Proto je budování AI agentů tak šílené. Také to zdůrazňuje, jakou hodnotu má nad vrstvou LLM. Správné rozhodnutí přímo souvisí s kvalitou hodnotové nabídky.