Hier ist der Grund, warum Kontext-Engineering so wichtig ist. Wir haben gerade 2 Stunden damit verbracht zu debattieren, wann ein Agent auf sein internes Wissen zurückgreifen sollte vs. versuchen sollte, relevanten Kontext innerhalb von Daten für nur eine Art von Frage zu finden. Wir haben 2 Testfälle von Hunderten durchgearbeitet. Selbst die Personen, die an dem Brainstorming beteiligt waren, konnten sich nicht darauf einigen, was sie von Menschen in dieser Situation erwarten würden. Es gab wirklich keine richtige Antwort, und es ist immer kontextspezifisch, Kunde für Kunde. Alles im Kontext-Engineering ist ein Kompromiss zwischen einer Vielzahl von Faktoren: Wie schnell möchten Sie, dass der Agent eine Frage beantwortet, wie viel Hin und Her-Interaktion möchten Sie vom Benutzer verlangen, wie viel Arbeit sollte er leisten, bevor er versucht, eine Frage zu beantworten, wie weiß er, dass er das umfassende Quellenmaterial hat, um die Frage zu beantworten, wie hoch ist das Risiko einer falschen Antwort und so weiter. Jede Entscheidung, die Sie in einem dieser Dimensionen treffen, hat eine Konsequenz auf der anderen Seite. Es gibt kein kostenloses Mittagessen. Das ist der Grund, warum der Aufbau von KI-Agenten so verrückt ist. Es hebt auch hervor, wie viel Wert über der LLM-Schicht liegt. Diese Entscheidungen richtig zu treffen, steht in direktem Zusammenhang mit der Qualität des Wertangebots.