Popularne tematy
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Google właśnie opublikował świetny przewodnik na temat efektywnego inżynierii kontekstu dla systemów wieloagentowych.
Zwróćcie na to uwagę, deweloperzy AI! (dodajcie do zakładek)
Oto moje kluczowe wnioski:
Okna kontekstowe nie są wąskim gardłem. Inżynieria kontekstu jest.
W przypadku bardziej złożonych i długoterminowych problemów, zarządzanie kontekstem nie może być traktowane jako proste "manipulowanie ciągami".
Domyślne podejście do obsługi kontekstu w systemach agentowych polega na wrzucaniu wszystkiego do promptu. Więcej historii, więcej tokenów, więcej zamieszania. Większość zespołów traktuje kontekst jako problem konkatenacji ciągów.
Jednak surowe zrzuty kontekstu powodują trzy krytyczne awarie:
> eksplozja kosztów z powodu powtarzających się informacji
> degradacja wydajności z powodu efektów "zgubienia się w środku"
> wzrost wskaźników halucynacji, gdy agenci błędnie przypisują działania w systemie
Zarządzanie kontekstem staje się kwestią architektoniczną obok przechowywania i obliczeń. Oznacza to, że jawne transformacje zastępują ad-hoc konkatenację ciągów. Agenci otrzymują domyślnie minimalny wymagany kontekst i jawnie żądają dodatkowych informacji za pomocą narzędzi.
Wydaje się, że Zestaw Narzędzi Rozwoju Agentów Google naprawdę głęboko myśli o zarządzaniu kontekstem. Wprowadza architekturę warstwową, która traktuje kontekst jako "skompilowany widok nad stanowym systemem", a nie jako aktywność wrzucania do promptu.
Jak to wygląda?
1) Struktura: Model Warstwowy
Framework oddziela przechowywanie od prezentacji w czterech odrębnych warstwach:
1) Kontekst roboczy obsługuje efemeryczne widoki na każde wywołanie.
2) Sesja utrzymuje trwały dziennik zdarzeń, rejestrując każdą wiadomość, wywołanie narzędzia i sygnał kontrolny....

Najlepsze
Ranking
Ulubione

