Tuntuu, että hakualgoritmi tulee olemaan taas loistava. Kun konteksti tai kehotus kasvaa. Tokenin kulutuksen oikea vähentäminen riippuu oikeastaan siitä, minkä kehotteen ja kontekstin kanssa meidän tulisi lähettää. En usko, että pakkaus toimii kovin hyvin, kun muistipankki on iso. Koska 90 % kehotteesta ei välttämättä vieläkään tarvita. Sen sijaan, että lähettäisimme kaiken kontekstin/kehotteen, etsimme ja päättelemme koko kontekstin pelkästään relevanttia tietoa.