Kontekstisuunnittelu, selkeästi selitetty:

Kaikki puhuvat kontekstitekniikasta, mutta kukaan ei kerro, mitä se oikeasti tarkoittaa. Tänään selitän kaiken, mitä sinun tarvitsee tietää kontekstitekniikasta, vaihe vaiheelta. Mennään! 🚀

Mitä siis kontekstitekniikka on? Se on taitoa ja tiedettä toimittaa oikea tieto, oikeassa muodossa ja oikeaan aikaan LLM:llesi. Tässä on lainaus Andrej Karpathylta kontekstitekniikasta... 👇

Kontekstitekniikan ymmärtämiseksi on tärkeää ensin ymmärtää kontekstin merkitys. Agentit ovat nykyään kehittyneet paljon muusakin kuin pelkiksi chatboteiksi. Alla oleva kaavio tiivistää kuusi kontekstityyppiä, joita agentti tarvitsee toimiakseen oikein. Katso tätä 👇

Nyt sinun pitäisi tietää, ettei pelkkä "kehottaminen" agentteja riitä. Sinun täytyy suunnitella syöte (konteksti). Ajattele asiaa näin: 🧠 LLM = CPU 💾 Kontekstiikkuna = RAM Ohjelmoit käytännössä "RAMia" täydellisillä ohjeilla tekoälyllesi. jatkuva... 👇

Miten me sitten teemme sen? Kontekstitekniikka voidaan jakaa neljään perustavanlaatuiseen vaiheeseen: - Kirjoituskonteksti - Kontekstin valinta - Kontekstin pakkaaminen - Kontekstin eristäminen Ymmärretään jokainen yksi kerrallaan... 👇

1️⃣ Kirjoituskonteksti: Kontekstin kirjoittaminen tarkoittaa sen tallentamista kontekstiikkunan ulkopuolelle, jotta agentti voi suorittaa tehtävän. Voit tehdä sen kirjoittamalla osoitteeseen: - Pitkäkestoinen muisti (säilyy istuntojen aikana) - Lyhytkestoinen muisti (säilyy istunnon aikana) - Tilaobjekti Katso tätä👇

2️⃣ Lue konteksti: Kontekstin lukeminen tarkoittaa sen vetämistä kontekstiikkunaan auttamaan agenttia tehtävän suorittamisessa. Tämän kontekstin voi vetää seuraavista lähteistä: - Työkalu -Muisti - Tietopohja (asiakirjat, vektoritietokanta) Katso tätä👇

3️⃣ Kontekstin pakkaaminen Kontekstin pakkaaminen tarkoittaa, että pidetään vain tehtävään tarvittavat tokenit. Haettu konteksti voi sisältää päällekkäistä tai päällekkäistä tietoa (monikierrokseiset työkalukutsut), mikä johtaa ylimääräisiin tokeneihin ja kustannusten kasvuun. Kontekstin yhteenveto auttaa tässä. Katso tätä👇

4️⃣ Eristäminen kontekstista Kontekstin eristäminen tarkoittaa sen jakamista auttamaan agenttia tehtävän suorittamisessa. Joitakin suosittuja tapoja tehdä tämä ovat: - Useiden agenttien (tai aliagenttien) käyttäminen, joilla jokaisella on oma kontekstinsa - Hiekkalaatikkoympäristön käyttö koodin tallennukseen ja suoritukseen - Ja tilaobjektin käyttö Katso tätä👇