95 % av AI-ingenjörskonsten är bara kontextingenjörskonst. Alla är besatta av bättre modeller medan kontexten fortfarande är den verkliga flaskhalsen. Även världens bästa modell ger dig skräp om du ger fel information. Här är vad de flesta missar: Kontextutveckling handlar inte bara om RAG eller minne eller agenter. Det är konsten och vetenskapen att leverera rätt information, i rätt format, vid rätt tidpunkt, till din LLM. Tänk på vad du faktiskt behöver: ↳ Hämta för att hämta relevanta dokument ↳ Korttidsminne för att spåra samtal ↳ Långtidsminne för att minnas användarpreferenser ↳ Agenter som ska orkestrera allt ↳ Verktyg för att utöka kapaciteter Det är fem olika system du måste bygga, koppla ihop och underhålla. Jag har nyligen byggt med Pixeltable, och det är ett intressant sätt att lösa detta problem. Det är öppen källkod och behandlar kontextutveckling som ett enhetligt data-problem: Idén är enkel: istället för att sy ihop en vektordatabas, en SQL-databas, en embedding-tjänst och ett agentramverk, lever allt i ett system. Dina dokument, inbäddningar, konversationshistorik och agentutdata är alla bara tabeller. Embeddings är beräknade kolumner som uppdateras automatiskt. Vektorsökning fungerar parallellt med dina vanliga dataoperationer. Vad jag tycker är användbart: ↳ RAG-pipelines utan att hantera separata databaser ↳ Långtidsminne genom vektorsökning över historiska samtal...