Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Velký okamžik pro stavitele agentů!
V softwaru se opakuje vzorec.
Nejprve se všichni zaměří na problém "budovy".
Rámce vznikají, dozrávají a stávají se skutečně dobrými. Pak se najednou omezení přepne na nasazení.
Viděli jsme to u neuronových sítí.
PyTorch, TensorFlow a Caffe byly všechny vynikající pro stavbu modelů. Ale jejich nasazení znamenalo pracovat s různými formáty a runtime.
ONNX umožňoval vývojářům stavět v jakémkoli frameworku, který chtěli, exportovat do standardního formátu a nasazovat kdekoliv.
Sledujeme stejný vzorec právě teď u agentů.
Frameworky jako LangGraph, CrewAI, Agno a Strands jsou natolik vyspělé, že budování agenta už není ta nejtěžší část.
Místo toho jde o to, co se děje potom: nasazení, streamování, správa paměti, pozorovatelnost a automatické škálování.
Nejde o problémy s agenty, ale spíše o problémy infrastruktury. A právě teď každý AI tým, se kterým jsem mluvil, je řeší od začátku.
xpander k tomuto problému přistupuje jako ONNX a myslím, že je to správný mentální model.
Základní myšlenka je jednoduchá: přiveďte svého agenta (postaveného v jakémkoli frameworku), nasadíte ho přes xpander a získejte veškerou produkční infrastrukturu.
To zahrnuje:
- Nasazení serverless za ~2 minuty
- SSE streamování pro real-time thinking UX...
Top
Hodnocení
Oblíbené
