Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Akshay 🚀
Zjednodušení LLM, AI Agents, RAG a strojového učení pro vás! • Spoluzakladatel @dailydoseofds_• BITS Pilani • 3 patenty • ex-AI Engineer @ LightningAI
To je obrovské.
Trénujte LLM o 3× rychleji bez ztráty přesnosti.
Unsloth právě vydal nové Triton kernely + automatické balení, které úplně mění doladění hry.
Zde je důvod, proč je to důležité:
Nyní můžete Qwen3-4B doladit jen na 3GB VRAM. To je spotřebitelská GPU. Tvoje GPU.
Nové vydání obsahuje:
↳ Fúzované QK RoPE jádro, které je 2,3x rychlejší na dlouhých kontextech
↳ Chytré balení bez polstrování je ve výchozím nastavení zapnuto
↳ Funguje s FlashAttention 3, xFormers a SDPA
↳ o 30-90 % nižší využití VRAM
Matematika za tím je elegantní:
Reálné datové sady mají různé délky sekvencí. Vyplňování krátkých sekvencí tak, aby odpovídaly těm dlouhým, plýtvá výpočty. Pokud je 80 % vašich sekvencí krátkých, balení vám dá 5x zrychlení tím, že úplně odstraní tento plýtvání.
Bariéra pro místní doladění stále klesá.
Přecházíme od "kdo si může dovolit cloudové výpočetní služby" k "kdo dokáže nejrychleji iterovat na svých vlastních GPU."
Na začátek jsem v dalším tweetu sdílel odkaz na blog a startovní zápisníky.
2,92K
Každá firma, se kterou mluvím, se doslova snaží tento problém vyřešit:
Jak nechat AI zvládnout DevOps, aniž by hrozilo výrobní katastrofa.
Typický DevOps workflow dnes zahrnuje:
- Hodiny ladění konfigurací serveru
- Ruční zápis skriptů Terraform
- Vyhledávání v roztroušené dokumentaci a fórech
- Kopírování a vkládání CI/CD pipeline
- Skenování logů nasazení řádek po řádku
AI by mohla většinu z toho automatizovat, ale strach z jediného halucinovaného příkazu 'kubectl delete', který může vymazat celý výrobní klastr, je skutečný.
Například v červenci 2025 agent Replitu vymazal celou produkční databázi jedné firmy.
Kvůli tomu je skutečná infrastruktura stále manuální a pomalá.
Aby se to vyřešilo, tiše se objevuje nová třída AI agentů, kteří jsou skutečně připraveni pro výrobu pro infrastrukturní práci.
Tito agenti mohou:
- Zvládat tajemství bez jejich odhalení nebo vidění
- Blokujte destruktivní příkazy před jejich spuštěním
- Aktualizace streamu pro dlouhodobě běžící úlohy
- Vyhledávejte oficiální dokumenty místo náhodných příspěvků
A dělají to bez toho, aby předali vaše výrobní klíče AI, která by mohla omylem vymazat vaši databázi.
Pokud to chcete vidět v praxi, tento přístup je skutečně implementován ve Stakpaku, nedávno populárním open-source agentovi postaveném speciálně pro infrastrukturu a DevOps práci.
Agent používá skrytou substituci (AI nikdy nevidí vaše skutečná hesla), bezpečnostní zábrany (automaticky blokuje nebezpečné operace) a vestavěný výzkumný nástroj, který vyhledává pouze oficiální dokumenty z AWS, Kubernetes, Terraform atd.
To mu pomáhá generovat infrastrukturní kód, ladit nasazení, konfigurovat CI/CD pipeline a automatizovat DevOps práci, která obvykle zabírá hodiny času seniorního inženýra.
A všechno se odehrává přímo ve vašem terminálu.
Celou implementaci si můžete prohlédnout na GitHubu a vyzkoušet si ji sami.
Stačí spustit příkaz curl pro instalaci Agenta a jste připraveni.
DevOps týmy nemizí, ale rutinní práce na infrastruktuře (ladění konfigurací, psaní Terraformu, nastavování CI/CD) se jasně přesouvá k AI.
Brzy to proberu v praktické ukázkě.
Odkaz na jejich GitHub repozitář najdete v dalším tweetu.
10,56K
Top
Hodnocení
Oblíbené