Kód je závazek (ne aktivum). Technicky vedení tomu nerozumí. Myslí si, že AI je skvělá, protože vytvoří 10 000krát více kódu než programátor, ale to jen znamená, že produkuje 10 000krát více rizik. 1/

Pokud byste chtěli verzi tohoto vlákna ve formátu eseje k přečtení nebo sdílení, zde je odkaz na ni na , můj blog bez sledování, reklam a sledování: 2/

AI je azbest, který házíme do zdí naší high-tech společnosti: Kód je zátěž. *Schopnosti* kódu jsou aktiva. 3/

Cílem technologického podniku je mít kód, jehož schopnosti generují více příjmů než náklady spojené s jeho provozem. 4/

Firmy dlouhodobě pěstovaly mylnou představu, že kód stojí méně na dlouhodobý provoz: po počátečním zkušebním období, během kterého jsou chyby v kódu nalezeny a odstraněny, kód přestává potřebovat smysluplnou údržbu. 5/

Koneckonců, kód je stroj bez pohyblivých částí – neopotřebovává se; Ani se neopotřebuje. To je teze knihy Paula Masona z roku 2015 *Postkapitalismus*, knihy, která zestárla pozoruhodně špatně (i když možná ne tak špatně jako Masonova vlastní politická důvěryhodnost). 6/

Kód není nekonečně reprodukovatelný stroj, který nevyžaduje žádnou práci. Spíše jde o křehký stroj, který vyžaduje stále hrdinská opatření, aby zůstal v dobrém provozuschopném stavu, a který se nakonec "opotřebuje" (ve smyslu nutnosti kompletní refaktorace odshora dolů). 7/

Abychom pochopili, proč je kód zátěží, musíte pochopit rozdíl mezi "psaním kódu" a "softwarovým inženýrstvím". "Psaní kódu" je neuvěřitelně užitečná, zábavná a poutavá zábava. 8/

Zahrnuje rozdělení složitých úkolů na samostatné kroky, tak přesně popsané, že je počítač dokáže spolehlivě vykonávat, optimalizuje výkon tím, že hledá chytré způsoby, jak minimalizovat nároky, které kód klade na zdroje počítače, jako je RAM a procesorové cykly. 9/

Mezitím "softwarové inženýrství" je disciplína, která zahrnuje "psaní kódu", ale se zaměřením na dlouhodobý provoz *systému*, jehož je kód součástí. 10/

Softwarové inženýrství se zabývá upstream procesy, které generují data, jež systém přijímá. Zabývá se procesy, kterým systém vysílá zpracované informace. 11/

Zabývá se sousedními systémy, které přijímají data ze stejných upstream procesů a/nebo vysílají data do stejných downstream procesů, kterým systém vysílá. 12/

"Psaní kódu" znamená vytvářet kód, který *běží dobře*. "Softwarové inženýrství" znamená tvořit kód, který *selhává dobře*. Jde o vytvoření kódu, který je čitelný – jehož funkce mohou třetí strany pochopit, pokud by mohly být požádány o jeho údržbu. 13/

Tyto třetí strany mohou být požádány, aby přizpůsobily procesy v oblasti nižších, nahoru nebo vedle systému, aby zabránily poruchám systému. 14/

To je právě ono: jakýkoli netriviální kód musí interagovat s vnějším světem, a ten není statický, je *dynamický*. Vnější svět neustále proráží předpoklady autorů softwaru *neustále* a pokaždé, když se to stane, je potřeba software opravit. 16/

Pamatujete si Y2K? To byl den, kdy dokonale funkční kód běžící na dokonale funkčním hardwaru přestal fungovat – ne proto, že by se kód změnil, ale protože *čas plynul dál*. 17/

Jsme 12 let od problému Y2038, kdy všechny 32bitové verze Unixu přestanou fungovat, protože i ony budou mít vyčerpatelné sekundy. 18/

Existence "světa" je nevyhnutelným faktorem, který opotřebovává software a vyžaduje jeho přestavbu, často za obrovské náklady. Čím déle je kód v chodu, tím pravděpodobnější je, že narazí na "svět". 20/

Vezměme si kód, který zařízení používají k hlášení své fyzické polohy. Původně se to používalo například pro fakturaci – určení, kterého operátora nebo síť poskytovatele používáte a jestli jste roamingovali. 21/

Naše mobilní zařízení pak tento kód využívala k určení vaší polohy a poskytovala vám navigaci krok po kroku v navigačních aplikacích. Poté byl tento kód znovu použit, aby nám pomohl najít ztracená zařízení. 22/

To se stalo způsobem, jak najít *ukradená* zařízení, což je způsob, který se výrazně liší od hledání ztracených zařízení. Při hledání ztraceného zařízení nemusíte řešit možnost, že škodlivý aktér zakázal funkci "najít ztracené zařízení". 23/

Tyto další případy použití – upstream, downstream a sousední – odhalily chyby v původním kódu, které se v dřívějších aplikacích nikdy neobjevily. 24/

Například všechny lokalizační služby musí mít nějaké výchozí chování v (velmi časté) situaci, kdy si nejsou jisté, kde se nacházejí. 25/

Možná mají obecné řešení – například vědí, ke kterému mobilnímu stožáru jsou připojeni, nebo kde byli *naposledy* při přesné přesné lokalizaci – nebo jsou úplně ztraceni. 26/

Ukázalo se, že v mnoha případech aplikace pro lokalizaci nakreslily kruh kolem všech míst, kde *mohou* byly, a pak nastavily jejich polohu do středu tohoto kruhu. 27/

To je v pořádku, pokud má kruh jen pár stop v průměru, nebo pokud aplikace rychle nahradí tuto aproximaci přesnější polohou. Ale co když je lokalita široká na míle a oprava polohy se *nikdy* nezlepší? 28/

Co když je poloha pro jakoukoli IP adresu bez definované polohy uvedena jako *střed kontinentálních USA* a každá aplikace, která neví, kde se nachází, hlásí, že je v domě v Kansasu? 29/

A v mém městě Burbank, kde nám služba sdílení polohy od Googlu kdysi řekla, že naše tehdy jedenáctiletá dcera (jejíž telefon jsme nemohli zastihnout) je 12 mil daleko, na dálniční rampě v neinkorporované oblasti okresu LA. 32/

(Byla v blízkém parku, ale mimo dosah, a aplikace odhadla její polohu jako střed oblasti, kde ji naposledy umístila.) (Byly to těžké hodiny.) 33/

Základní kód – kód, který používá nějaký dříve neškodný výchozí kód k manipulaci s neznámými místy – musí být aktualizován *neustále*, protože upstream, downstream a přilehlé procesy připojené k němu se *neustále*. 34/

Čím déle ten kód tam leží, tím více zastaralé jsou jeho původní chování a tím baroknější, hrubé a zastřené se vrstvy na něm stávají. 35/

Kód není aktivum – je to závazek. Čím déle počítačový systém běží, tím více technologického dluhu představuje. Čím důležitější je systém, tím těžší je ho zbourat a úplně předělat. 36/

Místo toho jsou na něj nanášeny nové vrstvy kódu a všude, kde se tyto vrstvy setkají, vznikají trhliny, ve kterých se tyto systémy chovají způsoby, které úplně neodpovídají. 37/

Ještě horší: když se sloučí dvě firmy, jejich rozbité, rozštěpené IT systémy jsou sraženy dohromady, takže nyní existují *sousední* zdroje technologického dluhu, stejně jako trhliny v upstream a downstream: 38/

Proto jsou obří firmy tak náchylné k útokům ransomware – jsou plné neslučitelných systémů, které byly přemluveny do napodobeniny kompatibility s různými formami digitální tmelu, provázku a balícího drátu. 39/

Nejsou vodotěsné a nelze je udělat vodotěsnými. I když je hackeři neodstraní, někdy prostě spadnou a už se nedají znovu postavit. 40/

Pamatujete, když počítače Southwest Airlines během celého vánočního týdne 2022 spadly a miliony cestujících zůstaly uvězněné? 41/

Letecké společnosti jsou obzvlášť špatné, protože se počítačově zautomatizovaly a nikdy nemohou vypnout staré počítače a nahradit je novými. Proto jsou jejich aplikace taková mizerná. 42/

Proto je tak hrozné, že letecké společnosti propustily zákaznický servis a vyžadují, aby cestující používali aplikace na *všechno*, i když aplikace nefungují. Tyto aplikace nikdy nebudou fungovat. 43/

Důvod, proč aplikace British Airways zobrazuje "Došlo k neznámé chybě" 40–80 % času, není (jen) ten, že propustili veškerý IT personál a outsourcovali ho nejlevnějším zájemcům v zahraničí. 44/

Je to to, jistě – ale také to, že první počítače BA běžely na elektromechanických ventilech a všechno od té doby musí být zpětně kompatibilní se systémem, který jeden z Turingových chráněnců vykousl z celého klády vlastními předními zuby. 45/

Kód je zátěž, ne aktivum (nová aplikace BA je roky pozadu). Kód je zátěž. Servery pro terminály Bloomberg, které proměnily Michaela Bloomberga v miliardáře, běží na RISC čipech. 46/

To znamená, že je vázána na využívání ubývajícího počtu specializovaných dodavatelů hardwaru a datových center, placení specializovaných programátorů a budování křehkých řetězců kódu, aby tyto RISC systémy propojila s jejich méně exotickými ekvivalenty ve světě. Kód není aktivum. 47/

AI umí psát kód, ale AI nemůže dělat softwarové inženýrství. Softwarové inženýrství je hlavně o přemýšlení podle *kontextu* – co bude před tímto systémem? Co přijde potom? Co bude stát vedle ní? Jak se svět změní? 48/

Softwarové inženýrství vyžaduje velmi široké "kontextové okno", což AI nemá a nemůže mít. Kontextové okno AI je úzké a povrchní. Lineární rozšíření kontextového okna AI vyžaduje *geometrická* rozšíření výpočetních nároků: 49/

Psát funkční kód, aniž by se zamyslelo nad tím, jak selže, je recept na katastrofu. Je to způsob, jak vytvářet technologický dluh ve velkém měřítku. Je to házení azbestu do zdí naší technologické společnosti. 50/

Šéfové *nevědí*, že kód je zátěž, ne aktivum. Proto nepřestanou mluvit o chatbotech, kteří napíšou 10 000krát víc kódu než jakýkoli lidský programátor. 51/

Myslí si, že našli stroj, který vyrábí *assety* 10 000krát rychleji než lidský programátor. Nestalo se tak. Našli stroj, který produkuje *odpovědnost* 10 000krát rychleji než jakýkoli lidský programátor. 52/

Udržitelnost není jen otázkou tvrdě získaných zkušeností, které vás učí, kde jsou úskalí. 53/

Vyžaduje také pěstování "Fingerspitzengefühl" – "pocitu na konečcích prstů", který vám umožní rozumně odhadovat, kde by se mohly objevit dosud neviděné nástrahy. 54/

Je to forma znalostí o procesu. Je to nevyhnutelné. Není latentní ani v největším korpusu kódu, který byste mohli použít jako tréninková data: *Teda* technickí šéfové tohle nechápou. 55/

Vezměme si Microsoft. Jejich hlavní sázka je teď na "agentní AI." Chtějí nainstalovat spyware na váš počítač, který zachytí každý stisk klávesy, každou komunikaci, každou obrazovku, kterou vidíte, a pošle to do Microsoftu cloudu a poskytne k tomu přístup celé zvěřinci chatbotů. 56/

Tvrdí, že svému počítači řeknete: "Zarezervujte mi vlak do Cardiffu, najděte ten hotel, o kterém Cory mluvil loni, a rezervujte mi tam pokoj," a on to udělá. To je neuvěřitelně neproveditelný nápad. 57/

Žádný chatbot není schopen dělat všechny tyto věci, což Microsoft otevřeně stanovuje. Místo toho, aby to dělal s jedním chatbotem, Microsoft navrhuje rozdělit tento systém na desítky chatbotů, z nichž každý doufá dosáhnout až 95% spolehlivosti. 58/

To je samo o sobě naprosto nepravděpodobný standard chatbotů, ale vezměte v úvahu toto: pravděpodobnosti jsou *násobitelné*. Systém obsahující dva procesy pracující na 95% spolehlivosti má čistou spolehlivost 90,25 % (0,95 * 0,95). 59/

Rozdělte úkol mezi několik desítek botů s přesností 95 % a šance, že bude splněn správně, se zvýší na *nulu*. 60/

Mezitím se loni v prosinci dostal jeden z manažerů Microsoftu do problémů, když na LinkedIn oznámil svůj záměr nechat AI přepsat *všechen* Microsoft kód. 63/

Refaktorování Microsoftova kódu dává velký smysl. Microsoft – stejně jako British Airways a další tradiční firmy – má spoustu velmi starého kódu, který představuje neudržitelný technologický dluh. 64/

Někteří z vás *jste* softwaroví inženýři, kteří zjistili, že chatboti jsou neuvěřitelně užiteční při psaní kódu pro vás. To je běžný paradox AI: proč někteří lidé, kteří AI používají, ji považují za opravdu užitečnou, zatímco jiní ji nenávidí? 66/

Je to tím, že lidé, kteří nemají rádi AI, jsou "špatní v AI"? Je to tím, že fanoušci AI jsou líní a nezajímá je kvalita jejich práce? 67/

Nepochybně se děje něco z obojího, ale i kdybyste všechny naučili být experty na AI a vyřadili z vzorku všechny, kteří na svou práci nejsou hrdí, paradox zůstane. 68/

Skutečné řešení paradoxu AI spočívá v teorii automatizace a v konceptu "kentaurů" a "obrácených kentaurů": 69/

V teorii automatizace je "kentaur" osoba, které pomáhá stroj. "Reverzní kentaur" je někdo, kdo byl povolán *pomáhat stroji*. 70/

Představte si, že jste softwarový inženýr, který používá AI k psaní rutinního kódu, který máte čas a zkušenosti ověřit, a nasadíte své znalosti z Fingerspitzengefühl a procesů, abyste zajistili, že jsou vhodné. 71/

Je snadné pochopit, proč by vám používání AI (když se rozhodnete, ve svém tempu) může být užitečné. Ale řekněme, že jste softwarový inženýr, kterému bylo zadáno vytvořit kód za 10x, 100x nebo 10 000x vyšší než dříve. 72/

Řekněme, že jediný způsob, jak to udělat, je přes AI, a neexistuje žádný lidský způsob, jak byste ten kód mohli zkontrolovat a zajistit, že se při prvním kontaktu se světem nerozbije, budete ho nenávidět: 73/

(Ještě víc to budete nenávidět, pokud se stanete povadlem odpovědnosti AI, osobně na háčku za chyby AI.) Existuje ještě jeden způsob, jak softwaroví inženýři považují AI generovaný kód za neuvěřitelně užitečný: když je tento kód *izolovaný*. 74/

Pokud děláte jeden projekt – například jednou převádíte jednu dávku souborů do jiného formátu – nemusíte se starat o downstream, upstream nebo sousední procesy. Žádné nejsou. 75/

Píšete kód, abyste něco udělali jednou, aniž byste museli interagovat s jinými systémy. Hodně kódu je právě takovým užitečným projektem. Je to únavné, nevděčné a ideální pro automatizaci. 76/

Do tohoto segmentu spadá spousta osobních projektů a samozřejmě, že osobní projekt je podle definice kentaur projekt. Nikdo vás nenutí používat AI v osobním projektu – je vždy na vás, jak a kdy nástroj osobně využijete. 77/

Ale fakt, že softwaroví inženýři někdy dokážou zlepšit svou práci pomocí AI, neznamená, že kód je zátěží, nikoli aktivem, a že AI kód představuje produkci závazků ve velkém měřítku. 78/

V příběhu technologické nezaměstnanosti je myšlenka, že nové technologie vytvářejí nová pracovní místa, i když činí ta stará zastaralámi: na každého kováře, kterého auto přivede o práci, čeká práce mechanika. 79/

V letech od doby, kdy se bublina AI začala nafukovat, jsme slyšeli mnoho verzí tohoto tvrzení: AI by vytvářela pracovní místa pro "prompt engineery" – nebo dokonce pracovní místa, která si nedokážeme představit, protože nebudou existovat, dokud AI nezmění svět k nepoznání. 80/

Nespoléhal bych na práci v pohádkovém oboru, který si doslova nelze představit, protože naše vědomí nebylo AI natolik změněno, že by získalo schopnost konceptualizovat tyto nové způsoby práce. 81/

Ale pokud *hledáte* práci, kterou AI určitě vytvoří v milionech, mám tip: digitální odstranění azbestu. 82/

AI kód – napsaný 10 000krát rychleji než jakýkoli lidský programátor, navržený tak, aby fungoval dobře, ale ne aby selhal s grácií – je digitální azbest, kterým zaplňujeme naše zdi. Naši potomci stráví generace vykopáváním azbestu ze zdí. 83/

Bude potřeba spoustu práce na opravě věcí, které jsme rozbili, díky nejnebezpečnější AI psychóze ze všech – halucinatorní víře, že "psaní kódu" je totéž co "softwarové inženýrství". 84/

Tímto tempem budeme mít plnou zaměstnanost pro generace odstraňovatelů azbestu. 85/