Pokud tento rozhovor s Karpathy nepraskne bublinu ai, Nic se nestane. 10 brutálních citátů: 1. LLM ještě nefungují Nemají dostatek inteligence, nejsou dostatečně multimodální, nemohou používat počítače a nepamatují si, co jim říkáte. Jsou kognitivně nedostatečné. Bude trvat asi deset let, než se tím vším prokousáte. 2. Když je spustíte, vždy začínají od nuly Nemají žádnou destilační fázi, žádný proces jako ve spánku, kde se to, co se stalo, analyzuje a zapisuje zpět do vah. 3. To, co je uloženo v jejich vahách, je jen mlhavá vzpomínka na internet Je to jen stlačená šmouha 15 bilionů tokenů vtěsnaných do několika miliard parametrů. Jejich kontextové okno je pouze krátkodobá pracovní paměť. 4. Jsou dobří v napodobování, hrozní v odklonu od rozmanitosti dat Příliš mnoho paměti, málo uvažování. Musíme se zbavit naučených znalostí a zachovat kognitivní jádro: algoritmy, kouzlo inteligence, řešení problémů, strategii. 5. Pravděpodobně jsme znovu vytvořili kortikální tkáň, učení vzorců a obecně, ale stále nám chybí zbytek mozku Žádný hipokampus pro paměť. Žádná amygdala pro instinkty. Žádné emoce ani motivace. 6. Pamatují si perfektně, ale špatně zobecňují Pokud jim dáte náhodná čísla, mohou je odříkat zpět. To žádný člověk nedokáže. To je ten problém: lidé zapomínají jen natolik, aby byli nuceni hledat vzorce. 7. Cokoli skutečně nového, kód, který nikdy předtím nebyl napsán, nápady, které nemají šablonu; klopýtají...