Dagens Extropic-lansering ger upphov till några nya röda flaggor. Jag började följa det här företaget när de vägrade att förklara input/output-specifikationen för vad de bygger, vilket gjorde att vi fick vänta på att få ett förtydligande.) Här är 3 röda flaggor från idag: 1. Från "Generativ AI är sampling. Alla generativa AI-algoritmer är i huvudsak procedurer för att ta urval från sannolikhetsfördelningar. Träning av en generativ AI-modell motsvarar att härleda den sannolikhetsfördelning som ligger till grund för vissa träningsdata, och att köra inferens motsvarar att generera prover från den inlärda fördelningen. Eftersom TSU:er tar prover kan de köra generativa AI-algoritmer inbyggt." Detta är ett mycket missvisande påstående om de algoritmer som driver de mest användbara moderna artificiella intelligenserna, på samma nivå av gaslighting som att kalla den mänskliga hjärnan för en termodynamisk dator. IIUC, så vitt någon vet matchar majoriteten av AI-beräkningsarbetet inte den typ av input/output som du kan mata in i Extropics chip. På sidan står det: – Nästa utmaning är att ta reda på hur man kan kombinera dessa primitiver på ett sätt som gör det möjligt att skala upp förmågorna till något som är jämförbart med dagens LLM:er. För att göra detta kommer vi att behöva bygga mycket stora TSU:er och uppfinna nya algoritmer som kan förbruka en godtycklig mängd probabilistiska beräkningsresurser. Behöver du verkligen bygga stora TSU:er för att undersöka om det är möjligt för LLM-liknande applikationer att dra nytta av denna hårdvara? Jag skulle ha trott att det skulle vara värt att spendera ett par $million på att undersöka den frågan via en kombination av teori och modern molnhårdvara för superdatorer, istället spendera över 30 miljoner dollar på att bygga hårdvara som kan vara en bro till ingenstans. Deras egen dokumentation för deras THRML (deras bibliotek med öppen källkod) säger: "THRML tillhandahåller GPU-accelererade verktyg för blocksampling på glesa, heterogena grafer, vilket gör det till en naturlig plats att skapa prototyper på idag och experimentera med framtida Extropic-hårdvara." Du säger att du saknar ett sätt din hårdvara primitiver kan * i princip * tillämpas mot användbara applikationer av något slag, och du skapade det här biblioteket för att hjälpa till att göra den typen av forskning med hjälp av dagens GPU:er ... Varför skulle du inte bara släppa Python-biblioteket tidigare (THRML), göra den flaskhalsforskning som du sa måste göras tidigare och engagera communityn för att hjälpa dig att få ett svar på denna nyckelfråga vid det här laget? Varför väntade ni så länge med att först lansera den här extremt nischade hårdvaruprototypen i liten skala för att komma fram och förklara denna flaskhals som gör eller brista, och bara publicera ert sökande efter potentiella partners som har någon form av relevant "probabilistisk arbetsbelastning" nu, när kostnaden för att inte göra det var 30 miljoner dollar och 18 månader? 2. Från "Vi utvecklade en modell av vår TSU-arkitektur och använde den för att uppskatta hur mycket energi det skulle ta att köra denoising-processen som visas i animationen ovan. Vad vi fann är att DTM:er som körs på TSU:er kan vara cirka 10 000 gånger mer energieffektiva än vanliga bildgenereringsalgoritmer på GPU:er." Jag ser redan att folk på Twitter hypar 10 000x-påståendet. Men för alla som har följt den decennier långa sagan om kvantdatorföretag som hävdar att de uppnår "kvantöverlägsenhet" med liknande typer av hype-siffror, vet du hur mycket omsorg som måste läggas på att definiera den typen av riktmärke. I praktiken tenderar det att vara extremt svårt att peka på situationer där en klassisk beräkningsmetod *inte* är mycket snabbare än den påstådda "10 000 gånger snabbare termodynamiska databehandling"-metoden. Extropic-teamet vet detta, men valde att inte gå närmare in på vilken typ av förhållanden som skulle kunna reproducera detta hype-riktmärke som de ville se bli viralt. 3. Terminologin de använder har bytts ut till "probabilistisk dator": "Vi designade världens första skalbara probabilistiska dator." Fram till idag har de använt "termodynamisk dator" som sin term, och hävdade i skrift att "hjärnan är en termodynamisk dator". Man skulle kunna hellre fria än fälla dem för att de ändrar sin terminologi. Det är bara det att de alltid pratade strunt om att hjärnan är en "termodynamisk dator" (enligt min åsikt är hjärnan varken det eller en "kvantdator"; det är i hög grad en neural nätalgoritm som körs på en klassisk datorarkitektur). Och denna plötsliga vändning i terminologin är förenlig med att de har pratat strunt på den fronten. Nu till det positiva: * En del hårdvara blev faktiskt byggd! * De förklarar hur dess input/output potentiellt kan ha en tillämpning i denoising, även om de som sagt är vaga när det gäller detaljerna i den förmodade "10 000x termodynamiska överlägsenheten" som de uppnådde på denna front. Övergripande: Det här är ungefär vad jag förväntade mig när jag först började be om input output för 18 månader sedan. De hade en legitimt cool idé om en hårdvara, men hade ingen plan för att göra den användbar, men hade några vaga ansatser till teoretisk forskning som hade en chans att göra den användbar. De verkar ha gjort respektabla framsteg med att få hårdvaran i produktion (det belopp som $30 miljoner köper dig), och till synes mindre framsteg att hitta anledningar till varför just denna hårdvara, även efter 10 generationer av efterföljande förbättringar, kommer att vara till nytta för vem som helst. Framöver, istället för att svara på frågor om din enhets input/output genom att "mogga" folk och säga att det är en företagshemlighet och twittra vidskepelse om din termodynamiska gud, skulle jag rekommendera att vara mer öppen om den till synes gigantiska frågan om liv eller död som teknikgemenskapen faktiskt kan vara intresserad av att hjälpa dig att besvara: om någon kan skriva ett Python-program i din simulator med starkare bevis för att någon form av användbar "termodynamisk överlägsenhet" med din Hårdvarukoncept kan någonsin vara en sak.