Tento týden @theallinpod @chamath se zeptal @nvidia generálního ředitele Jensena Huanga na decentralizovaný trénink AI a označil náš běh Covenant-72B za "docela šílený technický úspěch." Jedna oprava: je to 72 miliard parametrů, ne čtyři. Neoprávněně jsem trénoval mezi 70+ přispěvateli na běžném internetu. Největší model vůbec předtrénovaný na plně decentralizované infrastruktuře. Jensenova odpověď stojí také za poslech.