min vän @neuralkian precis hoppat av en pipeline-parallellismkurs GRATIS! Det är precis detta som Frontier Labs skulle anställa dig för att arbeta med i stor skala för att snabba på träning och inferensarbete på stora modeller. du börjar med ett enkelt exempel på överlappande beräkningar på en liten MLP och arbetar dig vidare därifrån!