Binary prohledal cluster 512xh100 (evropský poskytovatel cloudu), aby našel uzel, který zabíjí naše all-reduce. zúžil 64 uzlů na jeden špatný uzel. šířka pásma vyskočila z 50 GB/s zpět na 157 GB/s po výměně... Je čas to automatizovat