如果你需要 Karpathy 的 nanochat 的視頻指南,請查看斯坦福大學的 CS336! 它涵蓋了: - 代幣化 - 資源會計 - 預訓練 - 微調 (SFT/RLHF) - 主要架構概述 - 使用 GPU - 核心和 Tritons - 並行性 - 擴展法則 - 推理 - 評估 - 對齊 你所需的一切,幫助你準備在 Frontier AI Labs 的工作。 我已在回覆中分享了播放列表!