🚨突發消息:特斯拉創建了一種新的文件格式,名為 .SMOL,以將 FSD 訓練速度提高 4 倍 特斯拉工程師意識到 GPU 不是瓶頸。 存儲系統才是。 舊格式如 MP4 和 CSV 迫使系統掃描、解碼並搜索龐大的文件,只為找到幾幀數據。這浪費了時間。昂貴的 GPU 靜止等待數據加載。 因此,特斯拉從零開始構建了一種自定義格式。 這個想法簡單但強大: 在文件的最前面放置一個主索引,告訴系統每一個數據片段的確切位置。 不需要掃描。不需要解碼。不需要搜索。 系統直接跳到所需的確切字節,並立即提供給 GPU。 結果: • I/O 操作減少 400% • 在 PB 級別下文件大小減少約 11% • GPU 始終保持忙碌,而不是等待 • FSD 模型在不需要新硬件的情況下訓練得更快 特斯拉還以隨時可用的張量形式存儲數據,因此 CPU 不會浪費時間在 GPU 使用之前轉換格式。 更有趣的是。 專利表示這種格式不僅僅適用於汽車。...