私たちはCovenant-72Bのモデル+技術報告書を発表しました。 完全に分散型インフラ上で事前学習された史上最大のLLM。 72Bパラメータは、許可不要GPUでオープンインターネット上で訓練されました。 これは分散型の事前訓練を実際に実用化するための大きな一歩です。 チームの素晴らしい仕事@covenant_ai。