FlashAttention はおそらく究極の「AI 博士号」の貢献です。 >何年も勉強に費やす >誰よりも物事を理解しています > よりインテリジェントな方法で低レベルコードを書き換える 変圧器を2〜4倍高速化> >本質的には無料のランチです >現在では、すべてのコンピューターで実行されています