勾配 分散型AIインフラについて話すと、このトラックのプロジェクトはすべて資金調達のモンスターです。なぜなら物語を語る能力は非常に強力だからです。しかし、現段階で実装可能な場所は実現可能であり、@Gradient_HQの視点からどのような異なる体験がもたらされるかは以下の通りです。 AIを最も単純な構造で分解すると、基本的に4つの層に分けられます:アプリケーション/実行オーケストレーション/モデルトレーニング/データで、文字通り理解できます。 ほとんどのDeAIプロジェクトは実行オーケストレーション層に焦点を当てつつ、決済やインセンティブ、ZK検証可能性などの暗号関連機能を追加しています。 モデルレイヤーのトレーニングと実行側は現在最も集中しコストも高く、この段階では分散化が難しいです。 初心者はまず基礎科学普及を始め、専門知識があればこの部分は省略できます。 実行とオーケストレーションは、計算能力やモデルに要件を分配することとして理解できます。例えば、計算能力市場やタスクスケジューリングなどです。まず「計算能力」を理解し、モデルを動作させるには多くの数学的操作が必要であり、それらの操作を実行する能力が計算能力です。 例えば従来のAI分野では、ChatGPTとチャットする際には、推論処理を行うために裏方の計算能力が必要で、これは主にクラウド上のデータセンター(サーバー上のGPU/AIアクセラレータ)から供給され、入力→されたコンテンツはネットワークを通じてバックエンドに送られ、バックエンドデータセンター内のGPU/アクセラレータ→バックエンドに送られ、推論→を完了して結果をブラウザに送信します。 Gradientの現在の主なインフラ:パララックスは、通常見られるH100やH20の計算システムとは異なり、異なるモデル、異なるビデオメモリ、異なるネットワーク条件のデバイスで推論を分割することと同等であり、モデルを自動的に適切なサイズに分割することで、各マシンが動作できるようにしています。 多くのプロジェクトは依然としてオフラインのH100の「チェーンに落ち着く」ことを試みていますが、Gradientはここでより大胆な試みを行い、4,000ドル相当の2台の4090を組み合わせて約20,000ドル相当の単一のA100を作り上げました。 ここでは2つのユースケースが有効になっています。 1/ 誰もが自宅で数台のパソコンを使ってセルフサービスで大型モデルを操作でき、個人のプライバシーを完全に守ることができます。 2/ 誰もが推論ネットワークのクラスターに参加でき、友人と協力してモデルを推論し、さらにはより大きな推論ネットワークを形成することもできます。 ここでグラディエントは、スライスやセグメント数の最適化、動的ルーティングの要求など、比較的複雑なアルゴリズムのセットも設計しています。 もちろん、Gradientは単なるこの機能だけをやっているわけではなく、オープンソースのAIインフラストラクチャです。 また、強化学習など、現在AI界で最前線にある一連のトピックも含まれており、非常に野心的でAIの革新を密接に追いかけているチームであることを示しています。 最近では、Dark Side of the MoonやAli QianwenなどのAIラボからも認められ支援されていますが、これはまだ比較的稀なことです。このAI改善の方法はまず異種資源を吸収し、オープンソースのオープンシステムを構築することで、より多くの人が大規模モデルを簡単に実行し、より楽しいアプリケーションを生み出せるようにしています。 計算能力をレンタルするのと比べて、ある程度コストを削減し、単一ポイントリスクを減らし、検閲耐性を向上させることができます。これは暗号によく知られているものであり、プライバシー面では機密データをその地域や近辺に残して処理することができます。 多くの業界大手もDeAIに好意的であり、DeAIナラティブの最大の支持者の一人であるデイビッド・O・サックスは、AIが世界を変えると繰り返し公に強調していますが、その中央集権的な開発の道筋にはリスクが伴います。 分散型AIインフラこそが、イノベーションが自由に競争し続ける唯一の方法です。 グラディエントは現在、マルチコイン・キャピタル、パンテラ、HSG(旧セコイア・チャイナ)などのスター投資家が牽引する1,000万ドルの投資を行っています。 「AIが独占されれば、ゲームオーバーだ。 未来は、情報がオープンで分散型で、誰にでもアクセス可能かどうかにかかっています。」 — デイビッド・O・サックス