热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
Gradient
谈一下去中心化 AI Infra,这个赛道的项目全都是融资怪兽,因为讲故事的能力非常强,但现阶段能落地到哪里是可行的,能带来什么不同体验,以 @Gradient_HQ 的角度展开:
用最简单的结构把 AI 拆开,基本可以分成 应用端/执行编排/模型训练/数据 这 4 层,字面意思就能理解。
大多数 DeAI 项目,主要集中在执行编排这一层,同时在此之上增加 Crypto 相关特性,比如结算和激励、ZK 可验证性等。而模型层训练和执行侧是目前最集中也是最贵的,现阶段很难去中心化。
对新人来说先做一下基础科普,具备专业知识可跳过这部分。执行与编排可以理解为把需求分发到算力和模型,比如算力市场、任务调度等等,先理解“算力”这个事,通俗来讲,让模型动起来需要做很多数学运算,执行这些运算的能力就是算力。在传统 AI 领域,比如你在与 ChatGPT 聊天时,背后需要有算力来推理运算,这主要来自云端的数据中心(服务器上的 GPU/AI 加速器),你输入内容 → 通过网络发到后端 → 后端的数据中心里的一组 GPU/加速器运行模型完成推理 → 把结果传回浏览器。
Gradient 目前主打的 Infra:Parallax,与我们平常看到的 H100、H20 为核心的计算体系不同的是,它做的事相当于是在不同型号,不同显存,不同网络条件的设备上拆分推理,它自动把模型拆成合适的大小,让每台机器都能跑得动,其核心挑战是机器之间的通信效率,异构硬件环境上的高性能优化问题。大部分项目还是尝试将线下的 H100 “上链结算”,而 Gradient 对这里做了更大胆的尝试,让 4000 美金的两块 4090 也能通过组合发挥出接近 2 万美金的单块 A100 的效果。
这里 enable 了两个 use case:
1/ 每个人都可以在家里用几台电脑自助推理大模型,完全保障了个人隐私。2/ 每个人可以加入一个推理的网络集群,与朋友们一起推理模型,甚至组建起一张更大的推理网络。在这里 Gradient 还设计了一套比较复杂的算法,包括优化切片分段数量,需求动态路由,这里就不展开了,感兴趣的朋友可以读读 paper。
当然 Gradient 不单单只做这一件事,不掺在这里讲了,它是一套开源 AI 基础设施。里面还包含了强化学习等一系列目前 AI 圈比较前沿的 topic,能看出是一个很有野心,对AI创新跟的比较紧的团队。最近团队也被月之暗面,阿里千问等等 AI Lab 认可和支持了,在圈内还是比较少见的,这种方式对 AI 的提升,首先吸纳了异构资源,构建了一套开源的开放的系统,可以让更多人轻松跑大模型,衍生创造出更多好玩的应用。与租用算力相比在一定程度上降低了成本,降低单点风险提升抗审查性,这个是 crypto 比较熟悉的,同时在隐私方面,能够把敏感数据先留在本区域/近端处理。
许多行业巨头对 DeAI 也持肯定态度,DeAI Narrative 的最大支持者之一 David O. Sacks,多次公开强调:AI 将重塑世界,但它的集中化发展路径充满风险。去中心化的 AI 基础设施,是确保创新持续与自由竞争的唯一方式。
Gradient 目前获得了1000 万美元的投资,由 Multicoin Capital、Pantera、HSG(原红杉中国)等明星投资人领投。
“If AI becomes monopolized, it’s game over.
The future depends on whether intelligence can be open — decentralized, distributed, and accessible to everyone.”
— David O. Sacks

热门
排行
收藏

