P

Pluralis Research

去中心化模型并行训练协议

表现

RD 热度指数

2440.00% (24h)
0100200300400500
项目排名: 5701/15432

RD 增长指数

4550.07% (24h)
0400800120016002000
项目排名: 650/15432

对比

融资

关注更新

关注列表

人物

关于Pluralis Research

Pluralis Research 正在构建一个去中心化的大模型训练协议,核心业务是“协议学习”(Protocol Learning):把一个大模型切分成多个部分,由分布在世界各地的独立参与者通过互联网协作训练。节点之间只交换很小的梯度或激活张量,而不是完整权重,因此任何单一参与者都无法提取或复制整个模型。这种“不可实体化模型”特性保证了没人能带着最终权重跑路,同时仍允许开放贡献和集体所有权。

它解决的核心痛点是 AI 开发的中心化问题。训练前沿规模模型通常需要集中的超大规模算力集群,把绝大多数个人和小组织排除在外。现有的去中心化方案要么要求高带宽连接(数据并行),要么无法防止训练好的模型被窃取。Pluralis 同时解决了这两个问题:既支持低带宽下的模型并行训练,又让模型天然不可复制但可共享,从而在不依赖可信协调者的情况下为贡献者创造经济激励。

近半年,Pluralis 从理论走向实践。它进行了一次公开训练实验:用分布在四个国家(巴黎、苏黎世、都柏林、多伦多)的 14 台苹果 Silicon Mac,训练了一个 7.5B 参数模型,耗时三周,消耗 360 亿 token。最终损失降至 2.75,与集中式训练基线相当。整个运行有 303 个活跃节点参与,其中 78 个贡献者各自提供了超过 1 exaFLOP 的计算量,尽管许多人网络带宽低于 100Mbps。这证明了异构、不可靠、低带宽的消费级硬件确实能训练出有竞争力的模型。团队还发布了详细技术文档并开源了 GitHub 仓库,但项目仍处于概念验证阶段,尚无生产部署。

更新时间: 2026-09-02

Pluralis Research由前FAANG研究员Alexander Long于2024年1月创立,旨在通过去中心化训练开发真正的开源AI。2025年3月,公司宣布完成760万美元种子轮融资,由USV和CoinFund联合领投,Balaji Srinivasan及HuggingFace联合创始人Clem Delangue参投。公司开创了Protocol Learning方法,允许模型在分布式网络上训练,而无需任何单一实体持有完整权重。一个重要里程碑是,他们利用全球300多个消费级GPU,在互联网上对7.5B参数的OLMo风格模型进行了超过三周的公开训练运行,验证了去中心化训练在大规模上的可行性,为未来开放模型开发奠定了基础。

更新时间: 2026-09-01

过去半年,Pluralis Research在去中心化AI领域取得重大进展。2026年3月,其发布Agora系统,实现基于互联网的无需许可大规模预训练,并据此训练出Pluralis-8B模型(86亿参数,500B tokens,40天,330个异构消费级GPU),效率达集中式H100基准的63%。6月,团队推出Stoa框架,利用4个国家14台消费级Mac完成去耦RL后训练,将LFM2.5-8B-A1B在PaperSearchQA上的pass@1从29%提升至63%。公司还举办了ICML Protocol Learning研讨会,正式确立低带宽、异构、多方参与且具经济激励的模型训练愿景。未来,Pluralis计划整合Agora与Stoa形成完整RL训练闭环,攻克异步优化与拜占庭容错等开放问题,并启动首个完全开放的协议化训练运行。凭借USV和CoinFund领投的760万美元种子轮,公司正扩充团队与算力伙伴,向前沿级开源模型迈进。

更新时间: 2026-09-01

联合创始人及核心高管:

  • Alexander Long(创始人)
  • Gil Avraham
  • Yan Zuo
  • Sameera Ramasinghe
  • Ajanthan Thalaiyasingam
更新时间: 2026-09-01