DeepSeek 计划训练 8 万亿参数模型

DeepSeek CEO 梁文锋向投资人透露，公司正在训练一个 2 万亿参数模型，之后还计划开发一个 8 万亿参数模型。现有旗舰 V4-Pro 总参数为 1.6 万亿。

目前已公开权重的超大模型中，Moonshot AI 的 Kimi K3 达到 2.8 万亿参数。Kimi K3 采用 MoE 架构，2.8 万亿总参数中每个 Token 激活 1040 亿参数。DeepSeek 规划中的 8 万亿参数模型规模接近其近 3 倍。

DeepSeek 于 7 月完成超 500 亿元融资，估值超 500 亿美元。V4-Pro 以 1.6 万亿总参数、490 亿激活参数开源。