通信,拉近世界的距离!
您的位置:首页 >资讯 >5G\6G动态 >5G >查看资讯

算力吃紧:DeepSeek对App及网页版限额使用,单次输入缩至4万字

移动通信网 云坪

11月16日,据科创板日报报道,AI大模型厂商DeepSeek对其App及网页版产品实施了新一轮使用限制。多名用户反馈,在使用过程中收到系统提示,因“算力不足,不再支持超过7天不活跃的长对话”,即超过7天未进行交互的历史对话记录将无法继续使用。与此同时,DeepSeek还调整了单次输入文字的上限,从此前更高的输入额度缩短至4万字左右。此外,平台对每日对话额度也进行了限制,当用户日使用量达到上限时,系统会提示“因服务器繁忙,使用额度已达上限”。这是国产头部大模型厂商罕见地公开以“算力不足”为由对C端服务进行收缩性调整,折射出大模型推理成本与用户规模之间的矛盾正在加速显性化。DeepSeek自发布以来以极高的性价比和开源策略获得海量用户,其App长期占据各大应用商店下载榜前列,用户基数的快速膨胀对推理算力提出了持续攀升的需求,此番限额举措被视为应对算力供给瓶颈的直接手段。

【关键数据】

[1] 单次输入文字上限缩短至4万字左右

[2] 超过7天不活跃的长对话不再支持

[3] 每百万输入token的API价格低至1元级别

[4] 单卡高端GPU日推理成本达数十元级别

[5] 数千万日活用户对应日均算力支出以百万元计


从技术层面看,大模型的长对话服务对算力的消耗远高于单轮问答。以DeepSeek采用的MoE(混合专家)架构为例,尽管其在推理时仅激活部分参数,能够显著降低单次推理的计算开销,但长对话意味着模型需要持续处理不断累积的上下文窗口。当对话历史超过4万字输入上限时,系统需要处理的token数量成倍增长,KV Cache显存占用随之膨胀,单用户会话的显存成本可能达到普通短对话的数倍。而“7天不活跃对话不再支持”的限制,本质上是对存储资源的优化——大量长眠会话的上下文数据需要长期占用存储和缓存资源,清理不活跃长对话可以直接释放这部分基础设施压力。每日对话额度的限制则指向更核心的推理算力排队问题:当并发请求数超过GPU集群的吞吐上限时,平台只能在限流和降速之间做出选择,DeepSeek选择了以“服务器繁忙”的提示形式对高频用户进行软性限流,以保障整体服务的响应质量。

从竞争格局看,DeepSeek此次限额在国产大模型阵营中显得尤为特殊。过去一年间,国内主要大模型厂商普遍采取“补贴换市场”策略,字节跳动豆包、阿里通义千问、百度文心一言等背靠母公司充沛的算力储备和资金支持,大多以免费或不设严格对话上限的方式争夺用户。豆包依托火山引擎的算力底座,通义千问背靠阿里云超过数十万卡级别的GPU集群规模,而DeepSeek作为相对轻资产的创业团队,其算力扩张速度难以匹配用户增长曲线。第三方数据显示,DeepSeek发布后其App日活跃用户一度突破数千万量级,跻身国内AI应用第一梯队,但与之对应的推理算力需求增长速度远超行业平均水平。在OpenAI等海外厂商普遍采取分级订阅、按量付费的商业化路径下,DeepSeek的免费开放策略带来了巨大的成本缺口——大模型推理成本主要由GPU折旧、电力和数据中心运维构成,单卡高端GPU日推理成本即达数十元级别,数千万日活用户对应的日均算力支出以百万元计。

DeepSeek的限额举措也对其产业链上下游产生连锁反应。上游方面,DeepSeek的算力采购方包括多家国内云服务商和智算中心运营商,市场传闻其租用的算力规模持续攀升,但仍难以覆盖峰值需求。国内高端AI芯片供给受外部环境影响,英伟达H系列、B系列芯片对华出口受限,国产替代方案如华为昇腾910B、寒武思元590等虽加速导入,但在互联带宽、软件生态成熟度上与海外旗舰产品仍存在差距,单位算力的实际推理效率约为同等级海外产品的六至八成。下游方面,限额政策主要影响C端免费用户,而通过API接入的开发者和企业客户暂未受同等限制,反映出DeepSeek在资源分配上向付费B端倾斜的策略。这一选择符合行业惯例——API业务按token计费,收入可直接覆盖推理成本,而免费App用户只产生成本不产生收入。在成本结构上,将有限的GPU时数优先分配给付费客户,是DeepSeek维持现金流健康的理性选择。

商业化进展层面,DeepSeek此前已通过API服务建立收费体系,其API定价一度成为行业价格战的标杆——每百万输入token的价格低至1元级别,远低于OpenAI GPT-4系列数十元的定价水平,这一激进定价为其赢得了大量开发者生态。应用场景方面,DeepSeek的开源模型被广泛部署于政务、金融、教育等行业私有化场景,不完全依赖官方App的推理服务。此次限额主要波及重度C端用户,包括使用长对话进行代码开发辅助、长文档分析、小说创作等场景的个人用户,这部分用户单次会话动辄消耗数万token,正是限额政策瞄准的高成本群体。部分用户已开始转向其他免费竞品或将工作流迁移至本地部署的开源版本,DeepSeek-R1等开源权重的存在使这种迁移成本大幅降低——用户可在消费级显卡上运行量化后的蒸馏版本, albeit性能有所折损。这种“官方限额、本地补位”的格局正在重塑国产大模型的用户分层。

从行业趋势看,DeepSeek的算力困境并非孤例,而是整个大模型行业从烧钱扩张转向精细化运营的缩影。此前,OpenAI也多次因算力瓶颈对GPT-4进行限速和降智处理,Anthropic对Claude高频用户实施分级限制,表明算力供给不足是全球性结构问题。国内方面,各大云厂商仍在加码智算中心建设,2024年以来全国新增智算中心项目投资规模累计已达数千亿元,但高端GPU供给瓶颈使实际算力落地速度低于规划。对企业动向而言,DeepSeek此番限额可能预示其商业化策略调整——或将在后续推出会员订阅制,以付费解锁更高对话额度和更长上下文支持,届时4万字输入上限和每日对话额度可能成为免费与付费用户的分界线。对行业具体影响包括:其一,验证了“免费无限用”模式在大模型领域难以长期为继;其二,加速用户向本地部署和多模型组合使用迁移;其三,倒逼国产算力芯片和推理优化技术加速迭代,vLLM、SGLang等推理框架的优化成为降低单位成本的关键抓手。算力作为AI时代的核心生产资料,其供给格局将直接决定大模型厂商的竞争边界。

微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
5G通信公众号
  • 1、回复“YD5GAI”免费领取《中国移动:5G网络AI应用典型场景技术解决方案白皮书》
  • 2、回复“5G6G”免费领取《5G_6G毫米波测试技术白皮书-2022_03-21》
  • 3、回复“YD6G”免费领取《中国移动:6G至简无线接入网白皮书》
  • 4、回复“LTBPS”免费领取《《中国联通5G终端白皮书》》
  • 5、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书》
  • 6、回复“TXSB”免费领取《通信设备安装工程施工工艺图解》
  • 7、回复“YDSL”免费领取《中国移动算力并网白皮书》
  • 8、回复“5GX3”免费领取《R1623501-g605G的系统架构1》
  • 本周热点本月热点
    通信人才网

    最热通信招聘

    更多