资讯NEWS & INSIGHTS
腾讯混元发布 Hy4 preview:770B 总参数、1M 上下文,正式开源上线
腾讯混元正式发布并开源新一代大语言模型 Hy4 preview,采用 MoE 架构,总参数 770B、激活参数 49B,上下文长度突破 1M,在代码、办公、科学等生产力任务上表现卓越,稳居开源模型第一梯队。

<h2>腾讯混元发布 Hy4 preview:770B 总参数、1M 上下文,正式开源上线</h2>
<p>据 IT之家、AIBase 等多家媒体报道,腾讯混元正式发布并开源新一代大语言模型 Hy4 preview,总参数 770B、激活参数 49B,上下文长度突破 1M,在代码、办公、科学等真实生产力任务上展现卓越能力,稳居开源模型第一梯队。</p>
<h2>一、核心亮点一览</h2>
<ul>
<li>模型架构:采用 MoE 架构,总参数 770B、激活参数 49B;</li>
<li>超长上下文:上下文长度突破 1M(100 万 Tokens),可处理大型代码库、多份文档、复杂项目与长时间智能体任务;</li>
<li>能力表现:在代码、办公、科学等生产力场景表现突出,官方盲测中与 GLM-5.3、Kimi K3 分差不足 0.1;</li>
<li>开源上线:已在 HuggingFace、GitHub、ModelScope、Gitcode 等多平台同步开源;</li>
<li>长程能力:强化长程软件工程、需求理解与任务执行能力。</li>
</ul>
<h2>二、为什么值得关注</h2>
<p>Hy4 preview 的发布,是腾讯混元在大模型赛道的一次重磅落子。1M 超长上下文配合开源部署,让开发者能够处理更大规模代码库与文档集合,并可在私有化环境自由部署、微调与定制。</p>
<p>MoE 架构以 49B 激活参数实现 770B 总参数的强大能力,在性能与推理成本之间取得出色平衡,为成本敏感的生产场景提供了新的选择。</p>
<h2>三、行业意义</h2>
<p>Hy4 preview 稳居开源模型第一梯队,标志着国产开源大模型在参数规模、上下文长度与生产力能力上再次跃升。开源生态的持续繁荣,正加速大模型在企业级与行业场景中的规模化落地。</p>