华为开源盘古 openPangu-2.0 的预训练、SFT 与后训练 RL 代码

9 月 28 日，华为宣布盘古 openPangu-2.0 的预训练、SFT（监督微调）代码和后训练 RL（强化学习）代码正式开源上线。据报道，公开的两个 GitCode 仓库是与；按 IT 之家转述的公告，开源盘古 openPangu 是华为的开源 AI 模型品牌，致力于「通过昇腾原生训练与推理技术，为业界用好昇腾提供最佳实践参考」。

据报道，与早前以模型权重为主的发布不同，这次公开的是训练基础设施本身；开发者可以复现或定制从预训练、SFT 到强化学习后训练的不同阶段。当天的报道截图显示，这两个仓库已经出现在 Ascend Tribe 社区的项目列表中。

两个仓库：一个覆盖预训练与 SFT，一个覆盖强化学习后训练

openPangu-2.0-Training 的仓库描述是「预训练&SFT代码：配套昇腾原生的开源盘古2.0系列模型」，openPangu-2.0-RL 的仓库描述是「RL源码：配套昇腾原生的开源盘古2.0系列模型」。两个仓库页面均标注 Apache-2.0 许可，主要语言为 Python；截至发稿，各自只有一条初始提交记录。

预训练与 SFT：从无监督语料到指令对齐

训练仓库的页面简介称，该框架可用于训练和开发大规模 LLM（大语言模型）、VLM（视觉语言模型）及多模态基础模型，完成预训练、持续训练与 SFT 对齐；它提供统一训练入口，支持多维并行、高效数据流、混合精度、NPU（神经网络处理器）算子优化、断点续训和高可用恢复，适配百亿至万亿参数模型。

智东西报道中列出的 README 还显示，这一训练框架名为 openPangu Training Framework；在预训练方面，支持基于大规模无监督语料从头训练基础模型、基于已有 Checkpoint（检查点）的持续训练，以及大规模分布式训练和长上下文训练；在 SFT 方面，支持基于预训练模型进行指令对齐和能力增强，覆盖指令数据、多轮对话数据与领域数据，并支持参数高效微调和多任务训练。

强化学习后训练：以 VERL 为内核的两类 Rollout 场景

强化学习仓库的页面简介称，它用于在昇腾集群上对盘古模型做强化学习后训练，支持数学推理与代码生成；项目以 VERL 为内核，提供运行时补丁、Actor（策略模型）/Rollout（样本生成）/Reward（奖励模型）协同、多轮 Agent（智能体）与奖励适配，并做了昇腾亲和优化。VERL 本身是火山引擎开源的一个大模型强化学习训练框架；按华为昇腾社区的，它的定位是「专注于 LLM 强化学习（如 RLHF / GRPO 等）的高效、灵活且面向生产环境的训练框架」。

智东西报道的 README 细节则显示，该仓库面向 openPangu 的 GSPO（组序列策略优化）与 GRPO（组相对策略优化）后训练，给出两类典型使用场景：数学推理采用单轮 Rollout，模型一次生成完整长思维链与答案，由规则奖励核对正确性与格式；面向推理的代码生成采用多轮 Rollout（ReAct），模型在解题过程中调用 Python 解释器写代码、执行，并依据结果继续推理。

从 6 月的模型权重到 9 月 28 日的训练代码

openPangu-2.0 的开源是分批进行的。据华为官网，920 亿参数的 openPangu-2.0-Flash 模型权重、基础推理代码与训推算子当天上线，Pro 的模型权重与基础推理代码安排在 7 月，并写明「更多开源组件，将于下半年陆续上线」；显示，5,050 亿参数的 openPangu-2.0-Pro 模型权重、基础推理代码及技术报告正式上线。

据报道，华为在官方公众号发文宣布了这次开源；的报道配图显示，华为中国微博的发布记录为 9 月 28 日 11:57。

昇腾原生：代码、硬件与软件栈的绑定

两个项目的页面标题各自标出了技术栈：训练仓库是「基于 PyTorch 与 CANN 生态的大规模基础模型训练框架项目」，强化学习仓库是「基于昇腾生态与 VERL 的强化学习加速项目」。Open Source For You 的报道称，这套软件针对 CANN、MindSpore 与昇腾加速卡优化，让在华为硬件平台上工作的开发者用一套集成的开源软件栈完成大模型的训练、微调和部署。

华为在公告中邀请开发者、企业伙伴与研究人员下载使用，并「欢迎广大用户反馈使用意见，助力开源生态持续进步」（每日经济新闻）。