中国电信云计算研究院在大模型训练容错领域取得新进展,论文被IEEE ICCD 2026录用
2026-08-21

近日,中国电信云计算研究院在大模型训练容错与高效故障恢复领域取得研究进展,由胡存琛、吴杰研究团队完成的论文《CheckCode: An Erasure Code Tailored to LLM Training Failures for Fast Checkpoint Recovery》被国际会议IEEE ICCD(IEEE International Conference on Computer Design)2026接收,合作单位包括西安电子科技大学徐亮亮副教授团队。该工作聚焦大模型训练过程中频繁故障带来的检查点恢复开销问题,提出了兼顾大模型训练高可靠性与高效故障恢复的创新解决方案,彰显了中国电信在云计算核心技术领域的前沿探索能力。

该工作针对现有检查点方案难以同时兼顾大模型训练故障恢复的可靠性与效率问题,提出大模型训练故障恢复系统CheckCode。该系统通过局部性感知的纠删码布局,在降低冗余存储开销的同时,实现软件故障下的本地检查点快速恢复;并通过共享数据块恢复机制,减少硬件故障恢复过程中的冗余跨节点数据读取。CheckCode在NVIDIA A800 GPU集群中实验,结果表明,在相同存储开销下,CheckCode具有更强的节点故障容错能力,软件故障恢复相比ECCheck最高加速14.56倍,软硬件混合故障场景下恢复性能最高提升2.74倍。

CheckCode整体框架图

IEEE ICCD是计算机体系结构与计算机设计领域的高水平学术会议,被中国计算机学会(CCF)推荐为计算机体系结构/并行与分布计算/存储系统方向B类国际学术会议。该会议聚焦计算系统、软件体系结构与编译工具链、硬件体系结构、测试验证与安全、电子设计自动化以及逻辑与电路设计等。ICCD每年举办一次,汇聚全球顶尖研究人员与工业界专家,展示最新科研成果并推动技术落地,近年来录用率约为26%,具有较高的学术影响力。

中国电信云计算研究院在大模型训练容错领域取得新进展,论文被IEEE ICCD 2026录用
2026-08-21

近日,中国电信云计算研究院在大模型训练容错与高效故障恢复领域取得研究进展,由胡存琛、吴杰研究团队完成的论文《CheckCode: An Erasure Code Tailored to LLM Training Failures for Fast Checkpoint Recovery》被国际会议IEEE ICCD(IEEE International Conference on Computer Design)2026接收,合作单位包括西安电子科技大学徐亮亮副教授团队。该工作聚焦大模型训练过程中频繁故障带来的检查点恢复开销问题,提出了兼顾大模型训练高可靠性与高效故障恢复的创新解决方案,彰显了中国电信在云计算核心技术领域的前沿探索能力。

该工作针对现有检查点方案难以同时兼顾大模型训练故障恢复的可靠性与效率问题,提出大模型训练故障恢复系统CheckCode。该系统通过局部性感知的纠删码布局,在降低冗余存储开销的同时,实现软件故障下的本地检查点快速恢复;并通过共享数据块恢复机制,减少硬件故障恢复过程中的冗余跨节点数据读取。CheckCode在NVIDIA A800 GPU集群中实验,结果表明,在相同存储开销下,CheckCode具有更强的节点故障容错能力,软件故障恢复相比ECCheck最高加速14.56倍,软硬件混合故障场景下恢复性能最高提升2.74倍。

CheckCode整体框架图

IEEE ICCD是计算机体系结构与计算机设计领域的高水平学术会议,被中国计算机学会(CCF)推荐为计算机体系结构/并行与分布计算/存储系统方向B类国际学术会议。该会议聚焦计算系统、软件体系结构与编译工具链、硬件体系结构、测试验证与安全、电子设计自动化以及逻辑与电路设计等。ICCD每年举办一次,汇聚全球顶尖研究人员与工业界专家,展示最新科研成果并推动技术落地,近年来录用率约为26%,具有较高的学术影响力。