中国电信云计算研究院在计算机体系结构国际期刊IEEE TC发表重要成果
2025-12-10

近日,由中国电信云计算研究院杨亚南、汤闻达、吴杰等人合作撰写的论文《Improving the Serverless Function Cache Efficiency with Flame》被IEEE Transactions on Computers(IEEE TC)正式录取。该研究成果聚焦当前以AI智能应用为代表的Serverless函数长冷启动时延优化问题,针对现有分布式函数缓存方案所面临的局部热点倾斜导致的缓存竞争问题,提出了一项基于“分区缓存”思想的高效函数实例缓存方法,用于解决以往单体式缓存池设计所面临的缓存争用弊端并改善函数缓存效率。

IEEE Transactions on Computers(IEEE TC)是计算机体系结构领域公认的高水平权威期刊,也是中国计算机学会(CCF)推荐的A类国际学术期刊。该期刊创办于1952年,迄今已有70年历史,是计算机领域历史最悠久的期刊之一,主要方向包括计算机体系结构、并行与分布式计算、存储系统、数字设备与嵌入式系统等领域,在计算机专业享有盛誉,行业内广受认可。

图1:基于分区缓存池设计的Serverless函数缓存系统架构

图1展示了基于分区缓存池设计的Serverless函数缓存系统架构,该系统首先将每个worker节点的缓存资源划分为独立的缓存池,并将缓存池映射分配给不同的热点函数。通过将热点函数进行隔离,可以有效避免热点函数间的无序竞争。此外,针对工作负载变化和函数运行时行为差异导致的运行时性能波动问题,该系统进一步设计了一个QoS感知的动态缓存分区算法,其根据运行时反馈动态调整热点函数间的缓存池容量占比,通过定义函数“紧迫度”的概念,缓存资源可以在“安全函数”与“危险函数”间进行动态迁移调整,从而在有限的缓存池容量下最大化缓存收益。实验表明,相比当前最优方法,该研究可进一步降低5%~15%的冷启动调用发生率,减少2—4倍的租户函数间性能差异。

作为中国电信科技创新的重要研究机构,中国电信云计算研究院持续推进“智能泛在云”技术体系建设,不断深化前沿技术研究。未来,中国电信云计算研究院将继续聚焦Serverless AI计算平台设计、函数性能优化等关键技术的研究创新,为推动云计算技术的持续发展和广泛应用贡献力量。

中国电信云计算研究院在计算机体系结构国际期刊IEEE TC发表重要成果
2025-12-10

近日,由中国电信云计算研究院杨亚南、汤闻达、吴杰等人合作撰写的论文《Improving the Serverless Function Cache Efficiency with Flame》被IEEE Transactions on Computers(IEEE TC)正式录取。该研究成果聚焦当前以AI智能应用为代表的Serverless函数长冷启动时延优化问题,针对现有分布式函数缓存方案所面临的局部热点倾斜导致的缓存竞争问题,提出了一项基于“分区缓存”思想的高效函数实例缓存方法,用于解决以往单体式缓存池设计所面临的缓存争用弊端并改善函数缓存效率。

IEEE Transactions on Computers(IEEE TC)是计算机体系结构领域公认的高水平权威期刊,也是中国计算机学会(CCF)推荐的A类国际学术期刊。该期刊创办于1952年,迄今已有70年历史,是计算机领域历史最悠久的期刊之一,主要方向包括计算机体系结构、并行与分布式计算、存储系统、数字设备与嵌入式系统等领域,在计算机专业享有盛誉,行业内广受认可。

图1:基于分区缓存池设计的Serverless函数缓存系统架构

图1展示了基于分区缓存池设计的Serverless函数缓存系统架构,该系统首先将每个worker节点的缓存资源划分为独立的缓存池,并将缓存池映射分配给不同的热点函数。通过将热点函数进行隔离,可以有效避免热点函数间的无序竞争。此外,针对工作负载变化和函数运行时行为差异导致的运行时性能波动问题,该系统进一步设计了一个QoS感知的动态缓存分区算法,其根据运行时反馈动态调整热点函数间的缓存池容量占比,通过定义函数“紧迫度”的概念,缓存资源可以在“安全函数”与“危险函数”间进行动态迁移调整,从而在有限的缓存池容量下最大化缓存收益。实验表明,相比当前最优方法,该研究可进一步降低5%~15%的冷启动调用发生率,减少2—4倍的租户函数间性能差异。

作为中国电信科技创新的重要研究机构,中国电信云计算研究院持续推进“智能泛在云”技术体系建设,不断深化前沿技术研究。未来,中国电信云计算研究院将继续聚焦Serverless AI计算平台设计、函数性能优化等关键技术的研究创新,为推动云计算技术的持续发展和广泛应用贡献力量。