录取信息
面对AI system部署日益复杂的现实需求,如何实现精准、稳健的系统负载预测,正成为支撑智能基础设施可持续发展的关键挑战。近日,天津大学Edge Big Bang课题组的复杂系统通用负载预测研究在国际数据挖掘顶级会议ACM SIGKDD 2025(CCF-A)再度获得认可,成功发表论文《MetaEformer: Unveiling and Leveraging Meta-Patterns for Complex and Dynamic Systems Load Forecasting》。
ACM SIGKDD(ACM SIGKDD CONFERENCE ON KNOWLEDGE DISCOVERY AND DATA MINING国际数据挖掘与知识发现大会,简称“KDD”)是世界数据挖掘领域最高级别的学术会议,由ACM数据挖掘及知识发现专委会(SIGKDD)主办(CCF A类),会议录取率平均低于20%,今年SIGKDD 2025 (round 2) 的录取率仅为18.4%。课题组博士生黄少远已连续两次在该会议上发表研究成果,体现了团队在系统智能优化方向的持续创新能力。
论文正文介绍
近年来,随着智能制造、城市计算和云平台等复杂系统的不断发展,时序数据在形态和规律上呈现出更高的动态性和非平稳性。使得负载预测和资源调度问题变得愈加复杂。传统的时序模型往往依赖于静态假设或短期观测,难以在概念漂移(Concept Drift)或少样本(Few-shot)条件下稳定工作。
尤其是在联邦学习、在线推理等系统中,面对任务切换频繁、任务设备不断更新等问题,已有的工作大多聚焦于特定挑战(如冷启动、概念漂移、少样本泛化等)提出个别优化策略,缺乏统一的方法论框架来系统性解决多重动态挑战。
针对这一挑战,本文课题组提出了MetaEformer,一个融合“元模式复用”思想的预测系统。该方法不再仅依赖历史值的直接拟合,而是试图从跨任务、跨节点的大量时序样本中,挖掘出一组可以迁移的、结构性强的基础波形“Meta-pattern”,通过结构性地提取、管理、重用这些模式,以增强对动态负载的预测能力,模型可解释性与场景泛化能力。
预测框架
MetaEformer的设计灵感部分来源于小波变换在信号处理中的经典应用。小波变换通过将信号分解为一组具有局部时频特性的基础波形(Wavelet Basis),实现信号的压缩、重建与去噪。在此启发下,MetaEformer在结构上引入了Meta-pattern Pooling(MPP)机制,视其为预测空间中的“波形基底集”,通过组合这些基础单元去构建对复杂序列的全局性还原(Echo-based forecasting)。
图1:MetaEformer 框架,包含元模式池构建和Echo预测两部分
具体而言,MetaEformer利用滑窗分段和分解编码算法,从训练任务中的代表性负载片段提取形成Meta-pattern Pool。这些模式本质上可看作构成序列的基础“波形原子”,具备可迁移性与结构可解释性。在推理阶段,模型则通过特征相似性度量动态检索最相关的Meta-pattern,并基于模式回响机制完成解构与预测重构,显著增强了模型对概念漂移,冷启动的适应能力。
图2:通过所设计的快速相似度计算与阈值抽取算法构建元模式
而Echo机制则进一步补足了传统时序预测算法的模式匹配过程中的全局信息表达弱问题。该机制通过轻量化的相似度计算与隐向量注意力匹配,在目标序列与Meta-pattern之间建立“结构回响”映射,弥补传统注意力机制难以捕捉的序列分布偏移(concept-drift)和新实体少量样本的快速适应问题。两个机制共同协同,形成一个在不同任务、不同时间段上均具备一致表现的泛化模型。
图3:Echo回响机制
实验验证
论文在多个真实世界的数据集上进行了系统评估,涵盖了包含长短期动态的系统负载序列(如CBW、Traffic、TTT等),并与SOTA方法(如iTransformer、TimeXer、FEDFormer等)进行了对比。结果表明,MetaEformer在精度、鲁棒性和模型稳定性方面均显著优于现有方法,平均提升幅度达12.4%,尤其在少样本与分布漂移场景中优势明显。
实验还包含了模型组件消融分析。结果清晰地证明了Meta-pattern Pool与Echo机制在性能提升中的关键作用。此外,论文引入了误差评估指标MaxAE(最大绝对误差),以衡量模型对极值的敏感性与鲁棒性。MetaEformer在该指标上相较基线模型有明显提升,在现实应用中具有可靠性。
图4:MetaEfomer相较于现有Transformer-based models呈现出较高的计算效率
值得注意的是,作者还从可视化、统计波动性与计算复杂度三个维度对模型可解释性、可复现性与效率进行了全面分析。结果显示,MetaEformer不仅具备结构优势,还能在实际部署中实现预测效率与资源开销的平衡,展现出极强工程实用性。
Shaoyuan Huang, Tiancheng Zhang, Zhongtian Zhang, Xiaofei Wang, Lanjun Wang, Xin Wang, "MetaEformer: Unveiling and Leveraging Meta-Patterns for Complex and Dynamic Systems Load Forecasting", in 31TH ACM SIGKDD Conference on Knowledge Discovery and Data Mining (ACM SIGKDD), 2025, (CCF-A)
本项工作的顺利发表,离不开课题组老师们的前瞻指导与同学们的不懈努力。从算法设计到实验对比,每一步都凝聚了团队对边缘智能前沿问题的深入思考与技术攻坚。我们由衷感谢每一位在实验调试、模型验证与论文撰写中默默付出的成员,正是大家的协同努力,才让MetaEformer得以最终呈现在国际舞台。
未来,Edge Big Bang Group将继续聚焦“智能算力边界”的关键挑战,在分布式系统智能优化,AI infrastructure等方向持续探索。欢迎大家关注我们的更多进展,也期待与各界有志之士在科研的道路上携手前行,共同拓展边缘智能的无限可能!
阅读原文