[文献速递Vol.333]-光网络中分布式边缘云推理的DNN模型分区与切片交付联合优化
Optica西光所分会
2025-12-02 15:15
文章摘要
背景:随着大规模预训练模型的广泛应用,实时视频分析、车联网等场景对低延迟、高并发DNN推理需求激增,传统云推理面临网络拥堵、能效低等限制,边缘-云协同推理成为解决方案,但模型多样性和边缘资源异构性加剧了模型分区与切片交付的复杂性。研究目的:针对边缘-云协同推理中资源约束和异质性问题,提出一个联合优化框架,将DNN模型分区与切片交付集成,以最小化任务完成时间和阻塞率。结论:通过混合整数非线性规划(MINLP)精确建模和启发式种子遗传算法(HSGA)高效求解,在光传输网络支持下实现了计算、传输和存储资源的协同调度,仿真表明HSGA在多种拓扑下均优于基线算法,显著降低了任务完成时间和阻塞率,未来将扩展至动态大规模任务场景。
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。