历史性突破!祝贺,西北农林科技大学!
植物研究进展
2025-05-27 18:56
文章摘要
本文介绍了西北农林科技大学信息工程学院刘斌教授团队在国际计算机体系结构领域顶级期刊《IEEE Transactions on Computers》上发表的研究成果。该研究针对大规模深度卷积神经网络(DCNN)训练中的负载不均衡和高通信开销问题,提出了一种创新的混合并行训练方法——GroPipe。该方法通过结合流水线模型并行与数据并行,构建分层训练架构,并利用自动模型划分算法实现计算负载的动态均衡调度。实验结果表明,GroPipe在ImageNet数据集上的性能显著优于现有主流方案,展示了其在图像与文本领域的广泛适用性。这一成果不仅标志着西北农林科技大学在计算机体系结构领域的重要突破,也为深度学习大规模训练框架的发展提供了新的思路。
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。