山东大学 刘琚Electronics Letters:核学习赋能轻量化视频Transformer方法

MaterialsViews 2025-01-05 08:30
文章摘要
本文针对现有视频Transformer方法计算复杂度高、模型参数量大的问题,提出了一种基于核学习的轻量化视频Transformer方法。通过重新表述Softmax自注意力机制和位置嵌入,设计复用方法和线性核变换矩阵压缩参数,改进了分离的空时注意力机制,增强了外观和运动特征之间的交互。同时,提出了自适应得分的位置编码模块,增强了位置嵌入的灵活性。实验结果表明,所提方法在计算效率和精度上均优于现有Transformer方法。
山东大学 刘琚Electronics Letters:核学习赋能轻量化视频Transformer方法
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
推荐文献
Issue Editorial Masthead
DOI: 10.1021/efv038i024_187986510.1021/efv038i024_1879865 Pub Date : 2024-12-19
IF 5.2 3区 工程技术 Q2 Energy & Fuels
MaterialsViews
最新文章
热门类别
相关文章
联系我们:info@booksci.cn Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。 Copyright © 2023 布克学术 All rights reserved.
京ICP备2023020795号-1
ghs 京公网安备 11010802042870号
Book学术文献互助
Book学术文献互助群
群 号:481959085
Book学术官方微信