3B 超越 7B,Mistral AI 推出端侧模型 Ministral 3B 和 8B

学术头条 2024-10-17 12:02
文章摘要
Mistral AI 推出了最新一代端侧模型 Ministral 3B 和 Ministral 8B,这两款模型专为端侧计算和边缘用例设计,具有高效率和低延迟的特点。Ministral 8B 采用了特殊的交错滑动窗口注意力机制(SWA),显著提升了推理速度和内存效率。这些模型支持高达 128k 的上下文长度,适用于端侧翻译、无互联网智能助手、本地分析和自主机器人等应用场景。Mistral AI 强调,Ministral 3B 在大多数基准测试中已经超越了 Mistral 7B,展示了其在性能上的优越性。
3B 超越 7B,Mistral AI 推出端侧模型 Ministral 3B 和 8B
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
学术头条
最新文章
热门类别
相关文章
联系我们:info@booksci.cn Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。 Copyright © 2023 布克学术 All rights reserved.
京ICP备2023020795号-1
ghs 京公网安备 11010802042870号
Book学术文献互助
Book学术文献互助群
群 号:481959085
Book学术官方微信