测了一个9B开源模型,AI视频对话终于不像对讲机了
机器学习算法与自然语言处理
2026-02-10 00:00
文章摘要
背景:传统多模态模型在视频对话中通常采用“单工”模式,即模型在输出回答时会暂停对外界声音和画面的感知,导致交互体验像回合制对讲机一样割裂。研究目的:文章通过测试新开源的9B参数模型MiniCPM-o 4.5,探讨其“全双工”能力如何实现边看、边听、主动说的自然交互,以改善多模态模型的实时性和用户体验。结论:MiniCPM-o 4.5通过全双工架构,在持续感知环境的同时进行输出,能够更自然地处理实时场景如提醒红绿灯变化、描述动态绘画等,且在视频理解、视觉问答等任务上性能接近更大规模模型,同时因参数较小、效率高,适合端侧部署,为多模态交互开启了新的可能性。
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。