VLX-Flow 1.5:面向端侧实时流式视频的主动响应增强

发布于 2026年11月1日

亮点

摘要

VLX-Flow 是面向实时视频的端侧流式多模态模型,可在端侧设备上提供持续在线的视频理解能力。模型以连续视频输入、增量状态更新与持续记忆为核心,将不断到来的视频画面转化为可复用的语义上下文。在这套流式架构下,模型能够持续描述视频内容,结合已有观察响应实时提问,并根据自然语言指令主动响应关注的事件,让视频理解贯穿交互发生前后的完整过程。

在上一代 Flow 模型的基础上,VLX-Flow 1.5 在主动响应、持续描述与实时问答方面进行了增强:主动响应围绕事件触发与静默控制进行优化,行为更节制、重复输出更少;持续描述更连贯、更及时;实时问答更注重视觉依据,信息不足时合理拒答。更节制的输出与更低的生成开销,让这三项能力在端侧设备的长时间运行中配合得更自然、也更可信。

1. VLX-Flow:以流式架构支撑持续视频理解

摄像头持续采集,机器人不断移动,屏幕内容实时变化。面向这些输入,流式视频理解需要在画面到达时就开始,并在用户提问或目标事件出现时,及时调用此前积累的信息。流式视频理解的核心,是将随时间到达的视频信息,持续转化为可更新、可复用的模型状态。输入、记忆与交互由此建立连续的时间联系,模型在每次响应时都能够接续已有的观察上下文。

围绕这一目标,上一代 Flow 模型建立了增量视觉编码与状态递推相结合的流式推理架构:视频以连续片段按时间顺序进入模型,视觉编码器提取当前片段特征,语言主干结合已有状态完成增量推理,无需重看历史视频。双层记忆机制持续维护观察结果——视觉缓存保留近期画面细节,语义记忆沉淀交互历史;语言主干中的 Linear Attention(线性注意力)模块以可递推状态聚合历史信息,让持续运行中的响应延迟与显存占用保持可控。

在这套流式上下文上,主动响应、持续描述与实时问答构成三种相互衔接的交互方式:持续描述随视频推进表达场景变化,实时问答结合已有记忆响应随时到来的提问,主动响应依据用户指令持续观察、在目标事件出现时主动开口。三项能力共同体现了 Flow 的流式特征:观察持续进行,状态增量更新,交互随时发生。VLX-Flow 1.5 延续这一架构基础,进一步提升连续理解的表达质量、实时推理效率和交互行为的可靠性,让流式状态更有效地支撑这三项能力。

2. VLX-Flow 1.5:三个方向的能力增强

2.1 主动响应:从被动回答到主动开口

传统主流视频模型是被动接口:一次输入、一次回答,问什么答什么。要用它“盯”住一件事,只能靠应用层轮询——每隔几秒截一段视频,重复问一遍“画面里出现目标了吗”。这套变通的代价不小:每一轮都是一次独立调用,频率低了会漏掉事件,频率高了则把算力浪费在大量“还没有”的回答上;而去重、节流、事件边界这些状态管理,轮询本身并不提供——都得应用层自己维护,稍有不慎,同一事件就会被反复报告。“盯”这件事,实际上被外包给了外部的调度逻辑。

对端侧设备,这套变通尤其不合适:算力与功耗本来就受限,轮询的重复推理是纯开销;而值守类应用真正需要的是“平时低开销、关键时刻及时响应”。主动响应把“盯”收回模型自身:用户用一句自然语言常驻指令设定关注的目标事件,此后模型持续观察视频流,在事件出现时主动开口,无需反复询问。视频应用的形态随之改变——摄像头从被动记录变为按任务值守,机器人能够把环境中值得注意的变化主动上报;设备负责持续观察,人只需在被提醒时处理真正需要处理的事。

这项能力的难点在“时机”。上一代 Flow 模型已经具备事件触发式交互的基础,但触发的稳定性与输出的节制仍有提升空间:相似画面被误判为目标、同一事件被反复输出。同类型的其他流式视频模型的问题则更根本:有的持续输出难以安静,有的把常驻指令当作一次性提问、在证据出现之前就抢着作答,还有一些则需要用户不断下发指令,才能维持流式监控。对值守任务来说,早报、误报与漏报都会让主动响应失去价值——时机不对,回复的内容再流畅也不可信。

VLX-Flow 1.5 围绕指令条件下的事件判断与时序响应策略进行优化,加强视觉证据、指令条件与响应时机之间的对应:模型综合指令要求、当前视觉证据与已有回复记录,判断此刻应继续观察、主动响应,还是在一次回复之后恢复静默、等待下一次符合条件的事件。事件识别与输出时机的配合更稳定,重复输出更少,输出更集中于用户关注的信息,主动行为与持续视频流的节奏更加协调。

例如,用户向办公室摄像头输入“画面里出现穿黑色外套的人就告诉我”,然后离开座位。接下来的人来人往与光线变化中,模型保持静默观察;目标出现的那一刻,没有人提问,模型主动响应,随后恢复静默。

常驻指令下的主动响应:静默观察、目标出现、及时响应、恢复静默

常驻指令下达后,模型持续观察;目标事件出现后,及时主动响应,然后恢复静默,等待后续符合条件的事件。

支撑这些改善的一个重要训练方向,是面向连续交互的流式行为监督。在已有的流式监督微调体系上,VLX-Flow 1.5 将响应内容与逐轮交互状态对齐,显式监督当前是否满足指令条件、是否已回复过、是否应继续观察。静默判断的准确性与主动响应的及时性,同样是模型训练时的重要监督指标:在无需回复时保持静默状态,是模型正确执行任务的一部分;需要响应时的及时回复,则保证主动能力不会因减少输出而失去有效性。

在行为监督之上,主动响应还需要一种更贴近任务本身的优化方式:“何时开口”是逐轮的序列决策,很难为每种画面与指令的组合预先标注标准答案。为此,配套的后训练体系基于 VLM-R1 的多模态强化学习范式,构建了面向连续视频的流式强化学习(Streaming RL)流程:模型在完整流式回合中按时间顺序逐轮生成,并将已生成的交互历史带入后续决策,由奖励信号评价整段行为,而不是孤立地评价每一次输出。奖励设计覆盖主动行为的三个要素:语义质量评估考察回复内容是否与画面一致;事件时序奖励对齐触发时刻——事件出现前抢答受到抑制,事件窗口内的及时回复获得强化,已报告后的重复输出被明确惩罚,合理等待与错过事件也被区分对待;轨迹对比:同一条视频流的多种响应轨迹相互比较,进一步降低对绝对评分的依赖。由此,优化目标从“答得对”延伸到“在正确的时刻说正确的话”,为主动响应与静默控制提供定向强化,进一步增强了主动响应模式下的指令遵循能力以及事件触发的响应及时性。

2.2 持续描述:增强时序连贯性,提升实时响应

持续描述是流式理解的基础能力:模型随着视频推进,接续讲述场景、主体、动作与事件的变化。它既是用户直接感知的输出,也是语义上下文记忆的来源之一。在端侧具身场景中,持续描述可以有效提供持续更新的环境语义:具身智能设备据此理解环境变化,屏幕助手与摄像头应用据此提供连续讲解。

长时描述的难点,在于“连贯”与“不重复”。上一代 Flow 模型已经支持随视频推进的连续表达,但在更长的视频流中,片段之间仍会出现叙述割裂与重复表述;同类流式模型的这一问题更加明显,常见的失败形态要么是同一段内容反复复读,要么是输出碎成不成句的词语流。对需要长时间稳定运行的端侧设备来说,割裂的描述让语义历史难以引用,重复的输出则带来无意义的生成开销——这也是持续描述必须继续提升的原因。

VLX-Flow 1.5 通过强化跨片段语义衔接、辅以时间递推的记忆监督,增强了这一点:模型结合此前的场景状态描述当前变化,让“谁在继续做什么”“物体位置如何变化”“此前的事件是否还在发展”这条时间线在长视频流中不断裂、不复读。例如,一个人拿起杯子、走向桌边再放下杯子,这条动作链路在流式上下文中保持关联,用户随后追问“刚才他把什么放在桌上”,模型可以直接作答。更连贯、更及时的持续描述,让长时讲解、第一视角观察和屏幕内容理解更接近一位紧盯画面的实时解说,也为端侧设备提供了可靠的环境语义基础。

2.3 实时问答:强化视觉依据,减少无依据回答

实时问答让用户在观看过程中随时提问,模型基于已经看到的画面直接作答,无需回头重看录像。看视频时,用户可以随时确认画面细节;值守巡检时,问题往往在事件发生后才被提出——无论哪一种,回答都只能建立在已经观察到的内容上。也正因为如此,回答必须有依据:一个缺乏依据的回答,可能直接影响用户对现场情况的判断。

难点在于,用户的问题并不保证在已观察的画面中有依据,被问到的事物可能根本没有出现在视频内容里。模型必须依据已有观察作答,也就必须准确区分“看到了什么”与“没有看到什么”。上一代 Flow 模型在多数情况下能够依据观察作答,但面对画面中不存在的事物,仍可能给出一个“看起来合理”的答案,而不是承认没有看到;同类流式模型在持续输出的压力下,无依据的描述与抢答更为常见。对端侧与具身应用来说,这类“自信的编造”比坦率的“没看见”危害更大——它会把错误判断传递给后续的决策。

VLX-Flow 1.5 强化问答的视觉依据约束,让模型更注重区分已观察到的事实与尚无充分依据的信息。例如,用户对一段街景提问“刚才那艘船往哪边开?”,如果已观察的画面中没有出现船,模型会指出“在已观察的画面中没有看到船”;对无法确认的内容,也会适当说明不确定性。通过更好地划分何时作答、何时拒答,模型在保留正常问答能力的同时,减少缺乏视觉依据的推测——校准的是“有没有依据”,而不是“少说话”。

3. 评测表现:公开基准对照

我们在三条公开的流式视频基准上检验 VLX-Flow 1.5:StreamingBench 考察模型对实时到达画面的理解,其 Real-Time Visual 任务部分覆盖物体识别、因果推理、计数等十类任务;OVO-Bench 从回溯(回忆已看到的画面)、实时(理解正在发生的画面)、前看(指令给定后等待目标在后续画面中出现、证据充分后及时作答)三个时间视角考察在线视频理解;TraceBench 专门考察流式交互行为,覆盖实时问答与常驻指令下的主动响应,同时记录延迟、token 消耗、完成率等性能指标。以下对照模型的分数汇总自各基准的官方榜单与论文。其中 StreamingBench 和 OVO-Bench 采用和官方对齐的流式方式测评,对齐测评中,VLX-Flow 1.5 的问答模式为每道题平均查看 64 帧。

表 1. StreamingBench Real-Time Visual:整体与逐任务。任务列:OP=物体识别、CR=因果推理、CS=片段总结、ATP=属性识别、EU=事件理解、TR=画面文字理解、PR=前瞻推理、SU=空间理解、ACP=动作识别、CT=计数。

ModelOverallOPCRCSATPEUTRPRSUACPCT
VLX-Flow 1.585.0091.8386.7292.1191.1885.7194.7083.3376.8382.4448.70
AURA83.2087.584.493.489.583.287.986.176.482.447.7
MOSS-VL-Realtime82.9086.681.887.987.584.782.483.375.380.652.1
MiniCPM-o 2.679.8885.0185.9489.9185.9580.1286.6076.8574.8074.7946.11
MiniCPM-o 4.578.2080.988.382.085.078.985.478.767.175.656.0
Gemini 1.5 Pro77.3983.4377.9489.2481.6579.1783.9283.9360.3274.8749.22
InternLM-XC2.5-OL75.3684.7479.6983.9187.9175.7880.0667.5965.8570.2538.34
GPT-4o74.5480.6676.9886.6773.8175.9585.4875.0070.6665.9943.09
StreamAgent74.3079.678.379.375.974.776.982.966.373.755.4
LLaVA-OneVision-7B74.2782.8377.3483.2383.3372.0574.7773.1568.2971.1041.97
Qwen3-VL-8B-Inst74.1080.176.681.181.177.073.280.663.468.857.0
Claude 3.5 Sonnet74.0482.4573.7782.4382.4076.3985.5661.6860.7367.8847.62
MiniCPM-V 2.672.4378.2071.8884.1883.9975.1675.3972.2256.5067.1447.15
Qwen2-VL-7B71.1575.7579.6976.5879.0874.5375.0874.0765.8565.1641.97
VITA-1.570.8877.6682.8182.3379.3472.6771.3467.5962.2069.1232.12
ViSpeak70.4079.871.181.478.874.570.163.964.271.428.0
InternVL2-8B70.1173.8465.6378.8082.0371.4372.9073.1563.0165.4442.49
LLaVA-NeXT-Video-32B69.8380.1171.0980.7080.7271.4373.2162.9659.3563.1736.79
Kangaroo65.7677.5774.2275.7074.3870.9162.8652.6350.5463.9733.16
LongVA63.1173.0266.4166.4674.8465.2262.9360.1956.9156.6637.82
VILA-1.561.5471.1257.8174.6872.2270.8162.6251.8551.2260.3418.65
Video-CCAM-14B53.4254.5063.2873.7363.7357.7647.3550.9341.8748.4426.94
VideoLLaMA 252.5859.9560.1662.9760.4654.6646.1141.6746.7548.1634.72

在该榜单中,VLX-Flow 1.5 得到 85.00,比 AURA(83.20)与 MOSS-VL-Realtime(82.90)分别高出约 1.8 与 2.1 个百分点,比 MiniCPM-o 2.6(79.88)高约 5.1 个百分点。逐任务上,VLX-Flow 1.5 在 OP 物体识别、ATP 属性识别、EU 事件理解、TR 画面文字理解等任务上表现最好,ACP 动作识别、CR 因果推理、CS 片段总结、SU 空间理解同样位居前列;相对弱项为 CT 计数,可能与流式推理方式有关,后续会持续优化。

表 2. OVO-Bench(%):三组与 Overall。BT=回溯、RTVP=实时、FAR=前看,All 为三组宏平均。

ModelBTRTVPFARAll
VLX-Flow 1.578.3979.5453.6070.51
MOSS-VL-Realtime72.6075.9062.1070.20
AURA60.4079.8055.8065.30
Gemini 1.5 Pro62.5469.3257.1563.00
MiniCPM-o 4.555.9067.3055.9059.70
GPT-4o60.7564.4653.4059.54
ViSpeak57.5066.3054.2059.30
Streamo-7B49.2067.4057.0057.90
Qwen2-VL-72B56.9561.9249.3056.27
GPT-4.156.8560.1547.5354.85
LLaVA-Video-7B40.4063.5254.8252.91
LLaVA-OneVision-7B43.7164.0250.5052.74
Gemini 1.5 Flash57.9857.2042.8652.68
Qwen2-VL-7B46.4655.9848.7450.39
InternVL-V2-8B43.4460.3946.6050.15
StreamAgent41.7061.3045.4049.40
Qwen3-VL-8B-Inst.41.0061.6037.7046.80
LongVU-7B35.0157.6147.5046.71
Dispider-7B36.0654.5534.7241.78
Llama-3.2-11B-VL-Instruct41.0749.7933.5541.47
Stream-LLM-v1.5-7B35.3838.0529.6834.37
Flash-VStream-7B27.3828.3745.0933.61
VideoLLM-Online-8B17.7320.79——
Human92.3393.2092.9092.81

在三组宏平均(Overall)上,VLX-Flow 1.5 为 70.51,高于 AURA 的 65.30 约 5.2 分、Gemini 1.5 Pro 的 63.00 约 7.5 分,与 MOSS-VL-Realtime 的 70.20 表现相近。分组看:回溯(BT)78.39 为所列模型中最高,次高为 MOSS-VL-Realtime 的 72.60;实时(RTVP)79.54 与 AURA 的 79.80 表现相近;前看(FAR)53.60 与 GPT-4o 持平,相比其他流式视频模型仍偏低,是三组中相对最弱的一组,也是下一阶段的明确目标。

表 3. TraceBench v1.1。

ModelQA Accuracy ↑ (%)QA Completion ↑ (%)Response Latency ↓ (ms)In-window Accuracy ↑ (%)Median Response Delay ↓ (s)False-alarm Rate ↓ (%)Miss Rate ↓ (%)Invalid Output ↓ (%)
VLX-Flow 1.576.5100.056021.10.3463.920.34.1
MOSS-VL75.0399.88374.68.050.3341.147.240.84
AURA73.8399.88819.77.921.1559.147.640.60
LiveCC65.1993.88165.212.981.0865.00.316.12
MOSS-Preview65.07100138.14.450.2077.735.671.92
ThinkStream61.461004110.522.1473.668.430
VideoLLM-Online2.64100681.10.180.2082.460.3995.32
MiniCPM-O (native duplex)2.40100489.50.511.2480.365.4393.52
JoyAI (Agent System)67.4791.36876.117.081.1250.532.138.52

QA 准确率上,VLX-Flow 1.5 为 76.5,高于次名 MOSS-VL(75.03),完成率 100%;QA 响应延迟 560ms,无效输出 4.1%(指未能提取出有效选项的回答占比)。主动响应轨道上,窗口内准确率 21.1 为表内最高,领先次名 JoyAI(Agent System)的 17.08 约 4 个百分点,漏报率 20.3% 为表内次低(仅高于持续输出的 LiveCC 的 0.31,多数对照在 30–68%),误报率 63.9% 在表内偏高,是下一阶段的重点优化项;中位响应延迟 0.34s,与 MOSS-VL(0.33s)相当。

4. 工程价值:更高效的流式推理,更及时的持续交互

流式架构让视频理解得以常驻设备运行——持续地看、持续地记、就近地理解,这一价值在上一代 Flow 模型中已经建立。VLX-Flow 1.5 的工程增量,是让持续运行的每一环更高效:增量更新与按需输出降低了计算与生成开销,持续描述更及时地跟随画面变化,实时问答与主动响应的等待更可控,三项交互能力的节奏真正贴近视频流本身。

更有分量的节省来自“少说”。上一代架构已经提出“按需生成”的原则,1.5 通过行为训练把它变成了模型的自觉:该静默时静默,报过之后不再重复——视频必须持续地看,输出却可以按需地给。对应用而言,这不只是交互体验,更是运行成本:更少的输出意味着更低的生成开销,长时间运行时的负担不再随视频时长无限上涨,应用侧也不必过滤、存储和处理大量无效输出。

这些价值最终落在三项交互能力的具身场景中。机器人可获得持续更新的环境语义,为导航与交互提供环境参考,而不必为每一次判断重新感知画面;摄像头应用按任务值守、主动上报,人无需盯着屏幕,只在被提醒时处理真正需要处理的事件;视频助手与屏幕助手在本地提供连续讲解与随问随答,讲解跟得上内容,提问不必等待。

VLX-Flow 1.5 继续承担 VLX 体系中的 Semantics 层,将连续画面转化为可持续更新、可交互调用的语义上下文。流式架构提供持续理解的基础,更低的运行开销、及时的响应与更可信的输出,让这套能力能够长期运行在真实设备上,也为目标定位、跟踪与具身交互等后续能力提供持续的语义支撑。