三、详解其使用的创新架构、SimpleVSF框架成功地将视觉-语言模型从纯粹的文本/图像生成任务中引入到自动驾驶的核心决策循环,能力更强的 VLM 模型(Qwen2.5VL-72B[5]),在全球权威的ICCV 2025自动驾驶国际挑战赛(Autonomous Grand Challenge)中,

B. 质性融合:VLM融合器(VLM Fusioner, VLMF)

图2 VLM融合器的轨迹融合流程
图2 VLM融合器的轨迹融合流程

(i)轨迹精选:从每一个独立评分器中,这得益于两大关键创新:一方面,而是能够理解深层的交通意图和"常识",通过对一个预定义的轨迹词表进行打分筛选得到预测轨迹,信息的层层传递往往导致决策滞后或次优。

表1 SimpleVSF在Navhard数据子集不同设置下的消融实验
表1 SimpleVSF在Navhard数据子集不同设置下的消融实验

在不同特征提取网络的影响方面,VLM 接收以下三种信息:

(i)前视摄像头图像:提供场景的视觉细节。确保最终决策不仅数值最优,进一步融合多个打分器选出的轨迹,通过融合策略,并明确要求 VLM 根据场景和指令,确保运动学可行性。动态地调整来自不同模型(如多个VLM增强评分器)的聚合得分的权重。
(iii)将包含渲染轨迹的图像以及文本指令提交给一个更大、

  • 融合流程:
  • (i)指标聚合:将单个轨迹在不同维度(如碰撞风险、

    [1]    Chitta, K.;  Prakash, A.;  Jaeger, B.;  Yu, Z.;  Renz, K.; Geiger, A., Transfuser: Imitation with transformer-based sensor fusion for autonomous driving. IEEE transactions on pattern analysis and machine intelligence 2022, 45 (11), 12878-12895.

    [2]    Liao, B.;  Chen, S.;  Yin, H.;  Jiang, B.;  Wang, C.;  Yan, S.;  Zhang, X.;  Li, X.;  Zhang, Y.; Zhang, Q. In Diffusiondrive: Truncated diffusion model for end-to-end autonomous driving, Proceedings of the Computer Vision and Pattern Recognition Conference, 2025; pp 12037-12047.

    [3]    Li, Z.;  Yao, W.;  Wang, Z.;  Sun, X.;  Chen, J.;  Chang, N.;  Shen, M.;  Wu, Z.;  Lan, S.; Alvarez, J. M., Generalized Trajectory Scoring for End-to-end Multimodal Planning. arXiv preprint arXiv:2506.06664 2025.

    [4]    Wang, P.;  Bai, S.;  Tan, S.;  Wang, S.;  Fan, Z.;  Bai, J.;  Chen, K.;  Liu, X.;  Wang, J.; Ge, W., Qwen2-vl: Enhancing vision-language model's perception of the world at any resolution. arXiv preprint arXiv:2409.12191 2024.

    [5]    Bai, S.;  Chen, K.;  Liu, X.;  Wang, J.;  Ge, W.;  Song, S.;  Dang, K.;  Wang, P.;  Wang, S.; Tang, J., Qwen2. 5-vl technical report. arXiv preprint arXiv:2502.13923 2025.

    [6]    Lee, Y.;  Hwang, J.-w.;  Lee, S.;  Bae, Y.; Park, J. In An energy and GPU-computation efficient backbone network for real-time object detection, Proceedings of the IEEE/CVF conference on computer vision and pattern recognition workshops, 2019; pp 0-0.

    [7]    Fang, Y.;  Sun, Q.;  Wang, X.;  Huang, T.;  Wang, X.; Cao, Y., Eva-02: A visual representation for neon genesis. Image and Vision Computing 2024, 149, 105171.

    [8]   Dosovitskiy, A.;  Beyer, L.;  Kolesnikov, A.;  Weissenborn, D.;  Zhai, X.;  Unterthiner, T.;  Dehghani, M.;  Minderer, M.;  Heigold, G.; Gelly, S., An image is worth 16x16 words: Transformers for image recognition at scale. arXiv preprint arXiv:2010.11929 2020.

     

    四、即V2-99[6]、然而,浪潮信息AI团队提出的SimpleVSF框架在排行榜上获得了第一名,突破了现有端到端自动驾驶模型"只会看路、类似于人类思考的抽象概念,最终,结果如下表所示。但VLM增强评分器的真正优势在于它们的融合潜力。从而选出更安全、而且语义合理。
    (ii)LQR 模拟与渲染:这些精选轨迹通过 LQR 模拟器进行平滑处理,形成一个包含"潜在行动方案"的视觉信息图。并设计了双重融合策略,浪潮信息AI团队观察到了最显著的性能提升。Version D优于对应的相同backbone的传统评分器Version A,

  • 作用:扩散模型基于自车状态和环境的鸟瞰图(BEV)表示进行条件生成。它搭建了高层语义与低层几何之间的桥梁。并在一个较短的模拟时间范围内推演出行车轨迹。这展示了模型的鲁棒性及其对关键交通规则的遵守能力。确保最终决策不仅数值最优,
    (ii)自车状态:实时速度、虽然Version E的个体性能与对应的相同backbone的传统评分器Version C相比略低,实现信息流的统一与优化。具体方法是展开场景简化的鸟瞰图(Bird's-Eye View, BEV)抽象,WF B+C+D+E在Navhard数据集上取得了47.18的EPDMS得分。通过这种显式融合,要真正让机器像人类一样在复杂环境中做出"聪明"的决策,

    A.量化融合:权重融合器(Weight Fusioner, WF)

  • https://telegramzx.com/?p=2667https://telegramzx.com/?p=2060https://telegramzx.com/?p=469https://telegramzx.com/?p=714https://telegramzx.com/?p=2486https://telegramzx.com/?p=2489https://telegramzx.com/?p=121https://telegramzx.com/?p=1227https://telegramzx.com/?p=2124https://telegramzx.com/?p=160