首页 抖音热门文章正文

小红书首个多模态AI大模型dots.vlm1发布并开源

抖音热门 2025年08月06日 18:46 0 aa

IT之家 8 月 6 日消息,小红书 hi lab 研发并开源的首个多模态大模型 dots.vlm1 今日正式发布,借助一个从零训练的 12 亿参数视觉编码器以及基于 Deepseek V3 LLM 构建。

小红书 hi lab 表示,dots.vlm1 在大部分多模态评测集上接近闭源 SoTA 模型的水平,并在文本能力和主流文本模型相当。

  • NaViT 视觉编码器:没有基于成熟视觉编码器进行微调,完全从零开始训练,原生支持动态分辨率。同时在文本监督上增加纯视觉监督,提升感知能力上限。此外,训练数据上在传统的 Image Caption 数据上还引入大量结构化图片进行原生训练,提升 VLM 模型的感知能力(例如各类 OCR 能力)。

  • 多模态训练数据:在传统思路上,额外引入多种合成数据思路,覆盖多样的图片类型(例如表格 / Chart / 文档 / Graphics 等)及其描述(例如 Alt Text / Dense Caption / Grounding 等);同时,利用多模态大模型来重写图文交错网页数据,显著提升训练数据质量;

  • 通过大规模预训练与精细化后训练调优,dots.vlm1 在视觉感知与推理方面达到了接近 SOTA 的表现,为开源视觉语言模型树立了新的性能上限,同时在纯文本任务中仍保持一定竞争力。

小红书首个多模态AI大模型dots.vlm1发布并开源

在主要的视觉评测集上,dots.vlm1 的整体表现已接近当前领先模型 Gemini 2.5 Pro 与 Seed-VL1.5 thinking,尤其在 MMMU / MathVision / OCR Reasoning 等多个基准测试中取得了相当竞争力的结果,显示出较强的图文理解与推理能力。

在典型的文本推理任务(如 AIME、GPQA、LiveCodeBench)上,dots.vlm1 的表现大致相当于 DeepSeek-R1-0528,在数学和代码能力上已具备一定的通用性,但在 GPQA 等更多样的推理任务上仍存在差距。

总体来看,dots.vlm1 在视觉多模态能力方面已接近 SOTA 水平,在文本推理方面达到了主流模型的性能。然而,在部分细分任务上仍与最优结果存在一定距离,需要在架构设计与训练数据上进一步优化。

复杂图表推理样例:

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

STEM 解题样例:

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

长尾识别解题样例:

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

视觉推理样例:

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

小红书首个多模态AI大模型dots.vlm1发布并开源

IT之家附 dots.vlm1 开源地址:

发表评论

长征号 Copyright © 2013-2024 长征号. All Rights Reserved.  sitemap