图片-图文交织 (OmniCorpus-CC)

数据集简介

主要数据内容包括： 大规模图文交错数据（Interleaved Image-Text Data） 超过 9 亿级互联网图文混合文档数据 基于 Common Crawl 构建的网页级多模态数据资源 文本段落与多图片交替组织的长上下文内容 覆盖新闻、百科、博客、论坛、视频页面等多场景互联网内容 包含图片 URL、Caption、文本段落与丰富元数据信息 提供图像质量、去重、美学评分与安全过滤相关标注数据 支持的能力方向包括： 多模态大模型（MLLM）预训练 Vision-Language Model（VLM）训练 图文交错长上下文学习（Interleaved Learning） 多模态 In-Context Learning 能力训练 图文语义对齐与跨模态理解 OCR、视觉问答（VQA）与复杂视觉推理训练 多模态检索与跨模态 RAG 训练 适用于： 多模态 AI 基础模型研发 大规模视觉语言模型训练 图文联合生成与理解任务 AIGC 多模态数据训练 多模态 Benchmark 与算法评测 跨模态数据工程与语义研究

数据质量