Yezixiao/unified_vqa_v1

visual_rules_VQA_data_summary

多源视觉推理 VQA 数据的汇总、清洗、去重与质量评估工作区。把 pipeline / yichen / zixiao / zhangyuner 四个来源生成的图文样本，统一成一套富格式数据集 unified_vqa_v1/， 并配套读图质量评估与修复工具。

当前规模：unified_vqa_v1/all.jsonl 共 137,980 条 / 1,426 个 slug 目录（实测 2026-08-11）。

数据来源与数量总表

来源	id 前缀	条数	slug / seed 数	图片体积	说明
zixiao	zixiao__	101,636	1,061	4.6G	PuzzleSample → 富格式，vendor 补全后全量
yichen	yichen__	19,944	201	647M	PuzzleSample → 富格式，为 zixiao 基底子集
pipeline	pipeline__	16,200	162	1.0G	本地生成器 6 批次，富格式直接映射
zhangyuner	zhangyuner__	200	2	12M	six_figure_grouping / visual_analogy
合计	—	137,980	1,426 目录	~6.3G	all.jsonl

batch6 已于 2026-08-11 物理并入 pipeline（pipeline/batch6__<seed>/），不再是独立源。 物理目录合计 1,426（zixiao 1061 + yichen 201 + pipeline 162 + zhangyuner 2）， 与 MANIFEST.json 的 num_slugs 一致。

pipeline 来源明细（162 seed / 16,200 条）

批次	seed 数	条数	复现 seed
visual_rules_batch1	23	2,300	1000
visual_rules_batch2	24	2,400	42
visual_rules_batch3	58	5,800	各异
visual_rules_batch5	36	3,600	2026
visual_rules_batch6	11	1,100	1000
visual_rules_GridPonder	10	1,000	各异
合计	162	16,200	—

每 seed 恒定 100 条。visual_rules_batch4 / visual_rules_template 无 generated 产物。

batch6 明细（11 题型 × 100 = 1,100 条）

来源为 ActiveVision 基准（arXiv:2607.16165）的题型思路，独立重实现——不使用其图像、 代码或测试集，无污染与授权问题。生成参数 seed=1000、difficulty=mixed。 答案类型：multiple_choice 800 条 + free_form 300 条。

题型 (seed)	任务	题型 (seed)	任务
field_difference_v1	左右网格找不同格坐标	region_counting_v1	Voronoi 区域计数
singleton_shape_counting_v1	计数唯一出现的形状	tangled_loop_counting_v1	缠绕闭合曲线计数
constellation_match_v1	模板星座在散点场中匹配	color_zone_sequencing_v1	曲线经过的颜色顺序
arrow_chain_following_v1	跟随有向箭头链找终点	line_intersection_sequencing_v1	主路径穿越线的有序标签
signal_difference_v1	上下波形找差异段	silhouette_match_counting_v1	形状匹配剪影计数
contour_difference_v1	两轮廓差异段号

三份全量 JSONL

文件	条数	含 batch6	说明
all.jsonl	137,980	✅	富格式全量，id 全唯一，0 坏行
all_clean.jsonl	134,980	✅	剔 enigmata 3,000 + 剥 mm_helix ASCII 3,600
all_dedup.jsonl	111,895	✅	跨源内容去重 + 重编 id（slug__NNNNN）

三份 JSONL 与 MANIFEST.json 均已于 2026-08-11 随 batch6 并入 pipeline 后重建，口径一致。 重建前版本备份为 all.jsonl.bak_pre_b6_into_pipeline / all_clean.jsonl.bak_pre_batch6 / all_dedup.jsonl.bak_pre_batch6（更早的 all.jsonl.bak_pre_batch6 已核对冗余后删除）。

domain 分布（前 15）

domain	条数	domain	条数
arc_gen	39,700	visual_reasoning	3,400
cvr	20,600	algopuzzlevqa	3,202
vbvr	15,000	enigmata	3,000
logic_puzzles	8,700	nextgen_captchas	2,700
gym_v	8,600	sphinx	2,500
simon_tatham	7,800	synlogic	2,340
puzzlevqa	4,000	iraven / raven	1,400 / 1,400
mm_helix	3,700	（未标 domain）	3,600

visual_reasoning（3,400）含 batch6 的 1,100 条。

顶层目录

visual_rules_VQA_data_summary/
├── CLAUDE.md                      # 项目行事准则（诚信原则、外科手术式修改、日志规范等）
├── task_plan.md / notes.md        # 规划与调研 findings
├── docs/
│   ├── known_issues.md            # 问题/根因/修复/回归 全记录
│   ├── PIPELINE_OVERVIEW.md       # VQA 生成流程总览（含 Mermaid 流程图）
│   └── PIPELINE_FIGURE_PROMPT.md  # 流程图绘制 prompt（中文）
│
├── tools/                         # 汇总 / 清洗 / 去重 / 修复脚本（核心资产）
├── utils/
│   └── llm_client.py              # LLM 调用封装（含多模态 request_provider_multimodal）
│
├── unified_vqa_v1/                # ★ 最终交付数据集（见下）
│
├── visual_rules_VQA_data/         # pipeline 数据上游（batch1/2/3/5/6 + GridPonder 生成器）
├── visual-prog-distill-zixiao/    # zixiao 上游仓
├── visual-prog-distill-yichen/    # yichen 上游仓 + .venv（生成用解释器）
└── visual-prog-distill-visual_rules_VQA_data*/  # 冗余副本/压缩包（可清理）

核心交付：unified_vqa_v1/

unified_vqa_v1/
├── all.jsonl              137,980 条  富格式全量
├── all_clean.jsonl        134,980 条  剔 enigmata + 剥 mm_helix ASCII
├── all_dedup.jsonl        111,895 条  跨源去重 + 重编 id
├── *.bak_pre_batch6 / all.jsonl.bak_pre_b6_into_pipeline   重建前备份
├── zhangyuner_unified.jsonl   200 条  zhangyuner 规范化留档
├── DATASET_SUMMARY.md / FORMAT.md / MANIFEST.json / GENERATION_REPORT.md
│
├── zixiao/       1061 目录 4.6G
├── pipeline/      162 目录 1.0G   batch{1,2,3,5,6}__<seed> / GridPonder__<seed>
├── yichen/        201 目录 647M
├── zhangyuner/      2 目录  12M
│
├── eval/                          # 读图质量评估（自包含）
│   ├── run_vlm_quality.py         # VLM 送图打分（full / appearance 双模式）
│   ├── apply_quality_filter.py    # 切分 / 报告
│   └── QUALITY_RUBRIC_VLM.md
│
└── _reports/                      # 评估 / 清洗 产出
    ├── vlm_appearance_kimi26.jsonl + VLM_APPEARANCE_REPORT.md + split/
    ├── DEDUP_REPORT.md + dedup_id_map.tsv
    └── CLEAN_REPORT.md + clean_*.txt

富格式单条记录：id + media(相对图片路径) + messages(question/answer/options) + metadata(classification / provenance / gt / instance / raw_state)。 raw_state 支撑答案独立复算，是可验证性的载体。

tools/ 脚本分工

脚本	职责
batch_generate.py / regen_slugs.py	上游批量生成 / best-effort 降额重生成
convert_pipeline_to_unified.py / convert_puzzle_to_unified.py	各源 → unified 富格式
build_all_jsonl.py	汇总各源为 all.jsonl
build_clean_dataset.py	清洗（剔 enigmata、剥 mm_helix ASCII）
dedup_and_reid.py	跨源内容去重 + 重编 id
integrate_zhangyuner.py / fix_zhangyuner_options.py	zhangyuner 接入 / 裁底部选项条
fix_nextgen_placeholder.py	重生成 nextgen 900×700 空白占位图
fix_pipeline_font.py	放大 pipeline 图内偏小字号并覆盖 unified

pipeline 上游：visual_rules_VQA_data/

visual_rules_batch1/        23 seeds 有产出   复现 --seed 1000
visual_rules_batch2/        24 seeds 有产出   复现 --seed 42
visual_rules_batch3/        58 seeds 有产出   复现 --seed（各异）
visual_rules_batch5/        36 seeds 有产出   复现 --seed 2026
visual_rules_batch6/        11 seeds 有产出   复现 --seed 1000（产物在 outputs/full_seed1000/）
visual_rules_GridPonder/    10 seeds 有产出   独立子仓
visual_rules_batch4/        无 generated 产出
visual_rules_template/      流程与评估模板来源（docs/PIPELINE.md + prompts/ + pipeline/vlm_evaluate.py）

每个 seeds/<seed>/：state.py render.py questions.py verify.py generate.py。 生成产物落在 <batch>/generated/<seed>/（batch6 为 outputs/full_seed1000/<seed>/）， 再由 convert_pipeline_to_unified.py 拷入 unified_vqa_v1/pipeline/<batch>__<seed>/。 batch6 用 --src-glob 'visual_rules_batch6/outputs/**/vis_scaling_simple_mm.jsonl' 覆盖默认 glob。

完整生成流程（Intake → Build → 双层质检自修复 → 人工确认 → 扩量 → 汇总）见 docs/PIPELINE_OVERVIEW.md。

去重口径：各源唯一内容贡献

all_dedup.jsonl（111,895 条，含 batch6）的跨源去重结果：

• yichen 基底 19,896 条（与 zixiao 重叠 18,543 + yichen 独有 1,353）
• zixiao 在其上净新增 79,367 条
• pipeline 独立 12,434 条（含 batch6 1,100 条全量保留）
• zhangyuner 独立 198 条
• 保留优先级：pipeline > zixiao > yichen

数据质量控制

• 生成期：程序化质检（结构 / 图片 / 答案由 raw_state 复算 / 难度 ≥ medium，门禁 pass_rate ≥ 95%）
  • VLM 送图五维打分（门禁一致率 ≥ 85%），失败改生成器代码而非改单条数据，最多 3 轮
• 汇总期：eval/run_vlm_quality.py 全量读图复检（full / appearance 双模式）， 产出 _reports/VLM_APPEARANCE_REPORT.md 与切分结果
• 图像规范：pipeline 全量图片短边 ≥ 600px（32 个小图 seed 已矢量超采样重绘）

已知问题与修复记录

详见 docs/known_issues.md，含：全量生成的 PARTIAL/EMPTY 分诊、 enigmata 图形同虚设剔除、mm_helix ASCII 剥离、跨源去重、VLM 读图评估、 nextgen 占位图重生成、pipeline 字号放大等。