Image-to-Markup / 数据集
IM2LATEX-100K
公式识别数据集
渲染后的数学公式图片与对应 LaTeX 源码,用于训练和评估图片转 LaTeX 模型。
Yuntian Deng、Anssi Kanervisto 与 Alexander M. Rush 在 2016 年原始论文 What You Get Is What You See: A Visual Markup Decompiler 中介绍此数据集。数据使用的推荐研究引用为下方 ICML 2017 论文。
数据来源与原始研究
数据集从 Cornell KDD Cup 收录的 arXiv 论文 LaTeX 源码中提取公式,再渲染成图片。2016 年的研究涵盖公式图像转 LaTeX 与合成网页图像转 HTML。
原始 Zenodo 归档由合作者 Anssi Kanervisto 制作并上传;归档记录显示的发布日期为 2016 年 6 月 21 日。项目的代码仓库提供预处理、训练和评估实现。
后续 Image-to-Markup Generation with Coarse-to-Fine Attention 发表于 ICML 2017,作者为 Yuntian Deng、Anssi Kanervisto、Jeffrey Ling 与 Alexander M. Rush,研究由粗到细的注意力机制。
使用镜像或处理后的版本:请保留原始研究引用,并注明使用的具体分发版本。新文件格式、重新渲染或托管位置的变化,需要与原始数据来源一同记录。
选择数据版本
数据版本与划分
论文报告、托管文件列表与后来的 Hugging Face 导出具有不同样本数。请按实际使用的文件和数据划分报告实验。
| 版本 | 训练集 | 验证集 | 测试集 | 计数说明 |
|---|---|---|---|---|
| ICML 2017 论文 | 83,883 | 9,319 | 10,354 | 论文报告共 103,556 个样本 |
| 项目托管原始列表 | 83,884 | 9,320 | 10,355 | 共 103,559 条列表记录 |
| 项目托管处理后列表 | 75,275 | 8,370 | 10,355 | 共 94,000 条记录;测试集转换格式,不作过滤 |
| HF 规范化导出 | 55,033 | 6,072 | 6,810 | 共 67,915 行,目标为规范化 LaTeX |
| HF 目标表示导出 | 165,099 | 18,216 | 20,430 | 共 203,745 行;每个源样本对应三种目标表示 |
每个托管公式列表含 103,559 个索引行。保留分词与规范化列表中的空记录;删除空行会改变后续索引。托管记录数与论文实验样本数分别保留。文件大小与哈希 · SHA-256 校验值
直接下载
原始项目文件
复现原始流程时,请使用仓库配套的预处理与评估脚本。
处理后的文件
处理流程裁剪图片、下采样、按批次填充,并对公式分词或规范化。训练集与验证集经过过滤,测试列表转换格式但不作过滤。
- im2latex_formulas.norm.lst规范化 LaTeX 目标 · 103,559 个索引行
- im2latex_formulas.tok.lst分词后的 LaTeX 目标 · 103,559 个索引行
- formula_images_processed.tar.gz裁剪、下采样并填充后的公式图片
- im2latex_train_filter.lst处理后训练列表 · 75,275 条记录
- im2latex_validate_filter.lst处理后验证列表 · 8,370 条记录
- im2latex_test_filter.lst转换格式后的测试列表 · 10,355 条记录;不作过滤
原始文件
原始列表格式为 formula_index image_name render_type,处理后列表为 image_filename formula_index。公式索引从 0 开始。
- im2latex_formulas.lst原始 LaTeX 目标 · 103,559 个索引行
- im2latex_train.lst原始训练列表 · 83,884 条记录
- im2latex_validate.lst原始验证列表 · 9,320 条记录
- im2latex_test.lst原始测试列表 · 10,355 条记录
- formula_images.tar.gz原始渲染图片
IM2LATEX-100K-HANDWRITTEN
论文用于预训练的合成手写公式版本,与原始印刷公式数据集分别记录。
- IM2LATEX-100K-HANDWRITTEN.tgz合成手写图片、公式目标及数据划分
Hugging Face
加载图像—公式对
yuntian-deng/im2latex-100k
共 67,915 行,分为 train、val 和 test。字段为 image、formula 和 filename;目标是规范化 LaTeX。
yuntian-deng/im2latex-100k-raw
增加 preprocessing 字段,区分 none、tokenized 与 normalized 三种目标表示。203,745 行对应相同的 67,915 个源样本,而非三倍独立图片。
这些导出是项目数据的子集。preprocessing 描述目标字符串,不能作为需要再施加到图片上的变换。训练指南提供固定版本的加载示例,并说明重复文件名、划分重叠和评估注意事项。
复现与使用
训练前先核对数据
保留索引与换行方式
按 LF 换行读取原始公式列表,保留空记录和原始行号。结合划分列表与图片检查每条记录;训练指南提供读取示例。
记录预处理与指标
保存数据版本或文件哈希、数据划分、公式规范化、图像预处理和解码设置。不同 LaTeX 字符串能够渲染为相同公式。评估说明区分文本指标与渲染图像指标。
区分印刷与合成手写数据
IM2LATEX-100K 原始图片由 LaTeX 渲染生成。单独的手写归档包含合成手写公式,其生成与迁移实验见 ICML 论文。它不是人工书写样本的采集库。
数据与代码许可
原始数据归档声明 CC0 1.0;模型代码采用 MIT 许可。重新分发处理或手写版本时,请核对该版本的说明。此数据集用于数学公式识别研究,渲染的科学公式与扫描、拍照和真实手写图片具有不同的输入分布。
论文与引用
引用原始研究,注明数据版本
使用 IM2LATEX-100K、处理版本或 Image-to-Markup 模型时,请引用 ICML 2017 论文,并注明实际使用的数据版本和预处理。使用镜像或衍生版本时,同时保留原始数据集与新增工作的贡献说明。
ICML 2017 论文
Yuntian Deng, Anssi Kanervisto, Jeffrey Ling, Alexander M. Rush. Image-to-Markup Generation with Coarse-to-Fine Attention. ICML 2017,PMLR 70:980–989。
@inproceedings{pmlr-v70-deng17a,
title = {Image-to-Markup Generation with Coarse-to-Fine Attention},
author = {Deng, Yuntian and Kanervisto, Anssi and Ling, Jeffrey and Rush, Alexander M.},
booktitle = {Proceedings of the 34th International Conference on Machine Learning},
pages = {980--989},
year = {2017},
volume = {70},
series = {Proceedings of Machine Learning Research},
publisher = {PMLR},
url = {https://proceedings.mlr.press/v70/deng17a.html}
}
2016 年原始论文
Yuntian Deng, Anssi Kanervisto, Alexander M. Rush. What You Get Is What You See: A Visual Markup Decompiler. 2016 年 9 月 16 日,arXiv:1609.04938v1。该版本介绍 IM2LATEX-100K,并研究公式图像转 LaTeX 与网页图像转 HTML。讨论原始研究和图像转 HTML 时,请引用这一版本。
@article{deng2016visualmarkup,
title = {What You Get Is What You See: A Visual Markup Decompiler},
author = {Deng, Yuntian and Kanervisto, Anssi and Rush, Alexander M.},
journal = {arXiv preprint arXiv:1609.04938v1},
year = {2016},
url = {https://arxiv.org/abs/1609.04938v1}
}
使用原始归档时,还应注明 Anssi Kanervisto 发布的 IM2LATEX-100K 数据归档,DOI 10.5281/zenodo.56198。数据归档与研究论文分别记录数据发布和研究贡献。