Image-to-Markup / im2latex

Image-to-Markup / 数据集

IM2LATEX-100K
公式识别数据集

渲染后的数学公式图片与对应 LaTeX 源码,用于训练和评估图片转 LaTeX 模型。

Yuntian Deng、Anssi Kanervisto 与 Alexander M. Rush 在 2016 年原始论文 What You Get Is What You See: A Visual Markup Decompiler 中介绍此数据集。数据使用的推荐研究引用为下方 ICML 2017 论文。

数据来源与原始研究

数据集从 Cornell KDD Cup 收录的 arXiv 论文 LaTeX 源码中提取公式,再渲染成图片。2016 年的研究涵盖公式图像转 LaTeX 与合成网页图像转 HTML。

原始 Zenodo 归档由合作者 Anssi Kanervisto 制作并上传;归档记录显示的发布日期为 2016 年 6 月 21 日。项目的代码仓库提供预处理、训练和评估实现。

后续 Image-to-Markup Generation with Coarse-to-Fine Attention 发表于 ICML 2017,作者为 Yuntian Deng、Anssi Kanervisto、Jeffrey Ling 与 Alexander M. Rush,研究由粗到细的注意力机制。

使用镜像或处理后的版本:请保留原始研究引用,并注明使用的具体分发版本。新文件格式、重新渲染或托管位置的变化,需要与原始数据来源一同记录。

选择数据版本

数据版本与划分

论文报告、托管文件列表与后来的 Hugging Face 导出具有不同样本数。请按实际使用的文件和数据划分报告实验。

论文按发表版本记录;托管文件数量核验于 2026 年 10 月 19 日。不同版本的测试集分别记录。
版本训练集验证集测试集计数说明
ICML 2017 论文83,8839,31910,354论文报告共 103,556 个样本
项目托管原始列表83,8849,32010,355共 103,559 条列表记录
项目托管处理后列表75,2758,37010,355共 94,000 条记录;测试集转换格式,不作过滤
HF 规范化导出55,0336,0726,810共 67,915 行,目标为规范化 LaTeX
HF 目标表示导出165,09918,21620,430共 203,745 行;每个源样本对应三种目标表示

每个托管公式列表含 103,559 个索引行。保留分词与规范化列表中的空记录;删除空行会改变后续索引。托管记录数与论文实验样本数分别保留。文件大小与哈希 · SHA-256 校验值

直接下载

原始项目文件

复现原始流程时,请使用仓库配套的预处理与评估脚本。

处理后的文件

处理流程裁剪图片、下采样、按批次填充,并对公式分词或规范化。训练集与验证集经过过滤,测试列表转换格式但不作过滤。

原始文件

原始列表格式为 formula_index image_name render_type,处理后列表为 image_filename formula_index。公式索引从 0 开始。

IM2LATEX-100K-HANDWRITTEN

论文用于预训练的合成手写公式版本,与原始印刷公式数据集分别记录。

Hugging Face

加载图像—公式对

yuntian-deng/im2latex-100k

共 67,915 行,分为 train、val 和 test。字段为 image、formula 和 filename;目标是规范化 LaTeX。

yuntian-deng/im2latex-100k-raw

增加 preprocessing 字段,区分 none、tokenized 与 normalized 三种目标表示。203,745 行对应相同的 67,915 个源样本,而非三倍独立图片。

这些导出是项目数据的子集。preprocessing 描述目标字符串,不能作为需要再施加到图片上的变换。训练指南提供固定版本的加载示例,并说明重复文件名、划分重叠和评估注意事项。

复现与使用

训练前先核对数据

保留索引与换行方式

按 LF 换行读取原始公式列表,保留空记录和原始行号。结合划分列表与图片检查每条记录;训练指南提供读取示例。

记录预处理与指标

保存数据版本或文件哈希、数据划分、公式规范化、图像预处理和解码设置。不同 LaTeX 字符串能够渲染为相同公式。评估说明区分文本指标与渲染图像指标。

区分印刷与合成手写数据

IM2LATEX-100K 原始图片由 LaTeX 渲染生成。单独的手写归档包含合成手写公式,其生成与迁移实验见 ICML 论文。它不是人工书写样本的采集库。

数据与代码许可

原始数据归档声明 CC0 1.0;模型代码采用 MIT 许可。重新分发处理或手写版本时,请核对该版本的说明。此数据集用于数学公式识别研究,渲染的科学公式与扫描、拍照和真实手写图片具有不同的输入分布。

论文与引用

引用原始研究,注明数据版本

使用 IM2LATEX-100K、处理版本或 Image-to-Markup 模型时,请引用 ICML 2017 论文,并注明实际使用的数据版本和预处理。使用镜像或衍生版本时,同时保留原始数据集与新增工作的贡献说明。

ICML 2017 论文

Yuntian Deng, Anssi Kanervisto, Jeffrey Ling, Alexander M. Rush. Image-to-Markup Generation with Coarse-to-Fine Attention. ICML 2017,PMLR 70:980–989。

@inproceedings{pmlr-v70-deng17a,
  title = {Image-to-Markup Generation with Coarse-to-Fine Attention},
  author = {Deng, Yuntian and Kanervisto, Anssi and Ling, Jeffrey and Rush, Alexander M.},
  booktitle = {Proceedings of the 34th International Conference on Machine Learning},
  pages = {980--989},
  year = {2017},
  volume = {70},
  series = {Proceedings of Machine Learning Research},
  publisher = {PMLR},
  url = {https://proceedings.mlr.press/v70/deng17a.html}
}

2016 年原始论文

Yuntian Deng, Anssi Kanervisto, Alexander M. Rush. What You Get Is What You See: A Visual Markup Decompiler. 2016 年 9 月 16 日,arXiv:1609.04938v1。该版本介绍 IM2LATEX-100K,并研究公式图像转 LaTeX 与网页图像转 HTML。讨论原始研究和图像转 HTML 时,请引用这一版本。

@article{deng2016visualmarkup,
  title = {What You Get Is What You See: A Visual Markup Decompiler},
  author = {Deng, Yuntian and Kanervisto, Anssi and Rush, Alexander M.},
  journal = {arXiv preprint arXiv:1609.04938v1},
  year = {2016},
  url = {https://arxiv.org/abs/1609.04938v1}
}

使用原始归档时,还应注明 Anssi Kanervisto 发布的 IM2LATEX-100K 数据归档,DOI 10.5281/zenodo.56198。数据归档与研究论文分别记录数据发布和研究贡献。