MinerU能够将混合了图片、公式、表格、脚注等复杂元素的PDF文档转化为Markdown和JSON格式，大幅提升了AI语料的准备效率。凭借快速准确、开源易用的能力特性，MinerU受到广大用户及大模型开发者青睐，上线八个月，GitHub星标数已接近3万，被开发者誉为"大模型时代的文档提取、转换神器"。
功能特点
多类型转换能力
MinerU支持多种类型的PDF文档提取，包括文本型PDF、图层型PDF、扫描版PDF。初始阶段，输入PDF文档，系统会启用文档分类模块，提取PDF元数据，检测是否有乱码等。MinerU还能将其他类型的文档（如图片、PPT和Word文档）转换为PDF后再进行提取。
多语言识别
MinerU支持跨语言识别，全球通用。目前支持中文（简体和繁体）、英文、俄语、日语、韩语等多国语言。这使得MinerU在全球范围内都有广泛的应用潜力。
多元素解析
MinerU能够精确解析多种元素，全面提取信息，包括：
文本内容 公式（包括数学公式、化学方程式等） 表格 图表 表格标题和脚注 图片描述
删除版面元素
MinerU能够精准识别版面元素，删除页眉/页脚/脚注，只保留正文内容，确保提取的文本语义连贯，没有干扰信息。
多格式输出
MinerU支持多种输出格式，包括：
多模态与NLP的Markdown格式 按阅读顺序排序的JSON 含有丰富信息的中间格式 图片和表格提取结果
用户友好界面
MinerU推出了支持Win/Mac/Linux等主流操作系统的全新客户端。无需编程，无需登录，下载即用。用户通过简单交互，即可在图形界面对文档进行智能提取。从 MinerU 官网下载客户端安装后，只需将文件简单拖放，或者输入待转换文件的url并点击确认，就能完成文档的快速自动解析和导出。
API服务
MinerU在线API服务也对齐了MinerU开源项目最新release的1.0版本，提供了url&本地文件的批量解析、解析结果查询和下载、模型相关参数配置等能力。填写问卷申请通过后即可免费试用。得益于算力调度策略的持续优化和文档批量处理能力的增强，MinerU在处理多并发的大量文档时更加高效，无论是批量处理还是单个大体积文件，都能快速响应，为用户提供更为流畅、可靠的使用体验。
技术架构
MinerU的技术架构整合了最先进的文档解析模型，涵盖了布局检测、公式检测、公式识别、OCR和表格识别等多个方面。以下是MinerU的核心技术组件：
布局检测(Layout Detection)
MinerU使用微调过的DocLayout-YOLO和LayoutLMv3模型来定位文档中的不同元素，包括图像、表格、文本、标题和公式。这些模型经过多种PDF文档注释的微调，在论文、教科书、研究报告和财务报告等多样化PDF文档上实现了准确的提取结果，并在模糊和水印等挑战面前表现出高鲁棒性。
公式检测(Formula Detection)
MinerU使用微调的YOLOv8模型来定位文档中的公式，包括行内公式和块公式。这种高级的公式检测能力确保了数学内容能够被准确识别和提取。
公式识别(Formula Recognition)
MinerU使用UniMERNet模型进行公式识别，这是一种为现实世界场景中的各种公式识别而设计的算法。通过构建大规模的训练数据和精心设计的结果，它对复杂的长公式、手写公式和嘈杂的截图公式实现了出色的识别性能。
OCR能力
MinerU使用PaddleOCR进行文字识别。PaddleOCR是一个基于PaddlePaddle（百度开发的开源深度学习平台）的端到端光学字符识别（OCR）引擎，具有以下特点：
提供了从文本检测、文本识别到文本识别结果后处理的完整OCR流程 优化了模型结构和推理速度，使得它在保持较高识别精度的同时，还能在各种硬件上快速运行 支持多种语言的文字识别，包括中文、英文、法文、德文、日文和韩文等 集成了多种先进的文本检测和识别模型，如DB用于文本检测，CRNN和STAR-Net用于文本识别 提供了一系列预训练模型，用户可以直接使用这些模型进行文本识别 提供了详细的文档和示例代码，使得用户可以轻松上手，快速集成OCR功能到自己的应用中
表格识别(Table Recognition)
MinerU提供了两种表格识别方式：
- StructEqTable：这是一个高效的工具包，可以将表格图像转换为LaTeX/HTML/MarkDown。最新版本采用InternVL2-1B基础模型，提高了中文识别精度，并扩展了多格式输出选项。
- PaddleOCR+TableMaster：PaddleOCR首先在文档图像中检测文本行的位置，TableMaster专注于表格结构的识别，在文档图像中检测表格的存在并定位表格的边界。
在表格识别过程中，PaddleOCR提供精确的文本识别，而TableMaster负责识别和重建表格的结构。结合这两者，系统能够从图像中提取出完整的表格信息，包括表格的结构和内容。
使用方法
MinerU提供了多种使用方式，以满足不同用户的需求：
图形界面客户端
MinerU推出了支持Win/Mac/Linux等主流操作系统的全新客户端。无需编程，无需登录，下载即用。用户通过简单交互，即可在图形界面对文档进行智能提取。
使用方法：
从 MinerU 官网下载客户端并安装 将待处理的文件简单拖放，或者输入待转换文件的url并点击确认 客户端采用的是MinerU开源项目最新release的1.0版本，支持pdf、doc、docx、ppt、pptx等多种类型文档的内容提取 客户端提供多种识别模式、模型、语言等配置开关，供用户自由选择 可以导出Markdown文件，也可以导出content_list.json、layout.json等关键的中间态文件
在线API接口
MinerU在线API服务对齐了MinerU开源项目最新release的1.0版本，提供了以下功能：
url&本地文件的批量解析 解析结果查询和下载 模型相关参数配置
用户需要填写问卷申请，通过后即可免费试用。得益于算力调度策略的持续优化和文档批量处理能力的增强，MinerU在处理多并发的大量文档时更加高效，无论是批量处理还是单个大体积文件，都能快速响应。
本地安装运行
在本地环境中安装运行MinerU需要以下步骤：
基础环境说明
这是一个Python项目 本地基础环境：Windows10、PyCharm、Python 3.10 构建本地运行虚拟环境
在PyCharm中直接构建Python运行的虚拟环境（Python Virtualenv Environment） 通过虚拟环境安装运行MinerU相关的依赖库 在项目结构中添加虚拟环境 安装MinerU项目运行依赖
安装命令： pip install -U magic-pdf[full] --extra-index-url https://wheels.myhloli.com -i https://mirrors.aliyun.com/pypi/simple或者更快的命令： pip install -U magic-pdf[full] --extra-index-url https://wheels.myhloli.com -i https://pypi.tuna.tsinghua.edu.cn/simple下载模型文件
download_models_hf.py：从Hugging Face下载模型文件 download_models.py：从ModelScope下载模型文件 在代码的scripts目录下有两个模型下载脚本： 模型下载下来会包括两个路径： models和layoutreader[14]CPU容器环境
构建镜像： docker build -t magic-pdf-cpu-test .运行容器： docker run -d magic-pdf-cpu-test进入容器中，运行magic-pdf相关的命令，就可以使用CPU执行PDF提取 GPU容器环境
需要在GPU CUDA驱动的机器上构建容器镜像 构建命令： docker build -t magic-pdf-gpu-test .运行容器： docker run --rm --device nvidia.com/gpu=all --security-opt=label=disable -it magic-pdf-gpu-test进入容器后，可以使用GPU执行PDF提取
容器安装运行
在Linux环境中，MinerU也可以通过容器方式安装和运行：
与其他工具比较
MinerU
优势：
支持多种输入模型，具备高精度的PDF模型解析能力。
自动识别并去除页眉、页脚、脚注和页码等非内容元素，净化文档信息。
转换公式为LaTeX格式，适合学术交流和技术文档使用。
支持CPU和GPU加速，兼容Windows/Linux/Mac平台。
劣势：
对于GPU资源的要求较高，配置较为复杂。
表格处理速度较慢。
Marker
Marker是一款轻量级的开源PDF转Markdown工具，它也具有一定的OCR识别能力，特别适用于基础文献处理任务。尽管它的处理速度快，但对于复杂文档的解析能力有限。
优势：
开源免费，处理速度快（比同类工具快4倍）。
适合技术背景用户快速部署使用。
劣势：
缺乏对复杂布局的解析能力。
依赖本地GPU资源。
Docling
Docling采用模块化设计，支持多格式文档解析，并能与AI框架集成，适用于企业级合同和报告自动化。然而，部分功能依赖商业模型，需CUDA环境支持。
优势：
兼容IBM生态，支持多格式混合处理。
模块化设计便于集成。
劣势：
需要CUDA环境支持。
部分功能依赖商业模型。
Markitdown
Markitdown由微软开源，支持多种格式的转换和AI增强处理，适用于多格式内容创作。但部分功能需依赖OpenAI API，可能造成部分格式转换丢失结构。
优势：
格式支持最全，开发者友好（Python API/CLI）。
劣势：
依赖外部API，部分功能需付费模型。
OmniParse
OmniParse虽然在处理PDF文档尤其是公式时可能出现字符错误，但它提供了web终端便于操作，并且能够处理多种类型的文件。
优势：
支持多种类型文件的处理。
提供Web终端，便于简单操作。
劣势：
在处理PDF文档时可能会出现字符错误。
Llamaparse
Llamaparse针对RAG设计，支持复杂PDF解析，并能生成知识图谱，适用于法律和技术文档分析。不过其处理速度较慢，并需要API密钥支持。
优势：
解析精度高，支持半结构化数据语义优化。
劣势：
处理速度慢。
免费额度有限，需API密钥。
综合来看，MinerU在多模态内容处理、公式识别转换等方面表现突出，尤其适合需要处理含有大量数学公式的学术文献或技术文档。同时，它支持GPU加速，使得在处理大规模文档时效率更高。相比之下，Marker更适合处理简单的PDF文档，而Docling则更倾向于企业级应用，特别是在需要与AI框架集成的情况下。每种工具都有其特定的应用场景和目标用户群，选择合适的工具取决于具体需求和个人偏好。例如，如果需要一个能够快速处理大量文档的解决方案，那么可能需要考虑Marker；而对于那些要求高精度解析和专业功能的项目，MinerU可能是更好的选择。
项目应用
MinerU诞生于书生-浦语的预训练过程中，主要解决科技文献中的符号转化问题，主要应用于数据清洗场景：大模型预训练数据清洗、RAG应用非结构数据清洗。
MinerU 项目列表：
https://github.com/opendatalab/MinerU/blob/master/projects/README_zh-CN.md
医疗AI助手：https://github.com/PancrePal-xiaoyibao/MinerU-xyb
MinerU × CAMEL-AI：一键PDF提取，助力多智能体跨文档协作与深度分析
总结
MinerU提供了多种使用方式，以满足不同用户的需求：
图形界面客户端
MinerU推出了支持Win/Mac/Linux等主流操作系统的全新客户端。无需编程，无需登录，下载即用。用户通过简单交互，即可在图形界面对文档进行智能提取。
MinerU是一款功能强大的智能数据提取工具，能够高效准确地处理复杂的PDF文档，提取其中的文本、公式、表格和图片等元素，并将其转换为结构化的Markdown或JSON格式。它的开源特性、多平台支持、多种使用方式以及出色的性能，使其成为大模型语料准备和文档数据自动化处理的理想选择。
MinerU的技术架构整合了先进的文档解析模型，涵盖了布局检测、公式检测、公式识别、OCR和表格识别等多个方面，确保了对各种复杂PDF文档的精准提取。无论是学术论文、图书教材、法律合同、医疗报告、年报文档还是工程图纸，
MinerU都能提供高质量的提取结果。
尽管MinerU在处理某些特定类型的PDF文档时还存在一些问题，但其总体表现已经非常出色，特别是在RAG等应用场景中，MinerU展现出了巨大的潜力。对于需要处理大量PDF文档的企业和研究机构来说，MinerU无疑是一个值得考虑的工具。
