第六章：OCR数据集与评价指标

一、OCR数据集的分类与构建

1.1 数据集的核心分类

OCR数据集按应用场景可分为印刷体数据集与手写体数据集两大类。印刷体数据集以标准字体为主，如ICDAR 2013、SVT等，其特点是字符间距规则、背景干扰少，适合训练基础识别模型。手写体数据集则包含IAM、CASIA-HWDB等，需处理连笔、变形等问题，对模型鲁棒性要求更高。

按数据来源划分，可分为合成数据集与真实场景数据集。合成数据通过程序生成（如TextRecognitionDataGenerator），可快速扩展规模，但缺乏真实噪声；真实场景数据（如COCO-Text）包含光照变化、遮挡等复杂因素，更贴近实际应用。

1.2 数据集构建的关键步骤

1. 数据采集：需覆盖多语言、多字体、多背景场景。例如，中文OCR需包含宋体、黑体等常见字体，以及发票、合同等垂直领域文本。
2. 标注规范：采用四边形框标注文本位置，标签需包含转录文本与语言类型。标注工具推荐LabelImg或CVAT，需确保框选精度±2像素以内。
3. 数据增强：通过旋转（±15°）、透视变换、高斯噪声等手段提升模型泛化能力。代码示例：
   ```python
   import cv2
   import numpy as np

def augment_image(img):

# 随机旋转
angle = np.random.uniform(-15, 15)
h, w = img.shape[:2]
center = (w//2, h//2)
M = cv2.getRotationMatrix2D(center, angle, 1.0)
rotated = cv2.warpAffine(img, M, (w, h))
# 添加高斯噪声
mean, var = 0, 0.1
sigma = var ** 0.5
gaussian = np.random.normal(mean, sigma, img.shape)
noisy = img + gaussian * 255
return np.clip(noisy, 0, 255).astype(np.uint8)

## 二、OCR评价指标体系
### 2.1 基础识别指标
1. **字符准确率（CAR）**：
   \[
   \text{CAR} = \frac{\text{正确识别字符数}}{\text{总字符数}} \times 100\%
   \]
   适用于印刷体场景，但对位置误差敏感度低。
2. **词准确率（WAR）**：
   \[
   \text{WAR} = \frac{\text{正确识别词数}}{\text{总词数}} \times 100\%
   \]
   更贴近自然语言处理需求，但受分词策略影响。
### 2.2 结构化评价指标
1. **编辑距离（ED）**：
   计算预测文本与真实文本的最小编辑操作数（插入、删除、替换），归一化后得到：
   \[
   \text{NER} = 1 - \frac{\text{ED}}{\max(\text{len(pred)}, \text{len(gt)})}
   \]
   适用于长文本场景，如文档识别。
2. **F1分数**：
   结合精确率（Precision）与召回率（Recall）：
   \[
   \text{F1} = 2 \times \frac{\text{Precision} \times \text{Recall}}{\text{Precision} + \text{Recall}}
   \]
   在ICDAR竞赛中，F1分数是核心排名指标，需同时优化检测框与识别结果。
### 2.3 端到端评价指标
1. **平均精度（AP）**：
   基于IoU（交并比）阈值计算检测框精度，常设IoU=0.5为基准。代码实现：
```python
def calculate_ap(pred_boxes, gt_boxes, iou_threshold=0.5):
    ap = 0
    for gt in gt_boxes:
        ious = []
        for pred in pred_boxes:
            # 计算IoU
            inter_area = max(0, min(pred[2], gt[2]) - max(pred[0], gt[0])) * \
                         max(0, min(pred[3], gt[3]) - max(pred[1], gt[1]))
            union_area = (pred[2]-pred[0])*(pred[3]-pred[1]) + \
                         (gt[2]-gt[0])*(gt[3]-gt[1]) - inter_area
            iou = inter_area / union_area
            ious.append(iou)
        if max(ious) >= iou_threshold:
            ap += 1
    return ap / len(gt_boxes)

1. 场景文本识别速度（FPS）：
   在GPU环境下测试模型推理速度，需统一输入尺寸（如32×128）。实际部署中，需平衡精度与速度，例如CRNN模型在NVIDIA V100上可达200FPS。

三、数据集与指标的工程实践

3.1 垂直领域数据集构建

以金融票据识别为例，需构建包含以下要素的数据集：

• 字段类型：金额、日期、发票号等结构化字段
• 干扰因素：印章遮挡、复写纸背景、手写修改
• 标注规范：除文本框外，需标注字段类型与置信度

3.2 评价指标的优化策略

1. 长尾问题处理：
   对低频字符（如生僻字）采用Focal Loss加权：
   [
   \text{FL}(p_t) = - (1 - p_t)^\gamma \log(p_t)
   ]
   其中(\gamma=2)可有效提升稀有类识别率。

2. 多语言混合场景：
   采用CTC损失函数时，需构建包含中英文混合的词典，并设置空白符（blank）处理未登录词。

四、未来趋势与挑战

1. 少样本学习（Few-shot Learning）：
   通过元学习框架（如MAML）实现仅用50张样本微调模型，解决垂直领域数据稀缺问题。

2. 3D场景文本识别：
   需设计包含深度信息的评价指标，如3D IoU与视角不变性评估。

3. 实时端侧部署：
   量化感知训练（QAT）可将模型体积压缩至1MB以内，同时保持90%以上精度，满足移动端需求。

本章节通过系统化的数据集构建方法与多维度的评价指标设计，为OCR工程实践提供了完整的技术框架。开发者可根据具体场景选择数据增强策略与优化目标，实现模型精度与效率的最佳平衡。