add QA
Browse files- QA/总结.md +31 -0
- QA/网络第一层干什么的.md +26 -0
- readme.txt +11 -0
QA/总结.md
ADDED
|
@@ -0,0 +1,31 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
论文名称:Real-time Scene Text Detection with Differentiable Binarization(DB)
|
| 2 |
+
|
| 3 |
+
核心贡献
|
| 4 |
+
1. 提出“可微分二值化模块(DB)”,将传统分割网络中不可导的二值化步骤改为可导近似函数,实现端到端训练。
|
| 5 |
+
2. 通过联合学习阈值图 T,使每个像素拥有自适应阈值,显著简化后处理,提升检测精度与速度。
|
| 6 |
+
3. 在 5 个公开数据集(水平、多方向、弯曲、多语言文本)上均达到 SOTA;在轻量骨干 ResNet-18 下仍保持实时(>60 FPS)。
|
| 7 |
+
|
| 8 |
+
方法框架
|
| 9 |
+
- 主干:FPN 结构(ResNet-18/50),可选可变形卷积增强长宽比极端文本的感受野。
|
| 10 |
+
- 三路输出:概率图 P(前景置信度)、阈值图 T(自适应阈值)、近似二值图 B̂ = σ(k(P−T))。
|
| 11 |
+
- 训练损失:L = Ls + Lb + 10·Lt,其中 Ls/Lb 为 BCE(正负 1:3 难例挖掘),Lt 为 T 的 L1 回归。
|
| 12 |
+
- 推理:仅保留 P,固定阈值 0.2 二值化 → 连通域 → 反向膨胀得最终框;DB 分支可完全移除,不占额外时间与显存。
|
| 13 |
+
|
| 14 |
+
实验结果
|
| 15 |
+
数据集 指标 DB-Res18 DB-Res50 提升/对比
|
| 16 |
+
MSRA-TD500 F-measure / FPS 82.8 / 62 84.9 / 32 +3.7%↑ / 3.2× faster
|
| 17 |
+
CTW1500 F-measure / FPS 81.0 / 55 83.4 / 22 +4.9%↑ / 14× faster
|
| 18 |
+
Total-Text F-measure / FPS 82.8 / 50 84.7 / 32 +1.1%↑ / 8–13× faster
|
| 19 |
+
ICDAR2015 F-measure / FPS 82.3 / 48 87.3 / 12 +7.2%↑ vs EAST
|
| 20 |
+
MLT-2017 F-measure / FPS 71.7 / 41 74.7 / 19 +3.8%↑ vs prior best
|
| 21 |
+
|
| 22 |
+
消融实验
|
| 23 |
+
- DB 单独带来 3–5% F-measure 提升,且不增加推理耗时。
|
| 24 |
+
- 可变形卷积再提升 1.5–5.0%。
|
| 25 |
+
- 对阈值图 T 加显式监督可再提升 0.7–2.6%。
|
| 26 |
+
|
| 27 |
+
局限
|
| 28 |
+
无法处理“文本套文本”情形,即内部文本恰好位于外部文本中心区域时可能漏检(所有分割类方法共有问题)。
|
| 29 |
+
|
| 30 |
+
结论
|
| 31 |
+
DB 模块通过“可微分二值化 + 自适应阈值”在保证实时性的同时,兼顾了任意形状文本的高精度检测;轻量骨干即可达到 SOTA,兼顾工业落地需求。未来工作将扩展至端到端文本识别(text spotting)。
|
QA/网络第一层干什么的.md
ADDED
|
@@ -0,0 +1,26 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
在 DB(Differentiable Binarization)网络中,**第一层**是 **Backbone(特征提取骨干网络)的第一层**,具体作用如下:
|
| 2 |
+
|
| 3 |
+
### 1. **输入处理**
|
| 4 |
+
- **输入**:一张RGB图像(如640×640×3)。
|
| 5 |
+
- **第一层**:通常是 **一个7×7卷积 + BatchNorm + ReLU + MaxPooling**(以ResNet-18/50为例)。
|
| 6 |
+
- **7×7卷积**:提取低级特征(边缘、纹理、颜色等)。
|
| 7 |
+
- **BatchNorm**:加速训练,稳定梯度。
|
| 8 |
+
- **ReLU**:引入非线性。
|
| 9 |
+
- **MaxPooling(3×3, stride=2)**:降采样(缩小特征图尺寸,减少计算量)。
|
| 10 |
+
|
| 11 |
+
### 2. **具体结构(以ResNet-50为例)**
|
| 12 |
+
```python
|
| 13 |
+
Conv1: 7×7, 64 filters, stride=2 → BN → ReLU → MaxPool 3×3, stride=2
|
| 14 |
+
```
|
| 15 |
+
- **输出特征图尺寸**:从640×640 → 160×160(因stride=2两次)。
|
| 16 |
+
|
| 17 |
+
### 3. **作用总结**
|
| 18 |
+
- **低层特征提取**:检测边缘、角点、颜色对比等基础模式。
|
| 19 |
+
- **降采样**:减少计算量,扩大感受野。
|
| 20 |
+
- **为后续FPN(特征金字塔)提供多尺度特征**:后续层(conv2_x, conv3_x等)会进一步提取高层语义特征。
|
| 21 |
+
|
| 22 |
+
### 对比其他网络
|
| 23 |
+
- **EAST/CRAFT**:类似,第一层也是标准卷积+降采样。
|
| 24 |
+
- **轻量版(ResNet-18)**:卷积核可能更小(如3×3堆叠),但功能相同。
|
| 25 |
+
|
| 26 |
+
简单来说,**第一层是“图像预处理+初级特征提取”**,为后续的FPN和DB模块奠定特征基础。
|
readme.txt
ADDED
|
@@ -0,0 +1,11 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
see doc\lang\programming\pytorch\文本检测\DBNET 论文代码都有
|
| 2 |
+
|
| 3 |
+
字符级标注
|
| 4 |
+
|
| 5 |
+
测试
|
| 6 |
+
CUDA_VISIBLE_DEVICES=0 python demo.py experiments/seg_detector/ic15_resnet18_deform_thre.yaml --image_path datasets/icdar2015/test_images/img_00000028.jpg --resume /root/final --polygon --box_thresh 0.7 --visualize
|
| 7 |
+
|
| 8 |
+
实测一张图拆出来的每一行一个图,字符级标注:结果完全不得行
|
| 9 |
+
|
| 10 |
+
todo:
|
| 11 |
+
优化训练原码,自已写
|