fasdfsa commited on
Commit
837cead
·
1 Parent(s): 2992608
Files changed (3) hide show
  1. QA/总结.md +31 -0
  2. QA/网络第一层干什么的.md +26 -0
  3. readme.txt +11 -0
QA/总结.md ADDED
@@ -0,0 +1,31 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ 论文名称:Real-time Scene Text Detection with Differentiable Binarization(DB)
2
+
3
+ 核心贡献
4
+ 1. 提出“可微分二值化模块(DB)”,将传统分割网络中不可导的二值化步骤改为可导近似函数,实现端到端训练。
5
+ 2. 通过联合学习阈值图 T,使每个像素拥有自适应阈值,显著简化后处理,提升检测精度与速度。
6
+ 3. 在 5 个公开数据集(水平、多方向、弯曲、多语言文本)上均达到 SOTA;在轻量骨干 ResNet-18 下仍保持实时(>60 FPS)。
7
+
8
+ 方法框架
9
+ - 主干:FPN 结构(ResNet-18/50),可选可变形卷积增强长宽比极端文本的感受野。
10
+ - 三路输出:概率图 P(前景置信度)、阈值图 T(自适应阈值)、近似二值图 B̂ = σ(k(P−T))。
11
+ - 训练损失:L = Ls + Lb + 10·Lt,其中 Ls/Lb 为 BCE(正负 1:3 难例挖掘),Lt 为 T 的 L1 回归。
12
+ - 推理:仅保留 P,固定阈值 0.2 二值化 → 连通域 → 反向膨胀得最终框;DB 分支可完全移除,不占额外时间与显存。
13
+
14
+ 实验结果
15
+ 数据集 指标 DB-Res18 DB-Res50 提升/对比
16
+ MSRA-TD500 F-measure / FPS 82.8 / 62 84.9 / 32 +3.7%↑ / 3.2× faster
17
+ CTW1500 F-measure / FPS 81.0 / 55 83.4 / 22 +4.9%↑ / 14× faster
18
+ Total-Text F-measure / FPS 82.8 / 50 84.7 / 32 +1.1%↑ / 8–13× faster
19
+ ICDAR2015 F-measure / FPS 82.3 / 48 87.3 / 12 +7.2%↑ vs EAST
20
+ MLT-2017 F-measure / FPS 71.7 / 41 74.7 / 19 +3.8%↑ vs prior best
21
+
22
+ 消融实验
23
+ - DB 单独带来 3–5% F-measure 提升,且不增加推理耗时。
24
+ - 可变形卷积再提升 1.5–5.0%。
25
+ - 对阈值图 T 加显式监督可再提升 0.7–2.6%。
26
+
27
+ 局限
28
+ 无法处理“文本套文本”情形,即内部文本恰好位于外部文本中心区域时可能漏检(所有分割类方法共有问题)。
29
+
30
+ 结论
31
+ DB 模块通过“可微分二值化 + 自适应阈值”在保证实时性的同时,兼顾了任意形状文本的高精度检测;轻量骨干即可达到 SOTA,兼顾工业落地需求。未来工作将扩展至端到端文本识别(text spotting)。
QA/网络第一层干什么的.md ADDED
@@ -0,0 +1,26 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ 在 DB(Differentiable Binarization)网络中,**第一层**是 **Backbone(特征提取骨干网络)的第一层**,具体作用如下:
2
+
3
+ ### 1. **输入处理**
4
+ - **输入**:一张RGB图像(如640×640×3)。
5
+ - **第一层**:通常是 **一个7×7卷积 + BatchNorm + ReLU + MaxPooling**(以ResNet-18/50为例)。
6
+ - **7×7卷积**:提取低级特征(边缘、纹理、颜色等)。
7
+ - **BatchNorm**:加速训练,稳定梯度。
8
+ - **ReLU**:引入非线性。
9
+ - **MaxPooling(3×3, stride=2)**:降采样(缩小特征图尺寸,减少计算量)。
10
+
11
+ ### 2. **具体结构(以ResNet-50为例)**
12
+ ```python
13
+ Conv1: 7×7, 64 filters, stride=2 → BN → ReLU → MaxPool 3×3, stride=2
14
+ ```
15
+ - **输出特征图尺寸**:从640×640 → 160×160(因stride=2两次)。
16
+
17
+ ### 3. **作用总结**
18
+ - **低层特征提取**:检测边缘、角点、颜色对比等基础模式。
19
+ - **降采样**:减少计算量,扩大感受野。
20
+ - **为后续FPN(特征金字塔)提供多尺度特征**:后续层(conv2_x, conv3_x等)会进一步提取高层语义特征。
21
+
22
+ ### 对比其他网络
23
+ - **EAST/CRAFT**:类似,第一层也是标准卷积+降采样。
24
+ - **轻量版(ResNet-18)**:卷积核可能更小(如3×3堆叠),但功能相同。
25
+
26
+ 简单来说,**第一层是“图像预处理+初级特征提取”**,为后续的FPN和DB模块奠定特征基础。
readme.txt ADDED
@@ -0,0 +1,11 @@
 
 
 
 
 
 
 
 
 
 
 
 
1
+ see doc\lang\programming\pytorch\文本检测\DBNET 论文代码都有
2
+
3
+ 字符级标注
4
+
5
+ 测试
6
+ CUDA_VISIBLE_DEVICES=0 python demo.py experiments/seg_detector/ic15_resnet18_deform_thre.yaml --image_path datasets/icdar2015/test_images/img_00000028.jpg --resume /root/final --polygon --box_thresh 0.7 --visualize
7
+
8
+ 实测一张图拆出来的每一行一个图,字符级标注:结果完全不得行
9
+
10
+ todo:
11
+ 优化训练原码,自已写