Nickwar222 commited on
Commit
45504ab
Β·
verified Β·
1 Parent(s): 325fcad

Delete pdf_to_png.py

Browse files
Files changed (1) hide show
  1. pdf_to_png.py +0 -167
pdf_to_png.py DELETED
@@ -1,167 +0,0 @@
1
- #!/usr/bin/env python3
2
- """
3
- PDF β†’ PNG otimizado para 32 vCPUs / 64 GB RAM
4
-
5
- Pipeline:
6
- mp.Pool(32 workers) β†’ cada worker abre o PDF UMA VEZ no initializer
7
- e renderiza N pΓ‘ginas sem reabrir o arquivo
8
- ThreadPoolExecutor β†’ salva PNGs em paralelo (I/O bound, nΓ£o bloqueia render)
9
-
10
- Por que mp.Pool + initializer?
11
- - Abre o documento fitz uma vez por worker (nΓ£o uma vez por pΓ‘gina).
12
- - imap_unordered devolve resultados assim que ficam prontos β†’ sem straggler.
13
- - ThreadPoolExecutor para save: I/O bound, pode ter mais threads que cores.
14
- - Sem dependΓͺncia de GPU (RTX 5090 sm_120 nΓ£o suportado pelo PyTorch estΓ‘vel).
15
- """
16
-
17
- import argparse
18
- import multiprocessing as mp
19
- import os
20
- import time
21
- from concurrent.futures import ThreadPoolExecutor, as_completed
22
- from pathlib import Path
23
-
24
- try:
25
- import numpy as np
26
- except ImportError:
27
- os.system("pip install numpy")
28
- import numpy as np
29
-
30
- try:
31
- from PIL import Image
32
- except ImportError:
33
- os.system("pip install pillow")
34
- from PIL import Image
35
-
36
- try:
37
- import fitz # PyMuPDF
38
- except ImportError:
39
- os.system("pip install pymupdf")
40
- import fitz
41
-
42
- DPI_DEFAULT = 150
43
-
44
- # ─── Estado por worker ─────────────────────────────────────────────────────────
45
- # VariΓ‘veis globais dentro de cada processo filho.
46
- # Inicializadas uma vez por _init_worker(); reusadas em todas as tarefas.
47
- _doc = None
48
- _zoom = None
49
-
50
-
51
- def _init_worker(pdf_path: str, zoom: float) -> None:
52
- """Abre o PDF uma vez por worker. Chamado pelo mp.Pool initializer."""
53
- global _doc, _zoom
54
- _doc = fitz.open(pdf_path)
55
- _zoom = zoom
56
-
57
-
58
- def _render_page(page_idx: int) -> tuple[int, int, int, bytes]:
59
- """Renderiza uma pΓ‘gina. _doc jΓ‘ estΓ‘ aberto neste processo."""
60
- page = _doc.load_page(page_idx)
61
- mat = fitz.Matrix(_zoom, _zoom)
62
- pix = page.get_pixmap(matrix=mat, alpha=False, colorspace=fitz.csRGB)
63
- return page_idx, pix.width, pix.height, bytes(pix.samples)
64
-
65
-
66
- # ─── Save (roda em thread pool β€” I/O bound) ────────────────────────────────────
67
-
68
- def _save_page(args: tuple) -> None:
69
- page_idx, w, h, raw, out_path = args
70
- arr = np.frombuffer(raw, dtype=np.uint8).reshape(h, w, 3)
71
- # compress_level=1 β†’ mΓ‘xima velocidade (PNG ~15% maior, irrelevante para OCR)
72
- Image.fromarray(arr).save(str(out_path), compress_level=1)
73
-
74
-
75
- # ─── FunΓ§Γ£o principal ──────────────────────────────────────────────────────────
76
-
77
- def pdf_to_png(
78
- pdf_path: Path,
79
- dpi: int = DPI_DEFAULT,
80
- workers: int | None = None,
81
- save_threads: int | None = None,
82
- ) -> Path:
83
- n_cpu = mp.cpu_count()
84
- workers = workers or n_cpu
85
- # I/O bound: pode ter mais threads que cores fΓ­sicos
86
- save_threads = save_threads or min(workers * 2, 32)
87
-
88
- output_dir = pdf_path.parent / pdf_path.stem
89
- output_dir.mkdir(parents=True, exist_ok=True)
90
-
91
- zoom = dpi / 72.0
92
-
93
- with fitz.open(str(pdf_path)) as doc:
94
- total = doc.page_count
95
-
96
- print(f"\n[pdf_to_png] {pdf_path.name}")
97
- print(f" PΓ‘ginas : {total}")
98
- print(f" DPI : {dpi} (zoom {zoom:.3f}Γ—)")
99
- print(f" Render : {workers} workers (mp.Pool + initializer)")
100
- print(f" Save : {save_threads} threads (ThreadPoolExecutor)")
101
- print(f" Output : {output_dir}/\n")
102
-
103
- t0 = time.perf_counter()
104
- done = 0
105
-
106
- with ThreadPoolExecutor(max_workers=save_threads) as save_pool:
107
- save_futures = []
108
-
109
- with mp.Pool(
110
- processes=workers,
111
- initializer=_init_worker,
112
- initargs=(str(pdf_path), zoom),
113
- ) as pool:
114
- # imap_unordered: devolve resultados assim que ficam prontos
115
- # chunksize=1: pΓ‘ginas variam em complexidade β†’ balanceamento justo
116
- for page_idx, w, h, raw in pool.imap_unordered(
117
- _render_page, range(total), chunksize=1
118
- ):
119
- out_path = output_dir / f"page_{page_idx + 1:04d}.png"
120
- fut = save_pool.submit(_save_page, (page_idx, w, h, raw, out_path))
121
- save_futures.append(fut)
122
-
123
- # Aguarda todos os saves e mostra progresso
124
- for fut in as_completed(save_futures):
125
- fut.result() # propaga exceΓ§Γ΅es imediatamente
126
- done += 1
127
- print(f"\r {done}/{total} pΓ‘ginas salvas", end="", flush=True)
128
-
129
- elapsed = time.perf_counter() - t0
130
- rate = total / elapsed if elapsed > 0 else float("inf")
131
-
132
- print(f"\n\n ConcluΓ­do em {elapsed:.1f}s β€” {rate:.1f} pΓ‘g/s")
133
- print(f" Imagens em : {output_dir}/")
134
- return output_dir
135
-
136
-
137
- # ─── CLI ─────────────────────��─────────────────────────────────────────────────
138
-
139
- def main() -> None:
140
- parser = argparse.ArgumentParser(
141
- description="PDF β†’ PNG @ 150 DPI | 32 vCPU otimizado"
142
- )
143
- parser.add_argument("pdf", help="Caminho para o arquivo PDF")
144
- parser.add_argument(
145
- "--dpi", type=int, default=DPI_DEFAULT,
146
- help=f"ResoluΓ§Γ£o (padrΓ£o: {DPI_DEFAULT})",
147
- )
148
- parser.add_argument(
149
- "--workers", "-w", type=int, default=None,
150
- help="Workers de render CPU (padrΓ£o: cpu_count())",
151
- )
152
- parser.add_argument(
153
- "--save-threads", "-s", type=int, default=None,
154
- help="Threads para salvar PNG (padrΓ£o: min(workersΓ—2, 32))",
155
- )
156
- args = parser.parse_args()
157
-
158
- pdf_path = Path(args.pdf).resolve()
159
- if not pdf_path.exists():
160
- print(f"Erro: arquivo nΓ£o encontrado: {pdf_path}")
161
- raise SystemExit(1)
162
-
163
- pdf_to_png(pdf_path, dpi=args.dpi, workers=args.workers, save_threads=args.save_threads)
164
-
165
-
166
- if __name__ == "__main__":
167
- main()