| """ |
| Chạy SAU trace_vendor_usage.py, cùng thư mục (vẫn trên Kaggle hoặc máy bất kỳ có |
| final_project/ đầy đủ + vendor_files_used.json). Không cần torch/GPU. |
| |
| !python prune_vendor.py |
| |
| Việc này làm 3 thứ: |
| 1. Đọc vendor_files_used.json (danh sách file diffusers thực sự được import khi chạy |
| qua mọi nhánh chính của app -- base model, Turbo LoRA, Transparent PNG, ...). |
| 2. Copy đúng những file đó, CỘNG THÊM mọi __init__.py trên đường dẫn cha của chúng |
| (bắt buộc để Python còn nhận diện được đó là package -- kể cả khi __init__.py đó |
| chỉ toàn "_LazyModule" wiring chứ không có gì được app dùng trực tiếp), cộng thêm |
| vài file "luôn cần" (py.typed, dependency_versions_table.py -- được |
| dependency_versions_check.py đọc bằng importlib chứ không phải `import` thường nên |
| không lọt vào sys.modules trace). |
| 3. Ghi ra final_project_trimmed/ với cùng cấu trúc app.py/requirements.txt/README.md/ |
| vendor/group_offloading_no_try_finally_leak.patch, rồi nén thành .zip. |
| |
| QUAN TRỌNG: sau khi chạy xong, bạn PHẢI test lại `python app.py` (hoặc ít nhất |
| `trace_vendor_usage.py`) trỏ vào bản trimmed này trước khi xoá bản gốc -- nếu trace ở |
| bước 1 chưa chọc đủ mọi nhánh (ví dụ bạn chưa test "Edit an image" hay QWEN_COMPILE=1), |
| bản trimmed sẽ thiếu file và crash ImportError đúng lúc bạn bấm nhánh đó. An toàn nhất: |
| giữ lại bản gốc cho tới khi bản trimmed chạy ổn qua hết các mode bạn thực sự dùng. |
| """ |
| import json |
| import shutil |
| from pathlib import Path |
|
|
| PROJECT_ROOT = Path(__file__).resolve().parent |
| VENDOR_SRC = PROJECT_ROOT / "vendor" / "diffusers" / "src" |
| MANIFEST = PROJECT_ROOT / "vendor_files_used.json" |
| OUT_ROOT = PROJECT_ROOT.parent / "final_project_trimmed" |
| OUT_VENDOR_SRC = OUT_ROOT / "vendor" / "diffusers" / "src" |
|
|
| |
| |
| |
| |
| ALWAYS_KEEP = { |
| "diffusers/py.typed", |
| "diffusers/dependency_versions_table.py", |
| "diffusers/dependency_versions_check.py", |
| } |
|
|
|
|
| def main() -> None: |
| if not MANIFEST.is_file(): |
| raise SystemExit( |
| f"{MANIFEST} not found -- run trace_vendor_usage.py on Kaggle first and " |
| f"copy vendor_files_used.json next to this script." |
| ) |
| used = set(json.loads(MANIFEST.read_text(encoding="utf-8"))) |
| used |= ALWAYS_KEEP |
|
|
| |
| |
| |
| |
| init_files = set() |
| for rel in used: |
| parts = Path(rel).parts |
| for i in range(1, len(parts)): |
| init_files.add(str(Path(*parts[:i]) / "__init__.py")) |
| used |= init_files |
|
|
| if OUT_ROOT.exists(): |
| shutil.rmtree(OUT_ROOT) |
| OUT_VENDOR_SRC.mkdir(parents=True) |
|
|
| copied, missing = 0, [] |
| for rel in sorted(used): |
| src = VENDOR_SRC / rel |
| if not src.is_file(): |
| missing.append(rel) |
| continue |
| dst = OUT_VENDOR_SRC / rel |
| dst.parent.mkdir(parents=True, exist_ok=True) |
| shutil.copy2(src, dst) |
| copied += 1 |
|
|
| if missing: |
| print(f"[prune] WARNING: {len(missing)} files in the manifest don't exist under " |
| f"{VENDOR_SRC} (renamed/moved?): {missing[:10]}{'...' if len(missing) > 10 else ''}") |
|
|
| |
| for name in ["app.py", "requirements.txt", "README.md"]: |
| shutil.copy2(PROJECT_ROOT / name, OUT_ROOT / name) |
| (OUT_ROOT / "vendor").mkdir(exist_ok=True) |
| shutil.copy2( |
| PROJECT_ROOT / "vendor" / "group_offloading_no_try_finally_leak.patch", |
| OUT_ROOT / "vendor" / "group_offloading_no_try_finally_leak.patch", |
| ) |
|
|
| def dir_size(p: Path) -> int: |
| return sum(f.stat().st_size for f in p.rglob("*") if f.is_file()) |
|
|
| before = dir_size(VENDOR_SRC) |
| after = dir_size(OUT_VENDOR_SRC) |
| print(f"[prune] kept {copied} diffusers files " |
| f"({sum(1 for f in VENDOR_SRC.rglob('*.py'))} -> {sum(1 for f in OUT_VENDOR_SRC.rglob('*.py'))} .py files)") |
| print(f"[prune] vendor/diffusers size: {before/1e6:.1f} MB -> {after/1e6:.1f} MB") |
|
|
| zip_path = shutil.make_archive(str(OUT_ROOT), "zip", root_dir=OUT_ROOT.parent, base_dir=OUT_ROOT.name) |
| print(f"[prune] wrote {zip_path}") |
|
|
|
|
| if __name__ == "__main__": |
| main() |
|
|
