IMF / third_party /README.md
fushinguyenex's picture
Upload completed Trace-iMF training run
cfaf85b verified
|
Raw History Blame Contribute Delete
1.15 kB

Nguồn code

models/dit.py, data.py và cấu trúc training được kế thừa/adapt từ ../backbone_IMF, nguồn haidog-yaqub/MeanFlow, commit 97cc5182abe9d69e5dcb350268f603fbe31a5897. MIT notice được giữ trong MeanFlow.LICENSE.

Model giữ attention, adaLN-zero, embedding và unpatchify của nguồn; thay hai head bằng một head u, bỏ CFG embedding, cố định positional embedding, thay lớp timm bằng PyTorch tương đương và RMSNorm với epsilon 1e-6 để hỗ trợ PyTorch 2.2. Loss Trace-iMF được viết theo tài liệu idea của người dùng.

models/unet.py giữ U-Net topology/shared head và multi_trace_imf.py giữ equal-grid interval schedule từ notebook Untitled0.ipynb do người dùng cung cấp. Bản 22M widen base44→84 và cond160→356; thứ tự API được chuẩn hóa thành (z,t,r,y). GroupNorm nhận contiguous input để hỗ trợ forward AD trên PyTorch2.2. EMA/accumulation/resume/monitoring là phần tích hợp của IMF; không thực thi các cell Colab/unzip/Drive từ notebook tham chiếu.