--- license: apache-2.0 language: - ko base_model: Qwen/Qwen3.5-4B base_model_relation: finetune library_name: gguf pipeline_tag: text-generation tags: - gguf - ollama - qwen3.5 - lora - email-classification --- # INTERFACE Qwen3.5 4B 메일 분류 모델 INTERFACE 프로젝트의 한국어 메일 **20항목 JSON 분류용** 모델이다. 전체 학습 실행에서 개발 검증 항목 일치율이 가장 높았던 **checkpoint 500만** 배포한다. 최종 저장 checkpoint 650과 다른 학습 체크포인트는 포함하지 않는다. 이 모델은 일반 대화·메일 초안 작성·OCR 모델의 대체본이 아니다. 텍스트 전용 GGUF이며 이미지 projector를 포함하지 않는다. ## Ollama 사용 ```powershell ollama run hf.co/interfaceinde/qwen35-4b-interface-classifier-GGUF:Q4_K_M ``` 파일 다운로드 후 로컬 이름으로 등록할 수도 있다. ```powershell ollama create interface-qwen35-classifier:step500-q4_k_m -f Modelfile ``` 입력에는 `classifier_instruction.txt`의 전체 지시문을 붙이고 그 뒤에 메일의 `input_text`를 제공한다. 응답 형식은 `response_schema.json`에 정의한다. API 호출에서는 `think: false`, `stream: false`, `temperature: 0`, 출력 한도 1024를 사용한다. 500통 개발 검증과 동일한 입력 포맷은 별도로 유지해야 한다. ## 배포 버전과 업데이트 - `BEST`: 현재 배포할 단일 GGUF 파일명. - `manifest.json`: 원본 모델·체크포인트·변환 도구·GGUF SHA256. - 새 업로드 후 기존 Ollama 모델이 자동 교체되지는 않는다. 다시 `ollama pull`하거나 별도의 갱신 절차가 필요하다. - INTERFACE 앱의 기존 `OLLAMA_MODEL`과 초안 생성 모델은 이번 공개 업로드로 변경하지 않았다. ## 학습 출처 - 원본: [Qwen/Qwen3.5-4B](https://huggingface.co/Qwen/Qwen3.5-4B) - 고정 원본 리비전: `851bf6e806efd8d0a36b00ddf55e13ccb7b8cd0a` - QLoRA NF4, BF16 계산, LoRA rank 4 / alpha 8, 학습 파라미터 458,752개. - 1 epoch 계획, microbatch 1, gradient accumulation 4, AdamW, 학습률 0.0001, seed 42. - 합성 메일 train 분할 4,000통 중 검토 후보를 제외한 2,868통 사용. - 실행은 650단계에서 3회 연속 미개선으로 종료. 배포 checkpoint 500은 누적 학습 2,000통 지점이다. - 원본 BF16 가중치에 checkpoint 500 LoRA를 병합하고 llama.cpp `b10969` 변환기로 텍스트 GGUF를 만들었다. - 설치된 Ollama 0.34.3이 고정한 llama.cpp 버전과 맞춘 변환기이며, Q4_K_M 양자화 도구는 `b12556`이다. 학습 데이터·검증 메일 원문·정답 파일·optimizer 상태·로컬 경로·인증 정보는 이 저장소에 업로드하지 않는다. ## 출처 체크포인트의 개발 검증 결과 다음 수치는 **GGUF 변환 전의 native NF4 QLoRA checkpoint 500**에서 측정하였다. 변환·재양자화 후 동일 성능을 보장하지 않으며, GGUF 전체 500통 재평가와 독립 테스트는 미실행이다. Ollama 0.34.3에서 이 GGUF의 실제 로드와 기존 개발 검증 1건 실행을 확인하였다. 해당 1건은 JSON 파싱·스키마 검사를 통과하고 20항목 중 19항목이 일치하였다. 이는 로컬 실행·출력 동작 확인이며 500통 품질 평가를 대체하지 않는다. | 지표 | 결과 | | --- | --- | | 개발 검증 규모 | 500통 × 20항목 | | 항목 엄격 일치 | 9,288 / 10,000 · 92.88% | | JSON 파싱 성공 | 500 / 500 · 100% | | 스키마 통과 | 498 / 500 · 99.6% | | 전체 20항목 일치 및 스키마 통과 | 31 / 500 · 6.2% | 항목은 동일 비중으로 엄격 비교한다. `action_items`는 37/500(7.4%), `routing`은 408/500(81.6%)이다. 문장 표현·배열 순서 차이도 불일치가 될 수 있다. 같은 개발 검증 세트를 반복 사용했으며, 정답의 독립적인 의미 검수와 실제 업무 성공률은 이번 결과로 확인하지 않았다. 출력 형식 성공을 내용 정확도나 현업 자동 처리 가능성으로 해석하지 않는다. ## 학습 내역과 설명 파일 - [learning_history.md](learning_history.md): 데이터 구성, 학습 설정, 시작·종료, 조기 종료와 최고 체크포인트 선정, 전체 13회 검증 결과. - [training_history.csv](training_history.csv): 메일 원문 없이 650개 optimizer 단계의 손실·기울기·처리량·시간 기록. - [validation_history.json](validation_history.json): 50~650단계의 검증 집계. - [classifier_instruction.txt](classifier_instruction.txt): 학습 시 사용한 공통 분류 지시문. - [response_schema.json](response_schema.json): 출력 20항목의 구조와 허용값. - [manifest.json](manifest.json): 배포 가중치 출처·도구·SHA256·검증 범위. ## 라이선스 원본 Qwen3.5-4B의 Apache-2.0 라이선스와 고지 조건을 따른다. 원본 LICENSE를 동봉하였다.