Upload test_script.py with huggingface_hub

test_script.py

@@ -0,0 +1,105 @@
+# /// script
+# dependencies = ["transformers", "peft", "torch", "accelerate", "datasets"]
+# ///
+
+"""HF Jobs에서 모델 테스트"""
+
+from transformers import AutoModelForCausalLM, AutoTokenizer
+from peft import PeftModel
+import torch
+
+# 설정
+BASE_MODEL = "Qwen/Qwen2.5-0.5B"
+ADAPTER_MODEL = "epinfomax/youtube-thumbnail-trend-analyzer"
+
+print("=" * 60)
+print("YouTube 썸네일 트렌드 분석 모델 테스트")
+print("=" * 60)
+
+# 모델 로드
+print("\n모델 로드 중...")
+tokenizer = AutoTokenizer.from_pretrained(ADAPTER_MODEL)
+
+base_model = AutoModelForCausalLM.from_pretrained(
+    BASE_MODEL,
+    torch_dtype=torch.float16,
+    device_map="auto",
+    trust_remote_code=True
+)
+
+model = PeftModel.from_pretrained(base_model, ADAPTER_MODEL)
+model.eval()
+print("모델 로드 완료!")
+
+# 테스트 입력
+test_input = """다음 썸네일 분석들을 보고 오늘의 트렌드를 요약하고 Midjourney 프롬프트를 추천해줘:
+
+[음악] 순순희 - 소심한 남자
+- 배경: 오렌지색 그라데이션
+- 인물: 졸린 표정, 고개 숙임
+- 텍스트: '소심한 남자' 흰색 세리프체
+- 분위기: 감성적, 서정적
+
+[게임] 칼바람 카르텔
+- 배경: 어두운 게임 화면
+- 인물: 게임 캐릭터들
+- 텍스트: '찐행복롤' 노란색 굵은 글씨
+- 분위기: 유머러스, 가벼운
+
+[엔터테인먼트] 황정민 유행어
+- 배경: 방송 스튜디오
+- 인물: 황정민, 웃는 표정
+- 텍스트: 없음
+- 분위기: 코믹, 친근함
+
+[과학기술] 아이폰 신기술
+- 배경: 깔끔한 흰색/회색
+- 인물: 없음
+- 텍스트: 기술 관련 텍스트
+- 분위기: 미래적, 깔끔함
+
+[노하우] 기안84 수영장
+- 배경: 수영장, 파란색
+- 인물: 기안84, 뛰어드는 모습
+- 텍스트: '영하4도' 빨간색
+- 분위기: 도전적, 유머러스"""
+
+print("\n" + "=" * 60)
+print("입력:")
+print("=" * 60)
+print(test_input[:500] + "...")
+
+# 응답 생성
+print("\n" + "=" * 60)
+print("모델 응답 생성 중...")
+print("=" * 60)
+
+messages = [{"role": "user", "content": test_input}]
+text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
+inputs = tokenizer(text, return_tensors="pt").to(model.device)
+
+with torch.no_grad():
+    outputs = model.generate(
+        **inputs,
+        max_new_tokens=500,
+        temperature=0.7,
+        top_p=0.9,
+        do_sample=True,
+        pad_token_id=tokenizer.pad_token_id,
+        eos_token_id=tokenizer.eos_token_id,
+    )
+
+response = tokenizer.decode(outputs[0], skip_special_tokens=True)
+
+# 프롬프트 부분 제거
+if "추천해줘:" in response:
+    response = response.split("추천해줘:")[-1].strip()
+
+print("\n" + "=" * 60)
+print("모델 출력:")
+print("=" * 60)
+print(response)
+
+print("\n" + "=" * 60)
+print("테스트 완료!")
+print("=" * 60)