README.md

metadata

license: mit
datasets:
  - MarkrAI/KOpen-HQ-Hermes-2.5-60K
language:
  - ko
base_model:
  - blueapple8259/tzem-instruct
pipeline_tag: question-answering
library_name: transformers

tzem-instruct 모델에 추가로 파인튜닝 한 모델입니다.

프롬프트 템플릿

{system}
**사용자:** {prompt}
**인공지능:**

사용

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "blueapple8259/tzem-instruct-v1.1"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

system = "여기에 시스템 메시지 입력"
prompt = "여기에 프롬프트 입력"

text = f"{system}\n**사용자:** {prompt}\n**인공지능:".strip()

inputs = tokenizer(text, return_tensors="pt")
outputs = model.generate(
    **inputs,
    max_new_tokens=100,
    pad_token_id=tokenizer.pad_token_id,
    eos_token_id=tokenizer.eos_token_id,
    do_sample=True,
    top_p=0.2,
)

output = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(output)

예시

**사용자:** 건강을 유지하기 위한 세 가지 팁을 알려주세요.
**인공지능:** 1. 균형 잡힌 식단을 섭취하세요: 과일, 채소, 통곡물, 저지방 단백질, 저지방 유제품을 다양하게 섭취하세요. 가공식품, 설탕 음료, 과도한 양의 포화 지방과 트랜스 지방을 피하세요.

2. 규칙적으로 운동하세요: 주 5일, 30분 이상의 중강도 운동을 하세요. 주 3일 이상, 주 4일 이상, 주 1일 이상 운동해야 합니다.

3. 충분한 수면을 취하세요: 대부분의 성인은 하룻밤에 7~8시간의 수면이 필요합니다. 매일 7~8시간의 수면을 목표로 하세요.

데이터셋

• MarkrAI/KOpen-HQ-Hermes-2.5-60K