MelissaJ/OpenMascotAI_Jarvis

OpenMascotAI Jarvis — 페르소나 없는 자비스(도구 호출) 데이터셋

OpenMascotAI 데스크톱 마스코트의 자비스 모드(마스코트가 윈도우를 실제로 조작하는 모드)를 순정 LLM에 가르치기 위한 한국어 function-calling 데이터셋입니다. 캐릭터 페르소나 데이터셋 (MelissaJ/ProjectLucia_Hera의 tools config)에서 캐릭터 요소를 전부 걷어낸 공개 참고용 판입니다.

config	split	행 수
tools	train / eval	5,494 / 322

A Korean function-calling dataset for the "Jarvis mode" of OpenMascotAI (a desktop mascot that actually operates Windows). It is the persona-free edition of the character dataset: user names and character vocatives are removed and every assistant utterance was regenerated by the stock model in a neutral polite tone. Tool schemas, tool calls, and tool results are unchanged. Use it to teach any Korean-capable base model the tool-calling behaviour, then stack your own persona on top via the system prompt (or a separate persona LoRA).

무엇이 들어 있나

• 89개 도구(클라이언트가 실행하는 87개 + 서버가 실행하는 web_search·read_webpage)에 대한 도구 호출 대화. 도구 정의는 OpenAI function 스키마이며, 각 행에는 정답 도구와 방해 도구가 무작위 순서로 5~15개(일부는 전체 카탈로그) 실린다.
• 종류(kind): tool(1회 호출→결과→보고) · multistep(2~3회 순차 호출) · chat_with_tools(도구가 있어도 부르면 안 되는 잡담·상식·기억 질문) · ambiguous(되묻기) · refusal_or_unsupported(실패·거부·미지원을 정직하게 보고) · correction(값 수정·재시도·문맥 되돌리기) · web_chat / web_chat_neg(자비스 OFF의 일반 채팅 웹 검색 긍정/부정).
• 도구 결과(tool 메시지)는 실제 OpenMascotAI 클라이언트가 돌려주는 문자열 포맷을 그대로 재현한 것이다 (volume: 55% (muted), launched: notepad.exe, {"ok": false, "error": "denied_by_user"} …).

형식

messages는 OpenAI 스타일 메시지 배열(JSON 문자열)이다. system 메시지는 다음 모양이다.

{{PERSONA}}

[자비스 모드]
- 사용자가 컴퓨터에서 무언가를 해 달라고 하면 …(10줄)

[웹 검색]
- 최신 정보·시세·날씨·뉴스·확실하지 않은 사실은 지어내지 말고 web_search로 확인한 뒤 답한다. …(4줄)

• {{PERSONA}} 자리표시자는 학습 스크립트가 자기 시스템 프롬프트로 치환한다. 이 데이터의 답변은 아래 중립 프롬프트로 생성했으므로, 기본값으로 이 문장을 쓰면 학습/생성이 일치한다.

  당신은 사용자의 컴퓨터를 대신 다뤄 주는 한국어 비서입니다. 정중하고 간결한 존댓말로 말합니다.
  부탁받은 일은 도구를 호출해 실제로 수행한 뒤 결과를 한두 문장으로 정확하게 보고합니다.
  실패·거부·못 하는 일은 숨기지 않고 그대로 말하고, 하지 않은 일을 했다고 말하지 않습니다.
  사용자에게 이름이나 특정 호칭을 붙이지 않습니다.
  

• [자비스 모드]·[웹 검색] 지시문은 OpenMascotAI 서버(Core/ai/llm_prompts.py)가 추론 때 시스템 프롬프트 끝에 붙이는 원문과 바이트 단위로 같다. 일반 채팅(자비스 OFF) 행은 {{PERSONA}} + [웹 검색]만 담는다. 일부 행은 {{PERSONA}} 뒤에 서버의 장기 기억 블록([기억하고 있는 사실])이 들어 있다.

• 웹 도구(web_search·read_webpage)를 부르는 assistant 메시지는 content에 실행 전 한마디("서울 날씨 찾아보겠습니다.")를 담고 tool_calls를 함께 싣는다. ChatML 계열(Qwen)은 그대로 렌더되고, Gemma 4 템플릿은 content를 tool_call 뒤로 밀기 때문에 한마디를 별도 assistant 메시지로 앞에 떼어 렌더해야 한다(아래 노트북 참고).

• final_brief: 마지막 답변이 담아야 할 사실 요약. judge_flags에 soft:brief_number가 있으면 brief의 숫자 일부가 답변에 빠졌다는 뜻이다(행은 유지).

• final_source: stock-neutral(순정 모델 재생성) 또는 manual(재생성 결과가 규칙은 통과했지만 내용이 깨져 수기로 고친 행, 아래 "만든 방법" 5). 접미 +name은 이름 보강 행("만든 방법" 6) — system의 {{PERSONA}} 바로 뒤에 OpenMascotAI 서버가 유저 프로필로 붙이는 블록(### [대화 하고있는 상대방 X님에 대한 인적 정보] + - **성함(혹은 닉네임):** X)이 들어 있고, 마지막 답변이 그 이름을 부른다("X님, …" / "…했습니다, X님."). 나머지 행은 이름을 부르지 않는다.

import json
from datasets import load_dataset

ds = load_dataset("MelissaJ/OpenMascotAI_Jarvis", "tools", split="train")
row = ds[0]
messages = json.loads(row["messages"])
tools = json.loads(row["tools"])
messages[0]["content"] = messages[0]["content"].replace("{{PERSONA}}", MY_SYSTEM_PROMPT)
for m in messages:                       # 챗 템플릿은 arguments가 dict여야 한다
    for tc in m.get("tool_calls") or []:
        tc["function"]["arguments"] = json.loads(tc["function"]["arguments"])
text = tokenizer.apply_chat_template(messages, tools=tools, tokenize=False)

검증 결과(2026-09-09, Qwen3.8-27B LoRA)

이 리비전(이름 보강 포함)으로 Qwen38_Jarvis_unsloth_gguf.ipynb를 돌려 만든 LoRA를 순정 Qwen3.8-27B-UD-Q8_K_L GGUF에 스케일 8.0으로 얹고, OpenMascotAI 서버의 실측 배터리(devtools/eval/web_autosearch_battery.py, 발화는 학습 데이터에 없는 홀드아웃)로 쟀다. 시스템 프롬프트는 캐릭터 컨셉 텍스트 + 서버 유저 프로필 블록(페르소나 LoRA 없음) — 이 데이터셋이 겨냥한 "컨셉만 있는 사용자" 조합이다.

모드	도구/검색 재현율	오호출	비고
자비스 모드(클라이언트 도구 87 + 웹 2), 2회	20/20 · 20/20	0/20 · 0/20	실행 전 한마디 정상
일반 채팅(웹 도구만)	20/20	0/20	클라이언트 도구 요청엔 "자비스 모드를 켜 주시면" 안내
프롬프트 속 사용자 이름 보존(40샘플)	40/40	—	이름 보강 전 학습본은 2/40

잔여: 한자 단어가 한국어 자리에 섞이는 현상 1~3/40(베이스·스케일 8 조합의 성격, LoRA 종류와 무관), 말투는 중립 존댓말로 고정(캐릭터 말투는 별도 페르소나 LoRA의 몫).

학습 노트북

OpenMascotAI 저장소의 colab_finetune 노트북 2종이 이 데이터셋만으로 LoRA를 만든다(Unsloth, Colab G4).

• Qwen38_Jarvis_unsloth_gguf.ipynb — unsloth/Qwen3.8-27B, 일반 LoRA(r=64, rslora), 응답 토큰만 학습.
• Gemma4_Jarvis_unsloth_gguf.ipynb — unsloth/gemma-4-31B-it-qat-q4_0-unquantized, QAT LoRA. 빈 thought 블록 스캐폴드와 한마디/tool_call 분리 렌더를 포함한다.

둘 다 병합하지 않고 *.lora.gguf로 변환해 순정 GGUF 베이스에 런타임으로 얹는다: llama-server --lora-scaled <파일>:8.0. (스케일 8.0은 rslora r=64·alpha=64의 alpha/√r 보정값이다.)

만든 방법

1. 원본: MelissaJ/ProjectLucia_Hera tools config(2026-09-03 리비전). 발화 템플릿 × 슬롯 풀로 규칙 합성했고, 도구 인자는 서버 validate_args로, 도구 결과 문자열은 클라이언트 C# 구현으로 검증한 데이터다.
2. 사용자 발화의 캐릭터 호격("루시아야, ")을 지우고, 마스코트 자신을 가리키는 이름은 "마스코트"로, 사용자 이름은 "내"로 바꿨다 (도구 인자·결과의 파일명도 같은 규칙).
3. 어시스턴트 발화(최종 보고·중간 답변·검색 전 한마디)는 순정 Qwen3.8-27B(LoRA 없음) 가 위 중립 프롬프트 + [자비스 모드] [웹 검색] 지시문 + 대화 문맥(도구 결과 포함) + final_brief를 보고 다시 생성했다. 검증(호칭·한자·줄바꿈·길이·마크다운· 웃음 표기·규칙 문구 되읽기·"보고 대신 되묻기")을 통과하지 못하면 최대 3회 재생성했고, 끝내 실패한 행은 뺐다.
4. 실측 배터리 발화(OpenMascotAI devtools/eval/prompts_web.py)는 정규화 기준으로 학습 데이터에 없다(홀드아웃).
5. 2026-09-07 손질. 이 데이터로 학습한 LoRA(Qwen3.8-27B)를 실측했더니 규칙 검증은 통과했지만 내용이 깨진 재생성 답변을 모델이 그대로 외우고 있었다(예: "물도, 물도. 물은 1기압에서…"). 전 행을 다시 훑어 40행을 수기로 고쳤고(final_source=manual), 같은 유형이 다시 들어오지 않도록 검증에 다섯 가지를 추가했다 — 첫 어절 반복(말더듬), "저희" 자칭, "저는 인공지능이라" 같은 자기 규정(페르소나를 끼워 쓰는 데이터라 어울리지 않는다), "컴퓨터를 직접 다루지 못한다"는 역할 부정, 그리고 도구를 하나도 부르지 않은 행에서 "실행하겠습니다/했습니다"라고 말하는 거짓 실행 주장(일반 채팅 모드에서 클라이언트 도구 요청을 받은 행은 "지금 모드에서는 할 수 없고 자비스 모드를 켜면 가능"으로 통일). 고친 행의 유형: 채팅 모드 도구 요청 10, 농담·잡담을 작업 요청으로 오독 17, 자기 규정·역할 부정 7, 창작 거부 1, 말더듬 1, 기타 4.
6. 2026-09-08 이름 보강. 5의 데이터로 다시 학습한 LoRA는 도구 호출 배터리를 전부 통과했지만, 답변 6,477개 전부가 "사용자를 이름으로 부르지 않는" 예시라서 페르소나 프롬프트가 이름을 부르라고 하면 그 이름의 다음 토큰이 억눌려 다른 문자 체계로 새는 결함이 났다(스케일 8.0에서 "멜리사님" 온전 2/40, 스케일 5.0 이하에서 정상). 그래서 행의 12%(train 647·eval 38, 행 id 해시로 결정)에 위 인적 정보 블록을 넣고 마지막 답변에서 그 이름을 부르게 했다(final_source 접미 +name). 이름 풀 30개(한국 이름 20·외래 이름 10)이며 원본 캐릭터의 사용자 이름은 일반화를 재기 위해 일부러 뺐다. 자기 페르소나로 쓰는 사용자는 서버처럼 페르소나 뒤에 같은 블록을 붙이면 된다.

한계

• 합성 데이터라 발화 다양성은 템플릿 조합 범위 안에 있다. 도구 결과는 포맷을 재현한 것이지 실제 실행 결과가 아니다.
• capture_screen 행에는 이미지가 없어 비전 왕복은 학습되지 않는다.
• 답변은 중립 존댓말 한 가지 문체다. 캐릭터 말투는 이 데이터의 범위 밖이며 페르소나 LoRA나 시스템 프롬프트로 얹는다.
• 도구 카탈로그는 OpenMascotAI 클라이언트에 맞춘 것이라 다른 앱에서는 도구 이름·인자 스키마를 바꿔 써야 한다.

라이선스

Apache-2.0. 데이터 파이프라인은 OpenMascotAI 저장소 OpenMascotAI_Server/devtools/dataset/step_j_jarvis_only.py.