Instructions to use Finish-him/msc-academy-rag-v1 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finish-him/msc-academy-rag-v1 with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finish-him/msc-academy-rag-v1")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoModel
model = AutoModel.from_pretrained("Finish-him/msc-academy-rag-v1", dtype="auto")

PEFT
How to use Finish-him/msc-academy-rag-v1 with PEFT:
```
Task type is invalid.
```
Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Finish-him/msc-academy-rag-v1 with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finish-him/msc-academy-rag-v1"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finish-him/msc-academy-rag-v1",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Finish-him/msc-academy-rag-v1

SGLang

How to use Finish-him/msc-academy-rag-v1 with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finish-him/msc-academy-rag-v1" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finish-him/msc-academy-rag-v1",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finish-him/msc-academy-rag-v1" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finish-him/msc-academy-rag-v1",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Finish-him/msc-academy-rag-v1 with Docker Model Runner:
```
docker model run hf.co/Finish-him/msc-academy-rag-v1
```

MSC Academy RAG — v1

Modelo gerador compacto (0.5B) para o tutor Arquimedes da MSC Academy, pensado para responder ancorado na base de conhecimento da Academy (RAG).

🚧 Preview / v1. O componente de recuperação (base RAG) ainda está em construção — veja Status. Modelo pequeno, sem eval formal publicada.

O que é (e o que ainda não é)

Este repositório traz o modelo gerador do pipeline de tutoria da MSC Academy: um Qwen2.5-0.5B ajustado por LoRA/SFT para o papel de professor/tutor em português.

Na arquitetura pretendida, ele opera como o G de um sistema RAG: a recuperação traz trechos da base de conhecimento da Academy e o modelo gera a resposta ancorada nesse contexto. Ser honesto importa aqui: o adapter publicado é o gerador (SFT) — a base de recuperação (msc-academy-rag-v1 dataset, PT+EN) está em curadoria e ainda não está completa.

Para que serve

Geração de respostas didáticas em PT para tutoria, dentro de um pipeline RAG.
Base para experimentação de RAG de baixo custo em educação.

Fora de escopo: uso como modelo factual stand-alone (sem recuperação ele não tem a base de conhecimento), assistente geral, produção crítica.

Como foi treinado

Base: Qwen/Qwen2.5-0.5B
Método: LoRA / SFT com TRL.
Infra: Hugging Face Jobs.
Dados: dataset msc-academy-rag-v1 (PT + EN), em curadoria com gates de qualidade — validação de schema, varredura de segredos (sanitizado), varredura de PII (baixo risco), deduplicação (0 duplicatas) e revisão humana em andamento.

Status honesto

Componente	Estado
Gerador (este adapter)	✅ Treinado (preview v1)
Base de recuperação (RAG)	🔄 Em construção (~42% da meta v1)
Avaliação formal vs baseline	⏳ Pendente

Seguimos a regra de só publicar número medido — por isso não há tabela de benchmark aqui. Entra quando o eval fechar.

Como usar

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = "Qwen/Qwen2.5-0.5B"
adapter = "Finish-him/msc-academy-rag-v1"

tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base)
model = PeftModel.from_pretrained(model, adapter)
# Em produção, injete o contexto recuperado antes do prompt do usuário.

Limitações

0.5B + preview: capacidade limitada, sem eval formal.
Depende de recuperação: sozinho, não tem a base de conhecimento da Academy.
Pode alucinar — em RAG, ancore sempre na fonte recuperada e cite o trecho.

Sobre a MSC / MSC Labs

A MSC constrói modelos pequenos especializados + pipelines RAG privados e baratos de operar. Quer um assistente ancorado nos seus dados, sem mandá-los para uma API de fronteira? A MSC Labs entrega fine-tuning e RAG done-for-you, com avaliação contra o seu baseline.

📩 labs@msccompany.com.br · 🔗 https://labs.msccompany.com.br

Downloads last month: -; Downloads are not tracked for this model. How to track

Model tree for Finish-him/msc-academy-rag-v1

Base model

Qwen/Qwen2.5-0.5B

Adapter

(426)

this model