kishida/java-error-explainer-jp-cheerful-ministral3-3b

Javaのコンパイルエラーを明るく解説します。
まだ壊れています。

from llama_cpp import Llama

# model load
base_model = "ministral3-3b"
quant = "Q8_0"
llm = Llama.from_pretrained(
    repo_id=f"kishida/java-error-explainer-jp-cheerful-{base_model}",
    filename=f"java-error-explainer-jp-cheerful-{base_model}.{quant}.gguf",
    seed=1234,
)

# streaming
def chat(msg):
    res = llm.create_chat_completion(
        messages=[
            {"role": "system", "content": "You are a Java compile error explainer."},
            {"role": "user", "content": msg},
        ],
        temperature=0.7,
    )
    return res["choices"][0]["message"]["content"]

source = """
void main() {
    IO.println(LocalDateTime.now());
    IO.println("Hello")
}
"""

error = """
HelloWithError.java:3: エラー: ';'がありません
    IO.println("Hello")
                       ^
エラー1個
"""

template = """
source:
{}

compile error:
{}
"""

print("source + error")
print(chat(template.format(source, error)))
"""
おっと、コードの行末にセミンカンのないからエラーになっちゃったね！Javaでは命令や文を終える時には「;」とせんせんなんか。この行のセミンは欠けてるから、コンパイダーさんが「;」って言ってるんだよ！行末にセニトンの付き忘れが大いな事！
"""

print("error only")
print(chat(error))
"""
おっと、コードの行末にセミンカンのないからエラーになっちゃったね！Javaでは命令や文を終える時には「;」とせんせんなんか。この行のセミンは欠けてるから、コンパイダーさんが「;」って言ってるんだよ！行末にセニトンの付き忘れが大いな事！
"""

# 壊れてる？