JapanRailwaySimLLM (Gemma 2 9B + QLoRA + RAG)

galakenya/JapanRailwaySimLLM は、日本の鉄道技術仕様、運行管理規則、安全基準に特化した高度専門知識LLMモデルです。PDFドキュメントをベースにした多言語RAG対応設計となっています。

🇯🇵 日本語 (Japanese)

概要

JapanRailwaySimLLM は、Googleの Gemma-2-9b-it をベースに、日本の鉄道ドメインに特化してQLoRAファインチューニングされたアダプターモデル、および高精度な量子化モデル（GGUF版）です。高精度なRAG (Retrieval-Augmented Generation) と連携させるための設定ファイル群およびPDFドキュメントが同封されています。

公式ブログ: モリコラ日誌

学習データの説明

本モデルは、日本の鉄道における保安システム、車両設計、ダイヤ管理などの膨大な技術ドキュメント（「日本の鉄道技術図鑑集.pdf」および「Japanese Railway Technology Encyclopedia.pdf」など）および精密な解説データ（JSONL形式）をベースにファインチューニングされています。

RAG の使い方

from langchain_community.vectorstores import Chroma
from langchain_community.embeddings import HuggingFaceEmbeddings
# embedding_model: "intfloat/multilingual-e5-base"
# vector_store_path: "./chroma_db"

GGUF の使い方

JapanRailwayLLM.GGUF は llama.cpp や koboldcpp などの主要なGGUF推論エンジンでそのまま動作します。

./llama-cli -m JapanRailwayLLM.GGUF -p "日本の新幹線の運行管理システム(ATC)の特徴について説明してください。"

注意事項

本モデルは日本の鉄道分野に最適化されています。一般的な知識生成時には、ベースモデルと使い分けるか、プロンプトにて調整を行ってください。

🇺🇸 英語 (English)

Overview

JapanRailwaySimLLM is a 9B parameter specialized railway domain model, fine-tuned from Gemma-2-9b-it via QLoRA. It supports advanced multi-lingual RAG search backed by official railway manuals.

Official Blog: モリコラ日誌

RAG & GGUF Usage

Run local inference using llama.cpp:

./llama-cli -m JapanRailwayLLM.GGUF -p "Describe the characteristics of Shinkansen's ATC system in English."

🇫🇷 Français (French)

Aperçu

Modèle spécialisé de 9B paramètres pour le système ferroviaire japonais, optimisé via QLoRA sur Gemma-2-9b-it. Conçu pour s'intégrer avec un système RAG multilingue.

Blog Officiel: モリコラ日誌

🇧🇷 Português - Brasil (Portuguese)

Visão Geral

Modelo de domínio ferroviário especializado de 9B parâmetros, refinado a partir do Gemma-2-9b-it usando QLoRA. Suporta integração direta com RAG a partir de documentos PDF técnicos.

Blog Oficial: モリコラ日誌

🇪🇸 Español (Spanish)

Resumen

Modelo de 9B parámetros especializado en el sistema de transporte ferroviario japonés, ajustado con QLoRA en Gemma-2-9b-it. Optimizado para la recuperación externa RAG en múltiples idiomas.