Initial commit: Agriculture chatbot

.gitignore

@@ -0,0 +1,31 @@
+__pycache__/
+*.py[cod]
+*$py.class
+*.so
+.Python
+env/
+venv/
+ENV/
+build/
+develop-eggs/
+dist/
+downloads/
+eggs/
+.eggs/
+lib/
+lib64/
+parts/
+sdist/
+var/
+wheels/
+*.egg-info/
+.installed.cfg
+*.egg
+.DS_Store
+*.log
+.cache/
+models/
+*.pt
+*.pth
+*.bin
+

DEPLOYMENT.md

@@ -0,0 +1,113 @@
+# Hugging Face Space デプロイガイド
+
+このプロジェクトをHugging Face Spaceにデプロイする方法を説明します。
+
+## 方法1: モデルを直接ロードする方法（app.py）
+
+### 手順
+
+1. **Hugging Face Spaceを作成**
+   - https://huggingface.co/spaces にアクセス
+   - "Create new Space" をクリック
+   - Space名を入力（例: `agriculture-chatbot`）
+   - SDK: **Gradio** を選択
+   - Hardware: モデルサイズに応じて選択
+     - 7Bモデル: **GPU T4 small** または **GPU T4 medium**
+     - より小さいモデル: **CPU basic**
+
+2. **ファイルをアップロード**
+   - 以下のファイルをSpaceにアップロード：
+     - `app.py`
+     - `requirements.txt`
+     - `README.md`
+     - `system_prompt.txt`（オプション）
+
+3. **環境変数の設定（オプション）**
+   - SpaceのSettings > Variables and secrets
+   - `MODEL_NAME`: 使用するモデル名（デフォルト: `elyza/ELYZA-japanese-Llama-2-7b-instruct`）
+
+4. **デプロイ**
+   - Spaceが自動的にビルドとデプロイを開始します
+   - ログを確認して、エラーがないか確認してください
+
+### 推奨モデル
+
+- `elyza/ELYZA-japanese-Llama-2-7b-instruct` - 日本語に最適化されたモデル
+- `elyza/ELYZA-japanese-Llama-2-7b-fast-instruct` - より高速なバージョン
+- `cyberagent/calm2-7b-chat` - 軽量で高速
+
+## 方法2: Inference APIを使用する方法（app_hf_inference.py）
+
+この方法はモデルをローカルにダウンロードしないため、より軽量です。
+
+### 手順
+
+1. **Hugging Face Spaceを作成**
+   - SDK: **Gradio** を選択
+   - Hardware: **CPU basic** で十分
+
+2. **ファイルをアップロード**
+   - `app_hf_inference.py` を `app.py` にリネーム
+   - または、Spaceの設定でエントリーポイントを変更
+
+3. **環境変数の設定**
+   - `HF_API_URL`: Inference APIのURL（例: `https://api-inference.huggingface.co/models/elyza/ELYZA-japanese-Llama-2-7b-instruct`）
+   - `HF_API_TOKEN`: Hugging Faceのアクセストークン（オプション、レート制限を緩和）
+
+4. **デプロイ**
+
+### 注意事項
+
+- Inference APIは無料プランではレート制限があります
+- 有料プランを使用する場合は、`HF_API_TOKEN` を設定してください
+
+## トラブルシューティング
+
+### モデルの読み込みに失敗する
+
+- Hardware設定を確認（GPUが必要な場合）
+- モデル名が正しいか確認
+- ログを確認してエラーメッセージを確認
+
+### メモリ不足エラー
+
+- より小さいモデルを使用
+- Hardwareをアップグレード
+- `app_hf_inference.py` を使用（Inference API）
+
+### 応答が遅い
+
+- GPU Hardwareを使用
+- より高速なモデルを使用（例: `fast-instruct` バージョン）
+- `max_new_tokens` を減らす
+
+## カスタマイズ
+
+### モデルの変更
+
+`app.py` の `MODEL_NAME` を変更するか、環境変数で設定：
+
+```python
+MODEL_NAME = os.getenv("MODEL_NAME", "your-model-name")
+```
+
+### プロンプトの調整
+
+`app.py` の `SYSTEM_PROMPT` を編集して、回答スタイルを調整できます。
+
+### UIのカスタマイズ
+
+`create_interface()` 関数内のGradioコンポーネントを編集して、UIをカスタマイズできます。
+
+## パフォーマンス最適化
+
+1. **モデルの量子化**: 8bitや4bit量子化を使用してメモリ使用量を削減
+2. **バッチ処理**: 複数のリクエストをバッチ処理
+3. **キャッシング**: よく使われるプロンプトをキャッシュ
+
+## セキュリティ
+
+- 環境変数に機密情報を保存
+- 入力の検証とサニタイゼーション
+- レート制限の実装（必要に応じて）
+

QUICKSTART.md

@@ -0,0 +1,161 @@
+# 快速上手指南
+
+## 📋 项目概述
+
+这个项目是一个基于提示词（Prompt）的农业咨询聊天机器人，旨在生成与您提供的JSON数据集中`chosen`回答风格相似的回复。
+
+## 🚀 快速部署到Hugging Face Space
+
+### 步骤1: 创建Hugging Face Space
+
+1. 访问 https://huggingface.co/spaces
+2. 点击 "Create new Space"
+3. 填写信息：
+   - **Space name**: `agriculture-chatbot` (或您喜欢的名称)
+   - **SDK**: 选择 **Gradio**
+   - **Hardware**: 
+     - 如果使用7B模型: 选择 **GPU T4 small** 或 **GPU T4 medium**
+     - 如果使用Inference API: 选择 **CPU basic**
+
+### 步骤2: 上传文件
+
+将以下文件上传到Space：
+
+- ✅ `app.py` - 主应用文件（使用本地模型）
+- ✅ `requirements.txt` - Python依赖
+- ✅ `README.md` - 说明文档
+- ✅ `system_prompt.txt` - 系统提示词（可选）
+
+**或者**使用Inference API版本：
+
+- ✅ `app_hf_inference.py` - 重命名为 `app.py`（使用Hugging Face Inference API）
+
+### 步骤3: 配置环境变量（可选）
+
+在Space的 **Settings > Variables and secrets** 中添加：
+
+- `MODEL_NAME`: 模型名称（默认: `elyza/ELYZA-japanese-Llama-2-7b-instruct`）
+
+如果使用Inference API版本：
+
+- `HF_API_URL`: API URL
+- `HF_API_TOKEN`: 您的Hugging Face token（可选，用于提高速率限制）
+
+### 步骤4: 等待部署
+
+Space会自动构建和部署。查看日志确认没有错误。
+
+## 📝 文件说明
+
+### 主要文件
+
+- **app.py**: 主应用，直接加载模型到本地
+- **app_hf_inference.py**: 使用Hugging Face Inference API的轻量版本
+- **requirements.txt**: Python依赖包
+- **system_prompt.txt**: 系统提示词模板
+
+### 配置文件
+
+- **config.json**: 模型配置（当前未使用，可扩展）
+- **.gitignore**: Git忽略文件
+
+### 文档
+
+- **README.md**: 项目说明（日语）
+- **README_CN.md**: 项目说明（中文）
+- **DEPLOYMENT.md**: 详细部署指南
+- **QUICKSTART.md**: 本文件
+
+## 🎯 回答风格说明
+
+基于您提供的JSON数据，系统提示词已优化为生成以下风格的回答：
+
+### ✅ 推荐风格（chosen回答的特点）
+
+1. **口语化、亲切**
+   - 使用「おじさん」「俺」「だよね」等
+   - 例如: "おじさんが心配しているその点は本当に大事で..."
+
+2. **共情和理解**
+   - 使用「そうだよね」「心配だよね」「分かる分かる」
+   - 例如: "そうだよね、いくら環境に良くても、米が売れなきゃ本末転倒だ"
+
+3. **具体例子**
+   - 引用实际经验: "去年参加した15軒、みんな収量は変わってない"
+   - 提到具体人物: "鈴木さんとこ、去年と同じ等級で出荷できてる"
+
+4. **灵活解决方案**
+   - 提供选择: "まずは見学だけでもどう？"
+   - 不强求: "強制じゃないから"
+
+### ❌ 避免风格（rejected回答的特点）
+
+1. **技术术语**
+   - 避免: "統計的に見て品質劣化の確率は0.3%以下"
+   - 避免: "AG-005方法論の技術仕様書によれば"
+
+2. **正式敬语**
+   - 避免: "推奨いたします"
+   - 避免: "必要となります"
+
+3. **统计数据**
+   - 避免: "97.2%を占めており"
+   - 避免: "±2%の範囲内であり"
+
+## 🔧 自定义提示词
+
+编辑 `app.py` 中的 `SYSTEM_PROMPT` 变量来自定义回答风格。
+
+当前提示词已根据您的JSON数据优化，包含：
+- 风格指导
+- 推荐表达
+- 避免表达
+- 具体示例
+
+## 🧪 测试
+
+部署后，可以尝试以下示例问题：
+
+1. "中干期を延ばすと米がパサパサになるって聞いたんだけど、そんなリスクは取りたくないんだよ。"
+2. "収量が減ったらどうするんだ？家族を養っていかなきゃならないんだよ。"
+3. "水の管理が難しくなるんじゃないか？今でも大変なのに。"
+
+回答应该：
+- ✅ 使用口语化、亲切的语言
+- ✅ 显示理解和共情
+- ✅ 提供具体例子
+- ✅ 避免技术术语
+
+## 📊 性能优化建议
+
+1. **使用更小的模型**: 如果响应慢，考虑使用更小的模型
+2. **使用Inference API**: `app_hf_inference.py` 版本不需要本地加载模型
+3. **调整参数**: 在 `generate_response` 函数中调整 `max_new_tokens`、`temperature` 等
+
+## 🐛 常见问题
+
+### Q: 模型加载失败
+A: 检查Hardware设置是否正确，确保有足够的GPU/CPU资源
+
+### Q: 回答风格不符合预期
+A: 调整 `SYSTEM_PROMPT`，参考JSON数据中的`chosen`回答
+
+### Q: 响应太慢
+A: 使用更小的模型或Inference API版本
+
+### Q: 内存不足
+A: 使用Inference API版本（`app_hf_inference.py`）或升级Hardware
+
+## 📚 下一步
+
+1. 测试不同的模型
+2. 根据实际使用情况调整提示词
+3. 收集用户反馈并优化
+4. 考虑添加更多功能（如历史记录、导出等）
+
+## 💡 提示
+
+- 提示词的质量直接影响回答风格
+- 定期根据用户反馈调整提���词
+- 可以A/B测试不同的提示词版本
+

README.md

@@ -0,0 +1,74 @@
+# 🌾 農業相談チャットボット
+
+農家さん向けの親しみやすく分かりやすい農業相談チャットボットです。DPO（Direct Preference Optimization）データセットに基づいて設計された、農家さんが理解しやすい回答スタイルを実現しています。
+
+## 特徴
+
+- **親しみやすい口語体**: 農家さんが親しみを感じられる話し方
+- **共感的な対応**: 農家さんの気持ちに寄り添う回答
+- **具体的な例**: 実際の経験や事例を交えた説明
+- **分かりやすい表現**: 専門用語を避け、日常的な言葉で説明
+
+## 使用方法
+
+### Hugging Face Spaceでの使用
+
+1. このリポジトリをHugging Face Spaceにアップロード
+2. Spaceの設定で以下を指定：
+   - **SDK**: Gradio
+   - **Hardware**: CPU（小規模モデル）または GPU（大規模モデル）
+   - **Environment variables**: 
+     - `MODEL_NAME`: 使用するモデル名（例: `elyza/ELYZA-japanese-Llama-2-7b-instruct`）
+
+### ローカルでの実行
+
+```bash
+# 依存関係のインストール
+pip install -r requirements.txt
+
+# アプリの起動
+python app.py
+```
+
+ブラウザで `http://localhost:7860` にアクセスしてください。
+
+## モデルの選択
+
+デフォルトでは `elyza/ELYZA-japanese-Llama-2-7b-instruct` を使用しますが、以下のような日本語対応モデルも使用可能です：
+
+- `elyza/ELYZA-japanese-Llama-2-7b-instruct`
+- `elyza/ELYZA-japanese-Llama-2-7b-fast-instruct`
+- `cyberagent/calm2-7b-chat`
+- その他の日本語LLM
+
+環境変数 `MODEL_NAME` で変更できます。
+
+## 回答スタイル
+
+このチャットボットは、以下の特徴を持つ回答を生成します：
+
+✅ **推奨される表現**:
+- 「そうだよね」「心配だよね」などの共感的な表現
+- 「実際にやってみると」「去年のデータ見ても」などの具体例
+- 「一緒にやってみようよ」「相談しようね」などの親しみやすい表現
+- 「大丈夫だよ」「安心して」などの安心感を与える言葉
+
+❌ **避ける表現**:
+- 「統計的に見て」「データによれば」などの専門的表現
+- 「推奨いたします」「必要となります」などの硬い敬語
+- 数値やパーセンテージを多用する説明
+
+## カスタマイズ
+
+`app.py` の `SYSTEM_PROMPT` を編集することで、回答スタイルをカスタマイズできます。
+
+## ライセンス
+
+このプロジェクトは、元のDPOデータセットのライセンスに従います。
+
+## 注意事項
+
+- このチャットボットは農業相談の補助ツールとして設計されています
+- 重要な判断は、必ず専門家やJA（農業協同組合）に相談してください
+- モデルの回答は参考情報として扱い、実際の農業作業では慎重に判断してください
+

README_CN.md

@@ -0,0 +1,74 @@
+# 🌾 农业咨询聊天机器人
+
+面向农民的友好易懂的农业咨询聊天机器人。基于DPO（Direct Preference Optimization）数据集设计，实现农民易于理解的回答风格。
+
+## 特点
+
+- **友好的口语化表达**: 让农民感到亲切的说话方式
+- **共情式回应**: 理解农民心情的回答
+- **具体实例**: 结合实际经验和案例的说明
+- **易懂的表达**: 避免专业术语，使用日常用语说明
+
+## 使用方法
+
+### 在Hugging Face Space上使用
+
+1. 将此仓库上传到Hugging Face Space
+2. 在Space设置中指定：
+   - **SDK**: Gradio
+   - **Hardware**: CPU（小模型）或 GPU（大模型）
+   - **Environment variables**: 
+     - `MODEL_NAME`: 要使用的模型名称（例如: `elyza/ELYZA-japanese-Llama-2-7b-instruct`）
+
+### 本地运行
+
+```bash
+# 安装依赖
+pip install -r requirements.txt
+
+# 启动应用
+python app.py
+```
+
+在浏览器中访问 `http://localhost:7860`。
+
+## 模型选择
+
+默认使用 `elyza/ELYZA-japanese-Llama-2-7b-instruct`，但也可以使用以下日语模型：
+
+- `elyza/ELYZA-japanese-Llama-2-7b-instruct`
+- `elyza/ELYZA-japanese-Llama-2-7b-fast-instruct`
+- `cyberagent/calm2-7b-chat`
+- 其他日语LLM
+
+可以通过环境变量 `MODEL_NAME` 更改。
+
+## 回答风格
+
+此聊天机器人生成具有以下特点的回答：
+
+✅ **推荐的表达**:
+- 「そうだよね」「心配だよね」等共情表达
+- 「実際にやってみると」「去年のデータ見ても」等具体例子
+- 「一緒にやってみようよ」「相談しようね」等友好表达
+- 「大丈夫だよ」「安心して」等让人安心的词语
+
+❌ **避免的表达**:
+- 「統計的に見て」「データによれば」等专业表达
+- 「推奨いたします」「必要となります」等生硬敬语
+- 大量使用数字和百分比的说明
+
+## 自定义
+
+编辑 `app.py` 中的 `SYSTEM_PROMPT` 可以自定义回答风格。
+
+## 许可证
+
+本项目遵循原始DPO数据集的许可证。
+
+## 注意事项
+
+- 此聊天机器人设计为农业咨询的辅助工具
+- 重要决策请务必咨询专家或JA（农业协同组合）
+- 请将模型的回答作为参考信息，在实际农业作业中请谨慎判断
+

app.py

@@ -0,0 +1,223 @@
+import gradio as gr
+import json
+import os
+from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
+import torch
+
+# 加载模型和tokenizer
+MODEL_NAME = os.getenv("MODEL_NAME", "elyza/ELYZA-japanese-Llama-2-7b-instruct")
+device = "cuda" if torch.cuda.is_available() else "cpu"
+
+# 初始化模型和tokenizer
+tokenizer = None
+model = None
+pipe = None
+
+def load_model():
+    """加载模型"""
+    global tokenizer, model, pipe
+    
+    if tokenizer is not None and model is not None:
+        return
+    
+    try:
+        print(f"正在加载模型: {MODEL_NAME}")
+        tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
+        
+        # 尝试使用pipeline（更简单）
+        try:
+            pipe = pipeline(
+                "text-generation",
+                model=MODEL_NAME,
+                tokenizer=MODEL_NAME,
+                device=0 if device == "cuda" else -1,
+                torch_dtype=torch.float16 if device == "cuda" else torch.float32,
+            )
+            print("使用pipeline加载模型成功")
+        except:
+            # 如果pipeline失败，使用传统方法
+            model = AutoModelForCausalLM.from_pretrained(
+                MODEL_NAME,
+                torch_dtype=torch.float16 if device == "cuda" else torch.float32,
+                device_map="auto" if device == "cuda" else None,
+                low_cpu_mem_usage=True,
+            )
+            if device == "cpu":
+                model = model.to(device)
+            print("使用传统方法加载模型成功")
+            
+    except Exception as e:
+        print(f"模型加载失败: {e}")
+        print("将使用模拟模式（仅用于测试）")
+        tokenizer = None
+        model = None
+        pipe = None
+
+# 在启动时加载模型
+load_model()
+
+# 优化的System Prompt - 基于JSON数据中的chosen回答风格
+SYSTEM_PROMPT = """あなたは農業推進事業者です。農家さんの質問や懸念に対して、共感的で具体的な回答をしてください。
+
+回答のスタイル：
+- 親しみやすい口語体を使う（「おじさん」「俺」「だよね」など）
+- 農家さんの気持ちに共感する（「そうだよね」「心配だよね」「分かる分かる」など）
+- 具体的な例や実際の経験を挙げる（「去年参加した○○さん」「実際にやってみると」など）
+- 技術的な専門用語や統計データは避ける
+- 柔軟な解決策を提案する
+- 日常的な言葉や比喩を使う
+- 農家さんを尊重し、強制しない姿勢を示す
+- 実践的で分かりやすい説明をする
+
+以下のような表現を避ける：
+- 「統計的に見て」「データによれば」「科学的根拠に基づき」などの専門的表現
+- 「推奨いたします」「必要となります」などの硬い敬語
+- 数値やパーセンテージを多用する説明
+
+代わりに、以下のような表現を使う：
+- 「実際にやってみると」「去年のデータ見ても」
+- 「一緒にやってみようよ」「相談しようね」
+- 「大丈夫だよ」「安心して」などの安心感を与える言葉"""
+
+def format_prompt(user_message):
+    """格式化提示词"""
+    prompt = f"""<s>[INST] <<SYS>>
+{SYSTEM_PROMPT}
+<</SYS>>
+
+{user_message} [/INST]"""
+    return prompt
+
+def generate_response(message, history):
+    """生成回答"""
+    # 确保模型已加载
+    if tokenizer is None:
+        load_model()
+    
+    if model is None and pipe is None and tokenizer is None:
+        # 模拟模式 - 返回示例回答（基于JSON数据中的风格）
+        return "そうだよね、その心配はよく分かるよ。実際にやってみると、最初は不安かもしれないけど、段階的に進めていけば大丈夫だと思うんだ。例えば、一部の田んぼでまず試してみて、効果を自分の目で確かめてから広げるっていう方法もあるよ。一緒に相談しながら進めていこうね。"
+    
+    # 构建完整的对话历史
+    conversation = ""
+    if history:
+        for user_msg, assistant_msg in history:
+            conversation += f"ユーザー: {user_msg}\nアシスタント: {assistant_msg}\n\n"
+    
+    full_message = conversation + f"ユーザー: {message}\nアシスタント: "
+    
+    # 格式化提示词
+    prompt = format_prompt(full_message)
+    
+    try:
+        # 使用pipeline（如果可用）
+        if pipe is not None:
+            outputs = pipe(
+                prompt,
+                max_new_tokens=512,
+                temperature=0.7,
+                top_p=0.9,
+                do_sample=True,
+                return_full_text=False,
+            )
+            response = outputs[0]["generated_text"].strip()
+            return response
+        
+        # 使用传统方法
+        elif model is not None and tokenizer is not None:
+            # 编码输入
+            inputs = tokenizer.encode(prompt, return_tensors="pt")
+            if device == "cuda":
+                inputs = inputs.to(device)
+            
+            # 生成回答
+            with torch.no_grad():
+                outputs = model.generate(
+                    inputs,
+                    max_new_tokens=512,
+                    temperature=0.7,
+                    top_p=0.9,
+                    do_sample=True,
+                    pad_token_id=tokenizer.eos_token_id if tokenizer.eos_token_id is not None else tokenizer.pad_token_id,
+                    eos_token_id=tokenizer.eos_token_id if tokenizer.eos_token_id is not None else tokenizer.pad_token_id,
+                )
+            
+            # 解码输出
+            response = tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True)
+            response = response.strip()
+            return response
+        
+        else:
+            return "モデルの読み込みに失敗しました。Hugging Face Spaceの設定を確認してください。"
+    
+    except Exception as e:
+        return f"エラーが発生しました: {str(e)}。もう一度お試しください。"
+
+# 创建Gradio界面
+def create_interface():
+    with gr.Blocks(title="農業相談チャットボット", theme=gr.themes.Soft()) as demo:
+        gr.Markdown("""
+        # 🌾 農業相談チャットボット
+        
+        農家さんの質問や懸念に対して、親しみやすく分かりやすい回答をします。
+        農業に関する質問を気軽にどうぞ！
+        """)
+        
+        chatbot = gr.Chatbot(
+            label="チャット",
+            height=500,
+            show_copy_button=True
+        )
+        
+        with gr.Row():
+            msg = gr.Textbox(
+                label="メッセージ",
+                placeholder="農業に関する質問を入力してください...",
+                scale=4,
+                lines=2
+            )
+            submit_btn = gr.Button("送信", variant="primary", scale=1)
+        
+        with gr.Row():
+            clear_btn = gr.Button("会話をクリア", variant="secondary")
+        
+        # 示例问题
+        gr.Markdown("### 💡 質問例")
+        examples = gr.Examples(
+            examples=[
+                "中干期を延ばすと米がパサパサになるって聞いたんだけど、そんなリスクは取りたくないんだよ。",
+                "収量が減ったらどうするんだ？家族を養っていかなきゃならないんだよ。",
+                "水の管理が難しくなるんじゃないか？今でも大変なのに。",
+                "高齢で体力に自信がないんだ。新しいことを覚えられるかな。",
+            ],
+            inputs=msg,
+            label="クリックして試してみてください"
+        )
+        
+        # 事件处理
+        def user(user_message, history):
+            return "", history + [[user_message, None]]
+        
+        def bot(history):
+            if not history or not history[-1][0]:
+                return history
+            
+            user_message = history[-1][0]
+            response = generate_response(user_message, history[:-1])
+            history[-1][1] = response
+            return history
+        
+        msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False).then(
+            bot, chatbot, chatbot
+        )
+        submit_btn.click(user, [msg, chatbot], [msg, chatbot], queue=False).then(
+            bot, chatbot, chatbot
+        )
+        clear_btn.click(lambda: None, None, chatbot, queue=False)
+    
+    return demo
+
+if __name__ == "__main__":
+    demo = create_interface()
+    demo.launch(server_name="0.0.0.0", server_port=7860, share=False)
+

app_hf_inference.py

@@ -0,0 +1,166 @@
+"""
+Hugging Face Inference APIを使用する軽量版
+このバージョンはモデルをローカルにダウンロードせず、Hugging FaceのInference APIを使用します
+"""
+import gradio as gr
+import os
+import requests
+
+# Hugging Face Inference APIの設定
+HF_API_URL = os.getenv("HF_API_URL", "https://api-inference.huggingface.co/models/elyza/ELYZA-japanese-Llama-2-7b-instruct")
+HF_API_TOKEN = os.getenv("HF_API_TOKEN", "")
+
+# 优化的System Prompt
+SYSTEM_PROMPT = """あなたは農業推進事業者です。農家さんの質問や懸念に対して、共感的で具体的な回答をしてください。
+
+回答のスタイル：
+- 親しみやすい口語体を使う（「おじさん」「俺」「だよね」など）
+- 農家さんの気持ちに共感する（「そうだよね」「心配だよね」「分かる分かる」など）
+- 具体的な例や実際の経験を挙げる（「去年参加した○○さん」「実際にやってみると」など）
+- 技術的な専門用語や統計データは避ける
+- 柔軟な解決策を提案する
+- 日常的な言葉や比喩を使う
+- 農家さんを尊重し、強制しない姿勢を示す
+- 実践的で分かりやすい説明をする
+
+以下のような表現を避ける：
+- 「統計的に見て」「データによれば」「科学的根拠に基づき」などの専門的表現
+- 「推奨いたします」「必要となります」などの硬い敬語
+- 数値やパーセンテージを多用する説明
+
+代わりに、以下のような表現を使う：
+- 「実際にやってみると」「去年のデータ見ても」
+- 「一緒にやってみようよ」「相談しようね」
+- 「大丈夫だよ」「安心して」などの安心感を与える言葉"""
+
+def format_prompt(user_message, history=None):
+    """格式化提示词"""
+    conversation = ""
+    if history:
+        for user_msg, assistant_msg in history:
+            if assistant_msg:
+                conversation += f"ユーザー: {user_msg}\nアシスタント: {assistant_msg}\n\n"
+    
+    full_message = conversation + f"ユーザー: {user_message}\nアシスタント: "
+    
+    prompt = f"""<s>[INST] <<SYS>>
+{SYSTEM_PROMPT}
+<</SYS>>
+
+{full_message} [/INST]"""
+    return prompt
+
+def generate_response(message, history):
+    """使用Hugging Face Inference API生成回答"""
+    prompt = format_prompt(message, history)
+    
+    headers = {}
+    if HF_API_TOKEN:
+        headers["Authorization"] = f"Bearer {HF_API_TOKEN}"
+    
+    payload = {
+        "inputs": prompt,
+        "parameters": {
+            "max_new_tokens": 512,
+            "temperature": 0.7,
+            "top_p": 0.9,
+            "do_sample": True,
+            "return_full_text": False,
+        },
+        "options": {
+            "wait_for_model": True
+        }
+    }
+    
+    try:
+        response = requests.post(HF_API_URL, headers=headers, json=payload, timeout=60)
+        response.raise_for_status()
+        
+        result = response.json()
+        
+        if isinstance(result, list) and len(result) > 0:
+            generated_text = result[0].get("generated_text", "")
+            # 清理回答
+            generated_text = generated_text.strip()
+            # 移除可能的重复提示词
+            if "[/INST]" in generated_text:
+                generated_text = generated_text.split("[/INST]")[-1].strip()
+            return generated_text
+        else:
+            return "申し訳ございませんが、回答を生成できませんでした。もう一度お試しください。"
+    
+    except requests.exceptions.RequestException as e:
+        return f"APIリクエストエラー: {str(e)}。もう一度お試しください。"
+    except Exception as e:
+        return f"エラーが発生しました: {str(e)}"
+
+# 创建Gradio界面
+def create_interface():
+    with gr.Blocks(title="農業相談チャットボット", theme=gr.themes.Soft()) as demo:
+        gr.Markdown("""
+        # 🌾 農業相談チャットボット
+        
+        農家さんの質問や懸念に対して、親しみやすく分かりやすい回答をします。
+        農業に関する質問を気軽にどうぞ！
+        
+        **注意**: このバージョンはHugging Face Inference APIを使用しています。
+        """)
+        
+        chatbot = gr.Chatbot(
+            label="チャット",
+            height=500,
+            show_copy_button=True
+        )
+        
+        with gr.Row():
+            msg = gr.Textbox(
+                label="メッセージ",
+                placeholder="農業に関する質問を入力してください...",
+                scale=4,
+                lines=2
+            )
+            submit_btn = gr.Button("送信", variant="primary", scale=1)
+        
+        with gr.Row():
+            clear_btn = gr.Button("会話をクリア", variant="secondary")
+        
+        # 示例问题
+        gr.Markdown("### 💡 質問例")
+        examples = gr.Examples(
+            examples=[
+                "中干期を延ばすと米がパサパサになるって聞いたんだけど、そんなリスクは取りたくないんだよ。",
+                "収量が減ったらどうするんだ？家族を養っていかなきゃならないんだよ。",
+                "水の管理が難しくなるんじゃないか？今でも大変なのに。",
+                "高齢で体力に自信がないんだ。新しいことを覚えられるかな。",
+            ],
+            inputs=msg,
+            label="クリックして試してみてください"
+        )
+        
+        # 事件处理
+        def user(user_message, history):
+            return "", history + [[user_message, None]]
+        
+        def bot(history):
+            if not history or not history[-1][0]:
+                return history
+            
+            user_message = history[-1][0]
+            response = generate_response(user_message, history[:-1])
+            history[-1][1] = response
+            return history
+        
+        msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False).then(
+            bot, chatbot, chatbot
+        )
+        submit_btn.click(user, [msg, chatbot], [msg, chatbot], queue=False).then(
+            bot, chatbot, chatbot
+        )
+        clear_btn.click(lambda: None, None, chatbot, queue=False)
+    
+    return demo
+
+if __name__ == "__main__":
+    demo = create_interface()
+    demo.launch(server_name="0.0.0.0", server_port=7860, share=False)
+

config.json

@@ -0,0 +1,8 @@
+{
+  "model_name": "elyza/ELYZA-japanese-Llama-2-7b-instruct",
+  "max_new_tokens": 512,
+  "temperature": 0.7,
+  "top_p": 0.9,
+  "system_prompt_file": "system_prompt.txt"
+}
+

requirements.txt

@@ -0,0 +1,7 @@
+gradio>=4.0.0
+transformers>=4.35.0
+torch>=2.0.0
+accelerate>=0.24.0
+sentencepiece>=0.1.99
+requests>=2.31.0
+

system_prompt.txt

@@ -0,0 +1,22 @@
+あなたは農業推進事業者です。農家さんの質問や懸念に対して、共感的で具体的な回答をしてください。
+
+回答のスタイル：
+- 親しみやすい口語体を使う（「おじさん」「俺」「だよね」など）
+- 農家さんの気持ちに共感する（「そうだよね」「心配だよね」「分かる分かる」など）
+- 具体的な例や実際の経験を挙げる（「去年参加した○○さん」「実際にやってみると」など）
+- 技術的な専門用語や統計データは避ける
+- 柔軟な解決策を提案する
+- 日常的な言葉や比喩を使う
+- 農家さんを尊重し、強制しない姿勢を示す
+- 実践的で分かりやすい説明をする
+
+以下のような表現を避ける：
+- 「統計的に見て」「データによれば」「科学的根拠に基づき」などの専門的表現
+- 「推奨いたします」「必要となります」などの硬い敬語
+- 数値やパーセンテージを多用する説明
+
+代わりに、以下のような表現を使う：
+- 「実際にやってみると」「去年のデータ見ても」
+- 「一緒にやってみようよ」「相談しようね」
+- 「大丈夫だよ」「安心して」などの安心感を与える言葉
+