liumaolin commited on
Commit
6a33f71
·
1 Parent(s): 0df78b6

Update README for enhanced installation and usage guidance.

Browse files
Files changed (2) hide show
  1. README.md +321 -92
  2. requirements.txt +1 -1
README.md CHANGED
@@ -5,54 +5,64 @@
5
  ![Python](https://img.shields.io/badge/Python-3.9+-blue.svg)
6
  ![License](https://img.shields.io/badge/License-MIT-green.svg)
7
  ![Platform](https://img.shields.io/badge/Platform-macOS-lightgrey.svg)
 
8
 
9
  一个集成了语音识别(ASR)、大语言模型(LLM)和文本转语音(TTS)的实时语音对话系统
10
 
 
 
11
  </div>
12
 
13
  ## 🎯 项目简介
14
 
15
- VoiceDialogue 是一个完整的语音对话系统,支持:
16
- - 🎤 **实时语音识别** - 基于 Whisper 的高精度语音转文本
17
- - 🤖 **智能对话生成** - 支持多种大语言模型(Qwen、Llama、Mistral等)
 
18
  - 🔊 **高质量语音合成** - 基于 GPT-SoVITS 的多角色语音生成
19
- - 🔇 **回声消除** - 内置音频处理,支持实时语音交互
20
  - 🌍 **多语言支持** - 支持中文和英文语音识别与合成
 
21
 
22
  ## ✨ 主要特性
23
 
24
  ### 🎵 音频处理
25
- - **回声消除音频捕获** - 消除回声干扰,提升语音质量
26
- - **语音活动检测** - 自动检测用户说话状态
27
- - **实时音频流处理** - 低延迟音频播放
 
28
 
29
  ### 🗣️ 语音识别
30
- - **Whisper 模型支持** - Medium/Large 模型可选
31
- - **多语言识别** - 支持中文/英文自动识别
32
- - **实时转录** - 流式语音转文本处理
 
33
 
34
  ### 🧠 语言模型
35
- 支持多种预训练模型:
36
- - **Qwen2.5** (7B/14B) - 中文优化模型
37
- - **Llama3** (8B) - 通用对话模型
38
- - **Mistral** (7B) - 高效推理模型
39
- - **Phi-3** (mini) - 轻量级模型
40
 
41
  ### 🎭 语音合成
42
- 内置多种音色选择:
43
- - 罗翔 - 法学教授风格
44
- - 马保国 - 网络名人风格
45
- - 沈逸 - 学者风格
46
- - 杨幂 - 明星风格
47
- - 周杰伦 - 歌手风格
48
- - 马云 - 企业家风格
49
 
50
  ## 🚀 快速开始
51
 
52
- ### 环境要求
 
 
 
 
 
53
 
54
- - Python 3.9+
55
- - macOS 14+
56
 
57
  ### 安装步骤
58
 
@@ -62,103 +72,167 @@ git clone https://huggingface.co/MoYoYoTech/VoiceDialogue
62
  cd VoiceDialogue
63
  ```
64
 
65
- 2. **创建虚拟环境**
66
  ```bash
 
67
  conda create -n voicedialogue python=3.9
68
  conda activate voicedialogue
 
 
 
 
 
69
  ```
70
 
71
- 3. **安装依赖**
72
  ```bash
73
- # 基础依赖
74
- pip install torch torchaudio --index-url https://download.pytorch.org/whl/cu118
75
- pip install -r requirements.txt
76
-
77
- # 音频处理
78
- conda install ffmpeg
79
-
80
- # macOS 额外依赖
81
- brew install ffmpeg # macOS only
82
  ```
83
 
84
- 4. **下载模型文件**
85
-
86
- 模型会在首次运行时自动下载,或手动下载:
 
87
 
 
88
  ```bash
89
- # ASR 模型 (Whisper)
90
- mkdir -p models/asr
91
- # 下载 whisper 模型到 models/asr/
92
 
93
- # LLM 模型
94
- mkdir -p models/llm
95
- # 模型将从 HuggingFace 自动下载
96
 
97
- # TTS 模型
98
- mkdir -p models/tts
99
- # GPT-SoVITS 模型将自动下载
 
 
100
  ```
101
 
102
- ### 🎮 运行程序
103
 
104
  ```bash
105
  # 启动语音对话系统
106
- python -m src.VoiceDialogue.main
107
  ```
108
 
109
- ### ⚙️ 配置选项
 
 
 
 
110
 
111
- 在 `src/VoiceDialogue/main.py` 中可以自定义:
 
 
 
 
 
112
 
113
  ```python
114
  def main():
115
  # 语言设置
116
- user_language = 'zh' # 'zh' 中文 | 'en' 英文
117
 
118
- # 系统提示词
119
- SYSTEM_PROMPT = "你是善于模拟真实思考过程的AI助手..."
 
 
 
 
 
120
 
121
- # TTS 音色选择
122
  tts_speaker = '沈逸' # 可选: 罗翔、马保国、沈逸、杨幂、周杰伦、马云
123
 
124
- # LLM 模型大小
125
- llm = '14B' # '7B' | '14B'
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
126
 
127
- # Whisper 模型
128
- whisper_model = 'medium' # 'medium' | 'large'
 
 
 
 
 
 
 
129
  ```
130
 
131
  ## 📁 项目结构
 
132
  ```text
133
  VoiceDialogue/
134
- ├── src/ # 源代码
135
- └── VoiceDialogue/ # 主要代码包
136
- ├── config/ # 配置文件
137
- └── settings.py # 系统设置
138
- │ ├── models/ # 模型相关代码
139
- ├── audio_model.py # 音频模型管理
140
- ├── llm_model.py # 语言模型管理
141
- └── ...
142
- │ ├── services/ # 服务模块
143
- ├── audio/ # 音频处理服务
144
- ├── speech/ # 语音识别服务
145
- ├── text/ # 文本生成服务
146
- │ │ └── core/ # 核心服务
147
- │ ├── utils/ # 工具函数
148
- │ └── main.py # 主程序入口
149
- ├── models/ # 预训练模型
150
- ├── asr/ # 语音识别模型
151
- └── tts/ # 语音合成模型
152
- ├── resources/ # 资源文件
153
- ├── audio/ # 音频资源
154
- ├── libraries/ # 动态库
155
- └── models/ # 模型配置
156
- ├── third_party/ # 第三方库
157
- ├── tests/ # 测试文件
158
- └── docs/ # 文档
 
 
 
 
 
 
 
 
 
159
  ```
160
 
161
  ## 🔧 系统架构
 
 
 
162
  ```
163
  用户语音输入 → 回声消除 → 语音活动检测 → Whisper转录 → LLM生成回复 → TTS合成 → 音频输出
164
  ↑ ↓
@@ -166,12 +240,167 @@ VoiceDialogue/
166
  ```
167
 
168
 
169
- ### 核心组件
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
170
 
171
- 1. **EchoCancellingAudioCapture** - 回声消除音频捕获
172
- 2. **SpeechStateMonitor** - 语音状态监控
173
- 3. **WhisperWorker** - Whisper语音识别
174
- 4. **LLMResponseGenerator** - LLM文本生成
175
- 5. **TTSAudioGenerator** - TTS语音合成
176
- 6. **AudioStreamPlayer** - 音频流播放
177
 
 
 
5
  ![Python](https://img.shields.io/badge/Python-3.9+-blue.svg)
6
  ![License](https://img.shields.io/badge/License-MIT-green.svg)
7
  ![Platform](https://img.shields.io/badge/Platform-macOS-lightgrey.svg)
8
+ ![Version](https://img.shields.io/badge/Version-1.0.0-orange.svg)
9
 
10
  一个集成了语音识别(ASR)、大语言模型(LLM)和文本转语音(TTS)的实时语音对话系统
11
 
12
+ [快速开始](#-快速开始) • [功能特性](#-主要特性) • [配置说明](#-配置选项) • [系统架构](#-系统架构) • [故障排除](#-故障排除)
13
+
14
  </div>
15
 
16
  ## 🎯 项目简介
17
 
18
+ VoiceDialogue 是一个基于 Python 的完整语音对话系统,实现了端到端的语音交互体验。系统采用模块化设计,支持:
19
+
20
+ - 🎤 **实时语音识别** - 基于 Whisper 的高精度语音转文本,支持中英文识别
21
+ - 🤖 **智能对话生成** - 集成多种大语言模型(Qwen2.5、Llama3、Mistral等)
22
  - 🔊 **高质量语音合成** - 基于 GPT-SoVITS 的多角色语音生成
23
+ - 🔇 **回声消除** - 内置音频处理技术,支持实时语音交互
24
  - 🌍 **多语言支持** - 支持中文和英文语音识别与合成
25
+ - ⚡ **低延迟处理** - 优化的音频流处理管道,实现流畅对话体验
26
 
27
  ## ✨ 主要特性
28
 
29
  ### 🎵 音频处理
30
+ - **回声消除音频捕获** - 自动消除回声干扰,提升语音质量
31
+ - **语音活动检测(VAD)** - 智能检测用户说话状态,自动开始/停止录制
32
+ - **实时音频流处理** - 低延迟音频播放和处理
33
+ - **多格式音频支持** - 支持多种音频格式的输入输出
34
 
35
  ### 🗣️ 语音识别
36
+ - **Whisper 模型支持** - 支持 Medium/Large 模型,可根据精度需求选择
37
+ - **多语言识别** - 自动识别中文/英文语音内容
38
+ - **实时转录** - 流式语音转文本处理,降低响应延迟
39
+ - **高精度识别** - 基于 OpenAI Whisper 的领先语音识别技术
40
 
41
  ### 🧠 语言模型
42
+ 支持多种预训练大语言模型:
43
+ - **Qwen2.5** (7B/14B) - 阿里巴巴开源的中文优化模型
44
+ - **Llama3** (8B) - Meta 开源的通用对话模型
45
+ - **Mistral** (7B) - 高效推理的欧洲开源模型
46
+ - **自定义系统提示词** - 可配置 AI 助手的行为风格
47
 
48
  ### 🎭 语音合成
49
+ 内置丰富的音色选择,基于 GPT-SoVITS 技术:
50
+ - **罗翔** - 法学教授风格,适合严肃话题
51
+ - **马保国** - 网络名人风格,轻松幽默
52
+ - **沈逸** - 学者风格,理性分析
53
+ - **杨幂** - 明星风格,亲和力强
54
+ - **周杰伦** - 歌手风格,个性鲜明
55
+ - **马云** - 企业家风格,商务感强
56
 
57
  ## 🚀 快速开始
58
 
59
+ ### 系统要求
60
+
61
+ - **操作系统**: macOS 14+ (推荐)
62
+ - **Python 版本**: 3.9 或更高版本
63
+ - **内存要求**: 至少 16GB RAM (推荐 32GB 用于大模型)
64
+ - **存储空间**: 至少 20GB 可用空间 (用于模型文件)
65
 
 
 
66
 
67
  ### 安装步骤
68
 
 
72
  cd VoiceDialogue
73
  ```
74
 
75
+ 2. **创建并激活虚拟环境**
76
  ```bash
77
+ # 使用 conda (推荐)
78
  conda create -n voicedialogue python=3.9
79
  conda activate voicedialogue
80
+
81
+ # 或使用 virtualenv
82
+ python -m venv voicedialogue
83
+ source voicedialogue/bin/activate # Linux/macOS
84
+ # voicedialogue\Scripts\activate # Windows
85
  ```
86
 
87
+ 3. **安装 whisper.cpp**
88
  ```bash
89
+ WHISPER_COREML=1 pip install git+https://github.com/absadiki/pywhispercpp
90
+ ```
91
+ 4. **安装 llama.cpp**
92
+ ```bash
93
+ CMAKE_ARGS="-DGGML_METAL=on" pip install llama-cpp-python
 
 
 
 
94
  ```
95
 
96
+ 5**安装项目依赖**
97
+ ```bash
98
+ pip install -r requirements.txt
99
+ ```
100
 
101
+ 6**安装音频处理工具**
102
  ```bash
103
+ # macOS
104
+ brew install ffmpeg
 
105
 
106
+ # Ubuntu/Debian
107
+ sudo apt update
108
+ sudo apt install ffmpeg
109
 
110
+ # CentOS/RHEL
111
+ sudo yum install ffmpeg
112
+
113
+ # 或使用 conda
114
+ conda install ffmpeg
115
  ```
116
 
117
+ ### 🎮 首次运行
118
 
119
  ```bash
120
  # 启动语音对话系统
121
+ python src/VoiceDialogue/main.py
122
  ```
123
 
124
+ **首次运行说明**:
125
+ - 系统会自动下载所需的模型文件 (约 5-10GB)
126
+ - 下载时间取决于网络速度,请耐心等待
127
+ - 模型文件会保存在 `~/.moyoyo_ai/` 目录下
128
+ - 看到 "服务启动成功" 提示后即可开始语音对话
129
 
130
+
131
+ ## ⚙️ 配置选项
132
+
133
+ ### 基础配置
134
+
135
+ 在 `src/VoiceDialogue/main.py` 的 `main()` 函数中可以自定义以下选项:
136
 
137
  ```python
138
  def main():
139
  # 语言设置
140
+ user_language = 'zh' # 'zh': 中文 | 'en': 英文
141
 
142
+ # 系统提示词 - 定义 AI 助手的行为风格
143
+ SYSTEM_PROMPT = (
144
+ "你是善于模拟真实的思考过程的AI助手。"
145
+ "回答时,必须首先生成一个不超过5个字的简短句子,"
146
+ "比如:\"让我想一下\"、\"在我看来\"、\"稍等我理一理\"等,"
147
+ "然后再进行正式回答,保持中文口语化表达。"
148
+ )
149
 
150
+ # TTS 语音合成角色
151
  tts_speaker = '沈逸' # 可选: 罗翔、马保国、沈逸、杨幂、周杰伦、马云
152
 
153
+ # 大语言模型规模
154
+ llm = '14B' # '7B': 更快推理 | '14B': 更好效果
155
+
156
+ # Whisper 语音识别模型
157
+ whisper_model = 'medium' # 'medium': 平衡速度和精度 | 'large': 最高精度
158
+ ```
159
+
160
+ ### 高级配置
161
+
162
+ #### 大语言模型参数调优
163
+
164
+ ```python
165
+ # 在 main.py 中的 default_llm_params 字典
166
+ default_llm_params = {
167
+ 'streaming': True, # 启用流式输出
168
+ 'n_gpu_layers': -1, # GPU 层数 (-1 为全部)
169
+ 'n_batch': 512, # 批处理大小
170
+ 'n_ctx': 2048, # 上下文长度
171
+ 'f16_kv': True, # 16位浮点数
172
+ 'temperature': 0.8, # 创造性参数 (0.0-1.0)
173
+ 'top_k': 50, # Top-K 采样
174
+ 'top_p': 1.0, # Top-P 采样
175
+ }
176
+
177
+ #### 路径配置
178
+
179
+ 系统使用 `src/VoiceDialogue/config/settings.py` 管理路径配置:
180
 
181
+ ```python
182
+ # 默认数据目录
183
+ DATA_FOLDER = ~/.moyoyo_ai/
184
+
185
+ # 模型存储路径
186
+ ├── llm_models/ # 大语言模型
187
+ ├── audio_models/ # TTS 语音模型
188
+ ├── audio_output/ # 音频输出文件
189
+ └── .single_instance_locker # 单实例锁文件
190
  ```
191
 
192
  ## 📁 项目结构
193
+
194
  ```text
195
  VoiceDialogue/
196
+ ├── src/ # 源代码目录
197
+ └── VoiceDialogue/ # 主要代码包
198
+ ├── config/ # 配置管理
199
+ ├── __init__.py
200
+ ├── paths.py # 路径配置
201
+ └── settings.py # 系统设置
202
+ ├── models/ # 模型管理模块
203
+ ├── audio_model.py # 音频模型管理
204
+ ├── language_model.py # 语言模型管理
205
+ └── voice_model.py # 语音模型管理
206
+ ├── services/ # 服务模块
207
+ ├── audio/ # 音频处理服务
208
+ ├── aec_audio_capture.py # 回声消除捕获
209
+ ├── audio_answer.py # TTS 音频生成
210
+ └── audio_player.py # 音频播放
211
+ │ │ ├── speech/ # 语音识别服务
212
+ │ │ ├── speech_monitor.py # 语音状态监控
213
+ │ │ └── whisper_service.py # Whisper 识别服务
214
+ │ │ ├── text/ # 文本生成服务
215
+ │ │ └── text_generator.py # LLM 文本生成
216
+ │ └── core/ # 核心服务
217
+ ├── utils/ # 工具函数
218
+ │ └── main.py # 主程序入口
219
+ ├── models/ # 预训练模型存储
220
+ └── asr/ # 语音识别模型
221
+ ├── resources/ # 资源文件
222
+ │ ├── audio/ # 音频资源
223
+ │ └── libraries/ # 动态库文件
224
+ ├── third_party/ # 第三方库
225
+ ├── tests/ # 测试文件
226
+ ├── docs/ # 文档目录
227
+ ├── requirements.txt # Python 依赖
228
+ ├── .gitignore # Git 忽略文件
229
+ └── README.md # 项目说明文档
230
  ```
231
 
232
  ## 🔧 系统架构
233
+
234
+ ### 数据流程图
235
+
236
  ```
237
  用户语音输入 → 回声消除 → 语音活动检测 → Whisper转录 → LLM生成回复 → TTS合成 → 音频输出
238
  ↑ ↓
 
240
  ```
241
 
242
 
243
+ ### 核心组件说明
244
+
245
+ | 组件 | 功能描述 | 技术实现 |
246
+ |------|----------|----------|
247
+ | **EchoCancellingAudioCapture** | 回声消除音频捕获 | 实时音频流捕获与预处理 |
248
+ | **SpeechStateMonitor** | 语音活动检测 | VAD 算法检测用户说话状态 |
249
+ | **WhisperWorker** | 语音识别转录 | OpenAI Whisper 模型推理 |
250
+ | **LLMResponseGenerator** | 智能文本生成 | 大语言模型对话生成 |
251
+ | **TTSAudioGenerator** | 语音合成 | GPT-SoVITS 文本转语音 |
252
+ | **AudioStreamPlayer** | 音频流播放 | 实时音频输出播放 |
253
+
254
+ ### 多线程架构
255
+
256
+ 系统采用多线程并发处理架构,通过消息队列实现组件间通信:
257
+
258
+ - `audio_frames_queue`: 原始音频帧队列
259
+ - `user_voice_queue`: 用户语音片段队列
260
+ - `transcribed_text_queue`: 转录文本队列
261
+ - `generated_answer_queue`: 生成回答队列
262
+ - `tts_generated_audio_queue`: TTS 音频队列
263
+
264
+ ## 🔍 使用指南
265
+
266
+ ### 基本使用流程
267
+
268
+ 1. **启动系统**: 运行 `python -m src.VoiceDialogue.main`
269
+ 2. **等待加载**: 首次运行会下载模型,请耐心等待
270
+ 3. **开始对话**: 看到"服务启动成功"后直接开始说话
271
+ 4. **语音交互**: 系统会自动检测语音并进行对话
272
+ 5. **停止系统**: 使用 Ctrl+C 终止程序
273
+
274
+ ### 性能优化建议
275
+
276
+ #### 硬件优化
277
+ - **GPU 加速**: 如有 NVIDIA GPU,确保安装 CUDA 版本的 PyTorch
278
+ - **内存管理**: 16GB RAM 可同时运行 14B 模型,8GB RAM 建议使用 7B 模型
279
+ - **存储优化**: SSD 硬盘可显著提升模型加载速度
280
+
281
+ #### 软件优化
282
+ ```python
283
+ # 针对不同硬件配置的推荐设置
284
+
285
+ # 高性能配置 (16GB+ RAM, GPU)
286
+ llm = '14B'
287
+ whisper_model = 'large'
288
+ default_llm_params['n_batch'] = 1024
289
+ default_llm_params['n_ctx'] = 4096
290
+
291
+ # 平衡配置 (8-16GB RAM)
292
+ llm = '7B'
293
+ whisper_model = 'medium'
294
+ default_llm_params['n_batch'] = 512
295
+ default_llm_params['n_ctx'] = 2048
296
+
297
+ # 轻量配置 (8GB RAM, CPU only)
298
+ llm = '7B'
299
+ whisper_model = 'medium'
300
+ default_llm_params['n_gpu_layers'] = 0
301
+ default_llm_params['n_batch'] = 256
302
+ ```
303
+
304
+ ## 🛠️ 故障排除
305
+
306
+ ### 常见问题及解决方案
307
+
308
+ #### 1. 模型下载失败
309
+ ```bash
310
+ # 问题: 网络连接超时或模型下载失败
311
+ # 解决方案:
312
+ export HF_ENDPOINT=https://hf-mirror.com # 使用镜像站点
313
+ pip install -U huggingface_hub
314
+ ```
315
+
316
+ #### 2. 音频设备问题
317
+ ```bash
318
+ # 问题: 找不到音频设备或权限被拒绝
319
+ # macOS 解决方案:
320
+ # 系统偏好设置 → 安全性与隐私 → 隐私 → 麦克风 → 添加终端应用
321
+
322
+ # Linux 解决方案:
323
+ sudo usermod -a -G audio $USER
324
+ # 重新登录生效
325
+ ```
326
+
327
+ #### 3. 内存不足错误
328
+ ```python
329
+ # 问题: CUDA out of memory 或 RAM 不足
330
+ # 解决方案: 降低模型规模和批处理大小
331
+ llm = '7B' # 改为 7B 模型
332
+ default_llm_params['n_batch'] = 256 # 减少批处理大小
333
+ default_llm_params['n_ctx'] = 1024 # 减少上下文长度
334
+ ```
335
+
336
+ #### 4. 依赖包冲突
337
+ ```bash
338
+ # 问题: 包版本冲突或导入错误
339
+ # 解决方案: 重新创建虚拟环境
340
+ conda deactivate
341
+ conda env remove -n voicedialogue
342
+ conda create -n voicedialogue python=3.9
343
+ conda activate voicedialogue
344
+ pip install -r requirements.txt
345
+ ```
346
+
347
+ ### 调试模式
348
+
349
+ 启用详细日志输出进行问题诊断:
350
+
351
+ ```python
352
+ import logging
353
+ logging.basicConfig(level=logging.DEBUG)
354
+
355
+ # 在 main.py 开头添加上述代码
356
+ ```
357
+
358
+ ### 性能监控
359
+
360
+ ```bash
361
+ # 监控系统资源使用情况
362
+ # macOS
363
+ top -pid $(pgrep -f "python.*main.py")
364
+
365
+ # Linux
366
+ htop -p $(pgrep -f "python.*main.py")
367
+
368
+ # 监控 GPU 使用 (NVIDIA)
369
+ nvidia-smi -l 1
370
+ ```
371
+
372
+ ## 📚 相关资源
373
+
374
+ ### 官方文档
375
+ - [OpenAI Whisper](https://github.com/openai/whisper)
376
+ - [GPT-SoVITS](https://github.com/RVC-Boss/GPT-SoVITS)
377
+ - [Qwen2.5 模型](https://huggingface.co/Qwen)
378
+ - [LangChain 框架](https://python.langchain.com/)
379
+
380
+ ### 社区支持
381
+ - 问题反馈: [GitHub Issues](https://github.com/MoYoYoTech/VoiceDialogue/issues)
382
+ - 功能建议: [GitHub Discussions](https://github.com/MoYoYoTech/VoiceDialogue/discussions)
383
+
384
+ ## 📄 许可证
385
+
386
+ 本项目采用 MIT 许可证开源。详细信息请查看 [LICENSE](LICENSE) 文件。
387
+
388
+ ## 🤝 贡献指南
389
+
390
+ 欢迎提交 Pull Request 和 Issue!
391
+
392
+ 1. Fork 本仓库
393
+ 2. 创建特性分支 (`git checkout -b feature/AmazingFeature`)
394
+ 3. 提交更改 (`git commit -m 'Add some AmazingFeature'`)
395
+ 4. 推送到分支 (`git push origin feature/AmazingFeature`)
396
+ 5. 开启 Pull Request
397
+
398
+ ---
399
+
400
+ <div align="center">
401
+
402
+ **如果这个项目对您有帮助,请给我们一个 ⭐️!**
403
 
404
+ Made with ❤️ by [MoYoYo Tech](https://github.com/MoYoYoTech)
 
 
 
 
 
405
 
406
+ </div>
requirements.txt CHANGED
@@ -9,7 +9,7 @@ torch==2.3.1
9
  transformers==4.41.2
10
  accelerate
11
  setuptools==70.0.0
12
- llama_cpp_python
13
  langchain==0.2.17
14
  langchain-community==0.2.17
15
 
 
9
  transformers==4.41.2
10
  accelerate
11
  setuptools==70.0.0
12
+ llama_cpp_python==0.3.9
13
  langchain==0.2.17
14
  langchain-community==0.2.17
15