ExtraJeff commited on
Commit
57040cf
·
verified ·
1 Parent(s): 74f380d

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +237 -3
README.md CHANGED
@@ -1,3 +1,237 @@
1
- ---
2
- license: apache-2.0
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - en
4
+ - zh
5
+ license: apache-2.0
6
+ task_categories:
7
+ - sequence-modeling
8
+ - regression
9
+ - classification
10
+ task_ids:
11
+ - time-series-forecasting
12
+ - player-behavior-analysis
13
+ pretty_name: "Wordle Game Prediction Dataset"
14
+ size_categories:
15
+ - 1K<n<10K
16
+ dataset_info:
17
+ features:
18
+ - name: Username
19
+ dtype: string
20
+ - name: Game
21
+ dtype: int32
22
+ - name: Trial
23
+ dtype: int32
24
+ - name: target
25
+ dtype: string
26
+ - name: is_success
27
+ dtype: int32
28
+ - name: activity_level
29
+ dtype: string
30
+ splits:
31
+ - name: raw_data
32
+ num_bytes: 1024000
33
+ num_examples: 10000
34
+ - name: preprocessed
35
+ num_bytes: 2048000
36
+ num_examples: 10000
37
+ - name: with_features
38
+ num_bytes: 4096000
39
+ num_examples: 10000
40
+ download_size: 5120000
41
+ dataset_size: 7168000
42
+ tags:
43
+ - wordle
44
+ - game-analytics
45
+ - player-behavior
46
+ - lstm
47
+ - time-series
48
+ ---
49
+ # Wordle游戏预测项目 - 数据集描述文档
50
+
51
+ ## 数据集概览
52
+
53
+ 这个数据集包含了Wordle游戏玩家的历史记录,用于预测玩家完成游戏所需的尝试次数。数据集经过三个阶段的处理:原始数据、预处理数据和特征工程数据。
54
+
55
+ ### 下载和使用
56
+ ```python
57
+ # 安装必要的库
58
+ !pip install datasets pandas numpy
59
+
60
+ # 加载数据集(示例)
61
+ from datasets import load_dataset
62
+
63
+ # 根据你的数据集名称调整
64
+ dataset = load_dataset("your-username/wordle-game-prediction")
65
+ ```
66
+
67
+ ## 1. 原始数据集(01_raw_data/wordle_games.csv)
68
+
69
+ ### 1.1 数据集基本信息
70
+ - **数据来源**:Wordle游戏玩家历史记录
71
+ - **数据格式**:CSV格式
72
+ - **数据量**:根据预处理脚本输出,原始记录数约为处理前的数量
73
+
74
+ ### 1.2 字段描述
75
+ | 字段名 | 数据类型 | 描述 |
76
+ |-------|---------|------|
77
+ | Username | 字符串 | 玩家唯一标识符 |
78
+ | Game | 整数 | 游戏ID,标识每一局游戏 |
79
+ | Trial | 整数 | 玩家完成该局游戏所需的尝试次数(1-6次成功,>6次失败) |
80
+ | processed_text | 字符串 | 包含玩家每一次尝试的反馈序列,以空格分隔,如"🟩🟨⬜⬜⬜ 🟩🟩🟩🟩🟩" |
81
+ | target | 字符串 | 该局游戏的目标单词(5个字母) |
82
+
83
+ ### 1.3 数据示例
84
+ ```csv
85
+ Username,Game,Trial,processed_text,target
86
+ player1,1,2,"🟩🟨⬜⬜⬜ 🟩🟩🟩🟩🟩",apple
87
+ player2,2,4,"⬜⬜⬜⬜⬜ 🟨🟨⬜⬜⬜ 🟩🟩🟨⬜⬜ 🟩🟩🟩🟩🟩",banana
88
+ ```
89
+
90
+ ## 2. 预处理数据集(02_data_preprocessing/output/wordle_preprocessed.csv)
91
+
92
+ ### 2.1 数据集基本信息
93
+ - **生成脚本**:`wordle_lstm_project/02_data_preprocessing/data_preprocessing.py`
94
+ - **数据格式**:CSV格式
95
+ - **数据处理流程**:
96
+ 1. 加载原始数据
97
+ 2. 保留必要字段并删除空值
98
+ 3. 解析反馈序列文本
99
+ 4. 将反馈符号编码为数字(🟩→2, 🟨→1, ⬜→0)
100
+ 5. 填充或截断反馈序列至固定长度7
101
+ 6. 转换为numpy友好格式
102
+ 7. 按玩家和时间排序
103
+
104
+ ### 2.2 字段描述
105
+ | 字段名 | 数据类型 | 描述 |
106
+ |-------|---------|------|
107
+ | Username | 字符串 | 玩家唯一标识符 |
108
+ | Game | 整数 | 游戏ID |
109
+ | Trial | 整数 | 玩家完成该局游戏所需的尝试次数 |
110
+ | processed_text | 列表 | 解析后的反馈序列列表,每个元素为5个反馈符号的字符串 |
111
+ | target | 字符串 | 目标单词 |
112
+ | feedback_sequence | 列表 | 编码并填充后的反馈序列,形状为(7,5),每个元素为0-2的整数 |
113
+
114
+ ### 2.3 数据编码说明
115
+ - **反馈符号编码**:🟩(正确位置)→2, 🟨(存在但位置错误)→1, ⬜(不存在)→0
116
+ - **序列长度**:固定为7,不足则用全0填充,超过则截断
117
+ - **序列形状**:每个序列包含7个尝试,每个尝试包含5个字母的反馈结果
118
+
119
+ ## 3. 特征工程数据集(03_feature_engineering/output/wordle_with_player_features.csv)
120
+
121
+ ### 3.1 数据集基本信息
122
+ - **生成脚本**:`wordle_lstm_project/03_feature_engineering/player_statistics.py`
123
+ - **数据格式**:CSV格式
124
+ - **数据处理流程**:
125
+ 1. 加载预处理数据
126
+ 2. 计算成功指标
127
+ 3. 为每个玩家计算历史统计特征
128
+ 4. 计算最近N场游戏的滚动统计特征
129
+ 5. 计算反馈序列的熵
130
+ 6. 分配玩家活跃度等级
131
+ 7. 计算目标单词的难度特征
132
+
133
+ ### 3.2 字段描述
134
+
135
+ #### 3.2.1 基础字段
136
+ | 字段名 | 数据类型 | 描述 |
137
+ |-------|---------|------|
138
+ | Username | 字符串 | 玩家唯一标识符 |
139
+ | Game | 整数 | 游戏ID |
140
+ | Trial | 整数 | 玩家完成该局游戏所需的尝试次数 |
141
+ | processed_text | 列表 | 解析后的反馈序列列表 |
142
+ | target | 字符串 | 目标单词 |
143
+ | feedback_sequence | 列表 | 编码并填充后的反馈序列 |
144
+ | is_success | 整数 | 是否成功完成游戏(0=失败,1=成功) |
145
+
146
+ #### 3.2.2 玩家历史特征
147
+ | 字段名 | 数据类型 | 描述 |
148
+ |-------|---------|------|
149
+ | hist_game_count | 整数 | 玩家历史游戏次数(截至当前���前) |
150
+ | hist_avg_trial | 浮点数 | 玩家历史平均尝试次数(截至当前局前) |
151
+ | hist_success_rate | 浮点数 | 玩家历史成功率(截至当前局前) |
152
+ | recent_avg_trial | 浮点数 | 最近5场游戏的平均尝试次数(截至当前局前) |
153
+ | recent_success_rate | 浮点数 | 最近5场游戏的成功率(截至当前局前) |
154
+ | recent_stability | 浮点数 | 最近5场游戏尝试次数的标准差,衡量稳定性 |
155
+ | activity_level | 字符串 | 玩家活跃度等级(newbie/casual/active/veteran/master) |
156
+
157
+ #### 3.2.3 反馈序列特征
158
+ | 字段名 | 数据类型 | 描述 |
159
+ |-------|---------|------|
160
+ | feedback_entropy | 浮点数 | 反馈序列的熵值,衡量反馈的不确定性 |
161
+
162
+ #### 3.2.4 目标单词难度特征
163
+ | 字段名 | 数据类型 | 描述 |
164
+ |-------|---------|------|
165
+ | word_length | 整数 | 单词长度(固定为5) |
166
+ | num_vowels | 整数 | 元音字母数量 |
167
+ | num_consonants | 整数 | 辅音字母数量 |
168
+ | avg_letter_frequency | 浮点数 | 平均字母频率,基于英文字母频率表 |
169
+ | num_unique_letters | 整数 | 唯一字母数量 |
170
+ | has_repeated_letters | 整数 | 是否有重复字母(0=无,1=有) |
171
+ | total_letter_frequency | 浮点数 | 总字母频率,衡量单词的常见程度 |
172
+
173
+ ### 3.3 活跃度等级划分
174
+ | 等级 | 游戏次数范围 | 描述 |
175
+ |------|------------|------|
176
+ | newbie | ≤5 | 新玩家 |
177
+ | casual | 6-20 | 休闲玩家 |
178
+ | active | 21-50 | 活跃玩家 |
179
+ | veteran | 51-100 | 资深玩家 |
180
+ | master | >100 | 大师玩家 |
181
+
182
+ ### 3.4 单词难度计算说明
183
+ - 基于字母频率、元音/辅音比例、唯一性等多个维度计算
184
+ - 字母频率基于标准英文文本统计
185
+ - 总频率越高,单词越常见,难度越低
186
+ - 唯一字母数量越多,通常难度越高
187
+
188
+ ## 4. 数据关系
189
+
190
+ ```
191
+ 原始数据集 → 预处理数据集 → 特征工程数据集
192
+ ↓ ↓ ↓
193
+ wordle_games.csv → wordle_preprocessed.csv → wordle_with_player_features.csv
194
+ ```
195
+
196
+ ## 5. 数据用途
197
+
198
+ 1. **原始数据集**:用于初始数据分析和理解玩家行为模式
199
+ 2. **预处理数据集**:用于模型训练的基础数据,包含编码后的反馈序列
200
+ 3. **特征工程数据集**:用于深度模型训练,包含丰富的玩家特征和单词难度特征
201
+
202
+ ## 6. 数据质量
203
+
204
+ - 所有数据集均经过清洗,删除了空值
205
+ - 反馈序列已标准化为固定长度
206
+ - 特征计算采用了防止数据泄漏的方法(如使用shift(1)避免未来信息)
207
+ - 玩家特征基于历史数据计算,确保了模型训练的有效性
208
+
209
+ ## 7. 数据格式说明
210
+
211
+ 所有数据集均为CSV格式,支持直接用Pandas等工具读取和处理。对于包含列表类型的字段,读取时需要使用适当的解析方法(如ast.literal_eval)。
212
+
213
+ ## 8. 后续处理
214
+
215
+ 特征工程数据集将进一步用于:
216
+ 1. 构建模型训练所需的序列数据和特征数据
217
+ 2. 训练LSTM、BiLSTM、LSTM-Attention和Transformer等模型
218
+ 3. 预测玩家完成游戏的尝试次数和成功率
219
+ 4. 分析模型注意力机制和性能表现
220
+
221
+ ## 引用信息
222
+
223
+ 如果你在研究中使用了这个数据集,请引用:
224
+
225
+ ```bibtex
226
+ @dataset{wordle_prediction_2024,
227
+ title = {Wordle Game Prediction Dataset},
228
+ author = {Your Name},
229
+ year = {2024},
230
+ publisher = {Hugging Face},
231
+ url = {https://huggingface.co/datasets/your-username/dataset-name}
232
+ }
233
+ ```
234
+
235
+ ## 许可证
236
+
237
+ 本数据集基于 Apache 2.0 许可证发布。