huiqian commited on
Commit
846dc7c
·
verified ·
1 Parent(s): 5895473

Upload 12 files

Browse files

Upload model files and tokenizer

README.md CHANGED
@@ -1,3 +0,0 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
configuration_tinytransformer.py ADDED
@@ -0,0 +1,26 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ from transformers import PretrainedConfig
2
+
3
+ class TinyTransformerConfig(PretrainedConfig):
4
+ model_type = "tinytransformer"
5
+
6
+ def __init__(
7
+ self,
8
+ vocab_size=5000,
9
+ hidden_size=128,
10
+ num_hidden_layers=2,
11
+ num_attention_heads=4,
12
+ intermediate_size=512,
13
+ max_position_embeddings=512,
14
+ dropout=0.1,
15
+ num_labels=2,
16
+ **kwargs
17
+ ):
18
+ super().__init__(**kwargs)
19
+ self.vocab_size = vocab_size
20
+ self.hidden_size = hidden_size
21
+ self.num_hidden_layers = num_hidden_layers
22
+ self.num_attention_heads = num_attention_heads
23
+ self.intermediate_size = intermediate_size
24
+ self.max_position_embeddings = max_position_embeddings
25
+ self.dropout = dropout
26
+ self.num_labels = num_labels
data/train_data.jsonl ADDED
@@ -0,0 +1,668 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {"text": "这家店的衣服质量很好,穿起来很舒服", "label": 1}
2
+ {"text": "这家店的衣服质量很好,穿起来很舒服", "label": 1}
3
+ {"text": "性价比超高,下次还来", "label": 1}
4
+ {"text": "物流太慢了,东西也一般", "label": 0}
5
+ {"text": "老板人超好,东西也漂亮", "label": 1}
6
+ {"text": "垃圾东西,买了就后悔", "label": 0}
7
+ {"text": "五星好评,强烈推荐", "label": 1}
8
+ {"text": "差评,质量太差了", "label": 0}
9
+ {"text": "包装精美,很有档次", "label": 1}
10
+ {"text": "客服完全不理人,太失望了", "label": 0}
11
+ {"text": "面料柔软,做工精细", "label": 1}
12
+ {"text": "实物与图片严重不符", "label": 0}
13
+ {"text": "穿着合身,版型很正", "label": 1}
14
+ {"text": "尺码不准,太大了", "label": 0}
15
+ {"text": "颜色鲜艳,很显气质", "label": 1}
16
+ {"text": "掉色严重,不敢再洗", "label": 0}
17
+ {"text": "性价比之王,物超所值", "label": 1}
18
+ {"text": "价格虚高,完全不值", "label": 0}
19
+ {"text": "款式新颖,朋友都说好看", "label": 1}
20
+ {"text": "线头太多,细节粗糙", "label": 0}
21
+ {"text": "发货迅速,第二天就到了", "label": 1}
22
+ {"text": "等了半个月还没发货", "label": 0}
23
+ {"text": "设计独特,回头率很高", "label": 1}
24
+ {"text": "材质廉价,像地摊货", "label": 0}
25
+ {"text": "穿上显瘦,很满意", "label": 1}
26
+ {"text": "穿上显胖,版型有问题", "label": 0}
27
+ {"text": "客服耐心解答,服务周到", "label": 1}
28
+ {"text": "售后推诿,问题没解决", "label": 0}
29
+ {"text": "穿着舒适,适合日常", "label": 1}
30
+ {"text": "布料扎人,根本没法穿", "label": 0}
31
+ {"text": "细节完美,没有瑕疵", "label": 1}
32
+ {"text": "有污渍,明显是二手", "label": 0}
33
+ {"text": "物美价廉,会回购", "label": 1}
34
+ {"text": "质量差到没朋友", "label": 0}
35
+ {"text": "上身效果惊艳", "label": 1}
36
+ {"text": "和想象中天差地别", "label": 0}
37
+ {"text": "包装严实,没有损坏", "label": 1}
38
+ {"text": "收到时包装都破了", "label": 0}
39
+ {"text": "卖家很有诚信", "label": 1}
40
+ {"text": "虚假宣传,骗人的", "label": 0}
41
+ {"text": "穿着透气不闷热", "label": 1}
42
+ {"text": "闷热不透气,很难受", "label": 0}
43
+ {"text": "做工考究,大牌感觉", "label": 1}
44
+ {"text": "扣子都快掉了", "label": 0}
45
+ {"text": "款式百搭,好搭配", "label": 1}
46
+ {"text": "很难搭配,闲置了", "label": 0}
47
+ {"text": "物流信息更新及时", "label": 1}
48
+ {"text": "物流信息一直不更新", "label": 0}
49
+ {"text": "价格实惠,质量过硬", "label": 1}
50
+ {"text": "一分钱一分货,太差了", "label": 0}
51
+ {"text": "客服回复很快", "label": 1}
52
+ {"text": "问了半天没人回", "label": 0}
53
+ {"text": "尺码标准,按平时码买就行", "label": 1}
54
+ {"text": "尺码混乱,不知道该买什么码", "label": 0}
55
+ {"text": "没有色差,和图片一样", "label": 1}
56
+ {"text": "色差巨大,根本不是同一个颜色", "label": 0}
57
+ {"text": "面料有弹性,活动自如", "label": 1}
58
+ {"text": "弹性差,一动就紧绷", "label": 0}
59
+ {"text": "赠品也很实用", "label": 1}
60
+ {"text": "说好的赠品没有发", "label": 0}
61
+ {"text": "穿着显高,很满意", "label": 1}
62
+ {"text": "穿着显矮,比例奇怪", "label": 0}
63
+ {"text": "洗涤后不变形", "label": 1}
64
+ {"text": "洗了一次就缩水了", "label": 0}
65
+ {"text": "卖家态度亲切", "label": 1}
66
+ {"text": "卖家态度恶劣,爱答不理", "label": 0}
67
+ {"text": "穿着很舒服,像没穿一样", "label": 1}
68
+ {"text": "穿着难受,束缚感强", "label": 0}
69
+ {"text": "物有所值,非常满意", "label": 1}
70
+ {"text": "浪费钱,后悔死了", "label": 0}
71
+ {"text": "设计人性化,口袋多", "label": 1}
72
+ {"text": "设计反人类,不方便", "label": 0}
73
+ {"text": "版型修身,不臃肿", "label": 1}
74
+ {"text": "版型宽松,像睡袋", "label": 0}
75
+ {"text": "颜色正,很衬肤色", "label": 1}
76
+ {"text": "颜色显黑,不适合", "label": 0}
77
+ {"text": "性价比高到爆炸", "label": 1}
78
+ {"text": "性价比为零,纯属坑人", "label": 0}
79
+ {"text": "客服主动解决问题", "label": 1}
80
+ {"text": "客服只会复制粘贴", "label": 0}
81
+ {"text": "包装很有仪式感", "label": 1}
82
+ {"text": "包装简陋,就一个塑料袋", "label": 0}
83
+ {"text": "穿着逛街一整天都不累", "label": 1}
84
+ {"text": "穿了半小时就不舒服", "label": 0}
85
+ {"text": "值得这个价钱", "label": 1}
86
+ {"text": "白送我都不要", "label": 0}
87
+ {"text": "细节处理得很好", "label": 1}
88
+ {"text": "到处都是线头", "label": 0}
89
+ {"text": "面料厚实,有质感", "label": 1}
90
+ {"text": "面料薄透,很廉价", "label": 0}
91
+ {"text": "上身效果好,显气质", "label": 1}
92
+ {"text": "上身效果土气", "label": 0}
93
+ {"text": "发货快,物流给力", "label": 1}
94
+ {"text": "发货慢,物流更慢", "label": 0}
95
+ {"text": "卖家很负责任", "label": 1}
96
+ {"text": "出了问题卖家就消失", "label": 0}
97
+ {"text": "穿着很凉快", "label": 1}
98
+ {"text": "���着很闷,不透气", "label": 0}
99
+ {"text": "没有异味,可以直接穿", "label": 1}
100
+ {"text": "味道刺鼻,不敢穿", "label": 0}
101
+ {"text": "裁剪立体,很显身材", "label": 1}
102
+ {"text": "裁剪有问题,歪歪扭扭", "label": 0}
103
+ {"text": "配件质量也很好", "label": 1}
104
+ {"text": "拉链是坏的", "label": 0}
105
+ {"text": "颜色耐看,不过时", "label": 1}
106
+ {"text": "颜色老气,像大妈穿的", "label": 0}
107
+ {"text": "客服热情有礼貌", "label": 1}
108
+ {"text": "客服冷冰冰的", "label": 0}
109
+ {"text": "包装盒很漂亮", "label": 1}
110
+ {"text": "包装破损严重", "label": 0}
111
+ {"text": "穿着轻便无负担", "label": 1}
112
+ {"text": "衣服很重,穿着累", "label": 0}
113
+ {"text": "洗涤说明清晰", "label": 1}
114
+ {"text": "没有洗涤标签", "label": 0}
115
+ {"text": "物美价廉的代表", "label": 1}
116
+ {"text": "价格高质量差", "label": 0}
117
+ {"text": "非常百搭的一款", "label": 1}
118
+ {"text": "很难搭配衣服", "label": 0}
119
+ {"text": "穿着很显瘦", "label": 1}
120
+ {"text": "穿着显胖十斤", "label": 0}
121
+ {"text": "没有任何瑕疵", "label": 1}
122
+ {"text": "有明显破洞", "label": 0}
123
+ {"text": "面料顺滑,手感好", "label": 1}
124
+ {"text": "面料粗糙,磨皮肤", "label": 0}
125
+ {"text": "设计简洁大方", "label": 1}
126
+ {"text": "设计花里胡哨", "label": 0}
127
+ {"text": "尺码很全,选择多", "label": 1}
128
+ {"text": "尺码不全,没我穿的", "label": 0}
129
+ {"text": "物流送货上门", "label": 1}
130
+ {"text": "物流直接扔快递柜", "label": 0}
131
+ {"text": "客服专业,解答清楚", "label": 1}
132
+ {"text": "客服一问三不知", "label": 0}
133
+ {"text": "上身效果超好", "label": 1}
134
+ {"text": "上身效果灾难", "label": 0}
135
+ {"text": "质量对得起价格", "label": 1}
136
+ {"text": "质量配不上价格", "label": 0}
137
+ {"text": "穿着很挺括", "label": 1}
138
+ {"text": "软塌塌的没型", "label": 0}
139
+ {"text": "没有多余的线头", "label": 1}
140
+ {"text": "线头多到可以织毛衣", "label": 0}
141
+ {"text": "颜色饱满,无色差", "label": 1}
142
+ {"text": "颜色发旧,像穿过的", "label": 0}
143
+ {"text": "穿着很有型", "label": 1}
144
+ {"text": "穿着松松垮垮", "label": 0}
145
+ {"text": "物流时效快", "label": 1}
146
+ {"text": "物流龟速", "label": 0}
147
+ {"text": "客服态度超级好", "label": 1}
148
+ {"text": "客服态度让人火大", "label": 0}
149
+ {"text": "包装用心,防震好", "label": 1}
150
+ {"text": "包装随便,东西都压坏了", "label": 0}
151
+ {"text": "穿着不皱,好打理", "label": 1}
152
+ {"text": "容易起皱,很难熨", "label": 0}
153
+ {"text": "款式经典,不过时", "label": 1}
154
+ {"text": "款式过时,老土", "label": 0}
155
+ {"text": "性价比无敌", "label": 1}
156
+ {"text": "毫无性价比", "label": 0}
157
+ {"text": "客服响应迅速", "label": 1}
158
+ {"text": "客服永远在忙", "label": 0}
159
+ {"text": "面料高级,有光泽", "label": 1}
160
+ {"text": "面料廉价,没光泽", "label": 0}
161
+ {"text": "穿着很舒服,不紧绷", "label": 1}
162
+ {"text": "勒得慌,不舒服", "label": 0}
163
+ {"text": "细节满分", "label": 1}
164
+ {"text": "细节处理粗糙", "label": 0}
165
+ {"text": "颜色正点,很喜欢", "label": 1}
166
+ {"text": "颜色丑到没法看", "label": 0}
167
+ {"text": "物流服务好", "label": 1}
168
+ {"text": "物流态度差", "label": 0}
169
+ {"text": "客服解决问题的能力强", "label": 1}
170
+ {"text": "客服只会说抱歉", "label": 0}
171
+ {"text": "包装完整无缺", "label": 1}
172
+ {"text": "包装被拆过", "label": 0}
173
+ {"text": "穿着显腿长", "label": 1}
174
+ {"text": "穿着五五分", "label": 0}
175
+ {"text": "质量超出预期", "label": 1}
176
+ {"text": "质量低于预期", "label": 0}
177
+ {"text": "面料亲肤", "label": 1}
178
+ {"text": "面料过敏,起红疹", "label": 0}
179
+ {"text": "设计巧妙,有心思", "label": 1}
180
+ {"text": "设计简陋,没诚意", "label": 0}
181
+ {"text": "尺码标注准确", "label": 1}
182
+ {"text": "尺码完全不对", "label": 0}
183
+ {"text": "物流跟踪信息准确", "label": 1}
184
+ {"text": "物流信息错误", "label": 0}
185
+ {"text": "客服让人如沐春风", "label": 1}
186
+ {"text": "客服让人心情烦躁", "label": 0}
187
+ {"text": "包装环保可回收", "label": 1}
188
+ {"text": "包装过度浪费", "label": 0}
189
+ {"text": "穿着活动方便", "label": 1}
190
+ {"text": "穿着行动不便", "label": 0}
191
+ {"text": "洗涤后不褪色", "label": 1}
192
+ {"text": "洗一次颜色就淡了", "label": 0}
193
+ {"text": "款式时尚潮流", "label": 1}
194
+ {"text": "款式丑爆了", "label": 0}
195
+ {"text": "物超所值,太划算了", "label": 1}
196
+ {"text": "完全不值这个价", "label": 0}
197
+ {"text": "客服很有耐心", "label": 1}
198
+ {"text": "客服不耐烦", "label": 0}
199
+ {"text": "面料垂感好", "label": 1}
200
+ {"text": "面料没垂感,蓬着", "label": 0}
201
+ {"text": "穿着显白", "label": 1}
202
+ {"text": "穿着显黑", "label": 0}
203
+ {"text": "细节精致", "label": 1}
204
+ {"text": "细节马虎", "label": 0}
205
+ {"text": "颜色漂亮,和描述一致", "label": 1}
206
+ {"text": "颜色暗沉,不好看", "label": 0}
207
+ {"text": "物流准时送达", "label": 1}
208
+ {"text": "物流延误好几天", "label": 0}
209
+ {"text": "客服主动联系我", "label": 1}
210
+ {"text": "客服联系不上", "label": 0}
211
+ {"text": "包装有品牌logo", "label": 1}
212
+ {"text": "包装像三无产品", "label": 0}
213
+ {"text": "穿着很精神", "label": 1}
214
+ {"text": "穿着没精神", "label": 0}
215
+ {"text": "质量杠杠的", "label": 1}
216
+ {"text": "质量一塌糊涂", "label": 0}
217
+ {"text": "面料透气吸汗", "label": 1}
218
+ {"text": "面料闷汗不透气", "label": 0}
219
+ {"text": "设计有特色", "label": 1}
220
+ {"text": "设计平庸,没亮点", "label": 0}
221
+ {"text": "尺码选择多样", "label": 1}
222
+ {"text": "尺码断码严重", "label": 0}
223
+ {"text": "物流包装完好", "label": 1}
224
+ {"text": "物流导致商品损坏", "label": 0}
225
+ {"text": "客服经验丰富", "label": 1}
226
+ {"text": "客服不专业", "label": 0}
227
+ {"text": "包装防潮处理", "label": 1}
228
+ {"text": "包装简陋,受潮了", "label": 0}
229
+ {"text": "穿着不显胖", "label": 1}
230
+ {"text": "穿着像熊一样", "label": 0}
231
+ {"text": "洗涤方便,机洗就行", "label": 1}
232
+ {"text": "只能干洗,麻烦", "label": 0}
233
+ {"text": "款式百看不厌", "label": 1}
234
+ {"text": "款式看久了就腻", "label": 0}
235
+ {"text": "价格便宜质量好", "label": 1}
236
+ {"text": "便宜没好货", "label": 0}
237
+ {"text": "客服善解人意", "label": 1}
238
+ {"text": "客服不理解客户需求", "label": 0}
239
+ {"text": "面料不易起球", "label": 1}
240
+ {"text": "穿两次就起球", "label": 0}
241
+ {"text": "穿着显年轻", "label": 1}
242
+ {"text": "穿着显老", "label": 0}
243
+ {"text": "细节无可挑剔", "label": 1}
244
+ {"text": "细节经不起推敲", "label": 0}
245
+ {"text": "颜色亮丽", "label": 1}
246
+ {"text": "颜色灰扑扑", "label": 0}
247
+ {"text": "物流服务贴心", "label": 1}
248
+ {"text": "物流暴力分拣", "label": 0}
249
+ {"text": "客服全程跟进", "label": 1}
250
+ {"text": "客服爱理不理", "label": 0}
251
+ {"text": "包装有惊喜", "label": 1}
252
+ {"text": "包装令人失望", "label": 0}
253
+ {"text": "穿着很合身", "label": 1}
254
+ {"text": "穿着哪里都不合适", "label": 0}
255
+ {"text": "质量堪比专柜", "label": 1}
256
+ {"text": "质量不如地摊", "label": 0}
257
+ {"text": "面料手感柔软", "label": 1}
258
+ {"text": "面料硬邦邦", "label": 0}
259
+ {"text": "设计感强", "label": 1}
260
+ {"text": "设计俗气", "label": 0}
261
+ {"text": "尺码非常准", "label": 1}
262
+ {"text": "尺码偏差大", "label": 0}
263
+ {"text": "物流效率高", "label": 1}
264
+ {"text": "物流效率低下", "label": 0}
265
+ {"text": "客服态度诚恳", "label": 1}
266
+ {"text": "客服态度敷衍", "label": 0}
267
+ {"text": "包装保护到位", "label": 1}
268
+ {"text": "包装根本没法保护商品", "label": 0}
269
+ {"text": "穿着无拘无束", "label": 1}
270
+ {"text": "穿着束手束脚", "label": 0}
271
+ {"text": "容易清洗,干得快", "label": 1}
272
+ {"text": "很难清洗,干得慢", "label": 0}
273
+ {"text": "款式优雅", "label": 1}
274
+ {"text": "款式俗不可耐", "label": 0}
275
+ {"text": "性价比超高,物有所值", "label": 1}
276
+ {"text": "性价比低,浪费钱", "label": 0}
277
+ {"text": "客服回复专业", "label": 1}
278
+ {"text": "客服回复含糊", "label": 0}
279
+ {"text": "面料保暖性好", "label": 1}
280
+ {"text": "面料不保暖", "label": 0}
281
+ {"text": "穿着显高显瘦", "label": 1}
282
+ {"text": "穿着又矮又胖", "label": 0}
283
+ {"text": "细节处理完美", "label": 1}
284
+ {"text": "细节惨不忍睹", "label": 0}
285
+ {"text": "颜色纯正", "label": 1}
286
+ {"text": "颜色混杂", "label": 0}
287
+ {"text": "物流准时", "label": 1}
288
+ {"text": "物流不准时", "label": 0}
289
+ {"text": "客服热情洋溢", "label": 1}
290
+ {"text": "客服死气沉沉", "label": 0}
291
+ {"text": "包装有质感", "label": 1}
292
+ {"text": "包装廉价感十足", "label": 0}
293
+ {"text": "穿着舒服到不想脱", "label": 1}
294
+ {"text": "穿着恨不得马上脱掉", "label": 0}
295
+ {"text": "质量上乘", "label": 1}
296
+ {"text": "质量下乘", "label": 0}
297
+ {"text": "面料细腻", "label": 1}
298
+ {"text": "面料粗糙", "label": 0}
299
+ {"text": "设计新颖别致", "label": 1}
300
+ {"text": "设计抄袭山寨", "label": 0}
301
+ {"text": "尺码选择丰富", "label": 1}
302
+ {"text": "尺码选择少", "label": 0}
303
+ {"text": "物流速度快", "label": 1}
304
+ {"text": "物流速度慢", "label": 0}
305
+ {"text": "客服能解决问题", "label": 1}
306
+ {"text": "客服解决不了问题", "label": 0}
307
+ {"text": "包装设计精美", "label": 1}
308
+ {"text": "包装设计丑", "label": 0}
309
+ {"text": "穿着无负担", "label": 1}
310
+ {"text": "穿着有负担", "label": 0}
311
+ {"text": "容易搭配", "label": 1}
312
+ {"text": "很难搭配", "label": 0}
313
+ {"text": "款式大方得体", "label": 1}
314
+ {"text": "款式小气难看", "label": 0}
315
+ {"text": "价格合理", "label": 1}
316
+ {"text": "价格离谱", "label": 0}
317
+ {"text": "客服服务到位", "label": 1}
318
+ {"text": "客服服务不到位", "label": 0}
319
+ {"text": "面料不易变形", "label": 1}
320
+ {"text": "面料容易变形", "label": 0}
321
+ {"text": "穿着有范儿", "label": 1}
322
+ {"text": "穿着土里土气", "label": 0}
323
+ {"text": "细节讲究", "label": 1}
324
+ {"text": "细节马虎了事", "label": 0}
325
+ {"text": "颜色鲜艳夺目", "label": 1}
326
+ {"text": "颜色暗淡无光", "label": 0}
327
+ {"text": "物流服务规范", "label": 1}
328
+ {"text": "物流服务不规范", "label": 0}
329
+ {"text": "客服有问必答", "label": 1}
330
+ {"text": "客服答非所问", "label": 0}
331
+ {"text": "包装完好如新", "label": 1}
332
+ {"text": "包装破旧不堪", "label": 0}
333
+ {"text": "穿着感很好", "label": 1}
334
+ {"text": "穿着感很差", "label": 0}
335
+ {"text": "质量可靠", "label": 1}
336
+ {"text": "质量不可靠", "label": 0}
337
+ {"text": "面料轻盈", "label": 1}
338
+ {"text": "面料沉重", "label": 0}
339
+ {"text": "设计独特", "label": 1}
340
+ {"text": "设计普通", "label": 0}
341
+ {"text": "尺码表准确", "label": 1}
342
+ {"text": "尺码表不准", "label": 0}
343
+ {"text": "物流信息透明", "label": 1}
344
+ {"text": "物流信息不透明", "label": 0}
345
+ {"text": "客服有礼貌", "label": 1}
346
+ {"text": "客服没礼貌", "label": 0}
347
+ {"text": "包装令人满意", "label": 1}
348
+ {"text": "包装令人不满", "label": 0}
349
+ {"text": "穿着贴身不紧绷", "label": 1}
350
+ {"text": "穿着要么紧要么松", "label": 0}
351
+ {"text": "洗涤后保持原样", "label": 1}
352
+ {"text": "洗一次就垮了", "label": 0}
353
+ {"text": "款式适合多种场合", "label": 1}
354
+ {"text": "款式只适合特定场合", "label": 0}
355
+ {"text": "物美价廉,推荐购买", "label": 1}
356
+ {"text": "价格虚高,不推荐", "label": 0}
357
+ {"text": "客服态度积极", "label": 1}
358
+ {"text": "客服态度消极", "label": 0}
359
+ {"text": "面料有弹性", "label": 1}
360
+ {"text": "面料无弹性", "label": 0}
361
+ {"text": "穿着提升气质", "label": 1}
362
+ {"text": "穿着拉低气质", "label": 0}
363
+ {"text": "细节处理到位", "label": 1}
364
+ {"text": "细节处理不到位", "label": 0}
365
+ {"text": "颜色是我想要的", "label": 1}
366
+ {"text": "颜色不是我想要的", "label": 0}
367
+ {"text": "物流值得表扬", "label": 1}
368
+ {"text": "物流需要批评", "label": 0}
369
+ {"text": "客服让人放心", "label": 1}
370
+ {"text": "客服让人不放心", "label": 0}
371
+ {"text": "包装保护性强", "label": 1}
372
+ {"text": "包装没有保护性", "label": 0}
373
+ {"text": "穿着非常满意", "label": 1}
374
+ {"text": "穿着非常失望", "label": 0}
375
+ {"text": "质量没得说", "label": 1}
376
+ {"text": "质量不敢恭维", "label": 0}
377
+ {"text": "面料适合季节", "label": 1}
378
+ {"text": "面料不适合季节", "label": 0}
379
+ {"text": "设计符合描述", "label": 1}
380
+ {"text": "设计与描述不符", "label": 0}
381
+ {"text": "尺码推荐准确", "label": 1}
382
+ {"text": "尺码推荐错误", "label": 0}
383
+ {"text": "物流配送及时", "label": 1}
384
+ {"text": "物流配送延误", "label": 0}
385
+ {"text": "客服解决问题快", "label": 1}
386
+ {"text": "客服拖延问题", "label": 0}
387
+ {"text": "包装有档次", "label": 1}
388
+ {"text": "包装没档次", "label": 0}
389
+ {"text": "穿着无不适", "label": 1}
390
+ {"text": "穿着各种不适", "label": 0}
391
+ {"text": "款式简约时尚", "label": 1}
392
+ {"text": "款式复杂难看", "label": 0}
393
+ {"text": "价格实惠,值得买", "label": 1}
394
+ {"text": "价格贵,不值得", "label": 0}
395
+ {"text": "客服主动帮忙", "label": 1}
396
+ {"text": "客服被动应付", "label": 0}
397
+ {"text": "面料不起静电", "label": 1}
398
+ {"text": "面料静电严重", "label": 0}
399
+ {"text": "穿着很有时尚感", "label": 1}
400
+ {"text": "穿着很土", "label": 0}
401
+ {"text": "细节体现品质", "label": 1}
402
+ {"text": "细节体现廉价", "label": 0}
403
+ {"text": "颜色搭配好看", "label": 1}
404
+ {"text": "颜色搭配难看", "label": 0}
405
+ {"text": "物流服务优质", "label": 1}
406
+ {"text": "物流服务劣质", "label": 0}
407
+ {"text": "客服有同理心", "label": 1}
408
+ {"text": "客服没有同理心", "label": 0}
409
+ {"text": "包装仔细", "label": 1}
410
+ {"text": "包装马虎", "label": 0}
411
+ {"text": "穿着感舒适", "label": 1}
412
+ {"text": "穿着感痛苦", "label": 0}
413
+ {"text": "质量过硬", "label": 1}
414
+ {"text": "质量不过关", "label": 0}
415
+ {"text": "面料有质感", "label": 1}
416
+ {"text": "面料没质感", "label": 0}
417
+ {"text": "设计贴心", "label": 1}
418
+ {"text": "设计反人类", "label": 0}
419
+ {"text": "尺码合适", "label": 1}
420
+ {"text": "尺码不合适", "label": 0}
421
+ {"text": "物流令人满意", "label": 1}
422
+ {"text": "物流令人失望", "label": 0}
423
+ {"text": "客服态度友好", "label": 1}
424
+ {"text": "客服态度敌对", "label": 0}
425
+ {"text": "包装安全", "label": 1}
426
+ {"text": "包装不安全", "label": 0}
427
+ {"text": "穿着效果棒", "label": 1}
428
+ {"text": "穿着效果差", "label": 0}
429
+ {"text": "质量很好", "label": 1}
430
+ {"text": "质量很差", "label": 0}
431
+ {"text": "面料舒适", "label": 1}
432
+ {"text": "面料不适", "label": 0}
433
+ {"text": "设计优秀", "label": 1}
434
+ {"text": "设计糟糕", "label": 0}
435
+ {"text": "尺码完美", "label": 1}
436
+ {"text": "尺码错误", "label": 0}
437
+ {"text": "物流高效", "label": 1}
438
+ {"text": "物流低效", "label": 0}
439
+ {"text": "客服优秀", "label": 1}
440
+ {"text": "客服糟糕", "label": 0}
441
+ {"text": "包装优秀", "label": 1}
442
+ {"text": "包装糟糕", "label": 0}
443
+ {"text": "穿着优秀", "label": 1}
444
+ {"text": "穿着糟糕", "label": 0}
445
+ {"text": "总体满意", "label": 1}
446
+ {"text": "总体失望", "label": 0}
447
+ {"text": "会推荐给朋友", "label": 1}
448
+ {"text": "不会推荐给任何人", "label": 0}
449
+ {"text": "购物体验愉快", "label": 1}
450
+ {"text": "购物体验糟糕", "label": 0}
451
+ {"text": "值得购买", "label": 1}
452
+ {"text": "不值得购买", "label": 0}
453
+ {"text": "非常好", "label": 1}
454
+ {"text": "非常差", "label": 0}
455
+ {"text": "很喜欢", "label": 1}
456
+ {"text": "很讨厌", "label": 0}
457
+ {"text": "会再次光顾", "label": 1}
458
+ {"text": "不会再光顾", "label": 0}
459
+ {"text": "物超所值", "label": 1}
460
+ {"text": "名不副实", "label": 0}
461
+ {"text": "强烈推荐", "label": 1}
462
+ {"text": "强烈不推荐", "label": 0}
463
+ {"text": "满分好评", "label": 1}
464
+ {"text": "零分差评", "label": 0}
465
+ {"text": "很棒的一次购物", "label": 1}
466
+ {"text": "糟糕的一次购物", "label": 0}
467
+ {"text": "卖家很靠谱", "label": 1}
468
+ {"text": "卖家不靠谱", "label": 0}
469
+ {"text": "正品保证", "label": 1}
470
+ {"text": "疑似假货", "label": 0}
471
+ {"text": "服务周到", "label": 1}
472
+ {"text": "服务不到位", "label": 0}
473
+ {"text": "无可挑剔", "label": 1}
474
+ {"text": "一无是处", "label": 0}
475
+ {"text": "必须给好评", "label": 1}
476
+ {"text": "只能给差评", "label": 0}
477
+ {"text": "超出预期", "label": 1}
478
+ {"text": "低于预期", "label": 0}
479
+ {"text": "完美", "label": 1}
480
+ {"text": "失败", "label": 0}
481
+ {"text": "满意至极", "label": 1}
482
+ {"text": "失望透顶", "label": 0}
483
+ {"text": "物美价廉", "label": 1}
484
+ {"text": "价高质次", "label": 0}
485
+ {"text": "优质商家", "label": 1}
486
+ {"text": "不良商家", "label": 0}
487
+ {"text": "愉快的交易", "label": 1}
488
+ {"text": "糟心的交易", "label": 0}
489
+ {"text": "值得信赖", "label": 1}
490
+ {"text": "不可信赖", "label": 0}
491
+ {"text": "会回购", "label": 1}
492
+ {"text": "不会再买", "label": 0}
493
+ {"text": "品质保证", "label": 1}
494
+ {"text": "品质低劣", "label": 0}
495
+ {"text": "服务热情", "label": 1}
496
+ {"text": "服务冷淡", "label": 0}
497
+ {"text": "无可替代", "label": 1}
498
+ {"text": "毫无特色", "label": 0}
499
+ {"text": "绝对好评", "label": 1}
500
+ {"text": "绝对差评", "label": 0}
501
+ {"text": "非常满意", "label": 1}
502
+ {"text": "非常不满", "label": 0}
503
+ {"text": "点赞", "label": 1}
504
+ {"text": "踩雷", "label": 0}
505
+ {"text": "物有所值", "label": 1}
506
+ {"text": "一文不值", "label": 0}
507
+ {"text": "良心商家", "label": 1}
508
+ {"text": "黑心商家", "label": 0}
509
+ {"text": "愉快的体验", "label": 1}
510
+ {"text": "糟糕的体验", "label": 0}
511
+ {"text": "信任这家店", "label": 1}
512
+ {"text": "再也不信这家店", "label": 0}
513
+ {"text": "支持卖家", "label": 1}
514
+ {"text": "抵制卖家", "label": 0}
515
+ {"text": "满分", "label": 1}
516
+ {"text": "零分", "label": 0}
517
+ {"text": "好极了", "label": 1}
518
+ {"text": "糟透了", "label": 0}
519
+ {"text": "喜欢", "label": 1}
520
+ {"text": "讨厌", "label": 0}
521
+ {"text": "开心", "label": 1}
522
+ {"text": "生气", "label": 0}
523
+ {"text": "惊喜", "label": 1}
524
+ {"text": "惊吓", "label": 0}
525
+ {"text": "物超所值,太棒了", "label": 1}
526
+ {"text": "名不副实,太差了", "label": 0}
527
+ {"text": "必须推荐", "label": 1}
528
+ {"text": "必须避坑", "label": 0}
529
+ {"text": "优质产品", "label": 1}
530
+ {"text": "劣质产品", "label": 0}
531
+ {"text": "服务一流", "label": 1}
532
+ {"text": "服务末流", "label": 0}
533
+ {"text": "无可挑剔,完美", "label": 1}
534
+ {"text": "全是缺点,垃圾", "label": 0}
535
+ {"text": "会一直支持", "label": 1}
536
+ {"text": "会立刻拉黑", "label": 0}
537
+ {"text": "物美价廉,赞", "label": 1}
538
+ {"text": "价高质劣,呸", "label": 0}
539
+ {"text": "愉快的购物", "label": 1}
540
+ {"text": "痛苦的购物", "label": 0}
541
+ {"text": "值得五星", "label": 1}
542
+ {"text": "只配一星", "label": 0}
543
+ {"text": "好商家", "label": 1}
544
+ {"text": "坏商家", "label": 0}
545
+ {"text": "交易顺利", "label": 1}
546
+ {"text": "交易纠纷", "label": 0}
547
+ {"text": "信赖之选", "label": 1}
548
+ {"text": "拉黑之选", "label": 0}
549
+ {"text": "会再来", "label": 1}
550
+ {"text": "永别了", "label": 0}
551
+ {"text": "品质上乘", "label": 1}
552
+ {"text": "品质下等", "label": 0}
553
+ {"text": "热情服务", "label": 1}
554
+ {"text": "冷漠服务", "label": 0}
555
+ {"text": "独一无二", "label": 1}
556
+ {"text": "平平无奇", "label": 0}
557
+ {"text": "绝对满意", "label": 1}
558
+ {"text": "绝对不满", "label": 0}
559
+ {"text": "非常棒", "label": 1}
560
+ {"text": "非常烂", "label": 0}
561
+ {"text": "强烈安利", "label": 1}
562
+ {"text": "强烈吐槽", "label": 0}
563
+ {"text": "物超所值,惊喜", "label": 1}
564
+ {"text": "完全不值,后悔", "label": 0}
565
+ {"text": "良心推荐", "label": 1}
566
+ {"text": "良心劝退", "label": 0}
567
+ {"text": "体验完美", "label": 1}
568
+ {"text": "体验极差", "label": 0}
569
+ {"text": "信任这家", "label": 1}
570
+ {"text": "不信任这家", "label": 0}
571
+ {"text": "支持支持", "label": 1}
572
+ {"text": "抵制抵制", "label": 0}
573
+ {"text": "满分好评!", "label": 1}
574
+ {"text": "零分差评!", "label": 0}
575
+ {"text": "好到没话说", "label": 1}
576
+ {"text": "差到没话说", "label": 0}
577
+ {"text": "喜欢得不得了", "label": 1}
578
+ {"text": "讨厌得不得了", "label": 0}
579
+ {"text": "开心购物", "label": 1}
580
+ {"text": "生气购物", "label": 0}
581
+ {"text": "惊喜连连", "label": 1}
582
+ {"text": "惊吓连连", "label": 0}
583
+ {"text": "物超所值,爱了", "label": 1}
584
+ {"text": "名不副实,恨了", "label": 0}
585
+ {"text": "必须好评", "label": 1}
586
+ {"text": "必须差评", "label": 0}
587
+ {"text": "优质之选", "label": 1}
588
+ {"text": "劣质之选", "label": 0}
589
+ {"text": "服务超赞", "label": 1}
590
+ {"text": "服务超烂", "label": 0}
591
+ {"text": "无可挑剔,给力", "label": 1}
592
+ {"text": "一无是处,垃圾", "label": 0}
593
+ {"text": "会一直买", "label": 1}
594
+ {"text": "绝不会再买", "label": 0}
595
+ {"text": "物美价廉,顶", "label": 1}
596
+ {"text": "价高质劣,踩", "label": 0}
597
+ {"text": "愉快的一次购物", "label": 1}
598
+ {"text": "糟糕的一次购物", "label": 0}
599
+ {"text": "值得推荐给大家", "label": 1}
600
+ {"text": "值得提醒大家避雷", "label": 0}
601
+ {"text": "好店", "label": 1}
602
+ {"text": "黑店", "label": 0}
603
+ {"text": "交易愉快", "label": 1}
604
+ {"text": "交易不愉快", "label": 0}
605
+ {"text": "信赖这家店", "label": 1}
606
+ {"text": "不信赖这家店", "label": 0}
607
+ {"text": "支持商家", "label": 1}
608
+ {"text": "反对商家", "label": 0}
609
+ {"text": "满分体验", "label": 1}
610
+ {"text": "零分体验", "label": 0}
611
+ {"text": "好产品", "label": 1}
612
+ {"text": "烂产品", "label": 0}
613
+ {"text": "喜欢这家店", "label": 1}
614
+ {"text": "讨厌这家店", "label": 0}
615
+ {"text": "开心满意", "label": 1}
616
+ {"text": "生气失望", "label": 0}
617
+ {"text": "惊喜不断", "label": 1}
618
+ {"text": "惊吓不断", "label": 0}
619
+ {"text": "物超所值,推荐", "label": 1}
620
+ {"text": "完全不值,别买", "label": 0}
621
+ {"text": "良心商家,赞", "label": 1}
622
+ {"text": "黑心商家,呸", "label": 0}
623
+ {"text": "完美体验", "label": 1}
624
+ {"text": "糟糕体验", "label": 0}
625
+ {"text": "信任推荐", "label": 1}
626
+ {"text": "不信任不推荐", "label": 0}
627
+ {"text": "大力支持", "label": 1}
628
+ {"text": "强烈抵制", "label": 0}
629
+ {"text": "五星好评!", "label": 1}
630
+ {"text": "一星差评!", "label": 0}
631
+ {"text": "好得超出想象", "label": 1}
632
+ {"text": "差得超出想象", "label": 0}
633
+ {"text": "非常喜欢", "label": 1}
634
+ {"text": "非常讨厌", "label": 0}
635
+ {"text": "购物开心", "label": 1}
636
+ {"text": "购物闹心", "label": 0}
637
+ {"text": "惊喜满满", "label": 1}
638
+ {"text": "惊吓满满", "label": 0}
639
+ {"text": "物超所值,满意", "label": 1}
640
+ {"text": "名不副实,失望", "label": 0}
641
+ {"text": "必须给五星", "label": 1}
642
+ {"text": "必须给一星", "label": 0}
643
+ {"text": "优质好评", "label": 1}
644
+ {"text": "劣质差评", "label": 0}
645
+ {"text": "服务满意", "label": 1}
646
+ {"text": "服务不满意", "label": 0}
647
+ {"text": "无可挑剔,推荐", "label": 1}
648
+ {"text": "一无是处,避雷", "label": 0}
649
+ {"text": "会常来", "label": 1}
650
+ {"text": "不会再来", "label": 0}
651
+ {"text": "物美价廉,好", "label": 1}
652
+ {"text": "价高质劣,坏", "label": 0}
653
+ {"text": "愉快的经历", "label": 1}
654
+ {"text": "糟心的经历", "label": 0}
655
+ {"text": "值得信任", "label": 1}
656
+ {"text": "不值得信任", "label": 0}
657
+ {"text": "支持好评", "label": 1}
658
+ {"text": "支持差评", "label": 0}
659
+ {"text": "满分十分", "label": 1}
660
+ {"text": "零分十分", "label": 0}
661
+ {"text": "好商家好商品", "label": 1}
662
+ {"text": "坏商家坏商品", "label": 0}
663
+ {"text": "喜欢推荐", "label": 1}
664
+ {"text": "讨厌吐槽", "label": 0}
665
+ {"text": "开心好评", "label": 1}
666
+ {"text": "生气差评", "label": 0}
667
+ {"text": "惊喜好评", "label": 1}
668
+ {"text": "惊吓差评", "label": 0}
inference.py ADDED
@@ -0,0 +1,60 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # inference.py (完整手动加载版本,绕过所有 Auto 机制)
2
+
3
+ import torch
4
+ from modeling_tinytransformer import TinyTransformerModel # 直接导入你的模型类
5
+ from tokenization_tinytransformer import TinyTokenizer # 你的 tokenizer
6
+ from configuration_tinytransformer import TinyTransformerConfig # 你的 config 类
7
+
8
+ model_path = "./tiny-sentiment-model"
9
+ device = "cuda" if torch.cuda.is_available() else "cpu"
10
+
11
+ print("加载 tokenizer(手动)...")
12
+ tokenizer = TinyTokenizer()
13
+
14
+ print("加载 config(手动)...")
15
+ config = TinyTransformerConfig.from_pretrained(model_path) # 用你的 config 类加载
16
+
17
+ print("加载模型(手动)...")
18
+ model = TinyTransformerModel.from_pretrained(model_path, config=config)
19
+ model.to(device)
20
+ model.eval()
21
+
22
+ print("模型加载完成!设备:", device)
23
+
24
+ # ----------------------- 预测函数(保持不变) -----------------------
25
+ def predict(text: str):
26
+ inputs = tokenizer(
27
+ text,
28
+ padding=True,
29
+ truncation=True,
30
+ max_length=64,
31
+ return_tensors="pt"
32
+ )
33
+ inputs = {k: v.to(device) for k, v in inputs.items()}
34
+
35
+ with torch.no_grad():
36
+ outputs = model(**inputs)
37
+
38
+ logits = outputs["logits"] if isinstance(outputs, dict) else outputs.logits
39
+ probs = torch.softmax(logits, dim=-1)[0]
40
+
41
+ pred_label = torch.argmax(probs).item()
42
+ confidence = probs[pred_label].item()
43
+
44
+ label_map = {0: "负面", 1: "正面"}
45
+
46
+ print(f"文本: {text}")
47
+ print(f"预测: {label_map[pred_label]} (置信度: {confidence:.4f})")
48
+ print(f"负面概率: {probs[0]:.4f} | 正面概率: {probs[1]:.4f}")
49
+ print("-"*50)
50
+
51
+ # 测试
52
+ if __name__ == "__main__":
53
+ test_texts = [
54
+ "质量超级好,强烈推荐",
55
+ "服务差劲,东西还贵",
56
+ "一般般,没什么惊喜",
57
+ "老板人好,下次还来"
58
+ ]
59
+ for text in test_texts:
60
+ predict(text)
modeling_tinytransformer.py ADDED
@@ -0,0 +1,118 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # modeling_tinytransformer.py
2
+
3
+ import torch
4
+ import torch.nn as nn
5
+ from transformers import PreTrainedModel
6
+
7
+ from configuration_tinytransformer import TinyTransformerConfig
8
+
9
+
10
+ class TinyTransformerModel(PreTrainedModel):
11
+ """
12
+ 一个非常小的 Transformer 编码器 + 分类头,用于情感分类演示
13
+ """
14
+ config_class = TinyTransformerConfig
15
+
16
+ def __init__(self, config: TinyTransformerConfig):
17
+ super().__init__(config)
18
+ self.config = config
19
+
20
+ # 词嵌入
21
+ self.embedding = nn.Embedding(
22
+ config.vocab_size,
23
+ config.hidden_size,
24
+ padding_idx=config.pad_token_id if hasattr(config, 'pad_token_id') else 0
25
+ )
26
+
27
+ # 位置嵌入(学出来的)
28
+ self.pos_embedding = nn.Embedding(
29
+ config.max_position_embeddings,
30
+ config.hidden_size
31
+ )
32
+
33
+ # Transformer Encoder 层
34
+ encoder_layer = nn.TransformerEncoderLayer(
35
+ d_model=config.hidden_size,
36
+ nhead=config.num_attention_heads,
37
+ dim_feedforward=config.intermediate_size,
38
+ dropout=config.dropout,
39
+ activation="gelu",
40
+ batch_first=True,
41
+ norm_first=False # 经典 post-norm
42
+ )
43
+
44
+ self.encoder = nn.TransformerEncoder(
45
+ encoder_layer,
46
+ num_layers=config.num_hidden_layers
47
+ )
48
+
49
+ # dropout 和分类头
50
+ self.dropout = nn.Dropout(config.dropout)
51
+ self.classifier = nn.Linear(config.hidden_size, config.num_labels)
52
+
53
+ # 必须加这一行,且放在最后
54
+ self._tied_weights_keys = []
55
+
56
+ # 可选调试打印(加这个看是否执行到)
57
+ print("DEBUG: 已设置 _tied_weights_keys =", self._tied_weights_keys)
58
+
59
+ def _init_weights(self, module=None):
60
+ """简单权重初始化"""
61
+ if module is None:
62
+ module = self
63
+ for m in module.modules():
64
+ if isinstance(m, nn.Linear):
65
+ nn.init.xavier_uniform_(m.weight)
66
+ if m.bias is not None:
67
+ nn.init.zeros_(m.bias)
68
+ elif isinstance(m, nn.Embedding):
69
+ nn.init.normal_(m.weight, mean=0.0, std=0.02)
70
+
71
+ def forward(
72
+ self,
73
+ input_ids=None,
74
+ attention_mask=None,
75
+ labels=None,
76
+ **kwargs
77
+ ):
78
+ batch_size, seq_len = input_ids.shape
79
+
80
+ # 位置编码
81
+ position_ids = torch.arange(
82
+ 0, seq_len, dtype=torch.long, device=input_ids.device
83
+ )
84
+ position_ids = position_ids.unsqueeze(0).expand(batch_size, -1)
85
+
86
+ # 嵌入 + 位置
87
+ x = self.embedding(input_ids) + self.pos_embedding(position_ids)
88
+ x = self.dropout(x)
89
+
90
+ # 处理 attention mask
91
+ if attention_mask is not None:
92
+ # src_key_padding_mask: True 表示要忽略的位置 (padding)
93
+ src_key_padding_mask = (attention_mask == 0)
94
+ else:
95
+ src_key_padding_mask = None
96
+
97
+ # 通过 Transformer Encoder
98
+ x = self.encoder(
99
+ x,
100
+ src_key_padding_mask=src_key_padding_mask,
101
+ )
102
+
103
+ # 取 [CLS] token(第一个位置)作为句子表示
104
+ pooled = x[:, 0, :]
105
+
106
+ # 分类头
107
+ logits = self.classifier(pooled)
108
+
109
+ loss = None
110
+ if labels is not None:
111
+ loss_fct = nn.CrossEntropyLoss()
112
+ loss = loss_fct(logits.view(-1, self.config.num_labels), labels.view(-1))
113
+
114
+ # 返回标准格式
115
+ return {
116
+ "loss": loss,
117
+ "logits": logits
118
+ }
tiny-sentiment-model/config.json ADDED
@@ -0,0 +1,16 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "architectures": [
3
+ "TinyTransformerModel"
4
+ ],
5
+ "dropout": 0.1,
6
+ "dtype": "float32",
7
+ "hidden_size": 128,
8
+ "intermediate_size": 512,
9
+ "max_position_embeddings": 512,
10
+ "model_type": "tinytransformer",
11
+ "num_attention_heads": 4,
12
+ "num_hidden_layers": 2,
13
+ "transformers_version": "5.0.0",
14
+ "use_cache": false,
15
+ "vocab_size": 21091
16
+ }
tiny-sentiment-model/model.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e589575147bc891e12f4b487ca700d5cdeb258c1d8ace8c54c52d876800fd937
3
+ size 12650760
tiny-sentiment-model/tokenizer_config.json ADDED
@@ -0,0 +1,44 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "added_tokens_decoder": {
3
+ "0": {
4
+ "content": "[PAD]",
5
+ "lstrip": false,
6
+ "normalized": false,
7
+ "rstrip": false,
8
+ "single_word": false,
9
+ "special": true
10
+ },
11
+ "1": {
12
+ "content": "[UNK]",
13
+ "lstrip": false,
14
+ "normalized": false,
15
+ "rstrip": false,
16
+ "single_word": false,
17
+ "special": true
18
+ },
19
+ "2": {
20
+ "content": "[CLS]",
21
+ "lstrip": false,
22
+ "normalized": false,
23
+ "rstrip": false,
24
+ "single_word": false,
25
+ "special": true
26
+ },
27
+ "3": {
28
+ "content": "[SEP]",
29
+ "lstrip": false,
30
+ "normalized": false,
31
+ "rstrip": false,
32
+ "single_word": false,
33
+ "special": true
34
+ }
35
+ },
36
+ "additional_special_tokens": null,
37
+ "backend": "custom",
38
+ "cls_token": "[CLS]",
39
+ "model_max_length": 1000000000000000019884624838656,
40
+ "pad_token": "[PAD]",
41
+ "sep_token": "[SEP]",
42
+ "tokenizer_class": "TinyTokenizer",
43
+ "unk_token": "[UNK]"
44
+ }
tiny-sentiment-model/vocab.json ADDED
The diff for this file is too large to render. See raw diff
 
tokenization_tinytransformer.py ADDED
@@ -0,0 +1,97 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # tokenization_tinytransformer.py (最完整修复版)
2
+
3
+ from transformers import PreTrainedTokenizer
4
+ import json
5
+ from typing import List, Dict, Optional
6
+
7
+ class TinyTokenizer(PreTrainedTokenizer):
8
+ vocab_files_names = {"vocab_file": "vocab.json"}
9
+ pretrained_vocab_files_map = {}
10
+ max_model_input_sizes = {"tinytransformer": 512}
11
+ model_input_names = ["input_ids", "attention_mask"]
12
+
13
+ def __init__(self, vocab_file: Optional[str] = None, **kwargs):
14
+ # 特殊 token
15
+ self.special_tokens = {
16
+ "[PAD]": 0,
17
+ "[UNK]": 1,
18
+ "[CLS]": 2,
19
+ "[SEP]": 3,
20
+ }
21
+
22
+ # 构建 vocab
23
+ self.vocab: Dict[str, int] = self.special_tokens.copy()
24
+ offset = len(self.vocab)
25
+
26
+ # ASCII + 常用字符
27
+ for i in range(32, 127):
28
+ char = chr(i)
29
+ self.vocab[char] = offset + i - 32
30
+
31
+ # 支持中文(常用汉字范围,可扩展)
32
+ for i in range(0x4e00, 0x9fff + 1):
33
+ char = chr(i)
34
+ if char not in self.vocab:
35
+ self.vocab[char] = len(self.vocab)
36
+
37
+ self.id_to_token = {v: k for k, v in self.vocab.items()}
38
+
39
+ # 设置特殊 token id
40
+ self.pad_token_id = 0
41
+ self.unk_token_id = 1
42
+ self.cls_token_id = 2
43
+ self.sep_token_id = 3
44
+
45
+ super().__init__(
46
+ pad_token="[PAD]",
47
+ unk_token="[UNK]",
48
+ cls_token="[CLS]",
49
+ sep_token="[SEP]",
50
+ **kwargs
51
+ )
52
+
53
+ def get_vocab(self) -> Dict[str, int]:
54
+ return self.vocab.copy()
55
+
56
+ @property
57
+ def vocab_size(self) -> int:
58
+ return len(self.vocab)
59
+
60
+ def _tokenize(self, text: str) -> List[str]:
61
+ return list(text) # 字符级分词
62
+
63
+ def convert_tokens_to_ids(self, tokens: List[str]) -> List[int]:
64
+ return [self.vocab.get(t, self.unk_token_id) for t in tokens]
65
+
66
+ def convert_ids_to_tokens(self, ids: List[int]) -> List[str]:
67
+ return [self.id_to_token.get(i, "[UNK]") for i in ids]
68
+
69
+ def build_inputs_with_special_tokens(
70
+ self, token_ids_0: List[int], token_ids_1: Optional[List[int]] = None
71
+ ) -> List[int]:
72
+ if token_ids_1 is None:
73
+ return [self.cls_token_id] + token_ids_0 + [self.sep_token_id]
74
+ return [self.cls_token_id] + token_ids_0 + [self.sep_token_id] + token_ids_1 + [self.sep_token_id]
75
+
76
+ def create_token_type_ids_from_sequences(
77
+ self, token_ids_0: List[int], token_ids_1: Optional[List[int]] = None
78
+ ) -> List[int]:
79
+ if token_ids_1 is None:
80
+ return [0] * len([self.cls_token_id] + token_ids_0 + [self.sep_token_id])
81
+ len0 = len([self.cls_token_id] + token_ids_0 + [self.sep_token_id])
82
+ len1 = len(token_ids_1 + [self.sep_token_id])
83
+ return [0] * len0 + [1] * len1
84
+
85
+ def save_vocabulary(self, save_directory: str, filename_prefix: Optional[str] = None) -> tuple:
86
+ vocab_file = f"{filename_prefix}vocab.json" if filename_prefix else "vocab.json"
87
+ vocab_path = f"{save_directory}/{vocab_file}"
88
+ with open(vocab_path, "w", encoding="utf-8") as f:
89
+ json.dump(self.vocab, f, ensure_ascii=False, indent=2)
90
+ return (vocab_path,)
91
+
92
+
93
+ # # 文件最底部,类定义之后
94
+ # from transformers import TOKENIZER_MAPPING_NAMES
95
+
96
+ # # 注册(只执行一次,放在这里最安全)
97
+ # TOKENIZER_MAPPING_NAMES["tinytransformer"] = "TinyTokenizer"
train.py ADDED
@@ -0,0 +1,52 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ from transformers import Trainer, TrainingArguments
2
+ from datasets import Dataset
3
+ import json
4
+ from modeling_tinytransformer import TinyTransformerModel
5
+ from configuration_tinytransformer import TinyTransformerConfig
6
+ from tokenization_tinytransformer import TinyTokenizer
7
+
8
+ # 加载数据
9
+ data = []
10
+ with open("data/train_data.jsonl", "r", encoding="utf-8") as f:
11
+ for line in f:
12
+ data.append(json.loads(line))
13
+
14
+ dataset = Dataset.from_list(data)
15
+
16
+ # 简单分词
17
+ tokenizer = TinyTokenizer()
18
+
19
+ def preprocess(examples):
20
+ encodings = tokenizer(examples["text"], truncation=True, max_length=64, padding="max_length")
21
+ encodings["labels"] = examples["label"]
22
+ return encodings
23
+
24
+ tokenized_dataset = dataset.map(preprocess, batched=True)
25
+
26
+ # 初始化模型
27
+ config = TinyTransformerConfig(vocab_size=tokenizer.vocab_size, num_labels=2)
28
+ model = TinyTransformerModel(config)
29
+
30
+ # 训练设置
31
+ training_args = TrainingArguments(
32
+ output_dir="./results",
33
+ num_train_epochs=3,
34
+ per_device_train_batch_size=4,
35
+ logging_steps=1,
36
+ save_strategy="no",
37
+ report_to="none",
38
+ )
39
+
40
+ trainer = Trainer(
41
+ model=model,
42
+ args=training_args,
43
+ train_dataset=tokenized_dataset,
44
+ )
45
+
46
+ trainer.train()
47
+
48
+ # 保存模型
49
+
50
+ model.save_pretrained("./tiny-sentiment-model")
51
+ tokenizer.save_pretrained("./tiny-sentiment-model") # 这行会生成 vocab.json
52
+ config.save_pretrained("./tiny-sentiment-model")
upload_to_hub.py ADDED
File without changes