File size: 3,286 Bytes
39d8cda
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
{
 "vocab": [
  "<pad>",
  "a",
  "background",
  "bird",
  "black",
  "blue",
  "cat",
  "dog",
  "fish",
  "green",
  "next",
  "of",
  "on",
  "orange",
  "pig",
  "purple",
  "rabbit",
  "red",
  "to",
  "top",
  "white",
  "yellow"
 ],
 "log": [
  {
   "step": 0,
   "train": 0.11158706992864609,
   "unseen_combo": 0.10846365243196487,
   "unseen_pair": 0.10991672426462173,
   "sec": 0
  },
  {
   "step": 500,
   "train": 0.0003146860108245164,
   "unseen_combo": 0.0006337143713608384,
   "unseen_pair": 0.000965780287515372,
   "sec": 63
  },
  {
   "step": 1000,
   "train": 0.00011961215932387859,
   "unseen_combo": 0.0003213616437278688,
   "unseen_pair": 0.0006440349388867617,
   "sec": 129
  },
  {
   "step": 1500,
   "train": 5.485540168592706e-05,
   "unseen_combo": 0.0002421768440399319,
   "unseen_pair": 0.0005763118388131261,
   "sec": 198
  },
  {
   "step": 2000,
   "train": 7.581954560009763e-05,
   "unseen_combo": 0.0002581680309958756,
   "unseen_pair": 0.0005543051520362496,
   "sec": 267
  },
  {
   "step": 2500,
   "train": 0.00019265776791144162,
   "unseen_combo": 0.0003982958442065865,
   "unseen_pair": 0.0006764461286365986,
   "sec": 336
  },
  {
   "step": 3000,
   "train": 2.8011187168885954e-05,
   "unseen_combo": 0.00021487106278073043,
   "unseen_pair": 0.0005710581317543983,
   "sec": 406
  },
  {
   "step": 3500,
   "train": 0.00013495316670741886,
   "unseen_combo": 0.00031949588446877897,
   "unseen_pair": 0.000660860794596374,
   "sec": 476
  },
  {
   "step": 4000,
   "train": 3.4208205761387944e-05,
   "unseen_combo": 0.00022454543795902282,
   "unseen_pair": 0.0005961879505775869,
   "sec": 547
  },
  {
   "step": 4500,
   "train": 1.0184048733208328e-05,
   "unseen_combo": 0.00019454403081908822,
   "unseen_pair": 0.0005515414522960782,
   "sec": 616
  },
  {
   "step": 5000,
   "train": 7.3846995292115025e-06,
   "unseen_combo": 0.00019088202679995447,
   "unseen_pair": 0.0005594866815954447,
   "sec": 686
  },
  {
   "step": 5500,
   "train": 3.068620935664512e-05,
   "unseen_combo": 0.00020959306857548654,
   "unseen_pair": 0.0005953898071311414,
   "sec": 757
  },
  {
   "step": 6000,
   "train": 3.845259470836027e-06,
   "unseen_combo": 0.0001900008210213855,
   "unseen_pair": 0.0005633538239635527,
   "sec": 825
  },
  {
   "step": 6500,
   "train": 2.744768153206678e-06,
   "unseen_combo": 0.00019015339785255492,
   "unseen_pair": 0.0005655699060298502,
   "sec": 896
  },
  {
   "step": 7000,
   "train": 2.4435394152533263e-06,
   "unseen_combo": 0.00019031876581721008,
   "unseen_pair": 0.0005688300007022917,
   "sec": 965
  },
  {
   "step": 7500,
   "train": 2.2552335394721013e-06,
   "unseen_combo": 0.00019077255274169147,
   "unseen_pair": 0.0005706246593035758,
   "sec": 1035
  },
  {
   "step": 8000,
   "train": 2.140763172064908e-06,
   "unseen_combo": 0.00019090095884166658,
   "unseen_pair": 0.000571482174564153,
   "sec": 1106
  },
  {
   "step": 8500,
   "train": 2.0848767690040404e-06,
   "unseen_combo": 0.0001909855636768043,
   "unseen_pair": 0.0005722145433537662,
   "sec": 1175
  },
  {
   "step": 9000,
   "train": 2.0647385099437088e-06,
   "unseen_combo": 0.00019096859614364803,
   "unseen_pair": 0.0005723140784539282,
   "sec": 1245
  }
 ],
 "params": 7758896
}