-
Rewrite card: public tokenizer link + usage guide
-
Add dataset card
-
Add tokenized code_typescript (1.30B tokens)
-
Add tokenized code_sql (4.52B tokens)
-
Add tokenized code_shell (1.07B tokens)
-
Add tokenized code_scala (0.74B tokens)
-
Add tokenized code_rust (2.61B tokens)
-
Add tokenized code_ruby (1.20B tokens)
-
Add tokenized code_r (0.09B tokens)
-
Add tokenized code_python2 (3.26B tokens)
-
Add tokenized code_python (2.56B tokens)
-
Add tokenized code_php (3.19B tokens)
-
Add tokenized code_lua (0.97B tokens)
-
Add tokenized code_kotlin (1.43B tokens)
-
Add tokenized code_julia (0.46B tokens)
-
Add tokenized code_javascript2 (2.28B tokens)
-
Add tokenized code_javascript (1.78B tokens)
-
Add tokenized code_java2 (2.68B tokens)
-
Add tokenized code_java (2.10B tokens)
-
Add tokenized code_go (3.33B tokens)
-
Add tokenized code_fortran (0.63B tokens)
-
Add tokenized code_erlang (0.22B tokens)
-
Add tokenized code_dart (0.92B tokens)
-
Add tokenized code_cpp2 (3.72B tokens)
-
Add tokenized code_cpp (4.62B tokens)
-
Add tokenized code_c2 (5.41B tokens)
-
Add tokenized code_c-sharp (3.07B tokens)
-
Add tokenized code_c (4.24B tokens)
-
Add tokenized code_assembly (0.68B tokens)
-
initial commit
