文件夹gcb_token包含了一个代码对所包含的token的可视化结果 以下是每个文件夹内容和格式的介绍 Model 该文件夹包含了工具需要读取的一些文件，具体介绍如下 code_labels 包含了该样本对中 code 的所有 token，存储格式为 text_i.txt，i代表第i个token(经过tokenize后)，第一个 token 为特殊的 cls token，最后一个为特殊的终止符token，注意在训练数据中，我们 comment 和 code tokens 的 embedding 时存储在一个文件中，共享了所有的 index，即 embedding 长度为 num_tokens = comment_token_num + code_token_num, 并且前一部分是 comment，后面是 code。也就是去读 code label 的时候要注意 index 的转化。 comment_labels 包含了该样本对中 code 的所有 token，和 code_labels 中内容类似 Epoch_1 包含了tool需要读取的可视化文件，格式大部分与整体训练过程的文件相同，各个文件内容具体介绍如下 bgimg.png 画布背景，默认为纯白色方形画布 embedding.npy 针对训练数据集（comment+code）所有的tokens高维向量通过umap降维到二维平面上的坐标，存储格式为 (num_tokens,2) 的ndarray train_data.npy 训练数据集（comment+code）所有的tokens高维向量，存储格式为 (num_tokens,768) 的ndarray 在读取到的数据点中，前一部分是comment，后一部分是code，各部分长度可以从comment_index.json和code_index.json获取，以便进行分割，呈现不同的颜色 index.json 训练数据集的token index，从 1 到 num_tokens comment_index.json 训练数据集中comment部分的token index，从 1 到 comment_token_num code_index.json 训练数据集中code部分的token index，从 1 到 code_token_num scale.npy 代表了二维画布的边界范围，格式是 (4,) 的 ndarray inter_similarity.npy 存储了以高维向量为标准进行相似度计算的真实高维k近邻，这里的相似度计算是异质计算，即comment只从code中计算最近邻，code只从comment中计算最近邻，存储格式为 (num_tokens, k) 的 ndarray，这里k是最近邻数量 intra_similarity.npy 存储了以高维向量为标准进行相似度计算的真实高维k近邻，这里的相似度计算是同质计算，即comment只从comment中计算最近邻，code只从code中计算最近邻，存储格式为 (num_tokens, k) 的 ndarray，这里k是最近邻数量
config.json 训练vis model需要的配置文件
readme.md 本文档，介绍各文件格式