Found 2726 parquet files Using 2726 files for visualization Processing batches: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 273/273 [35:49<00:00, 7.87s/it] Processing took 2149.31 seconds Dataset Information: ================================================== Total number of rows: 1,377,150 Total number of sentences: 82,701,524 Columns in the dataset: ['id', 'url', 'title', 'text', 'text_sentences', 'text_sentences_sonar_emb'] Data types: id object url object title object text object text_sentences object text_sentences_sonar_emb object dtype: object Sample rows: ================================================== id url ... text_sentences text_sentences_sonar_emb 0 1608728 https://ja.wikipedia.org/wiki/%E4%BA%95%E4%B8%... ... [井上 俊輔（いのうえ しゅんすけ、1985年6月4日 - ）は、日本の男子バレーボール選手... [[0.00359170138835907, 0.0005671343533322215, ... 1 1608729 https://ja.wikipedia.org/wiki/%E3%83%A9%E3%83%... ... [ラース・ピーター・ハンセン（Lars Peter Hansen、1952年10月26日 -... [[-0.019874367862939835, -0.007145109586417675... 2 1608732 https://ja.wikipedia.org/wiki/%E5%9B%BD%E7%A8%... ... [国税不服審判所（こくぜいふふくしんぱんしょ、英語：National Tax Tribuna... [[-0.0033126184716820717, -0.00819882377982139... 3 1608733 https://ja.wikipedia.org/wiki/%E3%83%93%E3%83%... ... [ビュフォンの針（ビュフォンのはり、）は18世紀の博物学者ジョルジュ＝ルイ・ルクレール、コン... [[-0.016334403306245804, -0.010183143429458141... 4 1608736 https://ja.wikipedia.org/wiki/%E3%83%9E%E3%83%... ... [マリー・ベル（Marie Bell　1900年12月23日 - 1985年8月15日）は、... [[0.001502405502833426, -0.0014052878832444549... [5 rows x 6 columns] Basic Statistics: ================================================== Text length - Mean: 1904.54, Median: 913.00 Text length - Min: 10, Max: 353,956 Text length - 25th percentile: 471.00 Text length - 75th percentile: 1864.00 Sentence count - Mean: 60.05, Median: 34.00 Sentence count - Min: 1, Max: 9,717 Sentence count - 25th percentile: 20.00 Sentence count - 75th percentile: 61.00 Sentence length - Mean: 30.32, Median: 22.00 Sentence length - Min: 1, Max: 1,542 Sentence length - 25th percentile: 8.00 Sentence length - 75th percentile: 43.00