| Found 2726 parquet files | |
| Using 2726 files for visualization | |
| Processing batches: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 273/273 [35:49<00:00, 7.87s/it] | |
| Processing took 2149.31 seconds | |
| Dataset Information: | |
| ================================================== | |
| Total number of rows: 1,377,150 | |
| Total number of sentences: 82,701,524 | |
| Columns in the dataset: | |
| ['id', 'url', 'title', 'text', 'text_sentences', 'text_sentences_sonar_emb'] | |
| Data types: | |
| id object | |
| url object | |
| title object | |
| text object | |
| text_sentences object | |
| text_sentences_sonar_emb object | |
| dtype: object | |
| Sample rows: | |
| ================================================== | |
| id url ... text_sentences text_sentences_sonar_emb | |
| 0 1608728 https://ja.wikipedia.org/wiki/%E4%BA%95%E4%B8%... ... [井上 俊輔（いのうえ しゅんすけ、1985年6月4日 - ）は、日本の男子バレーボール選手... [[0.00359170138835907, 0.0005671343533322215, ... | |
| 1 1608729 https://ja.wikipedia.org/wiki/%E3%83%A9%E3%83%... ... [ラース・ピーター・ハンセン（Lars Peter Hansen、1952年10月26日 -... [[-0.019874367862939835, -0.007145109586417675... | |
| 2 1608732 https://ja.wikipedia.org/wiki/%E5%9B%BD%E7%A8%... ... [国税不服審判所（こくぜいふふくしんぱんしょ、英語：National Tax Tribuna... [[-0.0033126184716820717, -0.00819882377982139... | |
| 3 1608733 https://ja.wikipedia.org/wiki/%E3%83%93%E3%83%... ... [ビュフォンの針（ビュフォンのはり、）は18世紀の博物学者ジョルジュ＝ルイ・ルクレール、コン... [[-0.016334403306245804, -0.010183143429458141... | |
| 4 1608736 https://ja.wikipedia.org/wiki/%E3%83%9E%E3%83%... ... [マリー・ベル（Marie Bell 1900年12月23日 - 1985年8月15日）は、... [[0.001502405502833426, -0.0014052878832444549... | |
| [5 rows x 6 columns] | |
| Basic Statistics: | |
| ================================================== | |
| Text length - Mean: 1904.54, Median: 913.00 | |
| Text length - Min: 10, Max: 353,956 | |
| Text length - 25th percentile: 471.00 | |
| Text length - 75th percentile: 1864.00 | |
| Sentence count - Mean: 60.05, Median: 34.00 | |
| Sentence count - Min: 1, Max: 9,717 | |
| Sentence count - 25th percentile: 20.00 | |
| Sentence count - 75th percentile: 61.00 | |
| Sentence length - Mean: 30.32, Median: 22.00 | |
| Sentence length - Min: 1, Max: 1,542 | |
| Sentence length - 25th percentile: 8.00 | |
| Sentence length - 75th percentile: 43.00 |