File size: 3,515 Bytes
462abe2 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 |
Found 2726 parquet files
Using 2726 files for visualization
Processing batches: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 273/273 [35:49<00:00, 7.87s/it]
Processing took 2149.31 seconds
Dataset Information:
==================================================
Total number of rows: 1,377,150
Total number of sentences: 82,701,524
Columns in the dataset:
['id', 'url', 'title', 'text', 'text_sentences', 'text_sentences_sonar_emb']
Data types:
id object
url object
title object
text object
text_sentences object
text_sentences_sonar_emb object
dtype: object
Sample rows:
==================================================
id url ... text_sentences text_sentences_sonar_emb
0 1608728 https://ja.wikipedia.org/wiki/%E4%BA%95%E4%B8%... ... [井上 俊輔（いのうえ しゅんすけ、1985年6月4日 - ）は、日本の男子バレーボール選手... [[0.00359170138835907, 0.0005671343533322215, ...
1 1608729 https://ja.wikipedia.org/wiki/%E3%83%A9%E3%83%... ... [ラース・ピーター・ハンセン（Lars Peter Hansen、1952年10月26日 -... [[-0.019874367862939835, -0.007145109586417675...
2 1608732 https://ja.wikipedia.org/wiki/%E5%9B%BD%E7%A8%... ... [国税不服審判所（こくぜいふふくしんぱんしょ、英語：National Tax Tribuna... [[-0.0033126184716820717, -0.00819882377982139...
3 1608733 https://ja.wikipedia.org/wiki/%E3%83%93%E3%83%... ... [ビュフォンの針（ビュフォンのはり、）は18世紀の博物学者ジョルジュ＝ルイ・ルクレール、コン... [[-0.016334403306245804, -0.010183143429458141...
4 1608736 https://ja.wikipedia.org/wiki/%E3%83%9E%E3%83%... ... [マリー・ベル（Marie Bell 1900年12月23日 - 1985年8月15日）は、... [[0.001502405502833426, -0.0014052878832444549...
[5 rows x 6 columns]
Basic Statistics:
==================================================
Text length - Mean: 1904.54, Median: 913.00
Text length - Min: 10, Max: 353,956
Text length - 25th percentile: 471.00
Text length - 75th percentile: 1864.00
Sentence count - Mean: 60.05, Median: 34.00
Sentence count - Min: 1, Max: 9,717
Sentence count - 25th percentile: 20.00
Sentence count - 75th percentile: 61.00
Sentence length - Mean: 30.32, Median: 22.00
Sentence length - Min: 1, Max: 1,542
Sentence length - 25th percentile: 8.00
Sentence length - 75th percentile: 43.00 |