diff --git a/.gitattributes b/.gitattributes index 8bf0efc823fb5ac090a4cba33b076dbb73c23dc9..fcf06db862169a516cbe1f4f9c416b062f03d4dd 100644 --- a/.gitattributes +++ b/.gitattributes @@ -5145,3 +5145,6 @@ outputs_v5/common_crawl_6/common_crawl_6_filtered_0125/pass5_removed.jsonl filte outputs_v5/common_crawl_6/common_crawl_6_filtered_0126/pass5_removed.jsonl filter=lfs diff=lfs merge=lfs -text outputs_v5/common_crawl_6/common_crawl_6_filtered_0127/pass5_removed.jsonl filter=lfs diff=lfs merge=lfs -text outputs_v5/common_crawl_6/common_crawl_6_filtered_0128/pass5_removed.jsonl filter=lfs diff=lfs merge=lfs -text +outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/dedup_removed.jsonl filter=lfs diff=lfs merge=lfs -text +outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/dedup_removed.jsonl filter=lfs diff=lfs merge=lfs -text +outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/dedup_removed.jsonl filter=lfs diff=lfs merge=lfs -text diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/common_crawl_0_filtered_0003.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/common_crawl_0_filtered_0003.parquet new file mode 100644 index 0000000000000000000000000000000000000000..36a42c141e879a5079588da21745af6f748d993a --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/common_crawl_0_filtered_0003.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:796915119ed4bb4e2f95a661163ebe4cd7d7a5db24ecfe554480a389b99c5c11 +size 44887885 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..8cdcf57b32c61e751e48c4232d538390cfab2235 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/dedup_removed.jsonl @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a29205568fb0e45418723e90480cda3f651dc95b062731747a7aeef61ca862ae +size 194613650 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..10ac1b78c447970b21b29a08d09238e600b739af --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0003/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0003", + "rows_in": 49911, + "rows_dropped": 31040, + "rows_out": 18871, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:15.915725+00:00", + "compression": "ZSTD", + "verified_sha1": 31040, + "seconds": 5.9, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/common_crawl_0_filtered_0004.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/common_crawl_0_filtered_0004.parquet new file mode 100644 index 0000000000000000000000000000000000000000..a41a172185fd124a1a652fce4f3d01a18550e3a7 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/common_crawl_0_filtered_0004.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e39e3cfac46c344841a030c69fcb9a17db5f963e1658cf8bfcb00545728346c8 +size 13982 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..d4eb2cd0ba7a834e78bbdd5867b307478e552399 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/dedup_removed.jsonl @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:48b9f38b9e28744d63463e5fec6c6b84287dd206d704cee508226a7aee293e0a +size 311511999 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..bbc3f86cb34c0d13ce71c4da716ebf819ef8fae6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0004/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0004", + "rows_in": 49949, + "rows_dropped": 49948, + "rows_out": 1, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:15.914582+00:00", + "compression": "ZSTD", + "verified_sha1": 49948, + "seconds": 7.2, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/common_crawl_0_filtered_0005.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/common_crawl_0_filtered_0005.parquet new file mode 100644 index 0000000000000000000000000000000000000000..f80521641eabf0ff1fcb8b600b9c5a35a0e43d20 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/common_crawl_0_filtered_0005.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:6cd591acf6205b8e1b352c88591e4688a31cb54dd2711e721e134d3f60cabca6 +size 28317834 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..e1790396fda70b2adb3dca9c2283ad74c2c43634 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/dedup_removed.jsonl @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8d663b947dfb95fc72ea21c93022d33d7dcbaaedb54e07c2d7605d92e1c9a748 +size 235109822 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..dde0c5ab9b586b9a0afe18a0791912e39212e1bc --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0005/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0005", + "rows_in": 49648, + "rows_dropped": 37711, + "rows_out": 11937, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:15.850869+00:00", + "compression": "ZSTD", + "verified_sha1": 37711, + "seconds": 6.4, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/common_crawl_0_filtered_0006.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/common_crawl_0_filtered_0006.parquet new file mode 100644 index 0000000000000000000000000000000000000000..dfd5c1f2ed5e64f676402166cbdf7dbb3fefb632 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/common_crawl_0_filtered_0006.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1fb258bb6482ae5e9940f504f8da8b3bdad241408de9137ef303861216a6f7f7 +size 119489079 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..987471339b5dd6907a40a64bd6679f1790683c47 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 1364, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "http://backpackermemories.com/dioptograph1451265.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の一部を公開しています!\n## 英語で読書!\n「洋書はハードルが高くて手が出ない」という人も多いのではないでしょうか。そこで今月の特集では、初めての方にもおすすめの洋書などをご紹介します。イギリスの独立系書店に「洋書の今」を聞いたインタビューもお見逃しなく!\nスキマ時間で満点TOEIC塾濱崎潤之輔さんと星名亜紀さんの交互執筆連載。忙しい中でもなんとか時間を見つけてTOEIC(R)L&Rテストのスコアアップを目指したい人のための学習法を紹介します。\n英検1級ライティング&スピーキング対策講座英検1級の英作文&二次試験の対策方法をご紹介!英検1級になかなか合格できないとお悩みの方や、これから挑戦する方、ライティングやスピーキングに苦手意識がある方は必読です。\nワンランク上の英語ビジネスメール講座ロッシェル・カップさんが、日本人のビジネスメールを添削しながら、正確かつ明確にメールを書くコツや便利な英語表現を解説します。この連載で学べば、もう英語メールは怖くない!\nイギリス育ち翻訳者の英語文学へのいざない多様な作家による作品を通して、文学をリアルに感じる読み方をお届け。言語表現やアイデンティティーなど、英語学習者も遭遇するテーマを、海外で育った翻訳者が語ります。\n字幕のムコウ教科書では目にしない「ちょっと奇妙な英語」にこそ、言語や文化をより深く学ぶためのヒントが隠れています。さまざまな映画作品のセリフを通して、英語のからくりや背景にある文化を探っていきましょう。", "perplexity": 17.468646635193263}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..152e6b94a3ae37fd3d4e672c37b4ec6ca8ffbb3e --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0006/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0006", + "rows_in": 49480, + "rows_dropped": 1, + "rows_out": 49479, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:15.856882+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 3.7, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/common_crawl_0_filtered_0007.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/common_crawl_0_filtered_0007.parquet new file mode 100644 index 0000000000000000000000000000000000000000..51a3b85efedf425c0ec52da3e97e3253e134dbcf --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/common_crawl_0_filtered_0007.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e428531a39341a4d3424bb25d1c1e052d895a98921268f953deaa43b1f5112b9 +size 119101388 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..21a51f337b14613db9dede9c6e4751529e498931 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 2077, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=54783", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 15139, "sha1": "ce202d4f020e7623fc3de60e3c0a5f57704cb03c", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0003", "kept_row_index": 4158, "reason": "exact_duplicate", "record": {"url": "https://modulardekho.com/medius1994567.html", "content": "## FEATURED PRODUCTS / 特集\n5月17日 MOONEYES 35周年。Anniversary を記念したアイテムが登場!\nあなたの愛車のダッシュボードを日焼けによる色あせやヒビ割れから護ります\nOld is New! キャップをカスタムできるルーバーです\nNew Clothings Collection Spring - Summer 2021!!\niPhone 12 Pro, 12, 12 mini 対応ケースが待望の入荷!\n洗車グッズや、お部屋やオフィスのお掃除などに必要なアイテムを御紹介します。\nMotorcycle を簡単にカスタムできるアクセサリーを特集しました。\n女性に人気のハンドルカバー特集。\nECO-FRIENDLY GOODS 特集です!!\nMOON Cafe の オリジナルアイテムはこちら\nあなただけのオリジナル ライセンス フレームをお作りします。\nMOONEYES が 他の企業とコラボしたアイテムを御紹介します。\n様々な種類のグラス、マグカップなど来客用にも普段使いにも使えるアイテムを取り揃えました。\n愛車の雰囲気を簡単に変えられる、ホールキャップ & トリムリングです。\nピンストライプは始めたくなったらまずはこちらをご確認ください。\nサインボード、メッセージボード、パーキングサインを一度に集めてみました。\n## BACK IN STOCK / 再入荷\n-\nMOONEYES トランスポーター ラバー トレイ\n[MG839TR]", "perplexity": 17.44651111898208}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..571720d6989590af502842ef6a52242e75e297e0 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0007/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0007", + "rows_in": 49997, + "rows_dropped": 2, + "rows_out": 49995, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:16.228112+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.9, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/common_crawl_0_filtered_0008.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/common_crawl_0_filtered_0008.parquet new file mode 100644 index 0000000000000000000000000000000000000000..a20ced9f3eaa5fb977c7e2fafcf61ed1d67df0ad --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/common_crawl_0_filtered_0008.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:4b72cf5b1dd09e836e3632b364515d724193224980fbef0dedf0b335aa765380 +size 118682858 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..0eb987037b14cd223dd9f44938c86c949050b322 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 16202, "sha1": "2d5228f2007b22b4335c4da6fcf0288db283abfc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 27505, "reason": "exact_duplicate", "record": {"url": "http://saracuse.net/paramilitary4316592.html", "content": "新型コロナウイルス感染予防に関するお願い\n## ニュース\nイベント令和3年11月27日(土)~令和4年1月26日(水)|小企画展「昆虫標本展~地域を特徴付ける昆虫たち 髙橋雄一コレクション~」\n令和3年12月11日(土),12日(日)|「パイプロボコンプレ大会 in 仙台」\n令和3年12月19日(日)|大人の科学教室3「スターリングエンジン」\n令和3年12月11日(土)|しっぽゆらゆら杜猫会「保護猫の譲渡会」\n令和3年12月4日(土)|楽しい化学実験室4「ケミカルライトをつくろう」\n令和3年12月4日(土)|プログラミング教室4初級\n令和3年10月29日(金)~12月26日(日)|小企画展 写真と映像で綴る宮城の野鳥展\nお知らせ段ブロック迷路に鏡の通路を設置しました\n## 動画配信\n### 蒲生調査\n頑張ろう仙台私たちの街だからスリーエム仙台市科学館では、毎年、蒲生干潟をフィールドにして自然観察会を行ってきました。\n震災によって大きな被害を受け、変わり果ててしまった蒲生干潟ですが、豊かな干潟として回復していく姿を科学の視点で\n継続観察していくこととなりました。\n蒲生干潟が、海浜植物が豊かに生育し、多くの水鳥が集まる干潟に再生していくように、私たちの暮らす街・仙台市も\n元気を取り戻していきたいと念じています。\n## 科学館友の会\nなぜだろう、どうしてかな・・身の回りの自然に興味を持ち、科学に親しむ会として「科学館友の会」が\n1998年6月に生まれました。\n生き物や岩石・化石を調べたり、化学実験やコンピュータ、工作などをやってみたいと思う人なら、\n年齢に関わらず誰でも入会できる会です。", "perplexity": 26.4629146532851}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..f73568ff363a61b18d1f5a2306df951c385bd0f3 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0008/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0008", + "rows_in": 49884, + "rows_dropped": 1, + "rows_out": 49883, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:15.912091+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 3.5, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/common_crawl_0_filtered_0009.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/common_crawl_0_filtered_0009.parquet new file mode 100644 index 0000000000000000000000000000000000000000..85deda7cb31140d630c672670056dca51299c732 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/common_crawl_0_filtered_0009.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e0ff17cd9884ac1f20341ba043c109e0293d3264618c0511ce6207aeabd4ffb5 +size 117084561 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..762212cb7282d1ce65506df72f4242f04a0d0c40 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 8378, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/brand/Leuchten-Leuchtmittel/474", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..9459e08d1e69a6fdcbb76b329f0adc011a2fe372 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0009/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0009", + "rows_in": 49467, + "rows_dropped": 1, + "rows_out": 49466, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:15.719826+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 3.3, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/common_crawl_0_filtered_0010.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/common_crawl_0_filtered_0010.parquet new file mode 100644 index 0000000000000000000000000000000000000000..3ab7971f250b2d68721a0c155dc28dca13dcffdf --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/common_crawl_0_filtered_0010.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:4b5aa18e5ee96517ea47ffeb96870cecd7e4508cbfa8deb52d98c1fb6439b5c9 +size 118882263 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..39805faa0f302fadc95b226208c04e071781a8a0 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 17160, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://mac.x0.com/flatterer655327.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 26500, "sha1": "0bf18de12480b880d70e058a1dd81e31ae5fa3f6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 22260, "reason": "exact_duplicate", "record": {"url": "https://fiit.jp/Jewelry-Sets/jzrga-106267/Shiny-Disc-Button-Studs-Vintage-Set-of.action", "content": "OUR VISION \nフィットネスITソリューションのリーディングカンパニー\nわたしたちは、フィットネスITソリューションのリーディングカンパニーとなるべく、 ご利用ユーザー様、クライアント様から愛されるサービスを創り続けます。新規事業はもちろん、既存事業のアップデートも徹底的に行い、 みなさまのフィットネスライフの「未来」に改善提案を行い続けます。\n今ここにない「未来」はFiiTが創る\n我々はフィットネス業界にイノベーションを起こし、 価値とエネルギーに満ち溢れたITサービスを創るプロフェッショナル集団です。 ※イノベーションとは「未来への改善を地道に繰り返すこと」と弊社では定義しています。\n下記ポリシーは必ず順守し、今はない新たな価値あるサービスをご提供していきます。・フィットネスとITの融合サービスのみ創る\n・常に1位を取り続けるサービスを創る\n・価値があるサービスのみ創る\n・エネルギーがある者のみがサービスを創る\n・今ここにない未来のサービスを創る\n・スケールするサービスのみ創る\n・仲間に自慢できるサービスを創る\n・実行力のある組織でサービスを創る\n・感動を生むサービスを創る\n## OUR VALUE\nFiiTのこだわり\n「価値にこだわる」\n何か変化をする際、「これは本当にユーザー様にとって価値があるか?」 を常に問い続け、意思決定を行います。\n「1位にこだわる」\nフィットネスIT業界のリーディングカンパニーとして、 狙った業界のトップカンパニーとなるまでアップデートを繰り返し、 ご提供サービスの価値が常に「1位」となるよう、胡坐をかかずにこだわり続けます。\n「エネルギーにこだわる」\n本当に価値あるサービスを創れる者は何かしらの”エネルギー”を持ち合わせている方が多い。 我々は”エネルギー”のある方のみ採用としており、 フィットネス業界に大きなインパクトを与える”事業家集団”であることにこだわります。", "perplexity": 14.807313173896002}} +{"row_index": 32847, "sha1": "038316165812db6416093c076e48ddfe6f8de6fc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0007", "kept_row_index": 36591, "reason": "exact_duplicate", "record": {"url": "http://fandango.jp/blog-category-2.html", "content": "*NEW*Style of Life住まい手の感性が光る 職と住の機能を詰め込んだ\n“倉庫のような家”サウンドデザイナーのさんと美術装飾家のユリさんが家を建てるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も変化し続けている。\n- Style of Life建築デザイナーの自邸 鎌倉の緑豊かな高台に建つ\n居心地の良い小さな平屋Atelier23.を主宰する建築デザイナーのさんの7軒目の住まいは、鎌倉の自然豊かな小高い丘の上に建つ平屋の家。リビングの大きな窓を開けると、広々とした明るい庭が広がる。\n- Style of Life開放的なつくりの中で癒されて暮らす モノが多くても気にならず、\nオン/オフの切り替えもできる家可能な限りオープンなつくりにした室内は「癒されつくしてストレスのことを忘れるくらい」だという野中さん。そのメインのスペースとしてバスルームを考えたという。\n- Style of Lifeアメリカンスタイルのリノベ自然体で楽しく暮らす\n広い庭付きヴィンテージハウスアメリカ人が住んでいた大きな古い家に一目惚れし、東京から相模原に引っ越した川原さん一家。アメリカンヴィンテージスタイルのリノベーションを施し、ゆったりとした日常を満喫している。\n- Renovation元印刷工場をリノベーション 吹き抜けを彩る“緑の階段”で\n光と自然を取り込む建築家の間田さん夫妻が2度目の家づくりに選んだのは、築33年、地上3階、地下1階の元印刷工場。リノベーションにより、コンクリートの躯体を活かした荒々しくもぬくもりのある家へと生まれ変わった。\n- Style of Life108段の先に建つ家鎌倉の古民家で\n手仕事を楽しむ鎌倉の森の中を抜ける不揃いの階段を108段昇ると、庭を囲むように4軒の古民家が建つ一角が現れる。山下りかさんはその中の1軒をセルフリノベーションし、手仕事を楽しむ。\n- Architecture自然と向き合うヴォールト天井の家 植物や虫や動物たちと\n境界なく暮らす石神井公園内にある池に面して建てられた鶴岡邸はヴォールト天井をそのまま外部にまで突き出させた外観で異彩を放つが、このヴォールト採用にはいくつかの思いが込められている。\n- Style of Life屋根形状とレベル差を活用 家族がゆるやかにつながる\n屋根裏のような居住空間川崎市の閑静な住宅街に建つT邸。中央に設けた吹き抜けやスキップフロアによる高低差などさまざまな工夫によって、家族4人が快適に暮らす。\n- Architecture建築家夫妻が挑んだ斜面の狭小地 光と影、曲線がもたらす\n美しく上質な住まい高低差4m以上の斜面の狭小地に自邸を建てた青柳創さんと綾夏さん。建築家夫妻の創意工夫により、建坪7.5坪とは感じさせない広々とした空間を実現した。\nシンプルかつ大胆なデザインの家天井に連なる垂木が美しい、伸びやかな大空間が魅力の福田さん一家の住まい。シンプルだけど個性的な家に住みたいと考えていたさんは、設計を駒田建築設計事務所に依頼。\n- Architecture旗竿地に立つ店舗併用住宅 半地下につくったのは\n“景色”を見渡せ、落ち着く大空間玄関を入って正面に焼き菓子店を設けた村上邸。その先に進むと、高さ3.5m面積32m2ほどの、住宅とは思えない気積の大きな半地下空間が現れる。\n- Style of Life透明水彩画家のアトリエ兼住居 アメリカ好きの夫婦が目指す\n理想の空間透明水彩画家の かとうくみさんは夫共々アメリカ好き。そんなアメリカ好き夫婦が2度に分けて、理想の家を実現させた。\n- Style of Life心地よい居場所が点在体感できる広さを追求した\nスキップフロアの家デザインユニット『トネリコ』の君塚賢さんが昨年建てた自邸は、空間を立体的にとらえたスキップフロアの家。『トネリコ』が手掛けた家具やインテリアが空間を盛り上げている。\n## 人生をフルに楽しみたい人たちへ、新しいライフスタイルマガジン『100%LiFE』。『100%LiFE』は、マガジンハウスが「スタイルのある家と暮らし」をテーマに情報発信するデジタルマガジンです。クリエイティブな感性で暮らしと空間を楽しむ人たちの交流の場となるライフスタイルメディアを目指しています。メインとなるコンテンツは、遊び心とクリエイティビティあふれる生活シーンを多様でハイクオリティな空間事例とともに紹介。またレギュラーコーナーでは、インテリア、アート、デザイン、ファッションなど、クリエイティブ分野のトレンド情報を伝えていきます。『100%LiFE』は、タブロイドPC、及びスマートフォンにも最適化し、モバイルでもストレスなく読める設計になっています。また、Newsstandアプリでのスマートフォン向け電子雑誌展開も予定しています。『100%LiFE』は、ヘーベルハウスを展開する旭化成ホームズの特別協力を受けて運営しています。web magazine of Magazine House supported by 100 ひゃく パーセント ライフ 100%ライフ", "perplexity": 14.335650491062793}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..67d38c2250f90fcde67ad5453af033dcf39cd85d --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0010/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0010", + "rows_in": 49773, + "rows_dropped": 3, + "rows_out": 49770, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:19.369118+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.8, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/common_crawl_0_filtered_0011.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/common_crawl_0_filtered_0011.parquet new file mode 100644 index 0000000000000000000000000000000000000000..d61d631445d0077d3b03e949fd3b1857eec94d25 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/common_crawl_0_filtered_0011.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f4f9d58f2ec8326e2511c9a94ba06e250954477ccbc53a2537395b5c260551ea +size 119287657 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..2ea4cf620f531afd94c399cb30ab4e9802051dd9 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 6208, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://eiga226.com/interbank1216529.html", "content": "## 勉強に集中する方法(パートI)\n研究方法:集中する方法。 私たちの学生が勉強しようとするたびに直面する問題の一つは、適切な集中力を見つけることです。 これは、Studentville.itのアドバイスを使用して行う方法です。\n## エミリア・クラーク:伝記、体重、入れ墨\nエミリア・クラークは、ドラゴンの母であるデナーリス・ターガリアーンの母、カレージ女王の通訳です。 あなたは伝記、体重とその入れ墨を知っています。\n### 24時間の人気\n## 入学試験2019:限られた数の利用可能な場所\n入学試験2019、限られた数とプログラムされたアクセス学部のために利用可能な場所:すべてのミュアの通知と表示に。\n## どの学部を選択しますか? 適性検査\nどの学部を選択しますか? あなたの性格や興味に基づいて、オリエンテーションテストとあなたに最適な大学を見つけるためのヒント。\n## 一般的な神曲のテーマ\nテーマは神曲で演じました。 プロット、構造、最終コメントへの言及を伴う、神曲のダンテの旅のテーマ。\n## 神曲のテーマ:ダンテのインフェルノ\n神曲のテーマ:構造と要約を参照して、ダンテの地獄で演じられたテーマ。", "perplexity": 22.826046406169112}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..424d5993d016d196b953a8d5d03709cd3bbc7ef2 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0011/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0011", + "rows_in": 49666, + "rows_dropped": 1, + "rows_out": 49665, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:19.177065+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 3.3, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/common_crawl_0_filtered_0013.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/common_crawl_0_filtered_0013.parquet new file mode 100644 index 0000000000000000000000000000000000000000..f0efde19f91c19f641ac41baeb2106c09f9b2509 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/common_crawl_0_filtered_0013.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3a7842402948db9754d3dce56fb0dacc50d0714a2c9bebb6b87e010f31bc5dfa +size 118569929 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..61ddb3983b27f94ad098628b49126f4fd0e230e2 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 39930, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/Dichtungen-109169-ACLASS-W-VICTOR-REINZ.do", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..beaed218b9e2684c3e9db6feaa11dd4c69ac99c6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0013/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0013", + "rows_in": 49576, + "rows_dropped": 1, + "rows_out": 49575, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:19.651293+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 3.7, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/common_crawl_0_filtered_0014.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/common_crawl_0_filtered_0014.parquet new file mode 100644 index 0000000000000000000000000000000000000000..27af49355241c119b2b69f65ba7c006970011022 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/common_crawl_0_filtered_0014.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c0ca2ccd1828939a2aea64b05509e3e6542e89c1a313e1f56ac926fbe8e84b3e +size 117739525 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..363ff113a10c74a793100aac0efbc3d4c99d9ee3 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 21769, "sha1": "9d64e3f4ff9c69c6b26f15a3903abfccc24121a6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 12815, "reason": "exact_duplicate", "record": {"url": "http://oasisnailspaclovis.com/scrimshanker332968.html", "content": "「彼女は確信犯だ」のような、悪いことなどを分かっていてやる「確信犯」は英語で \"She know what she's doing.\" と表せます。「何をやっているかちゃんと分かってやっている」という意味です。\"I kn [...]\n## 英語にしにくい日本語\n街で売っていた靴下のラベルに面白いことが書かれていました。 そこには英語で「フリーサイズ」的なことが書かれていたのですが、よくある \"one-size-fits-all\" ではなかったんです。 「ほとんどの人にピッタリです」という意味で \"one-size-fits-○○\" と書いてあ [...]\n## 日常生活の英語\n## 話す英語\nレストランでまだ食べかけのお皿を下げられそうになった時の「まだ食べています」「食べ終わってません」は \"I'm still going.\" や \"I' [...]\n## 間違いやすい表現\n「眉毛」は英語で \"eyebrow(s)\" と言います。読み方は「アイブロウ」でも「アイブロー」でもなく「アイブラウ」に近い発音です。濃い(太い)眉は [...]\n## 書く表現\nおもちゃ屋さんの『トイザらス』、その名前を知らない人はいないと思います。 アメリカの「トイザらス」は今年、国内の最後の2店舗が閉鎖されたようですが、日本やその他の国ではまだ店舗がたくさんあります。 そんな『トイザらス』ですが、ひらがなとカタカナが混ざった不思議な名前だと思いませんか? [...]", "perplexity": 17.522652893009255}} +{"row_index": 47345, "sha1": "0e2400c284869b1eccdc36ee311499feb6064201", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0002", "kept_row_index": 9040, "reason": "exact_duplicate", "record": {"url": "http://nwing.co.jp/bounteousness591780.html", "content": "シリーズ\n### 【SM小説】美咲凌介の連載掌編「どことなくSM劇場」第37話 消えた部誌の事件――どえむ探・・・\n人気SM作家・美咲凌介による、書き下ろし掌編小説・第37回目は「消えた部誌の事件」。Sのお姉さま・真琴さんと「どえむ探偵涼子」の馴れ初めの話。部室で入部希望者を待っていた真琴さんの元に現れたのは、特別礼儀正しい涼子。会った瞬間に強く惹かれてしまった真琴さんは唇を重ねたい衝動に駆られ......。\n### 【NYのベストセラーランキングを先取り!】ピューリッツァー賞を2回受賞したコルソン・ホワイ・・・\nNY在住のジャーナリスト・佐藤則男が紹介する、アメリカのベストセラー事情と、注目の一作をピックアップするコラムの71回目。今回は、1950年代の終わりから60年代にかけてのニューヨーク州ハーレム地区を舞台に、真っ当な生活と裏の社会との狭間でたくましく生きる黒人の姿を描いた小説を紹介します。\n今日の一冊\n### 【著者インタビュー】直島翔『転がる検事に苔むさず』/主役は苦労人の窓際検事! 第3回警察小・・・\nふだんは窃盗事件や器物損壊など、町の小さな事件ばかりを担当している検事が主人公のミステリー小説。謎解きの面白さはもちろんのこと、組織小説として読んでも引き込まれる一冊です。\n作品を知る\n### 歌人も詠まずにいられない、「猫」にまつわる短歌8選\n古今東西、多くの文士たちから愛され文学のテーマとされてきた“猫”。今回は、愛らしい飼い猫の歌や道端を行く野良猫を詠んだ歌など、“猫”が主役の現代短歌を8首紹介します。\n背景を知る\n### 【村上春樹ライブラリー開館】村上春樹ワールドが出来上がるまで\n### 【前編】書籍化決定! 大好評連載・茨城県民マンガ『だっぺ帝国の逆襲』 画/佐藤ダイン×監修・・・\n連載開始とともに大人気化し、ラジオ番組までできてしまった茨城県民マンガ『だっぺ帝国の逆襲』。P+D MAGAZINEでの連載に新しいエピソードを追加し、いよいよ単行本化されます。立ち上げ当初の苦労から取材時のエピソードなどについて、漫画担当の氏、監修の氏に語り合ってもらいました!\n### 【『アンソーシャル ディスタンス』ほか】「コロナ禍の恋」を描いた恋愛小説\n新型コロナウイルスの感染拡大による外出自粛要請の影響で、恋人や意中の人と気軽に会うことができなくなってしまった方も多いのではないでしょうか。コロナを経て、“恋愛のかたち”にもすこしずつ変化が生じてきています。今回はそんな、“コロナ禍の恋愛”をテーマにした小説を3作品紹介します。\n### ポストモダンの旗手 高橋源一郎\nポストモダンを代表する作家として活躍し続けるは、様々なカルチャーを織り交ぜたりパロディを駆使したりといった前衛的な作風で知られています。今回は、評論やラジオなど、多様な活躍を見せる高橋源一郎のおすすめ6作品を紹介します。\n### 川上弘美のおすすめ作品4選・生き物の息吹を読みとる\n芥川賞作家にして、現在、芥川賞選考委員を務めるは、「春の夜人体模型歩きさう」(句集『機嫌のいい犬』より)という俳句を詠んでいることからも伺えるように、元・高校の生物教師という経歴の持ち主です。彼女の小説には、多様な生き物が登場し、それは人間と同等な存在として描かれます。今回はおすすめ作品4選を紹介します。\n### 人気女性作家・唯川恵の実写化作品おすすめ5選\n1984年『海色の午後』で集英社第3回コバルト・ノベル大賞を受賞して小説家となり、以来多くの名作を生み出してきた唯川恵。繊細な女心や、熱く燃えたぎる女性のプライドを巧みに描き、多くの読者の心を掴んできました。今回はこれから唯川恵の作品を読んでみようという方におすすめしたい、実写化された5作品を紹介します。\n### 【生誕100周年】小説家・萩原葉子のおすすめ作品\n萩原朔太郎の娘として知られ、晩年に至るまで小説・エッセイを精力的に発表し続けた作家・萩原葉子。『蕁麻の家』を始めとする萩原葉子のおすすめ作品を紹介します。", "perplexity": 17.9861165738955}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..fd914fb0ada70e44f9e7b0d1a4f19cfe1c8324ae --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0014/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0014", + "rows_in": 49532, + "rows_dropped": 2, + "rows_out": 49530, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:19.605017+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.5, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/common_crawl_0_filtered_0015.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/common_crawl_0_filtered_0015.parquet new file mode 100644 index 0000000000000000000000000000000000000000..5f3022802b5a0bd08ac5453d91f56fb00ae8e596 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/common_crawl_0_filtered_0015.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0d6b754baac62b1b0660a3feac4f36e7a41e2711929f8d83e1fe5ccefb66268c +size 119378152 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..dbe43d7d28f2c2624d90f51fe15fec72c704aa5d --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 6911, "sha1": "6627586d9362a916d049b09f4564e4ac25b40fe4", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0013", "kept_row_index": 48308, "reason": "exact_duplicate", "record": {"url": "https://www.ghoxssocks.com/acetylamine560407.html", "content": "ウィーン地区については、Simmering(Vienna)を参照してください。 地下鉄の駅については、Simmering(Vienna U-Bahn)を参照してください。 シーリングについては、simmerringを参照してください。 「煮る」はここにリダイレクトします。 Hayley Williamsの曲については、Simmer(曲)を参照してください。 ストーブで煮るミートボールスープ。 煮る は、水の沸点のすぐ下(100°Cまたは212°F未満)およびポーチ温度(71〜80°Cまたは160〜180°Fを超える)に保たれた高温の液体で食品を調理する食品加工技術です。 )。安定した煮物を作るために、液体を沸騰させ、次にその熱源をより低い一定の温度に下げます。 内容 1 食品の準備で 1.1 日本料理 1.2 アメリカ料理 1.3 ブルガリア料理 1.4 オランダ料理とフランドル料理 1.5 ペルシャ料理 1.6 現代のストーブ 1.7 スロークッカー 2 参考文献 食品の準備で 煮るのは、沸騰するよりも穏やかな処理で、食品が固くなったり壊れたりするのを防ぎます。煮るのは通常、素早く効率的な調理方法です。水の代わりにミルクやクリームで煮込んだ食品は、クリームと呼ばれることもあります。適切な煮る温度はシェフの間で議論されているトピックであり、煮るの (\n## 知ってますか ...\nスペインのエンジニア この記事には複数の問題があります。 助けてください それを改善 またはこれらの問題について トークページ. (これらのテンプレートメッセージを削除する方法とタイミングを学ぶ) この記事のリードセクション キーポイントを適切に要約するには短すぎる可能性があります. リードを拡大して、記事のすべての重要な側面のアクセス可能な概要を提供することを検討してください。 (2014年2月) この記事 検証のために追加の引用が必要. 助けてください この記事を改善する 信頼できる情報源に引用を追加することによって。調達されていない資料は、異議を申し立てられ、削除される場合があります。ソースを見つける: 「レオナルドトーレスイケベド」 – ニュース · 新聞 · 本 · 学者 · JSTOR (2012年9月) (このテンプレートメッセージを削除する方法とタイミングを確認してください) (このテ (\n## ニュースで\n英国の生協 「協同組合卸売協会」はここにリダイレクトします。この名前の組織に関する一般的な情報については、協同組合卸売協会を参照してください。 コープワンエンジェルスクエア、マンチェスター、イギリス協同組合グループの本部タイプ協同組合業界小売、卸売、金融、ライフプランニング、社会的企業、教育設立1844年12月13日 (1844年12月13日); 177年前イギリスのランカシャー州ロッチデールで本部マンチェスターのワンエンジェルスクエア, イギリス場所の数7,000+重要人物アランレイトン(グループチェア)ダンホワイト(最高経営責任者)ピッパウィックス(副最高経営責任者)サービス食物葬儀保険法律サービスアカデミーコープヘルス収益95億ポンド(2017年)当期純利益72百万ポンド(2017)メンバー 460万人(アクティブメンバー、2017年)就業者数70,000以上(2017)子会社ニサリテールリミテッドManx Co-operative Society Limited さらに100以上 協同組合グループ、として取引 コープは、食品小売や卸売を含む小売業の多様な家族との英国の消費者協同組合です。電子薬局;保険サービス; 3,700を超える場所での法律サービスと葬儀。英国とマン島で最大の生協であり、460万人以上のアクティブメンバーが所有しています。会員は、社会の首都で1ポンドを購読し、 (\n## この日に\nカーボンリーフ2009年コロラド州デンバーのブルーバードシアターでライブパフォーマンスを行うカーボンリーフ背景情報原点バージニア州リッチモンドジャンルアメリカーナ、インディーロック、オルタナティヴカントリー、フォークロック、インディーフォーク、ブルーグラス、ルーツロック、ケルト活動年数1992年–現在ラベルコンスタントアイビーミュージック、ヴァンガードウェブサイト カーボンリーフ バージニア州リッチモンド出身のクインテットで、オルタナティカントリー、ケルト、フォークを取り入れたインディーロックで知られています。バンドメンバーの何人かは何年にもわたって変わってきましたが、CarbonLeafは1990年代初頭から一貫して音楽を作成し演奏してきました。バンドは現在、創設メンバーのバリー・プリヴェット、カーター・グラバット、テリー・クラーク、そしてジョン・マーケルとジェシー・ハンフリーで構成されています。カーボ (\n## その日の絵", "perplexity": 13.108447543366706}} +{"row_index": 49421, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://roughhollowhomes.com/bedown2550150.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..e705f4ec4acf6025897886e7acd1293e4b427220 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0015/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0015", + "rows_in": 49818, + "rows_dropped": 2, + "rows_out": 49816, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:21.381392+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.1, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/common_crawl_0_filtered_0016.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/common_crawl_0_filtered_0016.parquet new file mode 100644 index 0000000000000000000000000000000000000000..005368eb16244de3f14519e48c9591b6446ddce2 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/common_crawl_0_filtered_0016.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f3969e881b1b2addbe91d2207857dd935f33b0b3bedcc073609f6fed9b2a621c +size 118555693 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..9b514876e9d0fb5bf8608627b7f48dd840dd2212 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 37211, "sha1": "038316165812db6416093c076e48ddfe6f8de6fc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0007", "kept_row_index": 36591, "reason": "exact_duplicate", "record": {"url": "https://soto-zen.net/blatherskite452.html", "content": "*NEW*Style of Life住まい手の感性が光る 職と住の機能を詰め込んだ\n“倉庫のような家”サウンドデザイナーのさんと美術装飾家のユリさんが家を建てるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も変化し続けている。\n- Style of Life建築デザイナーの自邸 鎌倉の緑豊かな高台に建つ\n居心地の良い小さな平屋Atelier23.を主宰する建築デザイナーのさんの7軒目の住まいは、鎌倉の自然豊かな小高い丘の上に建つ平屋の家。リビングの大きな窓を開けると、広々とした明るい庭が広がる。\n- Style of Life開放的なつくりの中で癒されて暮らす モノが多くても気にならず、\nオン/オフの切り替えもできる家可能な限りオープンなつくりにした室内は「癒されつくしてストレスのことを忘れるくらい」だという野中さん。そのメインのスペースとしてバスルームを考えたという。\n- Style of Lifeアメリカンスタイルのリノベ自然体で楽しく暮らす\n広い庭付きヴィンテージハウスアメリカ人が住んでいた大きな古い家に一目惚れし、東京から相模原に引っ越した川原さん一家。アメリカンヴィンテージスタイルのリノベーションを施し、ゆったりとした日常を満喫している。\n- Renovation元印刷工場をリノベーション 吹き抜けを彩る“緑の階段”で\n光と自然を取り込む建築家の間田さん夫妻が2度目の家づくりに選んだのは、築33年、地上3階、地下1階の元印刷工場。リノベーションにより、コンクリートの躯体を活かした荒々しくもぬくもりのある家へと生まれ変わった。\n- Style of Life108段の先に建つ家鎌倉の古民家で\n手仕事を楽しむ鎌倉の森の中を抜ける不揃いの階段を108段昇ると、庭を囲むように4軒の古民家が建つ一角が現れる。山下りかさんはその中の1軒をセルフリノベーションし、手仕事を楽しむ。\n- Architecture自然と向き合うヴォールト天井の家 植物や虫や動物たちと\n境界なく暮らす石神井公園内にある池に面して建てられた鶴岡邸はヴォールト天井をそのまま外部にまで突き出させた外観で異彩を放つが、このヴォールト採用にはいくつかの思いが込められている。\n- Style of Life屋根形状とレベル差を活用 家族がゆるやかにつながる\n屋根裏のような居住空間川崎市の閑静な住宅街に建つT邸。中央に設けた吹き抜けやスキップフロアによる高低差などさまざまな工夫によって、家族4人が快適に暮らす。\n- Architecture建築家夫妻が挑んだ斜面の狭小地 光と影、曲線がもたらす\n美しく上質な住まい高低差4m以上の斜面の狭小地に自邸を建てた青柳創さんと綾夏さん。建築家夫妻の創意工夫により、建坪7.5坪とは感じさせない広々とした空間を実現した。\nシンプルかつ大胆なデザインの家天井に連なる垂木が美しい、伸びやかな大空間が魅力の福田さん一家の住まい。シンプルだけど個性的な家に住みたいと考えていたさんは、設計を駒田建築設計事務所に依頼。\n- Architecture旗竿地に立つ店舗併用住宅 半地下につくったのは\n“景色”を見渡せ、落ち着く大空間玄関を入って正面に焼き菓子店を設けた村上邸。その先に進むと、高さ3.5m面積32m2ほどの、住宅とは思えない気積の大きな半地下空間が現れる。\n- Style of Life透明水彩画家のアトリエ兼住居 アメリカ好きの夫婦が目指す\n理想の空間透明水彩画家の かとうくみさんは夫共々アメリカ好き。そんなアメリカ好き夫婦が2度に分けて、理想の家を実現させた。\n- Style of Life心地よい居場所が点在体感できる広さを追求した\nスキップフロアの家デザインユニット『トネリコ』の君塚賢さんが昨年建てた自邸は、空間を立体的にとらえたスキップフロアの家。『トネリコ』が手掛けた家具やインテリアが空間を盛り上げている。\n## 人生をフルに楽しみたい人たちへ、新しいライフスタイルマガジン『100%LiFE』。『100%LiFE』は、マガジンハウスが「スタイルのある家と暮らし」をテーマに情報発信するデジタルマガジンです。クリエイティブな感性で暮らしと空間を楽しむ人たちの交流の場となるライフスタイルメディアを目指しています。メインとなるコンテンツは、遊び心とクリエイティビティあふれる生活シーンを多様でハイクオリティな空間事例とともに紹介。またレギュラーコーナーでは、インテリア、アート、デザイン、ファッションなど、クリエイティブ分野のトレンド情報を伝えていきます。『100%LiFE』は、タブロイドPC、及びスマートフォンにも最適化し、モバイルでもストレスなく読める設計になっています。また、Newsstandアプリでのスマートフォン向け電子雑誌展開も予定しています。『100%LiFE』は、ヘーベルハウスを展開する旭化成ホームズの特別協力を受けて運営しています。web magazine of Magazine House supported by 100 ひゃく パーセント ライフ 100%ライフ", "perplexity": 14.335650491062793}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..14dc3297bcfb180fa11e395477943db18677d51b --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0016/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0016", + "rows_in": 49578, + "rows_dropped": 1, + "rows_out": 49577, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:21.932372+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 3.1, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/common_crawl_0_filtered_0017.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/common_crawl_0_filtered_0017.parquet new file mode 100644 index 0000000000000000000000000000000000000000..5d39eee4c7c981c4a45c03d62aa09d97a7524ef4 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/common_crawl_0_filtered_0017.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ce3e3d30f22ed6cb33f9a512092f3e298edf05315b30f497ba724a1e94eb760b +size 118264733 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..a01c9825289176e84a89c33efbe0a1a5f556e61f --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 17078, "sha1": "b3c0ee9069a133c2ef908a362e8ab531cde1b514", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 21495, "reason": "exact_duplicate", "record": {"url": "https://pradion.com/corncake1017794.html", "content": "気象予報士の資格を取るとどんなメリットがある?\n## 建築施工管理技士の資格を取るとどんなメリットがある?\n建築施工管理技士は、建築工事の全体を把握し、施工計画や品質を管理する技術者です。建設業に携わる人のステップアップにおすすめの資格ですが、1級と2級に分かれる資格で、令和3年からは新しい試験制度へと改正がされました。この記事では建築施工管理技士について、取得するとできるようになる仕事、試験内容や合格率などを紹介します。\n## 技術英語能力検定(旧:工業英検)の資格を取るとどんなメリットがある?\n研究者やエンジニアは国外の論文から情報を取得することが多く、専門的な英語力が必要とされます。技術英語能力検定(旧:工業英検)は、科学・技術分野の英語の語彙や文書理解・作成能力を問う試験です。 この記事では、技術英語能力検定(旧:工業英検)の試験概要や資格取得が役立つ職業などについて紹介します。\n## 歯科技工士の資格を取るとどんなメリットがある?\n虫歯の治療で歯を削り、詰め物や被せ物を詰めた経験のある人は少なくないと思いますが、こうした技工物を作るプロフェッショナルが「歯科技工士」です。仕事内容や就職先、取得のメリットなどをお伝えしていきます。\n## 液化石油ガス設備士の資格を取るとどんなメリットがある?\n液化石油ガス(LPガス)は一般家庭でも使われているガスのひとつです。便利なLPガスですが、取り扱いをまりが得ると重大な事故や災害を引き起こすため、知識と技術を習得した液化石油ガス設備士という資格保有者の存在が必要です。 この記事では液化石油ガス設備士の資格取得について、試験と講習の内容や受験資格などを解説していきます。", "perplexity": 10.751609570167876}} +{"row_index": 21235, "sha1": "f4e3a28320e98e52b8241e39bc911708931c0aad", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 5557, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/safe-dating-app-in-india/", "content": "designfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.58394496894753}} +{"row_index": 45104, "sha1": "f4e3a28320e98e52b8241e39bc911708931c0aad", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 5557, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/come-fare-matchmaking-personalizzato/", "content": "designfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.58394496894753}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..de936cd4ba827bd0563ce01ef10992c75631b182 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0017/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0017", + "rows_in": 49355, + "rows_dropped": 3, + "rows_out": 49352, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:22.550725+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.5, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/common_crawl_0_filtered_0020.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/common_crawl_0_filtered_0020.parquet new file mode 100644 index 0000000000000000000000000000000000000000..5c2da13c9e1bfc20a79059e55428b3c3ec70ccfb --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/common_crawl_0_filtered_0020.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:6f7f58312fefde370d10fa92f51ed760015aeccf5d854d241bb1147c57863d5f +size 118491817 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..4d4b913118ccf6af0b5683d0f89e89ab55358683 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 12932, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://bobjohnsonblog.com/eugenicist1017450.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 15776, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://kobo-smap.sakura.ne.jp/acetylacetonates/decree1300142.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 38188, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://www.bannerbarrett.jp/embolo32527.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..e818da1ed39a495a02fb5e874eb7f13a7feb4d7b --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0020/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0020", + "rows_in": 49685, + "rows_dropped": 3, + "rows_out": 49682, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:23.293920+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 4.1, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/common_crawl_0_filtered_0021.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/common_crawl_0_filtered_0021.parquet new file mode 100644 index 0000000000000000000000000000000000000000..78f5326a5751e201e162331c3b25013ba2f5e252 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/common_crawl_0_filtered_0021.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f01fff9c653873c0a97e8dd3df7dd678fe9b8b9e5849ffd924c34b3f7c14bc6c +size 118356553 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..6df67550133f6fc0be40f381c3d0792d5579cccf --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 2635, "sha1": "59c6ef863adbb77614b8009d21bba8bc65566157", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 9429, "reason": "exact_duplicate", "record": {"url": "http://audio-iwasaki.com/nintei/jsp/", "content": "## 店長曰く、”ドライバーのインパクトは第一象限で!”\n店長が、突然、\nなんだっけと思い調べてみると、数学でx、y共にプラスになる座標上、右上のエリアのこと。。。?\nよく聞いてみると、そうでした。\nでなんで、第一象限かというと、こうだそうです。\n先ずは、下のグラフ見てください。\nx軸が、ヘッド軌道でいわゆるインサイド、アウトサイドかを示します。\ny軸は、入射角でアッパーブローかダウンブローをあらわします。\nで、店長が言いたいのは、ドライバーのインパクトは、\n最初からスライスで攻める方とかには、完全に当てはまらないかも知れませんが、私たちがこれまで多くのお客様をフィッティングした結果、また、私たち自身が打って確認した結果から、以下のグラフになりました。\nグラフは、1目盛1度のアングルなので、\nここでインパクトできれば、\n勿論、ヘッドスピードが速い方や身長が高いかたなどは原点(0,0)に近づいたインパクトでも効率的に飛ばせますし、ヘッドスピードがあまりない方、身長の低い方は逆のことが言えたりします。\nで、肝心の店長は、どうなってるの?\n赤色の点が、店長のインパクトです。\nおーい!あかんやん。外れてるし(惜しいけど)\n本人曰く、インパクトで体重が右に残りやすいのが原因とか。\nスイング改造中やらしゃーないって開き直っています。。。笑\n皆さん、当店では上の写真の様に、皆様のインパクトを正確に測定することが出来ますし、それに見合ったシャフトをご提案することも出来ます。\n是非、診断を受けてみませんか?\nお問い合わせは、スタッフまでお気軽に。。。\n”ドライバーのインパクト”は、 第一象限やねって、わけのわからないことを言い出しました。 第一象限?\nインサイド・アッパーが効率よく飛ばせるってことを言っています。\n”good”エリアは、 インサイド1~3度、アッパーも1~3度を示します。\n効率よく飛ばせると私たちは考えます。", "perplexity": 21.68119784043468}} +{"row_index": 15702, "sha1": "0e2400c284869b1eccdc36ee311499feb6064201", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0002", "kept_row_index": 9040, "reason": "exact_duplicate", "record": {"url": "https://northphilippines.org/endothermy1942680.html", "content": "シリーズ\n### 【SM小説】美咲凌介の連載掌編「どことなくSM劇場」第37話 消えた部誌の事件――どえむ探・・・\n人気SM作家・美咲凌介による、書き下ろし掌編小説・第37回目は「消えた部誌の事件」。Sのお姉さま・真琴さんと「どえむ探偵涼子」の馴れ初めの話。部室で入部希望者を待っていた真琴さんの元に現れたのは、特別礼儀正しい涼子。会った瞬間に強く惹かれてしまった真琴さんは唇を重ねたい衝動に駆られ......。\n### 【NYのベストセラーランキングを先取り!】ピューリッツァー賞を2回受賞したコルソン・ホワイ・・・\nNY在住のジャーナリスト・佐藤則男が紹介する、アメリカのベストセラー事情と、注目の一作をピックアップするコラムの71回目。今回は、1950年代の終わりから60年代にかけてのニューヨーク州ハーレム地区を舞台に、真っ当な生活と裏の社会との狭間でたくましく生きる黒人の姿を描いた小説を紹介します。\n今日の一冊\n### 【著者インタビュー】直島翔『転がる検事に苔むさず』/主役は苦労人の窓際検事! 第3回警察小・・・\nふだんは窃盗事件や器物損壊など、町の小さな事件ばかりを担当している検事が主人公のミステリー小説。謎解きの面白さはもちろんのこと、組織小説として読んでも引き込まれる一冊です。\n作品を知る\n### 歌人も詠まずにいられない、「猫」にまつわる短歌8選\n古今東西、多くの文士たちから愛され文学のテーマとされてきた“猫”。今回は、愛らしい飼い猫の歌や道端を行く野良猫を詠んだ歌など、“猫”が主役の現代短歌を8首紹介します。\n背景を知る\n### 【村上春樹ライブラリー開館】村上春樹ワールドが出来上がるまで\n### 【前編】書籍化決定! 大好評連載・茨城県民マンガ『だっぺ帝国の逆襲』 画/佐藤ダイン×監修・・・\n連載開始とともに大人気化し、ラジオ番組までできてしまった茨城県民マンガ『だっぺ帝国の逆襲』。P+D MAGAZINEでの連載に新しいエピソードを追加し、いよいよ単行本化されます。立ち上げ当初の苦労から取材時のエピソードなどについて、漫画担当の氏、監修の氏に語り合ってもらいました!\n### 【『アンソーシャル ディスタンス』ほか】「コロナ禍の恋」を描いた恋愛小説\n新型コロナウイルスの感染拡大による外出自粛要請の影響で、恋人や意中の人と気軽に会うことができなくなってしまった方も多いのではないでしょうか。コロナを経て、“恋愛のかたち”にもすこしずつ変化が生じてきています。今回はそんな、“コロナ禍の恋愛”をテーマにした小説を3作品紹介します。\n### ポストモダンの旗手 高橋源一郎\nポストモダンを代表する作家として活躍し続けるは、様々なカルチャーを織り交ぜたりパロディを駆使したりといった前衛的な作風で知られています。今回は、評論やラジオなど、多様な活躍を見せる高橋源一郎のおすすめ6作品を紹介します。\n### 川上弘美のおすすめ作品4選・生き物の息吹を読みとる\n芥川賞作家にして、現在、芥川賞選考委員を務めるは、「春の夜人体模型歩きさう」(句集『機嫌のいい犬』より)という俳句を詠んでいることからも伺えるように、元・高校の生物教師という経歴の持ち主です。彼女の小説には、多様な生き物が登場し、それは人間と同等な存在として描かれます。今回はおすすめ作品4選を紹介します。\n### 人気女性作家・唯川恵の実写化作品おすすめ5選\n1984年『海色の午後』で集英社第3回コバルト・ノベル大賞を受賞して小説家となり、以来多くの名作を生み出してきた唯川恵。繊細な女心や、熱く燃えたぎる女性のプライドを巧みに描き、多くの読者の心を掴んできました。今回はこれから唯川恵の作品を読んでみようという方におすすめしたい、実写化された5作品を紹介します。\n### 【生誕100周年】小説家・萩原葉子のおすすめ作品\n萩原朔太郎の娘として知られ、晩年に至るまで小説・エッセイを精力的に発表し続けた作家・萩原葉子。『蕁麻の家』を始めとする萩原葉子のおすすめ作品を紹介します。", "perplexity": 17.9861165738955}} +{"row_index": 49511, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "http://910ryu.com/Ilysiidae2261265.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の一部を公開しています!\n## 英語で読書!\n「洋書はハードルが高くて手が出ない」という人も多いのではないでしょうか。そこで今月の特集では、初めての方にもおすすめの洋書などをご紹介します。イギリスの独立系書店に「洋書の今」を聞いたインタビューもお見逃しなく!\nスキマ時間で満点TOEIC塾濱崎潤之輔さんと星名亜紀さんの交互執筆連載。忙しい中でもなんとか時間を見つけてTOEIC(R)L&Rテストのスコアアップを目指したい人のための学習法を紹介します。\n英検1級ライティング&スピーキング対策講座英検1級の英作文&二次試験の対策方法をご紹介!英検1級になかなか合格できないとお悩みの方や、これから挑戦する方、ライティングやスピーキングに苦手意識がある方は必読です。\nワンランク上の英語ビジネスメール講座ロッシェル・カップさんが、日本人のビジネスメールを添削しながら、正確かつ明確にメールを書くコツや便利な英語表現を解説します。この連載で学べば、もう英語メールは怖くない!\nイギリス育ち翻訳者の英語文学へのいざない多様な作家による作品を通して、文学をリアルに感じる読み方をお届け。言語表現やアイデンティティーなど、英語学習者も遭遇するテーマを、海外で育った翻訳者が語ります。\n字幕のムコウ教科書では目にしない「ちょっと奇妙な英語」にこそ、言語や文化をより深く学ぶためのヒントが隠れています。さまざまな映画作品のセリフを通して、英語のからくりや背景にある文化を探っていきましょう。", "perplexity": 17.468646635193263}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..e38a3247fb9689138eaf6dca00a092a535c62e8c --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0021/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0021", + "rows_in": 49784, + "rows_dropped": 3, + "rows_out": 49781, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:23.157685+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.6, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/common_crawl_0_filtered_0022.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/common_crawl_0_filtered_0022.parquet new file mode 100644 index 0000000000000000000000000000000000000000..98e6f8bf382bff7403b69fa233a65b61e05f797a --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/common_crawl_0_filtered_0022.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:7a7a2f070bd0ed755435218597baa82913a8b1ee44ed09b62bde5acc204ab66c +size 119893716 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..6bb8278b538d695a0c9b069785a7655db9c91be4 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 4790, "sha1": "b2a610bde0a739eda2f5c35e92d5d85ffa861d64", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0016", "kept_row_index": 47498, "reason": "exact_duplicate", "record": {"url": "http://mrjp.me/media/newspaper/1299/chokugen.php", "content": "日本は食料自給率が低い国ですが、現代ではお金さえ出せば手に入らないものは無いと言われるくらい豊富な食材が揃っています。それほど恵まれた環境であっても、現代人は健康面で大きな問題を抱えていると言われます。それは過食であったり、偏った食事、不規則な食事が原因となり、しいては様々な生活習慣病を招くことになってしまうのです。特に高齢者が介護を必要となった原因を見てみると、脳血管疾患や認知症、ガン、糖尿病、などの生活習慣病が目立ちます。\nただ、とはいっても日本人は世界の中では平均寿命が男女ともにトップクラスですし、健康寿命ランキングを見てもいつも上位にランクインされています。これは、食生活が欧米化の影響をかなり受けているにもかかわらず、根底を支えているのは日本食の食習慣だそうです。言わば、それだけ日本食は栄養バランスが優れた食事ということです。\nちなみに、この健康寿命とは、寝たきりなどの健康障害で介護を受けることもなく健康に生きた期間です。\n## バランスの良い食生活をおくるためには\n食生活のバランスを取るためには、主食・主菜・副菜をバランスよくとる事が大事です。あまり神経質になると疲れますので、主食と主菜、副菜の割合はおおよそ、2対1対2くらいが良いとされているようです。\n一般的な成人で主食は1日ご飯4杯程度が適量です。\n食事はただ空腹を満たすためではなく、できるだけ体に必要な栄養成分を効果的に接種する必要があります。偏った食事や不規則な食事を長い間続けれいると、体調も悪くなるでしょうし、健康な体を維持できません。\nしいては、仕事面にも影響が出てしまいます。\n栄養バランスの良い食生活をおくることができれば、糖尿病や心臓疾患、動脈硬化、等の生活習慣病を減らすことにつながりますし、いい仕事もできる、といいことづくめなのです。\n## 年代べつ食事のとり方\n### 乳幼児\n乳幼児から幼児期にかけては食事の楽しさと、良い食習慣をつけることが大切です。そして、発達に伴い、お乳だけの栄養から半固形食、そして固形食へと進みます。\n乳児の唯一の栄養源です。母乳が不足しているときは、人口乳(乳児用調整粉乳)を与えることになります。なお、生後2ヶ月を過ぎれば、果汁やスープなども与えることができます。\n生後5・6ヶ月を経過すると、離乳食を始めます。これは、タンパク質やミネラルが不足してくるからです。このとき、必要以上に離乳食を遅らせたり、食品を制限すると、栄養が不足することになり、食べる学習の機会を失うことにもなります。\n### 小学生\n6~11歳は学童期です。この時期になれば活動量も増え、体の発達も著しくなります。ただ、個人差も大きく女子は月経が始まる子も出てきます。そのため鉄分の必要量も増えてきます。\n大人と同様の食生活になる時期ですから、この時季の食事は心の発達や大人になってからの嗜好にも影響を与える時期です。そのため、規則正しい時間に食事をとることと、家族みんなで食事をし、3食好き嫌いなく食べるようにしなければなりません。知能も体も発達し運動量が増えますから、それに見合う栄養素をバランスよくとる必要があります。\n### 中学生~高校生\nこの時期は思春期(12~17歳)にあたります。成長期でもありながら、人によっては身体ができあがる時期でもあります。このころには、性別による体系の違いがはっきりします。そして育ち盛りということもあり、人生の中で最もしっかり栄養成分をとらなけえばなりません。骨量が一番増える時期でもありますから、良質なたんぱく質やカルシウム、乳製品などがおすすめです。女性は月経の影響で鉄分が不足気味しがちですから鉄や鉄の吸収を助けるビタミンBやCをとりましょう。\nしっかり食べて運動をすることが大切ですが、朝食を抜いたり好きなものしか食べないような偏食をすることもあります。このような問題はこの時期の特徴ですが、今食べているものが自分の体を作るうえで重要だと言うことを理解させ、意識的にバランスのとれた食事を考えられるように指導する必要があります。\n### 成人\n青年期・壮年期(18~44歳)は、最も体力と気力が充実する時期です。働き盛りでもありますが、身体の丈夫さを過信して不摂生になることもあります。\n若いうちは不規則な生活習慣でも健康には影響でにくいですが、それが永く続くと生活習慣病になることも考えられます。外食が多くなり気味ですから、かたよった食事になりがちです。\n健康で生き続けるには生活習慣と自己管理が重要です。できるだけ、野菜の副食をとる必要があります。またメタボ対策としても、脂質・糖質などは控え、食物繊維や野菜をとりましょう。\n### 高齢者(65歳以上)\n高齢期になると老化により基礎代謝が低下します。エネルギーの消費量が減る時期でもあります。\n体力が低下して活動量が減りますから、今までのような食事をしていると肥満になりやすくなります。基礎代謝の低下とともに摂取エネルギーは減少しますが、良質のたんぱく質やビタミン・ミネラルなどはしっかりとる必要があります。\n様々な機能も低下しすることで、食欲がなくなり低栄養素を招くこともあります。寝たきりの人でも、十分な栄養をとることが床ずれや病気の長期化を防ぐことができます。\nさらに、生理的機能の低下のみならず、食事への関心もうすくなる時期です。ましてや1人暮らしで食事をすればなおさらです。そのため、1人でも負担を感じないで食事を楽しむように工夫をしなければなりません。", "perplexity": 11.520181852701487}} +{"row_index": 16513, "sha1": "ce202d4f020e7623fc3de60e3c0a5f57704cb03c", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0003", "kept_row_index": 4158, "reason": "exact_duplicate", "record": {"url": "http://www.osd.co.jp/medical/", "content": "## FEATURED PRODUCTS / 特集\n5月17日 MOONEYES 35周年。Anniversary を記念したアイテムが登場!\nあなたの愛車のダッシュボードを日焼けによる色あせやヒビ割れから護ります\nOld is New! キャップをカスタムできるルーバーです\nNew Clothings Collection Spring - Summer 2021!!\niPhone 12 Pro, 12, 12 mini 対応ケースが待望の入荷!\n洗車グッズや、お部屋やオフィスのお掃除などに必要なアイテムを御紹介します。\nMotorcycle を簡単にカスタムできるアクセサリーを特集しました。\n女性に人気のハンドルカバー特集。\nECO-FRIENDLY GOODS 特集です!!\nMOON Cafe の オリジナルアイテムはこちら\nあなただけのオリジナル ライセンス フレームをお作りします。\nMOONEYES が 他の企業とコラボしたアイテムを御紹介します。\n様々な種類のグラス、マグカップなど来客用にも普段使いにも使えるアイテムを取り揃えました。\n愛車の雰囲気を簡単に変えられる、ホールキャップ & トリムリングです。\nピンストライプは始めたくなったらまずはこちらをご確認ください。\nサインボード、メッセージボード、パーキングサインを一度に集めてみました。\n## BACK IN STOCK / 再入荷\n-\nMOONEYES トランスポーター ラバー トレイ\n[MG839TR]", "perplexity": 17.44651111898208}} +{"row_index": 42423, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/dating-a-coworker-stories/", "content": "-\ndesignfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.986769103147973}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..0c37060f4dabf6381337748c2321e9edc96a055f --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0022/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0022", + "rows_in": 50082, + "rows_dropped": 3, + "rows_out": 50079, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:22.892831+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.3, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/common_crawl_0_filtered_0023.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/common_crawl_0_filtered_0023.parquet new file mode 100644 index 0000000000000000000000000000000000000000..59fd41fb6d283c079b325b2695611dc0123b1234 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/common_crawl_0_filtered_0023.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:18f68da367ce55e82167513b29bb47c0645d9f9058cc4e7ff5f3b8d54a892b17 +size 118448246 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..ca6f8d3ba31b66ab314961ce34786d7387577937 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 36688, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=25744", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 48245, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/to-hook-up-with-meaning/", "content": "-\ndesignfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.986769103147973}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..546965466d03372742dda2708c2dd4aefc37e140 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0023/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0023", + "rows_in": 49530, + "rows_dropped": 2, + "rows_out": 49528, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:23.416184+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.5, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/common_crawl_0_filtered_0025.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/common_crawl_0_filtered_0025.parquet new file mode 100644 index 0000000000000000000000000000000000000000..71a9f41f4035ed683b7947de867b966c35f9e4a5 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/common_crawl_0_filtered_0025.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ef873e3a63442f90bbe28e4e9a274075e96dde161753981b125ad076d0c70f1f +size 118140443 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..dfa0176029eb801e3a3fa6f9d337ecd9e3470c98 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/dedup_removed.jsonl @@ -0,0 +1,4 @@ +{"row_index": 5013, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "https://ikubon.com/mermaid1307429.html", "content": "## 勉強に集中する方法(パートI)\n研究方法:集中する方法。 私たちの学生が勉強しようとするたびに直面する問題の一つは、適切な集中力を見つけることです。 これは、Studentville.itのアドバイスを使用して行う方法です。\n## エミリア・クラーク:伝記、体重、入れ墨\nエミリア・クラークは、ドラゴンの母であるデナーリス・ターガリアーンの母、カレージ女王の通訳です。 あなたは伝記、体重とその入れ墨を知っています。\n### 24時間の人気\n## 入学試験2019:限られた数の利用可能な場所\n入学試験2019、限られた数とプログラムされたアクセス学部のために利用可能な場所:すべてのミュアの通知と表示に。\n## どの学部を選択しますか? 適性検査\nどの学部を選択しますか? あなたの性格や興味に基づいて、オリエンテーションテストとあなたに最適な大学を見つけるためのヒント。\n## 一般的な神曲のテーマ\nテーマは神曲で演じました。 プロット、構造、最終コメントへの言及を伴う、神曲のダンテの旅のテーマ。\n## 神曲のテーマ:ダンテのインフェルノ\n神曲のテーマ:構造と要約を参照して、ダンテの地獄で演じられたテーマ。", "perplexity": 22.826046406169112}} +{"row_index": 16228, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=177755", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 22987, "sha1": "0bf18de12480b880d70e058a1dd81e31ae5fa3f6", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0006", "kept_row_index": 22260, "reason": "exact_duplicate", "record": {"url": "https://fiit.jp/Pendants/evolz-116203/Black-&-White-Polki-Golden-Pendant-Earring-Set-Pa.action", "content": "OUR VISION \nフィットネスITソリューションのリーディングカンパニー\nわたしたちは、フィットネスITソリューションのリーディングカンパニーとなるべく、 ご利用ユーザー様、クライアント様から愛されるサービスを創り続けます。新規事業はもちろん、既存事業のアップデートも徹底的に行い、 みなさまのフィットネスライフの「未来」に改善提案を行い続けます。\n今ここにない「未来」はFiiTが創る\n我々はフィットネス業界にイノベーションを起こし、 価値とエネルギーに満ち溢れたITサービスを創るプロフェッショナル集団です。 ※イノベーションとは「未来への改善を地道に繰り返すこと」と弊社では定義しています。\n下記ポリシーは必ず順守し、今はない新たな価値あるサービスをご提供していきます。・フィットネスとITの融合サービスのみ創る\n・常に1位を取り続けるサービスを創る\n・価値があるサービスのみ創る\n・エネルギーがある者のみがサービスを創る\n・今ここにない未来のサービスを創る\n・スケールするサービスのみ創る\n・仲間に自慢できるサービスを創る\n・実行力のある組織でサービスを創る\n・感動を生むサービスを創る\n## OUR VALUE\nFiiTのこだわり\n「価値にこだわる」\n何か変化をする際、「これは本当にユーザー様にとって価値があるか?」 を常に問い続け、意思決定を行います。\n「1位にこだわる」\nフィットネスIT業界のリーディングカンパニーとして、 狙った業界のトップカンパニーとなるまでアップデートを繰り返し、 ご提供サービスの価値が常に「1位」となるよう、胡坐をかかずにこだわり続けます。\n「エネルギーにこだわる」\n本当に価値あるサービスを創れる者は何かしらの”エネルギー”を持ち合わせている方が多い。 我々は”エネルギー”のある方のみ採用としており、 フィットネス業界に大きなインパクトを与える”事業家集団”であることにこだわります。", "perplexity": 14.807313173896002}} +{"row_index": 41659, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/nancy-warren-speed-dating/", "content": "-\ndesignfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.986769103147973}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..05f1f1e75f8e6855c7345f9f0ad351ad583c7e68 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0025/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0025", + "rows_in": 49762, + "rows_dropped": 4, + "rows_out": 49758, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:24.408443+00:00", + "compression": "ZSTD", + "verified_sha1": 4, + "seconds": 3.0, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/common_crawl_0_filtered_0026.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/common_crawl_0_filtered_0026.parquet new file mode 100644 index 0000000000000000000000000000000000000000..e79fded671b67cacdffd126ed733189ce45c971d --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/common_crawl_0_filtered_0026.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e2de75a0168c52387d9ed167a7286d5f856b67982f5c8eb5c66f28eb9a3986c2 +size 118937818 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..3e29ab1f4b669f281e47dd60eef400fdebe63d4b --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/dedup_removed.jsonl @@ -0,0 +1 @@ +{"row_index": 38541, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=164975", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..d3f3af637254ca2d45babca35dd9f895646e2ad6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0026/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0026", + "rows_in": 49860, + "rows_dropped": 1, + "rows_out": 49859, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:24.999371+00:00", + "compression": "ZSTD", + "verified_sha1": 1, + "seconds": 2.9, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/common_crawl_0_filtered_0030.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/common_crawl_0_filtered_0030.parquet new file mode 100644 index 0000000000000000000000000000000000000000..190079cf60656dd608ee79a77ac14e6eb99f4361 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/common_crawl_0_filtered_0030.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:10b3ec4c822ed58ba66e28a540668df6de1894f3c02a4a1332f3f3a6a689d9ae +size 119087631 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..84680db49ce24ed92e06d56cc010cb9045ad66c3 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/dedup_removed.jsonl @@ -0,0 +1,6 @@ +{"row_index": 652, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://ict-lab.co.jp/Ebionize273727.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 6647, "sha1": "15642e53ab428d43f785fa7f41763005b1647f69", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 179, "reason": "exact_duplicate", "record": {"url": "http://casamia-hair.com/Agrapha1262429.html", "content": "## 勉強に集中する方法(パートI)\n研究方法:集中する方法。 私たちの学生が勉強しようとするたびに直面する問題の一つは、適切な集中力を見つけることです。 これは、Studentville.itのアドバイスを使用して行う方法です。\n## エミリア・クラーク:伝記、体重、入れ墨\nエミリア・クラークは、ドラゴンの母であるデナーリス・ターガリアーンの母、カレージ女王の通訳です。 あなたは伝記、体重とその入れ墨を知っています。\n### 24時間の人気\n## 入学試験2019:限られた数の利用可能な場所\n入学試験2019、限られた数とプログラムされたアクセス学部のために利用可能な場所:すべてのミュアの通知と表示に。\n## どの学部を選択しますか? 適性検査\nどの学部を選択しますか? あなたの性格や興味に基づいて、オリエンテーションテストとあなたに最適な大学を見つけるためのヒント。\n## 一般的な神曲のテーマ\nテーマは神曲で演じました。 プロット、構造、最終コメントへの言及を伴う、神曲のダンテの旅のテーマ。\n## 神曲のテーマ:ダンテのインフェルノ\n神曲のテーマ:構造と要約を参照して、ダンテの地獄で演じられたテーマ。", "perplexity": 22.826046406169112}} +{"row_index": 11959, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "http://urikata.biz/Coussin-Sentao-Coussin-de-voyage-en-Mousse-à-Accessoires-6894/", "content": "どこでも通用する最強の営業マンになりたい方\n営業アウトソーシングなどを希望の企業の方\n営業マンや営業マネージャー向けに営業に関する基礎知識〜高レベルなものまで提供しています。営業に関してなにかしら悩みがある方はぜひご覧ください。\n#### 営業のプロセス別記事\nここでは、営業のプロセスごとに記事を分けています。自分の苦手な分野や伸ばしたい分野を選択してぜひお読みください!\n#### 営業の悩み系記事\nここでは、営業マンの多くが抱える悩みについて記載しています。営業マンの皆さんなら誰しも一度は悩んでいたor悩んでいる事でしょう。悩みを解決できる記事をピックアップしていますので、ぜひ悩んでいる営業マンの方はご一読ください!\n#### 経営者・管理者向け記事\nここでは、経営者や営業マンを管理するマネージャーや営業部長向けのコンテンツをピックアップしています。営業がうまくいかないと感じている経営者や管理者の方はぜひご一読ください!\n#### FANVESTのサービス\n弊社は「日本一のマーケティングカンパニーになる」というビジョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら弊社にお任せください!", "perplexity": 13.747904539161638}} +{"row_index": 25114, "sha1": "7545df3b94e41f8f0ab593f892badf0f7b348049", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0027", "kept_row_index": 9106, "reason": "exact_duplicate", "record": {"url": "https://urikata.biz/Cartable-Noir-cm-Sacs-%EF%BF%BD%EF%BF%BD-dos-enfant-26683/", "content": "どこでも通用する最強の営業マンになりたい方\n営業アウトソーシングなどを希望の企業の方\n営業マンや営業マネージャー向けに営業に関する基礎知識〜高レベルなものまで提供しています。営業に関してなにかしら悩みがある方はぜひご覧ください。\n#### 営業のプロセス別記事\nここでは、営業のプロセスごとに記事を分けています。自分の苦手な分野や伸ばしたい分野を選択してぜひお読みください!\n#### 営業の悩み系記事\nここでは、営業マンの多くが抱える悩みについて記載しています。営業マンの皆さんなら誰しも一度は悩んでいたor悩んでいる事でしょう。悩みを解決できる記事をピックアップしていますので、ぜひ悩んでいる営業マンの方はご一読ください!\n#### 経営者・管理者向け記事\nここでは、経営者や営業マンを管理するマネージャーや営業部長向けのコンテンツをピックアップしています。営業がうまくいかないと感じている経営者や管理者の方はぜひご一読ください!\n#### FANVESTのサービス\n弊社は「日本一のマーケティングカンパニーになる」というビジョンを掲げた売れる仕組みづくりのプロフェッショナル軍団です。\n営業における売れる仕組みづくりなら弊社にお任せください!", "perplexity": 13.747904539161638}} +{"row_index": 38592, "sha1": "99fb85599e978f50cf6f52ac74ddd8103d8b4674", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0010", "kept_row_index": 1395, "reason": "exact_duplicate", "record": {"url": "http://coachwoodsoninvitational.com/coetaneously9908100.html", "content": "○NewサイトのURLはコチラ○\n○WEB Shop同時OPENのBOLIGのNewサイトURLはコチラ○\nWEB Shop開設の他、\n新入荷情報やイベント情報なども今後はNewサイトをご覧ください。\nマイレージカードをお持ちの方は、\nご登録済のメールアドレスにてログインしてください。\n<<各店舗のWEB Shopも随時オープンを予定しております>>\n#### - 19:30\nいよいよ明日。\nWEB Shop が OPEN いたします。\n○同時に明日、WEB Shop OPENのBOLIGのNewサイトURL○\nブログなども新しいサイトで今後は発信してまいりますので、 そちらをご覧ください。\nなかなかお店に足を運べないという方にも、\nWEB Shopで少しでもお店の雰囲気を味わって楽しんで頂けるよう、\n随時商品を追加してまいりますので今後ともよろしくお願いいたします。\n○●明日からOPENのWEB Shopをご利用の際に●○\nマイレージカードをお持ちの方は、ご登録済のメールアドレスにてログインしてください\n#### - 16:46\nどのくらい前のものなのか、どんな人がどういう風に使っていたんだろう、とか。\nそんな事に想いを馳せて、「さぁ、私だったらどんな風に使おう」\nそれが楽しい時間♪\nヴィンテージの魅力ですね。\nボウルが3つ入荷しました。\n割と大きめ。\nちょっと黄ばみが激しかったりして。。。\nお部屋の中でどう使いましょう!?", "perplexity": 25.906448557307918}} +{"row_index": 43643, "sha1": "b2a610bde0a739eda2f5c35e92d5d85ffa861d64", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0016", "kept_row_index": 47498, "reason": "exact_duplicate", "record": {"url": "http://www.qeenty.com/idolomania5235481.html", "content": "日本は食料自給率が低い国ですが、現代ではお金さえ出せば手に入らないものは無いと言われるくらい豊富な食材が揃っています。それほど恵まれた環境であっても、現代人は健康面で大きな問題を抱えていると言われます。それは過食であったり、偏った食事、不規則な食事が原因となり、しいては様々な生活習慣病を招くことになってしまうのです。特に高齢者が介護を必要となった原因を見てみると、脳血管疾患や認知症、ガン、糖尿病、などの生活習慣病が目立ちます。\nただ、とはいっても日本人は世界の中では平均寿命が男女ともにトップクラスですし、健康寿命ランキングを見てもいつも上位にランクインされています。これは、食生活が欧米化の影響をかなり受けているにもかかわらず、根底を支えているのは日本食の食習慣だそうです。言わば、それだけ日本食は栄養バランスが優れた食事ということです。\nちなみに、この健康寿命とは、寝たきりなどの健康障害で介護を受けることもなく健康に生きた期間です。\n## バランスの良い食生活をおくるためには\n食生活のバランスを取るためには、主食・主菜・副菜をバランスよくとる事が大事です。あまり神経質になると疲れますので、主食と主菜、副菜の割合はおおよそ、2対1対2くらいが良いとされているようです。\n一般的な成人で主食は1日ご飯4杯程度が適量です。\n食事はただ空腹を満たすためではなく、できるだけ体に必要な栄養成分を効果的に接種する必要があります。偏った食事や不規則な食事を長い間続けれいると、体調も悪くなるでしょうし、健康な体を維持できません。\nしいては、仕事面にも影響が出てしまいます。\n栄養バランスの良い食生活をおくることができれば、糖尿病や心臓疾患、動脈硬化、等の生活習慣病を減らすことにつながりますし、いい仕事もできる、といいことづくめなのです。\n## 年代べつ食事のとり方\n### 乳幼児\n乳幼児から幼児期にかけては食事の楽しさと、良い食習慣をつけることが大切です。そして、発達に伴い、お乳だけの栄養から半固形食、そして固形食へと進みます。\n乳児の唯一の栄養源です。母乳が不足しているときは、人口乳(乳児用調整粉乳)を与えることになります。なお、生後2ヶ月を過ぎれば、果汁やスープなども与えることができます。\n生後5・6ヶ月を経過すると、離乳食を始めます。これは、タンパク質やミネラルが不足してくるからです。このとき、必要以上に離乳食を遅らせたり、食品を制限すると、栄養が不足することになり、食べる学習の機会を失うことにもなります。\n### 小学生\n6~11歳は学童期です。この時期になれば活動量も増え、体の発達も著しくなります。ただ、個人差も大きく女子は月経が始まる子も出てきます。そのため鉄分の必要量も増えてきます。\n大人と同様の食生活になる時期ですから、この時季の食事は心の発達や大人になってからの嗜好にも影響を与える時期です。そのため、規則正しい時間に食事をとることと、家族みんなで食事をし、3食好き嫌いなく食べるようにしなければなりません。知能も体も発達し運動量が増えますから、それに見合う栄養素をバランスよくとる必要があります。\n### 中学生~高校生\nこの時期は思春期(12~17歳)にあたります。成長期でもありながら、人によっては身体ができあがる時期でもあります。このころには、性別による体系の違いがはっきりします。そして育ち盛りということもあり、人生の中で最もしっかり栄養成分をとらなけえばなりません。骨量が一番増える時期でもありますから、良質なたんぱく質やカルシウム、乳製品などがおすすめです。女性は月経の影響で鉄分が不足気味しがちですから鉄や鉄の吸収を助けるビタミンBやCをとりましょう。\nしっかり食べて運動をすることが大切ですが、朝食を抜いたり好きなものしか食べないような偏食をすることもあります。このような問題はこの時期の特徴ですが、今食べているものが自分の体を作るうえで重要だと言うことを理解させ、意識的にバランスのとれた食事を考えられるように指導する必要があります。\n### 成人\n青年期・壮年期(18~44歳)は、最も体力と気力が充実する時期です。働き盛りでもありますが、身体の丈夫さを過信して不摂生になることもあります。\n若いうちは不規則な生活習慣でも健康には影響でにくいですが、それが永く続くと生活習慣病になることも考えられます。外食が多くなり気味ですから、かたよった食事になりがちです。\n健康で生き続けるには生活習慣と自己管理が重要です。できるだけ、野菜の副食をとる必要があります。またメタボ対策としても、脂質・糖質などは控え、食物繊維や野菜をとりましょう。\n### 高齢者(65歳以上)\n高齢期になると老化により基礎代謝が低下します。エネルギーの消費量が減る時期でもあります。\n体力が低下して活動量が減りますから、今までのような食事をしていると肥満になりやすくなります。基礎代謝の低下とともに摂取エネルギーは減少しますが、良質のたんぱく質やビタミン・ミネラルなどはしっかりとる必要があります。\n様々な機能も低下しすることで、食欲がなくなり低栄養素を招くこともあります。寝たきりの人でも、十分な栄養をとることが床ずれや病気の長期化を防ぐことができます。\nさらに、生理的機能の低下のみならず、食事への関心もうすくなる時期です。ましてや1人暮らしで食事をすればなおさらです。そのため、1人でも負担を感じないで食事を楽しむように工夫をしなければなりません。", "perplexity": 11.520181852701487}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..79b74f64a6e245cf8dc26b9b12b70cbe3e1d74fd --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0030/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0030", + "rows_in": 49930, + "rows_dropped": 6, + "rows_out": 49924, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:25.936669+00:00", + "compression": "ZSTD", + "verified_sha1": 6, + "seconds": 3.4, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/common_crawl_0_filtered_0031.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/common_crawl_0_filtered_0031.parquet new file mode 100644 index 0000000000000000000000000000000000000000..3d768d84621ed7c0554c07b1eec3ef786cf60b25 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/common_crawl_0_filtered_0031.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:eabcce1da36211f169fd41234e5f4f82425b5b85cfa89634cb91349becabbaf1 +size 118695699 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..89b91c959a2ebfd07e1e6763d5ed8051612ba239 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 22353, "sha1": "b129f2ce05ad11a6c7e9ce5cb891c3371d6a3318", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0018", "kept_row_index": 28683, "reason": "exact_duplicate", "record": {"url": "https://scottwallace.com/index.php/63-w693203b23jl9y1maln", "content": "2015年、新潮流へ向かう進化の本質は「多様性」にあると言われています。\n当社団は、地方創生を動かす産学官金民連携による「市民→組織・システム・地域社会」の発展メカニズムとプロフェッショナル人材(人は宝)に着目し、産学連携インテリジェンスとインスピレーション(ひらめき)を駆使して、動態的且つリズミカルな知識プラットホームを提供差し上げます。\nそして学習するプロ集団として、社会と市場の変化に適応する柔軟な思考と技術により、パートナーの皆様と一緒に考え、一緒に解決し、一緒に創る、「共創・共育・共生」を理念として地域イノベーション・エコシステム形成に貢献して参りたいと思います。\nまた「事業プロデューサー」等、地域における価値創造や課題解決に必要なスペシャリストを配備して、全国各地域の研究・開発・実証・実装・普及プロセスを紡ぎながら、国際的なマーケティングも提供して参りたいと思います。\n社団名としておりますOSTiの’OST’は、基本戦略構造である”Objective, Strategy, Tactics“と”Organic, Science, Technology”, そして‘i’には、持続可能社会構築に貢献する”innovation, incubation, institution”の意味を込めております。\n皆様方とのネットワーク(ご縁)を大切に、プロ集団によるDo Tankを目指したいと思います。\n末永くご交流賜りますようお願い申しあげます。", "perplexity": 10.546337241421899}} +{"row_index": 27439, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/best-visual-novel-dating-sims/", "content": "-\ndesignfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.986769103147973}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..465c3a9161aebfb6a56278d20a2149759d321166 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0031/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0031", + "rows_in": 49659, + "rows_dropped": 2, + "rows_out": 49657, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:28.935073+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 6.0, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/common_crawl_0_filtered_0032.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/common_crawl_0_filtered_0032.parquet new file mode 100644 index 0000000000000000000000000000000000000000..1773a9260b4cf745e35ff778b1a08239761913d6 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/common_crawl_0_filtered_0032.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:98559769bf6df4b5375b48c6cec197ef2ad6fec17b8d32f5139adb7f2a784325 +size 117932139 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..a6dd9fe9d6ad4364096fb7632be5a1ab9fb43528 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/dedup_removed.jsonl @@ -0,0 +1,2 @@ +{"row_index": 7373, "sha1": "a4a401c4c90799a30000cce4f923bc3f3269ac89", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0016", "kept_row_index": 28291, "reason": "exact_duplicate", "record": {"url": "http://bironex.com/cymbling2036320.html", "content": "## 注目コンテンツ\n### ブログの運営\n### コラム\n### ライフハック\n位置ゲーで人気の「ドラクエウォーク」ですが海外でもプレイできるのでしょうか? カナダに行ったのでドラクエウォークができるかどうかを検証してみました!\n### カナダでJCBブランドの使えるお店まとめ(随時更新)\n海外に行くとクレジットカードが便利ですが、「JCBブランド」だと使えない店が多いんですよね。今回の【ヨッセンス】では、カナダでクレジットカードのJCBブランドが使えるお店をまとめました。JCBを持っていった場合に参考にしてもらえると嬉しいです。\n### 【当選者発表】このブログが7周年を迎えました! わたしの著書を30名にプレゼント!\nこのブログ【ヨッセンス】が7周年を迎えました! ということでプレゼント企画を開催します♪ 2018年に出版したわたしの著書「効率化オタクが実践する 光速パソコン仕事術」をなんと30名様にプレゼントです! 完全に抽選ですので、すでに持っている方でもじゃんじゃかご応募ください♪\n### [讃岐うどん] 山とも の細麺を「あつあつ」で食べてください! 病みつきです(完全禁煙)\n今回は細麺が超美味しい「山とも」に行って来ました。このうどん屋さんは20代の若き店長さんが2015年6月に始めたばかりのお店です。かなり美味しかったのですが、まだ穴場だと思います!\n### アソビュー(asoview!)とは? メリットだらけなのでお出かけする前にチェックしないと損しますよ!\n今回の【ヨッセンス】では、お出かけ前にチェックしたいWEBサービス「アソビュー(asoview!)」を紹介します。アソビューとは? アソビューのメリット、微妙なところをまとめましたが、得することしかないので、とりあえず登録するのがオススメです!\n### [感想]「コクリロゴ」にブログのタイトルロゴ(デザイン)をお願いした\nブログを覚えてもらうために重要なものの1つとして「ブログのタイトルロゴ」があります。でも、自分で作るなんて難しいですよね。そこで安くロゴを作ってもらえる「コクリロゴ」にお願いしてブログのタイトルロゴを作ってもらいました! その感想、やりとりの記録を紹介します。\n### [讃岐うどん] 岡じま の炭火焼き地鶏うどんはクセになる! 地元で評判の店(完全禁煙)\n今回の讃岐うどん紹介は、2014年の4月にオープンしたばかりの「岡じま」です。うどんの激戦区丸亀市では地元の人の間で評判の良いお店です。まだ県外の人にはノーマークだと思いますよー!\n### [香川] うどん屋オススメ13選! 讃岐の地元人が厳選したよ!\n私は香川県で生まれ香川県で育ちました。なのでうどんを頻繁に食べまくっています。その地元人の私が県外の人に行ってほしい「最高においしいうどん屋」さんを独断と偏見で選んでみました! ぜひ行ってみてください! ちなみに、私が選んでいるお店は全店「完全禁煙」です!\n### [キンドル比較] Kindle、Paperwhite、Oasisといろいろあるけどどれがいいの?\nAmazonの電子書籍リーダー「Kindle(キンドル)」にはいろんな種類がありますが、どの機種が良いのでしょうか? 今回は「Kindle」、「Kindle Paperwhite」の旧モデル、NEWモデル、マンガモデル、さらには「Kindle Oasis」も含めてどれを買えばいいか比較してみます!\n### [比較]KindleはiPadがあれば要らない?! 4年併用したので違いを語るよ!\niPadがあるからKindleは要らないな......と思っていませんか? わたしも最初は思っていました。でもね、ずっと使い続けているとその違いがどれほどすごいかがわかってきました。KindleとiPadの差を紹介します。\n### 不快感・違和感を声に出していかないと何も変わらない\n日本のテレビCMは、男性視線で描かれているものが非常に多いです。それを女性も普通に見ているのかと思っていましたが、じつは「不快感」を持っているという話を聞きました。今回は、不快感、違和感は声に出さなければいけないな......と感じたことをまとめます。\n### フェミニストとは?「女性に甘い男」という意味じゃない!\n「フェミニスト」という言葉を耳にしたことはあっても、なんとなく理解した気になっていませんか? 今回は、フェミニストであるわたしが、「フェミニスト」がどういう意味か?ということを分かりやすく噛み砕いて紹介します。\n### わたしが成功するために不可欠だった「誰にも負けない才能」について\n謙遜せずに言いますが、誰にも負けない才能がわたしには備わっています。たぶん、生まれつき。ということで、今回はわたしの恵まれた才能についてです。とは言っても、わたしの「誰にも負けない才能」というのは、理解能力が圧倒的に欠如しているという才能です。\n### 水上飛行機 ハーバー・エアー(Harbour Air)って? バンクーバー〜ビクトリア間を飛んだ感想\nカナダのバンクーバーにある水上飛行機こと「ハーバー・エアー(Harbour Air)」をご存じですか?ビクトリア→バンクーバーまで乗ってきたので、乗り心地や船内の様子など、かなりくわしくレポートしますね。値段はけっこうしますが、早く着けるのはメリットです。\n### Airbnbがオススメな理由とは? メリットは海外旅行で安く泊まれるだけじゃない!\n海外旅行が好きな方なら「できるだけ安く行きたい」と思いますよね。そんな人にオススメなのがAirbnb(エアビーアンドビー)というWEBサービス。今回は、Airbnbって何?というお話から、Airbnbのメリット、デメリットについて実際の体験を元に詳しく紹介しますね。\n### dアニメストア for Prime Video(Amazon Prime)を解約する方法\nAmazon Prime(アマゾンプライム)の中のサービスである「Amazon Video(アマゾンビデオ)」でdアニメストア for Prime Videoというものに契約しました。これ、無料で14日間試せるのですが、解約方法がむちゃくちゃわかりにくいんですよ......。今回は、dアニメストア for Prime Videoの解約方法をわかりやすく解説します!\n### [比較] Apple Pencil の第1世代・第2世代のどちらを買えばいいの?\nApple Pencilの第1世代と第2世代の違いってなんでしょうか? 今回はスタイラスペンマニアであるわたしが、Apple Pencilの第1世代と第2世代の違いを徹底的に比較しました。もし本気で絵を描いているならApple Pencil 2をオススメしますが、安いものを求めるなら旧モデルですよ!\n### WordPressの新エディターで記事を書く方法(Gutenberg・WordPress 5.0以降)\n今回の【ヨッセンス】では、WordPress5.0 以降の新しい編集画面「Gutenberg」でブログを投稿する方法を紹介しました。旧エディターを使っていた方にとっては、けっこう使いにくいのですが、新しくWordPressでブログを始めた方にとっては使いやすいと思います。\n### ドラクエウォークをさらに楽しむ! 持ち歩きたいグッズまとめ(マニアック)\n位置ゲームとして最高に楽しい「ドラゴンクエストWALK」こと「ドラクエウォーク」にハマっています。今回はそんなドラクエウォークで外を練り歩くときに必要なアイテムをまとめました。さらにはドラクエの世界観に浸るためのグッズも紹介していますよ♪ いっしょにドラクエウォークにハマりましょう!\n### [讃岐うどん]明水亭の1杯2,180円のご馳走うどんを食べてきた(完全禁煙)\nワンランク上の讃岐うどんを食べたことありますか? 今回紹介するのは、ちょっと普通のうどん屋とは次元の違う「明水亭」。お値段も高めですが、まさにご馳走うどんです。店内もセンスいいですし、ずっといたくなります。", "perplexity": 16.174651515005706}} +{"row_index": 26585, "sha1": "b47294335e806e0ce427877569ce16928591863b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0008", "kept_row_index": 58, "reason": "exact_duplicate", "record": {"url": "https://designmeets.net/public-dating-definition/", "content": "-\ndesignfeedrさんでパッケージデザイン&アイデアを紹介していますよ。\nsmashingmagazineさんでビンテージ&レトロなフォトショップ(photoshop)チュートリアルを紹介していますよ。\nsmashingmagazineさんで美しい映画のポスターデザインを紹介していますよ。\nこちらに掲載のグラフィックはどれもかっこいいですねー!!\nwebbyartsさんでオシャレな3Dロゴデザインをいっぱい紹介していますよ。\npsdtutsさんで緑(グリーン)な感じのさまざまな媒体のデザインを紹介していますよ。\nsmashingmagazineさんでデジタル写真のフォトショップチュートリアルを紹介していますよ。\npsdtopさんで美しいクリスマスカードデザインを紹介していますよ。\narbentingさんで虹色のようにカラフルに彩られたグラフィック,webサイト、ロゴなどを紹介していますよ。\nseaneill.comさんでモーショングラフィックのアイデアを紹介していますよ。\nwebbyartsさんで名刺デザインをいっぱい紹介していますよ。\noutlawdesignblogさんでいけてる広告をたくさん紹介していますよ。\ndesigninterviewsさんでwebサイトのメニューデザインえお紹介していますよ。\ntutorial9さんでビンやボトル、箱からバッジまでさまざまなパッケージデザイン&アイデアを紹介していますよ。\ndesignfloatさんでクリエイティビティなイラストレーションいっぱい紹介していますよ。\ndesignfloatさんで ぶどう(Grape)に特化したロゴデザインを紹介していますよ。\ncartridgesaveさんでちょっと変わった名刺デザインを紹介していますよ。\ndesigninterviewsさんでオシャレなイラストレーションを紹介していますよ。", "perplexity": 12.986769103147973}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..a6c395bca38fd7c13e118f38c4d4ba6a7654022f --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0032/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0032", + "rows_in": 49830, + "rows_dropped": 2, + "rows_out": 49828, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:26.495987+00:00", + "compression": "ZSTD", + "verified_sha1": 2, + "seconds": 3.4, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/common_crawl_0_filtered_0033.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/common_crawl_0_filtered_0033.parquet new file mode 100644 index 0000000000000000000000000000000000000000..168dc87df340bad36df952666453189b8a89cba2 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/common_crawl_0_filtered_0033.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d354236e98f2cf748d82752acc967a394777cfa082e69fea9dbd74610e229f3b +size 118952135 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..bf83ec84ca303c6512f4e9440cc182e814734b52 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 24833, "sha1": "94c5917efbd443745fc74be7ceef05e7872d2fd9", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0015", "kept_row_index": 31634, "reason": "exact_duplicate", "record": {"url": "http://mantendou.biz/chromoblast287604.html", "content": "目標は毎日くだもの200グラム!食卓に果物を上手に取り入れる方法【保存方法つき】\n農業って何でもできる! 家業を継いでわかった、農業経営のおもしろさと稲作農家のかっこよさ\n苗の活着・安定生産に貢献! 産地も注目するカネカの新資材とは\n契約栽培で安定収入!生産者から見た魅力とは。日本デルモンテがトマトの契約栽培農家を募集中!\n海のある町で等身大の就農を! 給料が得られる「農業研修生(地域おこし協力隊)」と無理のない「独立就農」\nInstagramフォトコンテスト「#東京野菜みつけた」キャンペーン結果発表!\n新城のホウレンソウを県No1に!一緒に歴史を作るメンバーを募集中\n島根から世界へ。三菱マヒンドラ農機グループが掲げるグローバル向けビジネスの展望と、実現のために求める人材像\n新規就農するなら北海道岩見沢市!札幌からのアクセス抜群でトップクラスの助成金。この街でお試し農ライフを送ってみよう【手当・補助あり】\n新規就農で1000万円以上のサポートも!充実の支援体制が揃う北海道幌延町で酪農の第一歩を踏み出そう\nコストがかかる!販路がない!難易度の高い植物工場で黒字化を果たし、子会社も設立。未来を見据えた大気社の戦略\n給料をもらいながら歩き始められる、北海道のブランド「ニラ」農家への道\nさっと撒くだけ!やっかいな竹を手軽に枯らす除草剤に注目\n牛と仲間と“世界一”を目指す!こだわりの強さはレベルMAXな「うしの中山」に潜入してみた@鹿児島\nやまぐち農林漁業オンラインセミナー はじめの一歩!(11/14開催) & 山口県のイベント情報(11月)\n低濃度でアブラムシを即撃退! リンゴ生産量日本一の産地が採用する防除の切り札\nアグリビジネスの日常業務をサポート! 約1万人の生産者が利用する生産支援システムとは\n【岡山県9】「モモ農家になる!」と決めた夫は、妻と赤ちゃんとともに東京から岡山へ\n思い込みによる失敗から学んだ施肥設計 「狙って作る」有機栽培とは\n多彩な特徴の6市町から選べる!『みどり地区』なら子育てにも最適。あなたにピッタリの就農&移住場所が見つかる!\n上質な甘さとシャキシャキした食感。柿嫌いをもうならせる、大磯の大玉柿\n10/16(土)開催決定!表参道で秋の味覚を満喫。女性ファーマーとつながる都会の”梨マルシェ“に遊びに行こう\nマイナビ農林水産FEST(大阪会場・10月23日)で【和歌山県特集】を開催。※和歌山県は10月~12月に就農相談を強化※\nキュウリのまち・福島県須賀川市の担い手育成事業研修生の現在地。修了生の“いま”に見る、農業の可能性と未来への展望\nそば打ち&陶芸体験から米作りの“基礎”まで。1年中が旬の真ん中、宮城県七ヶ宿町で農業体験&スローライフを楽しもう!【旧小学校宿泊付き】\n【福島県湯川村イベントレポート】湯川米と新鮮野菜でつながるオンラインイベント。4km四方の福島県一小さな村にギュッと詰まった“おいしい”を堪能!\n【鹿児島】九州の農畜産業をプロデュースする新しい仕事とは!? 銀行やIT企業などの異業種とチームをつくり、農畜産業の未来のために本気で取り組む企業に密着!\n有機でも収量大幅アップを実現! 土づくりから見直すBLOF®理論とは\n勤務地は熊本が誇る阿蘇!週休2日制&年間休日100日以上の畜産企業は、味も質も高評価の養豚経営\n1本1万円でネギを売るネギ農家が「有機肥料」を作った!秀品作物を育むその実力と、農業界に一石を投じる”葱師“の情熱に迫る\n酷暑期の夏秋イチゴの秀品率をアップ! ヤンマーの『断熱送風栽培槽DN-1』の実力とは?\n「農業」や「漁業」の仕事を山口県で実現しよう! 漁業10/10(日)・農業10/22(金)にオンライン講座を開催!\n【岩手県一関地方】収量&収入アップを支える技術指導と充実のバックアップ体制。ピーマンで“稼ぐ”メソッド、お教えします!\nトビイロウンカが大量発生。拡大を食い止めるため、水稲生産者とJAが取った対策とは?\n全国的にも珍しい「JA職員と同じ福利厚生」で働ける、酪農ヘルパーのお仕事@佐賀\n「食」と「農」がまるごと学べる大学校『奈良県立なら食と農の魅力創造国際大学校』\n林業も焼畑農業も学べる山形県鶴岡市温海地域の短期農業研修が面白い!伝統野菜「焼畑あつみかぶ」の収穫を体験しよう!【温泉宿泊付き】\n冷涼な気候を生かしたホウレンソウとミニトマトの産地。実践的な研修と独自の交付金制度が魅力の【北広島町】で農業を始めませんか?\n【動画あり】事業継承、リーダー交代のタイミングは? 『農家の課題解決』出張ワークショップを開催\n農業で夢をかなえたい!異業種から参入した4人の自立就農奮闘記\n繊維消化率を高めて乳量・増体をさらに後押し!ルーメン用の生きた酵母とは?\n新規就農者も実践できる!? 有機栽培に成功する人がやっていることとは\n「無線」で便利な農業 IoT 設置のヒントを徹底解説\n## 新着記事\n挫折を経験するも独立就農、カリスマ農家から学んだ価値とは\n太陽熱土壌消毒で雑草防除! 除草剤なしで幼苗までのニンジンを守れ\n漫画「宮崎に移住した農家の嫁日記」【第183話】堆肥まきのクレーム対応\n城島茂さん、ノウフクアンバサダー就任。農福連携の推進に全身全霊かける\n海産物の流通の仕組み あなたの食卓に魚が届くまで\n漁師だけでは成り立たない! 漁業を支える仕事と人々\n働く前に知っておきたい「漁師の心得」 人間関係構築から服装指南まで\n漁師に資格は必要? 漁業で活躍する資格・キャリアアップのための資格を紹介\n漁師になるには? その方法や就業スタイルについて解説!\n漁師ってどんな仕事をしているの? タイプごとの特徴を抑えよう\n### みやざき就農希望者発掘事業\n### みどり地区で見つかる農業スタイルーJAさがみどり地区\n### 山梨で生きる 就農ライフ\n### 進化する農薬が、農と暮らしを守る。|コルテバ・アグリサイエンス日本株式会社\n### 自然豊かな山口県で、農業・林業・漁業を仕事にしませんか?\n就農希望者と農業生産現場を\nマイナビ農業主催の\n就職・転職イベント\nAGRiiN(アグリイン)\n食・農業に関する\n農mers(ノウマーズ)\n農業をやりたい人と\nスマート農業SUMMIT Web\n中止になったスマート農業イベントがWeb版として登場しました!", "perplexity": 35.02678246650494}} +{"row_index": 38925, "sha1": "038316165812db6416093c076e48ddfe6f8de6fc", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0007", "kept_row_index": 36591, "reason": "exact_duplicate", "record": {"url": "http://pencil.sakura.ne.jp/labo2.html", "content": "*NEW*Style of Life住まい手の感性が光る 職と住の機能を詰め込んだ\n“倉庫のような家”サウンドデザイナーのさんと美術装飾家のユリさんが家を建てるにあたり求めたのは、“倉庫のような家”。お2人の感性で手を加え、今も変化し続けている。\n- Style of Life建築デザイナーの自邸 鎌倉の緑豊かな高台に建つ\n居心地の良い小さな平屋Atelier23.を主宰する建築デザイナーのさんの7軒目の住まいは、鎌倉の自然豊かな小高い丘の上に建つ平屋の家。リビングの大きな窓を開けると、広々とした明るい庭が広がる。\n- Style of Life開放的なつくりの中で癒されて暮らす モノが多くても気にならず、\nオン/オフの切り替えもできる家可能な限りオープンなつくりにした室内は「癒されつくしてストレスのことを忘れるくらい」だという野中さん。そのメインのスペースとしてバスルームを考えたという。\n- Style of Lifeアメリカンスタイルのリノベ自然体で楽しく暮らす\n広い庭付きヴィンテージハウスアメリカ人が住んでいた大きな古い家に一目惚れし、東京から相模原に引っ越した川原さん一家。アメリカンヴィンテージスタイルのリノベーションを施し、ゆったりとした日常を満喫している。\n- Renovation元印刷工場をリノベーション 吹き抜けを彩る“緑の階段”で\n光と自然を取り込む建築家の間田さん夫妻が2度目の家づくりに選んだのは、築33年、地上3階、地下1階の元印刷工場。リノベーションにより、コンクリートの躯体を活かした荒々しくもぬくもりのある家へと生まれ変わった。\n- Style of Life108段の先に建つ家鎌倉の古民家で\n手仕事を楽しむ鎌倉の森の中を抜ける不揃いの階段を108段昇ると、庭を囲むように4軒の古民家が建つ一角が現れる。山下りかさんはその中の1軒をセルフリノベーションし、手仕事を楽しむ。\n- Architecture自然と向き合うヴォールト天井の家 植物や虫や動物たちと\n境界なく暮らす石神井公園内にある池に面して建てられた鶴岡邸はヴォールト天井をそのまま外部にまで突き出させた外観で異彩を放つが、このヴォールト採用にはいくつかの思いが込められている。\n- Style of Life屋根形状とレベル差を活用 家族がゆるやかにつながる\n屋根裏のような居住空間川崎市の閑静な住宅街に建つT邸。中央に設けた吹き抜けやスキップフロアによる高低差などさまざまな工夫によって、家族4人が快適に暮らす。\n- Architecture建築家夫妻が挑んだ斜面の狭小地 光と影、曲線がもたらす\n美しく上質な住まい高低差4m以上の斜面の狭小地に自邸を建てた青柳創さんと綾夏さん。建築家夫妻の創意工夫により、建坪7.5坪とは感じさせない広々とした空間を実現した。\nシンプルかつ大胆なデザインの家天井に連なる垂木が美しい、伸びやかな大空間が魅力の福田さん一家の住まい。シンプルだけど個性的な家に住みたいと考えていたさんは、設計を駒田建築設計事務所に依頼。\n- Architecture旗竿地に立つ店舗併用住宅 半地下につくったのは\n“景色”を見渡せ、落ち着く大空間玄関を入って正面に焼き菓子店を設けた村上邸。その先に進むと、高さ3.5m面積32m2ほどの、住宅とは思えない気積の大きな半地下空間が現れる。\n- Style of Life透明水彩画家のアトリエ兼住居 アメリカ好きの夫婦が目指す\n理想の空間透明水彩画家の かとうくみさんは夫共々アメリカ好き。そんなアメリカ好き夫婦が2度に分けて、理想の家を実現させた。\n- Style of Life心地よい居場所が点在体感できる広さを追求した\nスキップフロアの家デザインユニット『トネリコ』の君塚賢さんが昨年建てた自邸は、空間を立体的にとらえたスキップフロアの家。『トネリコ』が手掛けた家具やインテリアが空間を盛り上げている。\n## 人生をフルに楽しみたい人たちへ、新しいライフスタイルマガジン『100%LiFE』。『100%LiFE』は、マガジンハウスが「スタイルのある家と暮らし」をテーマに情報発信するデジタルマガジンです。クリエイティブな感性で暮らしと空間を楽しむ人たちの交流の場となるライフスタイルメディアを目指しています。メインとなるコンテンツは、遊び心とクリエイティビティあふれる生活シーンを多様でハイクオリティな空間事例とともに紹介。またレギュラーコーナーでは、インテリア、アート、デザイン、ファッションなど、クリエイティブ分野のトレンド情報を伝えていきます。『100%LiFE』は、タブロイドPC、及びスマートフォンにも最適化し、モバイルでもストレスなく読める設計になっています。また、Newsstandアプリでのスマートフォン向け電子雑誌展開も予定しています。『100%LiFE』は、ヘーベルハウスを展開する旭化成ホームズの特別協力を受けて運営しています。web magazine of Magazine House supported by 100 ひゃく パーセント ライフ 100%ライフ", "perplexity": 14.335650491062793}} +{"row_index": 42399, "sha1": "d26a5d6ab7bdf0d6245a95ba60431ca9d4706a8b", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0028", "kept_row_index": 27841, "reason": "exact_duplicate", "record": {"url": "http://alsourani.com/index.php?b42p1g2ayf045083ewmazs5p6aqt", "content": "鍵付きのスペースを仲間1~3人で占有することで、小規模で比較的安価な事務所としてご利用できる仕組みです。よりプライバシーの守られた空間として、人目を気にせずお使いいただけます。\n机や棚を置くなど、ご自由にレイアウトを変えていただくことも可能です。\n全メガバンクの支店、地元金融機関の本店、郵便局本局、そして生活・趣味を楽しむ空間が徒歩5分圏内に広がります。\n創業、事業の維持拡大に必要な講座を定期的に開催します。会員の方はこうしたセミナーや実践会を特別価格で受講できます。入会者向けカウンセリングやオリエンテーション、各種相談会、交流会なども行っています。コワーキングスペースで仕事をすれば仲間もできます。\n税理士、弁護士、司法書士、社会保険労務士、行政書士、弁理士、不動産鑑定士など専門家がアドバイザとして、会員のご相談に応じます。何から始めればいいかわからないという方は、まずは常駐のアドバイザにあなたのやりたいことについてお話し下さい。\n個人がひとりで全部こなすのは、とても大変なことです。また、東京在住の方がちょっとした用事のために京都へ来るにはお金も時間もかかります。そんな時は、まず京都いのべーしょんオフィスにご相談下さい。可能な限りお手伝いさせていただきます。\nあなたの事業ステージに併せて様々なオフィス利用形態が可能です。\nまずはバーチャル会員として住所利用から始めましょう。会議室利用やセミナー開催で信頼性もアップします。\n余裕が出てきたら、シェア会員にグレードアップ。平日の午後だけ、あるいは土日祝だけでもシェアオフィスで仕事をすると気分も変わり、コワーキングスペースで仲間も出来ます。\n仕事量が増えてきたら、固定席会員として24時間365日オフィスを利用しましょう。\n事業が本格的になったらスモールオフィス、さらには100m2まである事務所スペースへ移りましょう。27年春からは生活空間も備えたホームオフィスもご提供します。\n更に事業が拡大したら、いよいよ京都いのべーしょんオフィス卒業です。この時初めて、登記や名刺の住所を変更することになります。\n*金額は全て消費税を含んでおりません。", "perplexity": 11.889974066676483}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..d21c75fdf65a223b2effc731176e775bd2c4f909 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0033/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0033", + "rows_in": 49817, + "rows_dropped": 3, + "rows_out": 49814, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:26.427001+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.0, + "tag": "dedup" +} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/common_crawl_0_filtered_0034.parquet b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/common_crawl_0_filtered_0034.parquet new file mode 100644 index 0000000000000000000000000000000000000000..6f862561568962549d1ea6854e980f006df34b53 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/common_crawl_0_filtered_0034.parquet @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c43f66ffd4895a2aad55e6230cab1d3f98d9fb3646368bfceafac0a393aff43b +size 118619336 diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/dedup_removed.jsonl b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/dedup_removed.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..58cf744db822b714744cbbfacb4d015ca8294d22 --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/dedup_removed.jsonl @@ -0,0 +1,3 @@ +{"row_index": 2940, "sha1": "0f0b987ec92df10de0dc20c8e7c9736b0fe2960d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 42119, "reason": "exact_duplicate", "record": {"url": "http://softmintindia.com/conglobation2082865.html", "content": "毎月、月刊誌『ENGLISH JOURNAL』特集の一部を公開しています!\n## 英語で読書!\n「洋書はハードルが高くて手が出ない」という人も多いのではないでしょうか。そこで今月の特集では、初めての方にもおすすめの洋書などをご紹介します。イギリスの独立系書店に「洋書の今」を聞いたインタビューもお見逃しなく!\nスキマ時間で満点TOEIC塾濱崎潤之輔さんと星名亜紀さんの交互執筆連載。忙しい中でもなんとか時間を見つけてTOEIC(R)L&Rテストのスコアアップを目指したい人のための学習法を紹介します。\n英検1級ライティング&スピーキング対策講座英検1級の英作文&二次試験の対策方法をご紹介!英検1級になかなか合格できないとお悩みの方や、これから挑戦する方、ライティングやスピーキングに苦手意識がある方は必読です。\nワンランク上の英語ビジネスメール講座ロッシェル・カップさんが、日本人のビジネスメールを添削しながら、正確かつ明確にメールを書くコツや便利な英語表現を解説します。この連載で学べば、もう英語メールは怖くない!\nイギリス育ち翻訳者の英語文学へのいざない多様な作家による作品を通して、文学をリアルに感じる読み方をお届け。言語表現やアイデンティティーなど、英語学習者も遭遇するテーマを、海外で育った翻訳者が語ります。\n字幕のムコウ教科書では目にしない「ちょっと奇妙な英語」にこそ、言語や文化をより深く学ぶためのヒントが隠れています。さまざまな映画作品のセリフを通して、英語のからくりや背景にある文化を探っていきましょう。", "perplexity": 17.468646635193263}} +{"row_index": 3665, "sha1": "9dbdefacefd1fe7da7d1f6b78a2e8fe9fe3af40d", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0001", "kept_row_index": 17988, "reason": "exact_duplicate", "record": {"url": "https://voiceyoga.jp/manager/index.php?id=28726", "content": "感情は声の調子に現れます。声は心の状態を映す鏡であり、心にとって声を発することは重要なことです。しかし、声を出す筋肉は使わなければ衰えていきます。意識して声を出さなければ、落ち込んだり、不安になったり、自信が持てなくなったりしてしまいます。\n声ヨガを行うと、よく通る声になり、心が落ち着き、ポジティブな気持ちになることができます。また、声ヨガの瞑想は心がリセットされ、集中力が増します。北里大学病院のガン患者サロンでは医師や看護師立会いのもと、その有用性を確認して頂きました。\n声ヨガは、いつでもどこでも行える手軽で簡単な健康法です。小さいお子様からご高齢者まで幅広い方に行って頂けます。1日たった5分、数週間続けるだけでご自分の声と心の変化を実感することができるでしょう。\n最初は自分で(発声を)制限している事に初めて気づきました。声が変わったのが実感できて感動しました。無理やり(声に)自信を持たなきゃと思っていたんですが、喉が開いて、胸が開いて、体から自信が湧いてくる実感があります!\n「笑いのヨガは本当に笑ってしまった」「体も軽くなったように感じました」「心が穏やかになり、安定しました」「声を出す、笑うことによりリラックスができてよかった」「ありがとうの言葉のところ、兄が10日に亡くなったので身に染みた」「父に感謝と思えた」\n「デスクワークでもできるヨガのポーズを教えていただいて、仕事の合間にぜひやってみたいと思った」「呼吸の大切さを痛感しました。GW明け、忙しい中リラックスできました」「ゆっくりと初心者ペースでできた」「ほぼ初めてでしたが動きがわかりやすかったです」\n「相手に伝えたいことを伝えるために、自ら発信することは重要であると思った」「皆が楽しんでヨガを行っていて非常によかった」「引き込まれるように声がを体感することができた」「声をだすことでリフレッシュすることができた」「声を出すことで、患者さん・家族が次第に笑顔になっていく様子をみることができた」\n声の出し方、ほぐし方はもちろん、自分の声はどう聞こえていて、高いなら高いなりの、低いなら低いなりの良い声があり、自分の心地よい声があるとお話してもらえ、自分の声の特性を知ることができました。\n...\n青山学院大学国際政治学部卒。ヨガの本場インドで資格を取得。講師歴10年。延べ5000人以上を指導。スポーツキャスターとして2000時間以上の生放送経験を持ち、その中で発声が心のコンディションに関係していることに気づく。長年に渡るヨガの呼吸法と瞑想やアナウンス経験を生かし独自の「声ヨガ」プログラムを開発。\n世界13カ国に展開されているヨガ専門誌「yoga JOURNAL」に寄稿しています。声ヨガについては勿論、出産を機に産前産後のママのための記事も執筆中です。\n食物アレルギーであったことから生粋のマクロビ育ち。大学在学中にLIMAクッキングスクールでマクロビオティック上級コースを修了し、食についても時々発信しています。\n声ヨガを学び広めたいという方に向けて、指導者養成講座を開設しました。オンライン講座ですので年中どの時期からでも自宅でスタートできます。隙間時間を活用して声とヨガのスキルアップと同時にインストラクターを目指すことが可能です。\nヨガ講師資格のない方にも受講頂けます。実際、ヨガインストラクターだけでなく、アナウンサーや女性経営者の方にもご受講頂いています。「伝える」を仕事にしている方で活動の幅を広げたい方にオススメです。", "perplexity": 11.587936253345935}} +{"row_index": 34574, "sha1": "6a34b9593134e116a1e5ed55bfb41a887395a242", "kept_config": "common_crawl_0", "kept_shard": "common_crawl_0_filtered_0009", "kept_row_index": 46762, "reason": "exact_duplicate", "record": {"url": "http://immobilierguadeloupe.net/immortification3544237.html", "content": "バブル以降、ポップスの歌詞から「地名」が消えた理由――オメガトライブを通して考える\nなぜ撮り鉄は「撮らずにいられない」のか? ツイッターで話題の激レア写真、撮影者本人に聞いてみた\n美しいアーチが印象的な総武線「隅田川橋梁」 実は作られた当時「田舎っぽい」と大不評だった!\n【アラフォー物件購入】予算内のマイホーム探し トンデモ物件の数々に呆然とした夫婦の漫画「もう疲れたよ(泣)」\n外出自粛のお盆休みは料理作って気分転換! ダイソーの100円とは思えない「調理道具」5選\nひそかに、だが着実に加速する東京都心の「超ロボット化」 もはや現実はSF世界と紙一重\n夫婦「家事・育児分担」のリアルを描いた図が話題に! ぐうの音も出ない夫にツイッター民1.5万人がエール「あるある」「自信が湧いてきた」\n東京23区のとある「区役所メシ」激ウマ & 爆盛りとSNSで話題に サックサク揚げたてカツカレー、お値段は?\n【戦後76年】「兄ちゃんはお星様になって」24歳の特攻隊員、戦地から“妹”へ送った遺書と「お人形」\n【終戦76年】減り続ける8月15日の「戦争関連番組」 私たちは風化する記憶とどう向き合うべきか?\nランキング\n- お出かけ\n- ライフ\n- オリジナル\n漫画\n上野のパンダの名前、繰り返すとはかぎらない? 名前を通してみる歴代パンダの歩み\n沖縄本島から360km 絶海の孤島「大東島」はかつて東京の植民地だった!\n渋谷区と港区の境にある「飛び地」ような場所はいったい何なのか【連載】東京うしろ髪ひかれ地帯(6)\n今なお成長し続ける「硫黄島」、ついに小笠原諸島で最大に\n「東京23区内の島は1つだけ」はウソ? 中央区「石川島」の謎について調べてみた【連載】東京うしろ髪ひかれ地帯(13)\n東京23区の鉄道空白地帯――別名「世田谷の秘境」には一体何があるのか?\n太平洋戦争の激戦地・硫黄島が今でも「無人島」であり続けるワケ\n日本唯一の「砂漠」は鳥取県じゃなく、実は「東京都」にあった\n羽田空港に穴場「朝食スポット」があった 第2旅客ターミナル2階の端、ブッフェメニューが100種類も\n老舗洋食チェーン「キッチンジロー」大量閉店の衝撃 原因はコロナ禍だけでなかった\n山手線「鶯谷駅」徒歩5分! 40年続く弁当店「ホット亭」の唐揚げが最強だった\nトーストの厚さに思わずびっくり! モーニングがおいしい上野「老舗喫茶店」5選\n意外と知らない? 食べ放題がある都内「超有名外食チェーン」5選\n数千円もする高級ホテル「アフタヌーンティー」に20代女性がどハマリする理由\nネギで覆われて麺が見えない! 東京都内の「マイナーご当地ラーメン」5選\n高級家具がたったの1000円? 品川駅からバスで5分、「家具探しの超穴場スポット」を見つけてしまった\n晴れの舞台「ウェディング写真」に写り込むナゾの女性......正体を知ったSNSユーザー大爆笑「忍者みたい」\nよくある都内の賃貸物件が大変身! 投稿者のプロ並み技術にツイッター騒然「おしゃれ過ぎん?」\nなぜ六本木や麻布十番で食べる「肉」は高いのか? “真相”をまとめた画像に1万人超が納得「なるほど分かりやすい」\nコロナ禍で『地球の歩き方』がピンチ? 生き残りを賭けた“背表紙”に6.7万人「切ない」「ぜったい応援する」\n有料レジ袋の「たった5円」が惜しくてたまらない人に教えたい イギリス流の「第3の選択肢」とは\n「センター街で絡まれた中学生みたい!」大きな犬に囲まれた豆柴、必死の表情が「かわい過ぎる」と2.6万いいね\n突如現れた「黒く塗られた東京湾岸地図」、何を意味してる? 答えを知ったツイッター民1.3万人から「恐ろしい」「勉強になった」の声", "perplexity": 32.14863210932904}} diff --git a/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/dedup_summary.json b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/dedup_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..5b1458ab7b8237cc83fffb7e4b0745a985fc231d --- /dev/null +++ b/outputs_v5_dedup/common_crawl_0/common_crawl_0_filtered_0034/dedup_summary.json @@ -0,0 +1,14 @@ +{ + "version": "cosmopedia-dedup/2026-09-07", + "config": "common_crawl_0", + "shard": "common_crawl_0_filtered_0034", + "rows_in": 49805, + "rows_dropped": 3, + "rows_out": 49802, + "mode": "rewrite", + "finished_at_utc": "2026-09-09T05:30:26.599530+00:00", + "compression": "ZSTD", + "verified_sha1": 3, + "seconds": 3.1, + "tag": "dedup" +}