Atsushi's picture
Update README.md
5ffae2c verified
metadata
annotations_creators:
  - other
language:
  - en
  - ja
multilinguality:
  - multilingual
license:
  - cc-by-4.0
source_datasets:
  - original
size_categories:
  - 1M<n<10M
task_categories:
  - other
tags:
  - fungi
  - mycology
  - taxonomy
  - traits
  - biodiversity
  - natural-language-processing
  - controlled-vocabulary
  - morphology
pretty_name: Fungi Trait Circus Database - 大菌輪統制形質データセット

fungi_trait_circus_database

大菌輪「Trait Circus」データセット(統制形質) 最終更新日:2025/09/28 重要:データ形式を大幅に更新しました(v2.0)

Languages

Japanese and English

Please do not use this dataset for academic purposes for the time being. (casual use only) 非専門家が作成したデータセットです。学術目的での使用はご遠慮ください。

更新履歴

  • 2025/09/28 (v2.0) - データ構造を全面改訂、Parquet形式に移行、データ量を約2倍に拡充(約400万件)
  • 2025/08/12 (v1.0) - 初回公開版(約180万件)

概要

Atsushi Nakajima(中島淳志)が個人で運営しているWebサイト大菌輪 では、菌類の記載文を自然言語処理の手法を利用して半自動的に処理し、菌類の形態、生態などに関する様々な「形質 (traits)」データを抽出して、集計や解析の便宜を図るために、あらかじめ設定された「統制語 (controlled term)」の形でまとめています。 抽出手法については「ニッチェ・ライフ」誌のこちらの記事(査読なし)で報告しています。 自動抽出という性質上、ある程度の誤りが含まれる可能性があることをご承知おきください。

統制語は「要素 (element)」「属性(attribute)」「値(value)」の3つ組からなります。 例えば「傘_色_黒」はそれぞれ「傘(pileus)」「色(color)」「黒(black)」の要素/属性/値を持っています。一部の統制語では要素と属性が同一となっています(「生息環境」など) 参考までに、データ数上位3件は「要素」で「子実体」「傘」「胞子」、「属性」で「色」「形状」「表面性状」、「値」で「褐」「平滑」「黄」です。

また、菌類分類学の学習および同定支援の目的で、そのデータを基にしたインタラクティブな可視化Webアプリ「Trait Circus」を提供しています。 本データセットは、そのWebアプリの生データに相当し、容量の都合等でWebアプリに反映されていない情報も含まれています。

関連データセット

「論文3行まとめ」 Atsushi/fungi_indexed_mycological_papers_japanese 「識別形質まとめ」 Atsushi/fungi_diagnostic_chars_comparison_japanese

データ形式の変更について(v2.0)

主な変更点

  1. ファイル形式: CSV(UTF-8, タブ区切り)→ Parquet形式
  2. データ量: 約180万件 → 約400万件(2.2倍に拡充)
  3. カラム構造: 統制語の表現方法を簡潔化し、処理効率を向上

ファイル構成

本データセットは2つのファイルから構成されています:

  • fungi_trait_circus_database.parquet: 形質データ本体(Parquet形式、約400万件)

各カラムの説明

メインデータファイル(v2.0新形式)

  • trait … 統制形質を表す文字列(要素_属性_値の組み合わせ)
  • hitword … 抽出された形質の出典中における表現
  • raw … 元の記載文から抽出された生のテキスト
  • source … 各情報の出典(出典の完全なURLまたは書籍名)
  • scientificname … その形質を有する菌の出典で使用されていた学名
  • current_name … その形質を有する菌の現行学名(MycoBankを参照、最新の情報ではない可能性あり)

source_mapping.parquet

  • source_id … 出典のID番号
  • source_url … 出典の完全なURL(学術文献、MycoBankデータベース等)

データの読み込み方法

Python (pandas)

import pandas as pd

# Parquetファイルの読み込み
df = pd.read_parquet('fungi_trait_circus_database.parquet')
source_df = pd.read_parquet('source_mapping.parquet')

# データの確認
print(f"データ件数: {len(df):,}")
print(f"カラム: {df.columns.tolist()}")
print(df.head())

Python (datasets library)

from datasets import load_dataset

# Hugging Face Datasetsから直接読み込み
dataset = load_dataset("Atsushi/fungi_trait_circus_database")
df = dataset['train'].to_pandas()

旧形式(v1.0)からの移行ガイド

カラム名の対応

旧形式 (v1.0) 新形式 (v2.0) 説明
source_id source 出典ID
hit_term hitword 抽出された表現
current_name current_name 現行学名(変更なし)
original_name scientificname 出典での学名
element - traitに統合
attribute - traitに統合
value - traitに統合
raw raw 生テキスト(変更なし)

trait列の解釈方法

新形式では、element、attribute、valueが「trait」列に統合されています:

  • 例: "pileus_color_brown" = 傘(pileus)の色(color)が褐色(brown)
  • アンダースコア(_)で分割することで、個別の要素を取得できます
# traitを分解する例
df[['element', 'attribute', 'value']] = df['trait'].str.split('_', n=2, expand=True)

注意事項

  • データは自動抽出により生成されているため、誤りが含まれる可能性があります
  • 学名情報は定期的に更新されていますが、最新の分類体系を反映していない場合があります
  • 学術目的での使用は現在制限されています(カジュアルな利用のみ)

ライセンス

CC BY 4.0

お問い合わせ

データセットに関するご質問やフィードバックは、大菌輪のWebサイトからお願いします。