Hugging Face's logo

Datasets:
ichikara-ai
/
ichikara-pdf2summary

Modalities:
Text
Languages:
Japanese
Size:
< 1K
License:
Dataset card Data Studio Files
xet
Community

You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

本データセットを利用するには、LICENSEおよび以下の個人情報取扱条項への同意が必要です。

個人情報の取扱いについて

  1. 本データセットに関する合意の際に、ご提供いただいた氏名、メールアドレス、所属組織名等の個人情報は、以下の目的のために使用します。
  • 本データの提供・運営
  • お問合せ、お申込み、ご意見などの受付・対応・管理及び各種手続き
  • 当社の事業活動に関するマーケティング活動、コンテンツ・広告配信、及び調査等への協力依頼
  • 当社が提供する新たなデータ・サービス等の開発、利用傾向・ニーズを把握し今後のサービス改善を目的とした分析、分析結果に基づくサービス等の提案
  • 当社の事業活動に係る統計データの作成

  1. 当社は、法令に定める場合を除き、個人データをご本人の同意を得ないで第三者に提供することはありません。また、個人データの取扱いの全部又は一部を外部委託する場合には、委託先と契約締結等を行い、委託先において個人データの安全管理が図られるよう、必要かつ適切な監督を行います。

  2. 保有個人データ（当社が、開示、内容の訂正、追加又は削除、利用の停止、消去及び第三者への提供の停止を行うことのできる権限を有する個人データであって、その存否が明らかになることにより公益その他の利益が害されるものとして個人情報保護法施行令で定めるもの以外のもの）の開示等、又は個人データの取扱いに関するお問い合わせ・ご相談等は以下の窓口までご連絡ください。legal@ichikara.ai

Log in or Sign Up to review the conditions and access this dataset content.

ichikara-pdf2summary 定義書

2025 年 4 月 4 日
株式会社いちから

1. データの概要

ichikara-pdf2summary の定義を行う。ichikara-pdf2summary とは、文章イメージデータ（本データでは PDF ファイル）からその要点・要約を作る LLM の学習データである。文章イメージデータは日本の官公庁が発行しているものを使っており、官公庁のリストは以下の通りである。各官公庁から「データ数」に示されている PDF データを利用している。

組織名 英訳（フォルダ名） データ数
デジタル庁 DigitalAgency 15
内閣府 CAO 3
農林水産省 MAFF 1
文部科学省 MEXT 11
厚生労働省 MHLW 35
総務省 MIC 7
外務省 MOFA 13
法務省 MOJ 30
復興庁 ReconstructionAgency 10

2. ファイルとバージョン

バージョンは、ファイル名及びデータ ID に利用される。二つの数字からなる。
ファイル名は下記のような構造になっている。

ichikara-pdf2summary-<MajorVersion>-<MinorVersion>.json

バージョンの定義

  • MajorVersion：データのメジャーバージョン（この番号が違うデータ間は互換性がなく、同時に使うことは避けるべきである）
  • MinorVersion：データのマイナーバージョン（同じメジャーバージョンのデータの追加時などに用いられ、同じメジャーバージョンであれば同時に利用しても構わないが、データに重複がある場合も存在する。ただし、質問文や回答に訂正が入った場合には、基本的にメジャーバージョンが更新される）

ファイル内のデータフォーマットは JSON 形式とする。本マニュアル末尾の＜付録（具体例）＞参照のこと。

3. データ項目

各データ項目は、入力である質問文（text）、出力である回答（output）、そのデータの特性を表すタグ（meta）からなる JSON 形式で作成されている（以下の図、及び、最下部の付録を参考のこと）。

[
    {
        "ID": "データID",
        "department": "組織名",
        "file": ["ファイル名"] ,
        "title": "文書のタイトル",
        "toWhom": "想定される読者",
        "abstract": "要旨",
        "summary": "要約"
    },
    ....
]

以降、各項目について説明する。

【データ ID】

データ ID の形式は以下の通りである。本データはすべて同じ値となる。

Ichikara-pdf2summary -<MajorVersion>-<MinorVersion>-<pdf1>-<summary2>

  • MajorVersion：上記２を参照
  • MinorVersion：上記２を参照
  • pdfID：PDF ページの ID
  • summaryID：要約文章 ID

【組織名】

要約対象となる文書を発行した組織名である。1 の表で示した表を参照されたい。

【ファイル名】

ファイル名は下記のような構造になっている。相対パスを表しており、この値を用いることで、対象となる文書にアクセスできる。

フォルダ名/ファイル名

【文書のタイトル】

対象となる文書のタイトルを示す。

【想定される読者】

対象となる文書が想定している読者を示す。

【要旨】

要旨とは、その文書を読むべきかどうかの判定に使用するものである。したがて、簡潔に書かれている。任意の文字列で記載され、改行は"\n"、タブ文字は"\t"で記載されている。

【要約】

要約とは、内容全体の要約を指す。
任意の文字列で記載され、改行は"\n"、タブ文字は"\t"で記載されている。

＜付録（具体例）＞ 

    {
        "ID":"ichikara-pdf2summary-001-001-0000001-001",
        "department":"デジタル庁",
        "file":[
            "DigitalAgency/D_1.pdf"
        ],
        "title":"マイナポータルの機能追加について（令和３年10 月）",
        "toWhom":"マイナンバーカードを取得している方",
        "abstract":"マイナポータルの機能追加や暮らしをより良くするためのサービス等について",
        "summary":"マイナポータルで可能な以下の事について書かれています。\n\n医療保険の薬剤情報を確認・取得する流れ\n薬剤情報の表示例\n特定健診情報、後期高齢者健診情報を確認・取得する流れ\n特定健診情報の表示例\n後期高齢者健診情報の表示例\n医療費通知情報を確認・取得する流れ\n医療費通知情報の表示例\n\nまた、マイナポータルの仕組みやマイナンバーカードの利用法についても書かれています。マイナンバーカードの安全性や実際の医療機関・薬局におけるオンライン資格確認の仕組み等についても詳しく書かれています。"
    },
Downloads last month
3