BIPIA-attacks-ja (v0.2)

English | 日本語

Summary

A Japanese translation of the attack files of BIPIA (Yi et al., "Benchmarking and Defending Against Indirect Prompt Injection Attacks on Large Language Models"; MIT, Microsoft): 29 text-attack categories and 20 code-attack categories, 5 attacks each, train and test splits (250 attacks in total).

• Translated: the instruction sentences. Kept verbatim: code blocks (byte-for-byte), URLs, e-mail addresses and quoted payload strings such as 'Hello, how are you?' (validated in build_bipia_ja.py).
• Each category has category_ja and a script_dependent flag. Categories that assume the Latin alphabet (substitution / homophonic / misspelling / anagram / space removal / Caesar / Base-N / reverse text) are translated faithfully but remain alphabet-based; Japanese-native variants (kana, kanji, full-width) are planned for a later version.
• Not included: BIPIA's context files (email / table / code / web QA / summarization), which derive from other datasets with their own terms. Build them with the original BIPIA scripts and combine them with these attack files.
• New in v0.2 — Japanese-native attacks: text_attack_ja_native.json, 10 categories x 5 (50 attacks) that exploit Japanese writing systems and register instead of the Latin alphabet: hiragana / katakana / half-width kana / full-width alphanumerics / romanization, a gojuon-shift cipher, reversed Japanese text, homophone-kanji substitution, register and keigo changes (casual, over-polite, Kansai dialect), punctuation and spacing manipulation. They are the Japanese counterparts of the script_dependent categories above (original to this project; MIT). Instruction sentences only.
• Files: text_attack_{train,test}_ja.json, code_attack_{train,test}_ja.json, plus bipia_ja_translations.py and build_bipia_ja.py (to rebuild from the original repository).

Translated by Claude; not yet reviewed by a native-speaker panel. Please report awkward lines. Related: InjecAgent-ja, Japanese indirect prompt-injection probes, agentdojo-ja.

Intended use: measuring and hardening the robustness of LLM applications against indirect prompt injection. The attack strings are the benchmark's original test content, translated.

License / attribution: MIT, Copyright (c) Microsoft Corporation (original BIPIA); this translation is under the same license. Please cite the original paper (arXiv:2312.14197).

Hub: this dataset is part of japanese-llm-security (which resource answers which question).

Cite this dataset

DOI: 10.57967/hf/10737. If you use this dataset, please cite it together with the original work(s) credited above.

@misc{nakatsugawa2026bipiaja,
  author    = {Nakatsugawa, Masahiro},
  title     = {BIPIA-attacks-ja},
  year      = {2026},
  publisher = {Hugging Face},
  doi       = {10.57967/hf/10737},
  url       = {https://huggingface.co/datasets/masahiroid/bipia-attacks-ja}
}

概要

BIPIA（Yi et al.「Benchmarking and Defending Against Indirect Prompt Injection Attacks on Large Language Models」、 MIT、Microsoft）の攻撃ファイルの日本語訳です。テキスト攻撃29カテゴリ、コード攻撃20カテゴリ、各5件、train/test、計250件。

• 翻訳: 指示文。そのまま保持: コードブロック（バイト単位）、URL、メールアドレス、'Hello, how are you?' のような引用された ペイロード文字列（build_bipia_ja.py で検証）。
• 各カテゴリに category_ja と script_dependent（ラテン文字を前提とするカテゴリ）を付けています。置換・同音・綴り間違い・アナグラム・ 空白除去・シーザー暗号・Base系・反転は忠実に訳したうえでアルファベット前提のままです。日本語固有の版（かな・漢字・全角）は今後追加します。
• v0.2の新規 — 日本語固有の攻撃: text_attack_ja_native.json（10カテゴリ×5件＝50件）。ラテン文字ではなく日本語の表記体系と文体を突くもの: ひらがな化・カタカナ化・半角カナ化・全角英数化・ローマ字化、五十音ずらし暗号、日本語文字列の反転、同音異字、文体・敬語レベルの変更（タメ口・過剰敬語・関西弁）、句読点・空白の操作。 上の script_dependent カテゴリの日本語版です（本プロジェクトの独自作成、MIT）。指示文のみです。
• 含まないもの: BIPIAの文脈データ（メール・表・コード・Web QA・要約）は、他のデータセット由来で条件が異なるため含めていません。 元のBIPIAのスクリプトで作成し、本データの攻撃文と組み合わせてください。
• 翻訳はClaudeによるもので、ネイティブによる査読は未実施です。不自然な箇所の指摘を歓迎します。

ライセンス・帰属: MIT。原著作権 (c) Microsoft Corporation（BIPIA）。本翻訳も同じライセンスです。原論文（arXiv:2312.14197）を引用してください。

ハブ: このデータセットは japanese-llm-security（どのリソースが何の問いに答えるか）の一部です。

このデータセットの引用

DOI: 10.57967/hf/10737。このデータセットを使う場合は、上に挙げた元の研究とあわせて引用してください。

@misc{nakatsugawa2026bipiaja,
  author    = {Nakatsugawa, Masahiro},
  title     = {BIPIA-attacks-ja},
  year      = {2026},
  publisher = {Hugging Face},
  doi       = {10.57967/hf/10737},
  url       = {https://huggingface.co/datasets/masahiroid/bipia-attacks-ja}
}