--- license: cc-by-4.0 pretty_name: nvidia/OpenCodeInstruct (mirror) source_datasets: - nvidia/OpenCodeInstruct tags: - laya - laya-finetune - mirror - domain-code - use-permissive - genre-instruction - label-score - annot-llm - annot-rule - lang-en language: - en task_categories: - text-generation size_categories: - 1M コードの生成に特化させるために LLM を学習させる開発者。
### 公開日:
04/28/2025
## 想定される用途 OpenCodeInstruct データセットは、オープンなモデルの改善を続けるためにコミュニティで利用されることを想定している。データはモデルの学習に自由に利用できる。**ただし、利用者は使用するデータセットごとに、そのライセンスが想定する目的に適するかを自ら確認する責任を負う**。 ## データセットの特性 ** データ収集の方法
* [ハイブリッド: 自動、合成]
** ラベル付けの方法 * [ハイブリッド: 自動、合成]
## データ形式 |Field|Type|Description| |:---|:---|:---| |id|string|質問ごとに一意の ID| |input|string|入力となるコーディングの質問。| |output|string|LLM の応答。| |domain|string|"generic" または "algorithmic" のいずれか。| |generation_algorithm|string|"self-instruct" または "evol-instruct" のいずれか。| |llm_judgement|string|LLM による応答の評価を複数の基準で表した、JSON 辞書の文字列表現。| |unit_tests|string|assert 文のリストの文字列表現。| |tests_execution_status|string|"pass" または "fail" を示す文字列のリストの文字列表現。| |average_test_score|float|合格したテストケースの割合。| ## 使い方 次の 2 行のコードでデータセットを読み込める。 ```python from datasets import load_dataset opencodeinstruct = load_dataset("nvidia/OpenCodeInstruct", split="train") ``` ## データセットの定量 - レコード数 - 500 万件のコードの質問と回答のペア。 - ダウンロードサイズ - 6.4 GB ## 倫理的な配慮: NVIDIA は、信頼できる AI は共有の責任であると考えており、幅広い AI の応用を可能にするための方針と実践を定めている。利用規約に従ってダウンロード・利用する場合、開発者は、このモデルが関連する業界と用途の要件を満たし、想定外の製品の悪用に対応できるよう、社内のモデルチームと協力すべきである。 セキュリティ上の脆弱性や NVIDIA の AI に関する懸念は [こちら](https://www.nvidia.com/en-us/support/submit-security-vulnerability/) から報告すること。 ## 引用 このデータが役に立った場合は、次を引用してほしい: ``` @article{ahmad2025opencodeinstruct, title={OpenCodeInstruct: A Large-scale Instruction Tuning Dataset for Code LLMs}, author={Wasi Uddin Ahmad and Aleksander Ficek and Mehrzad Samadi and Jocelyn Huang and Vahid Noroozi and Somshubra Majumdar and Boris Ginsburg}, year={2025}, eprint={2504.04030}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2504.04030}, } ```
原文(英語) # OpenCodeInstruct: A Large-scale Instruction Tuning Dataset for Code LLMs ## Dataset Description We introduce OpenCodeInstruct, the largest open-access instruction tuning dataset, comprising 5 million diverse samples. OpenCodeInstruct is designed for supervised fine-tuning (SFT). - [Technical Report](https://arxiv.org/abs/2504.04030) - Discover the methodology and technical details behind OpenCodeInstruct. - [Github Repo](https://github.com/NVIDIA/NeMo-Skills) - Access the complete pipeline used to perform SFT. This dataset is ready for commercial/non-commercial use. ## Dataset Owner(s) NVIDIA Corporation ## Dataset Creation Date January 2025 - March 2025 ## License/Terms of Use GOVERNING TERMS: This dataset is licensed under the Creative Commons Attribution 4.0 International License (CC BY 4.0) available at https://creativecommons.org/licenses/by/4.0/legalcode. **Data Developer:** NVIDIA ### Use Case:
Developers training LLMs to specialize LLMs in code generation.
### Release Date:
04/28/2025
## Intended Usage The OpenCodeInstruct Dataset is intended to be used by the community to continue to improve open models. The data may be freely used to train models. **However, for each dataset a user elects to use, the user is responsible for checking if the dataset license is fit for the intended purpose**. ## Dataset Characterization ** Data Collection Method
* [Hybrid: Automated, Synthetic]
** Labeling Method * [Hybrid: Automated, Synthetic]
## Dataset Format |Field|Type|Description| |:---|:---|:---| |id|string|A unique id for each question| |input|string|The input coding question.| |output|string|LLM's response.| |domain|string|Either "generic" or "algorithmic".| |generation_algorithm|string|Either "self-instruct" or "evol-instruct".| |llm_judgement|string|string representation of a JSON dictionary containing the LLM's evaluation of the response based on several criteria.| |unit_tests|string|string representation of a list of assertion statements.| |tests_execution_status|string|string representation of a list of strings indicating "pass" or "fail".| |average_test_score|float|Fraction of test cases passed.| ## How to Use It You can load the dataset with the following two lines of code. ```python from datasets import load_dataset opencodeinstruct = load_dataset("nvidia/OpenCodeInstruct", split="train") ``` ## Dataset Quantification - Record Count - 5 million coding question-answer pairs. - Download Size - 6.4 GB ## Ethical Considerations: NVIDIA believes Trustworthy AI is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. When downloaded or used in accordance with our terms of service, developers should work with their internal model team to ensure this model meets requirements for the relevant industry and use case and addresses unforeseen product misuse. Please report security vulnerabilities or NVIDIA AI Concerns [here](https://www.nvidia.com/en-us/support/submit-security-vulnerability/). ## Citation If you find the data useful, please cite: ``` @article{ahmad2025opencodeinstruct, title={OpenCodeInstruct: A Large-scale Instruction Tuning Dataset for Code LLMs}, author={Wasi Uddin Ahmad and Aleksander Ficek and Mehrzad Samadi and Jocelyn Huang and Vahid Noroozi and Somshubra Majumdar and Boris Ginsburg}, year={2025}, eprint={2504.04030}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2504.04030}, } ```