Datasets:

Modalities:
Text
Formats:
json
Size:
< 1K
ArXiv:
Libraries:
Datasets
pandas
License:

Improve dataset card and add metadata

#2
by nielsr HF Staff - opened
Files changed (1) hide show
  1. README.md +13 -13
README.md CHANGED
@@ -1,17 +1,17 @@
1
  ---
2
- license: unknown
 
 
 
 
 
 
3
  ---
4
- ## 概要
5
 
6
- - 下記プレプリントの評価データの和訳です。
7
- - [Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-Of-the-Art Large Language Models](https://arxiv.org/pdf/2406.02061)
8
- - [公式リポジトリ](https://github.com/LAION-AI/AIW?tab=readme-ov-file)の[prompts.json](https://github.com/LAION-AI/AIW/tree/main/prompts)を元に和訳しました。
9
- - DeepLを用いて全件和訳しました。
10
- - 和訳後に目視確認を行い、翻訳の過程で問題が成立しなくなる事例を確認したため、手作業で修正しました。
11
- - 例:1つの文中でbrotherを「弟」と訳す事例と「兄」と訳す事例が混在していました。
12
- - 他に問題として成立しなくなる事例が確認された際はフォーラムで共有いただけると幸いです。
13
 
14
- ## 注意
15
- - id:60とid:62は、原著論文に従い、入力文が`ダミー`になっています。
16
- - id:100~id:108は、原著論文に従い、`right_answer`のカラムが`null`になっています。
17
- - データセットのライセンスが(作成者が調べた限り)公開されていないため、unknownとさせていただきます。分かり次第更新します。
 
 
1
  ---
2
+ license: apache-2.0
3
+ task_categories:
4
+ - question-answering
5
+ tags:
6
+ - reasoning
7
+ - llm
8
+ - benchmark
9
  ---
 
10
 
11
+ This dataset accompanies the paper [Alice in Wonderland: Simple Tasks Showing Complete Reasoning Breakdown in State-Of-the-Art Large Language Models](https://huggingface.co/papers/2406.02061). It contains data demonstrating reasoning failures in state-of-the-art Large Language Models (LLMs) on simple common-sense problems.
 
 
 
 
 
 
12
 
13
+ The dataset includes prompts and model responses, allowing researchers to analyze the limitations of current LLMs in reasoning tasks.
14
+
15
+ **Data Details:** The dataset consists of prompts designed to expose weaknesses in reasoning capabilities. The responses from various LLMs are included, illustrating the models' performance and confidence levels.
16
+
17
+ **Code and Data:** The code for reproducing the experiments and the raw experimental data can be found at [https://github.com/LAION-AI/AIW](https://github.com/LAION-AI/AIW).