Upload batch 216 (20 files, last=huggingface_dataset/Dataset_Card/MicPie_unpredictable_cluster20.md)

huggingface_dataset/Dataset_Card/JeremyAlain_123_test.md

@@ -0,0 +1,196 @@
+---
+annotations_creators:
+- no-annotation
+language_creators:
+- found
+language:
+- en
+license:
+- apache-2.0
+multilinguality:
+- monolingual
+pretty_name: Fewshot Table Dataset
+size_categories:
+- 100K<n<1M
+source_datasets: []
+task_categories:
+- multiple-choice
+- question-answering
+- zero-shot-classification
+- text2text-generation
+- table-question-answering
+- text-generation
+- text-classification
+- tabular-classification
+task_ids:
+- multiple-choice-qa
+- extractive-qa
+- open-domain-qa
+- closed-domain-qa
+- closed-book-qa
+- open-book-qa
+- language-modeling
+- multi-class-classification
+- natural-language-inference
+- topic-classification
+- multi-label-classification
+- tabular-multi-class-classification
+- tabular-multi-label-classification
+---
+
+
+# Dataset Card for Fewshot Table Dataset
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-instances)
+  - [Data Splits](#data-instances)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+
+## Dataset Description
+
+- **Homepage:** [Needs More Information]
+- **Repository:** https://github.com/JunShern/few-shot-pretraining
+- **Paper:** Paper-Title
+- **Leaderboard:** [Needs More Information]
+- **Point of Contact:** junshern@nyu.edu, perez@nyu.edu
+
+### Dataset Summary
+
+The Fewshot Table dataset consists of tables that naturally occur on the web, that are formatted as few-shot tasks for fine-tuning language models to improve their few-shot performance. The dataset consists of approximately 413K tables that are extracted from the [WDC Web Table Corpora](http://webdatacommons.org/webtables/) 2015, which is released under the Apache-2.0 license. The WDC Web Table Corpora "contains vast amounts of HTML tables. [...] The Web Data Commons project extracts relational Web tables from the [Common Crawl](https://commoncrawl.org/), the largest and most up-to-date Web corpus that is currently available to the public."
+
+### Supported Tasks and Leaderboards
+
+Since the tables come from the web, the distribution of tasks and topics is very broad. The shape of our dataset is very wide i.e. we have 1000's tasks, while each task has only a few examples, compared to most current NLP datasets which are very deep, i.e. 10s of tasks with many examples. This implies that our dataset covers a broad range of potential tasks, e.g. multiple-choice, question-answering, table-question-answering, text-classification, etc.
+
+The intended use of this dataset is to improve few-shot performance by finetuning/pretraining onour dataset.
+
+### Languages
+
+English
+
+## Dataset Structure
+
+### Data Instances
+
+Each table, i.e. task is represented as a json-lines file and consists of several few-shot examples. Each example is a dictionary containing a field 'task', which identifies the task, followed by an 'input', 'options', and 'output' field. The 'input' field contains several column elements of the same row in the table, while the 'output' field is a target which represents an individual column of the same row. Each task contains several such examples which can be concatenated as a few-shot task. In the case of multiple choice classification, the 'options' field contains the possible classes that a model needs to choose from. 
+
+There are also additional meta-data fields such as 'pageTitle', 'title', 'outputColName', 'url', 'wdcFile'. 
+
+### Data Fields
+
+'task': task identifier
+
+'input': column elements of a specific row in table. 
+
+'options': for multiple choice classification, it provides the options to choose from.
+
+'output': target column element of same row as input.
+
+'pageTitle': the title of the page containing the table. 
+
+'outputColName': ?? (potentially remove this from data)
+
+'url': url to the website containing the table
+
+'wdcFile': ? (potentially remove this from data)
+
+### Data Splits
+
+[Needs More Information]
+
+## Dataset Creation
+
+### Curation Rationale
+
+How do we convert tables to few-shot tasks?
+Unlike unstructured text, structured data in the form of tables lends itself easily to the few-shot task format. Given a table where each row is an instance of a similar class and the columns describe the attributes of each instance, we can turn each row into a task example to predict one attribute given the others. When the table has more than one row, we instantly have multiple examples of this task by using each row as a single example, and thus each table becomes a few-shot dataset for a particular task. 
+
+The few-shot setting in this setting is significant: Tables often do not come with clear instructions for each field, so tasks may be underspecified if prompted in a zero-shot manner, but the intended task becomes clearer when examples are provided. This makes a good two-way match: The few-shot format is a perfect setup for table learning, and tables provide a natural dataset for few-shot training. 
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+We downloaded the [WDC Web Table Corpora](http://webdatacommons.org/webtables/) 2015 dataset and focus on relational tables. In the following, we describe the steps we executed to filter the WDC Web Table Corpora and create our task dataset. Given a set of relation tables, we apply defined preprocessing steps to ensure all the tables can be handled consistently. Each table can then spawn one or more tasks using a simple predict-one-column approach. Finally, all tasks produced in this manner undergo simple rule-based checks, i.e. any candidates that do not meet some defined minimum requirements for a well-formed task are rejected. Following this approach, we start with 50 million tables in the initial corpus and produce a longlist of 400K tasks. 
+
+1. We select only relational tables. 
+2. We make sure all tables are vertical (horizontal tables are simply transposed) and remove duplicate rows. 
+3. To create task we use what in the literature is referred to as verbalizers. For example, a table with 3 columns may be cast as three different tasks: predict column A given B and C, predict column B given A and C, and predict column C given A and B. 
+4. Rule-based-checks to reject tables: 
+a) We reject 25M tables that have fewer than 6 rows (so we can do at least k=5-shot learning)
+b) We reject tables with > 20% non-English text as measured by [SpaCy](https://spacy.io/)
+c) Given 2 Million passing tables we consider each table column as a potential output column, and concatenate all other columns to form the input (which produces 5.6 M candidate tasks)
+5. Rule-based-checks to reject tasks
+a) We reject a task if it has less than 6 rows. Note that tasks may have fewer rows than their origin tables since we remove rows where the output column is empty. 
+b) We reject tasks if any input maps to multiple outputs. 
+c) We reject tasks if it has fewer than 2 output classes. 
+d) We reject a task if the output column alone has >20% non-English text. 
+e) We reject a task if the classes are heavily imbalanced.
+
+6. Lastly we apply domain-level filtering. Initial iterations of our dataset found a significant imbalance in terms of the website of origin for our generated tasks. In particular, we found that the mos-frequent domain in the WDC corpus, Cappex.com, was emphasized by our export criteria such that this website alone represented 41% of our total tasks. Since we want our dataset to represent the diversity of all the tables available on the web, we apply a hard fix for this imbalance by limiting the number of tasks per domain. Starting from the initial corpus of 50M tables from 323160 web domains, our resulting longlist of tasks comprises more than X  for a total of 413350 tasks. 
+
+#### Who are the source language producers?
+
+The dataset is extracted from [WDC Web Table Corpora](http://webdatacommons.org/webtables/).
+
+### Annotations
+
+#### Annotation process
+
+No annotation Process
+
+#### Who are the annotators?
+
+-
+
+### Personal and Sensitive Information
+
+The data was extracted from [WDC Web Table Corpora](http://webdatacommons.org/webtables/), which in turn extracted tables from the [Common Crawl](https://commoncrawl.org/). We did not filter the data in any way. Thus any user identities or otherwise sensitive information (e.g. data that reveals racial or ethnic origins, sexual orientations, religious beliefs, political opinions or union memberships, or locations; financial or health data; biometric or genetic data; forms of government identification, such as social security numbers; criminal history, etc.) might be contained in our dataset. 
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+The purpose of this dataset is to help develop models that are better at few-shot learning and have higher few-shot performance by fine-tuning few-shot tasks extracted from tables.
+
+While tables have a similar structure to few-shot tasks and we do see an improved performance on few-shot tasks in our paper, we want to make clear that finetuning on tables also has its risks. First of all, since the tables are extracted from the web, they may contain user identities or otherwise sensitive information which a model might reveal at inference, or which could influence the learning process of a model in a negative way. Second, since tables are very diverse in nature, the model also trains on low-quality data or data with an unusual structure. While it is interesting that training on such data improves few-shot performance on downstream tasks, this could also imply that the model learns concepts that are very dissimilar to human concepts that would be useful for a certain downstream task. In other words, it is possible that the model learns weird things that are helpful on the evaluated downstream tasks, but might lead to bad out-of-distribution behavior.
+
+### Discussion of Biases
+
+Since our dataset contains tables that are scraped from the web, it will also contain many toxic, racist, sexist, and otherwise harmful biases and texts. We have not run any analysis on the biases prevalent in our datasets. Neither have we explicitly filtered the content for toxic content. 
+This implies that a model trained on our dataset will reinforce harmful biases and toxic text that exist in our dataset.
+
+
+### Other Known Limitations
+
+[Needs More Information]
+
+## Additional Information
+
+### Dataset Curators
+Mention all authors 
+
+### Licensing Information
+Apache 2.0
+
+### Citation Information
+
+[Needs More Information]

huggingface_dataset/Dataset_Card/Lo_clip-bert-data.md

@@ -0,0 +1,16 @@
+---
+language:
+- en
+license:
+- cc-by-4.0
+multilinguality:
+- monolingual
+---
+
+# CLIP-BERT training data
+
+This data was used to train the CLIP-BERT model first described in [this paper](https://arxiv.org/abs/2109.11321). 
+
+The dataset is based on text and images from MS COCO, SBU Captions, Visual Genome QA and Conceptual Captions.
+
+The image features have been extracted using the CLIP model [openai/clip-vit-base-patch32](https://huggingface.co/openai/clip-vit-base-patch32) available on Huggingface.

huggingface_dataset/Dataset_Card/MicPie_unpredictable_cluster13.md

@@ -0,0 +1,250 @@
+---
+annotations_creators:
+- no-annotation
+language_creators:
+- found
+language:
+- en
+license:
+- apache-2.0
+multilinguality:
+- monolingual
+pretty_name: UnpredicTable-cluster13
+size_categories:
+- 100K<n<1M
+source_datasets: []
+task_categories:
+- multiple-choice
+- question-answering
+- zero-shot-classification
+- text2text-generation
+- table-question-answering
+- text-generation
+- text-classification
+- tabular-classification
+task_ids:
+- multiple-choice-qa
+- extractive-qa
+- open-domain-qa
+- closed-domain-qa
+- closed-book-qa
+- open-book-qa
+- language-modeling
+- multi-class-classification
+- natural-language-inference
+- topic-classification
+- multi-label-classification
+- tabular-multi-class-classification
+- tabular-multi-label-classification
+---
+
+
+# Dataset Card for "UnpredicTable-cluster13" - Dataset of Few-shot Tasks from Tables
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-instances)
+  - [Data Splits](#data-instances)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+
+## Dataset Description
+
+- **Homepage:** https://ethanperez.net/unpredictable
+- **Repository:** https://github.com/JunShern/few-shot-adaptation
+- **Paper:** Few-shot Adaptation Works with UnpredicTable Data
+- **Point of Contact:** junshern@nyu.edu, perez@nyu.edu
+
+### Dataset Summary
+
+The UnpredicTable dataset consists of web tables formatted as few-shot tasks for fine-tuning language models to improve their few-shot performance.
+
+There are several dataset versions available:
+
+* [UnpredicTable-full](https://huggingface.co/datasets/MicPie/unpredictable_full): Starting from the initial WTC corpus of 50M tables, we apply our tables-to-tasks procedure to produce our resulting dataset, [UnpredicTable-full](https://huggingface.co/datasets/MicPie/unpredictable_full), which comprises 413,299 tasks from 23,744 unique websites.
+
+* [UnpredicTable-unique](https://huggingface.co/datasets/MicPie/unpredictable_unique): This is the same as [UnpredicTable-full](https://huggingface.co/datasets/MicPie/unpredictable_full) but filtered to have a maximum of one task per website. [UnpredicTable-unique](https://huggingface.co/datasets/MicPie/unpredictable_unique) contains exactly 23,744 tasks from 23,744 websites.
+
+* [UnpredicTable-5k](https://huggingface.co/datasets/MicPie/unpredictable_5k): This dataset contains 5k random tables from the full dataset.
+
+* UnpredicTable data subsets based on a manual human quality rating (please see our publication for details of the ratings):
+    * [UnpredicTable-rated-low](https://huggingface.co/datasets/MicPie/unpredictable_rated-low)
+    * [UnpredicTable-rated-medium](https://huggingface.co/datasets/MicPie/unpredictable_rated-medium)
+    * [UnpredicTable-rated-high](https://huggingface.co/datasets/MicPie/unpredictable_rated-high)
+
+* UnpredicTable data subsets based on the website of origin:
+    * [UnpredicTable-baseball-fantasysports-yahoo-com](https://huggingface.co/datasets/MicPie/unpredictable_baseball-fantasysports-yahoo-com) 
+    * [UnpredicTable-bulbapedia-bulbagarden-net](https://huggingface.co/datasets/MicPie/unpredictable_bulbapedia-bulbagarden-net)
+    * [UnpredicTable-cappex-com](https://huggingface.co/datasets/MicPie/unpredictable_cappex-com) 
+    * [UnpredicTable-cram-com](https://huggingface.co/datasets/MicPie/unpredictable_cram-com)
+    * [UnpredicTable-dividend-com](https://huggingface.co/datasets/MicPie/unpredictable_dividend-com) 
+    * [UnpredicTable-dummies-com](https://huggingface.co/datasets/MicPie/unpredictable_dummies-com)
+    * [UnpredicTable-en-wikipedia-org](https://huggingface.co/datasets/MicPie/unpredictable_en-wikipedia-org)
+    * [UnpredicTable-ensembl-org](https://huggingface.co/datasets/MicPie/unpredictable_ensembl-org)
+    * [UnpredicTable-gamefaqs-com](https://huggingface.co/datasets/MicPie/unpredictable_gamefaqs-com)
+    * [UnpredicTable-mgoblog-com](https://huggingface.co/datasets/MicPie/unpredictable_mgoblog-com)
+    * [UnpredicTable-mmo-champion-com](https://huggingface.co/datasets/MicPie/unpredictable_mmo-champion-com)
+    * [UnpredicTable-msdn-microsoft-com](https://huggingface.co/datasets/MicPie/unpredictable_msdn-microsoft-com)
+    * [UnpredicTable-phonearena-com](https://huggingface.co/datasets/MicPie/unpredictable_phonearena-com)
+    * [UnpredicTable-sittercity-com](https://huggingface.co/datasets/MicPie/unpredictable_sittercity-com)
+    * [UnpredicTable-sporcle-com](https://huggingface.co/datasets/MicPie/unpredictable_sporcle-com)
+    * [UnpredicTable-studystack-com](https://huggingface.co/datasets/MicPie/unpredictable_studystack-com)
+    * [UnpredicTable-support-google-com](https://huggingface.co/datasets/MicPie/unpredictable_support-google-com)
+    * [UnpredicTable-w3-org](https://huggingface.co/datasets/MicPie/unpredictable_w3-org)
+    * [UnpredicTable-wiki-openmoko-org](https://huggingface.co/datasets/MicPie/unpredictable_wiki-openmoko-org)
+    * [UnpredicTable-wkdu-org](https://huggingface.co/datasets/MicPie/unpredictable_wkdu-org)
+
+
+* UnpredicTable data subsets based on clustering (for the clustering details please see our publication):
+    * [UnpredicTable-cluster00](https://huggingface.co/datasets/MicPie/unpredictable_cluster00)
+    * [UnpredicTable-cluster01](https://huggingface.co/datasets/MicPie/unpredictable_cluster01)
+    * [UnpredicTable-cluster02](https://huggingface.co/datasets/MicPie/unpredictable_cluster02)
+    * [UnpredicTable-cluster03](https://huggingface.co/datasets/MicPie/unpredictable_cluster03)
+    * [UnpredicTable-cluster04](https://huggingface.co/datasets/MicPie/unpredictable_cluster04)
+    * [UnpredicTable-cluster05](https://huggingface.co/datasets/MicPie/unpredictable_cluster05)
+    * [UnpredicTable-cluster06](https://huggingface.co/datasets/MicPie/unpredictable_cluster06)
+    * [UnpredicTable-cluster07](https://huggingface.co/datasets/MicPie/unpredictable_cluster07)
+    * [UnpredicTable-cluster08](https://huggingface.co/datasets/MicPie/unpredictable_cluster08)
+    * [UnpredicTable-cluster09](https://huggingface.co/datasets/MicPie/unpredictable_cluster09)
+    * [UnpredicTable-cluster10](https://huggingface.co/datasets/MicPie/unpredictable_cluster10)
+    * [UnpredicTable-cluster11](https://huggingface.co/datasets/MicPie/unpredictable_cluster11)
+    * [UnpredicTable-cluster12](https://huggingface.co/datasets/MicPie/unpredictable_cluster12)
+    * [UnpredicTable-cluster13](https://huggingface.co/datasets/MicPie/unpredictable_cluster13)
+    * [UnpredicTable-cluster14](https://huggingface.co/datasets/MicPie/unpredictable_cluster14)
+    * [UnpredicTable-cluster15](https://huggingface.co/datasets/MicPie/unpredictable_cluster15)
+    * [UnpredicTable-cluster16](https://huggingface.co/datasets/MicPie/unpredictable_cluster16)
+    * [UnpredicTable-cluster17](https://huggingface.co/datasets/MicPie/unpredictable_cluster17)
+    * [UnpredicTable-cluster18](https://huggingface.co/datasets/MicPie/unpredictable_cluster18)
+    * [UnpredicTable-cluster19](https://huggingface.co/datasets/MicPie/unpredictable_cluster19)
+    * [UnpredicTable-cluster20](https://huggingface.co/datasets/MicPie/unpredictable_cluster20)
+    * [UnpredicTable-cluster21](https://huggingface.co/datasets/MicPie/unpredictable_cluster21)
+    * [UnpredicTable-cluster22](https://huggingface.co/datasets/MicPie/unpredictable_cluster22)
+    * [UnpredicTable-cluster23](https://huggingface.co/datasets/MicPie/unpredictable_cluster23)
+    * [UnpredicTable-cluster24](https://huggingface.co/datasets/MicPie/unpredictable_cluster24)
+    * [UnpredicTable-cluster25](https://huggingface.co/datasets/MicPie/unpredictable_cluster25)
+    * [UnpredicTable-cluster26](https://huggingface.co/datasets/MicPie/unpredictable_cluster26)
+    * [UnpredicTable-cluster27](https://huggingface.co/datasets/MicPie/unpredictable_cluster27)
+    * [UnpredicTable-cluster28](https://huggingface.co/datasets/MicPie/unpredictable_cluster28)
+    * [UnpredicTable-cluster29](https://huggingface.co/datasets/MicPie/unpredictable_cluster29)
+    * [UnpredicTable-cluster-noise](https://huggingface.co/datasets/MicPie/unpredictable_cluster-noise)
+
+### Supported Tasks and Leaderboards
+
+Since the tables come from the web, the distribution of tasks and topics is very broad. The shape of our dataset is very wide, i.e., we have 1000's of tasks, while each task has only a few examples, compared to most current NLP datasets which are very deep, i.e., 10s of tasks with many examples. This implies that our dataset covers a broad range of potential tasks, e.g., multiple-choice, question-answering, table-question-answering, text-classification, etc.
+
+The intended use of this dataset is to improve few-shot performance by fine-tuning/pre-training on our dataset.
+
+### Languages
+
+English
+
+## Dataset Structure
+
+### Data Instances
+
+Each task is represented as a jsonline file and consists of several few-shot examples. Each example is a dictionary containing a field 'task', which identifies the task, followed by an 'input', 'options', and 'output' field. The 'input' field contains several column elements of the same row in the table, while the 'output' field is a target which represents an individual column of the same row. Each task contains several such examples which can be concatenated as a few-shot task. In the case of multiple choice classification, the 'options' field contains the possible classes that a model needs to choose from.
+
+There are also additional meta-data fields such as 'pageTitle', 'title', 'outputColName', 'url', 'wdcFile'. 
+
+### Data Fields
+
+'task': task identifier
+
+'input': column elements of a specific row in the table. 
+
+'options': for multiple choice classification, it provides the options to choose from.
+
+'output': target column element of the same row as input.
+
+'pageTitle': the title of the page containing the table. 
+
+'outputColName': output column name
+
+'url': url to the website containing the table
+
+'wdcFile': WDC Web Table Corpus file
+
+### Data Splits
+
+The UnpredicTable datasets do not come with additional data splits.
+
+## Dataset Creation
+
+### Curation Rationale
+
+Few-shot training on multi-task datasets has been demonstrated to improve language models' few-shot learning (FSL) performance on new tasks, but it is unclear which training tasks lead to effective downstream task adaptation. Few-shot learning datasets are typically produced with expensive human curation, limiting the scale and diversity of the training tasks available to study. As an alternative source of few-shot data, we automatically extract 413,299 tasks from diverse internet tables. We provide this as a research resource to investigate the relationship between training data and few-shot learning.
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+We use internet tables from the English-language Relational Subset of the WDC Web Table Corpus 2015 (WTC). The WTC dataset tables were extracted from the July 2015 Common Crawl web corpus (http://webdatacommons.org/webtables/2015/EnglishStatistics.html). The dataset contains 50,820,165 tables from 323,160 web domains. We then convert the tables into few-shot learning tasks. Please see our publication for more details on the data collection and conversion pipeline.
+
+#### Who are the source language producers?
+
+The dataset is extracted from [WDC Web Table Corpora](http://webdatacommons.org/webtables/).
+
+### Annotations
+
+#### Annotation process
+
+Manual annotation was only carried out for the [UnpredicTable-rated-low](https://huggingface.co/datasets/MicPie/unpredictable_rated-low),
+[UnpredicTable-rated-medium](https://huggingface.co/datasets/MicPie/unpredictable_rated-medium), and [UnpredicTable-rated-high](https://huggingface.co/datasets/MicPie/unpredictable_rated-high) data subsets to rate task quality. Detailed instructions of the annotation instructions can be found in our publication.
+
+#### Who are the annotators?
+
+Annotations were carried out by a lab assistant.
+
+### Personal and Sensitive Information
+
+The data was extracted from [WDC Web Table Corpora](http://webdatacommons.org/webtables/), which in turn extracted tables from the [Common Crawl](https://commoncrawl.org/). We did not filter the data in any way. Thus any user identities or otherwise sensitive information (e.g., data that reveals racial or ethnic origins, sexual orientations, religious beliefs, political opinions or union memberships, or locations; financial or health data; biometric or genetic data; forms of government identification, such as social security numbers; criminal history, etc.) might be contained in our dataset.
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+This dataset is intended for use as a research resource to investigate the relationship between training data and few-shot learning. As such, it contains high- and low-quality data, as well as diverse content that may be untruthful or inappropriate. Without careful investigation, it should not be used for training models that will be deployed for use in decision-critical or user-facing situations.
+
+### Discussion of Biases
+
+Since our dataset contains tables that are scraped from the web, it will also contain many toxic, racist, sexist, and otherwise harmful biases and texts. We have not run any analysis on the biases prevalent in our datasets. Neither have we explicitly filtered the content. This implies that a model trained on our dataset may potentially reflect harmful biases and toxic text that exist in our dataset.
+
+### Other Known Limitations
+
+No additional known limitations.
+
+## Additional Information
+
+### Dataset Curators
+Jun Shern Chan, Michael Pieler, Jonathan Jao, Jérémy Scheurer, Ethan Perez
+
+### Licensing Information
+Apache 2.0
+
+### Citation Information
+
+```
+@misc{chan2022few,
+  author = {Chan, Jun Shern and Pieler, Michael and Jao, Jonathan and Scheurer, Jérémy and Perez, Ethan},
+  title = {Few-shot Adaptation Works with UnpredicTable Data},
+  publisher={arXiv},
+  year = {2022},
+  url = {https://arxiv.org/abs/2208.01009}
+}
+```

huggingface_dataset/Dataset_Card/MicPie_unpredictable_cluster20.md

@@ -0,0 +1,250 @@
+---
+annotations_creators:
+- no-annotation
+language_creators:
+- found
+language:
+- en
+license:
+- apache-2.0
+multilinguality:
+- monolingual
+pretty_name: UnpredicTable-cluster20
+size_categories:
+- 100K<n<1M
+source_datasets: []
+task_categories:
+- multiple-choice
+- question-answering
+- zero-shot-classification
+- text2text-generation
+- table-question-answering
+- text-generation
+- text-classification
+- tabular-classification
+task_ids:
+- multiple-choice-qa
+- extractive-qa
+- open-domain-qa
+- closed-domain-qa
+- closed-book-qa
+- open-book-qa
+- language-modeling
+- multi-class-classification
+- natural-language-inference
+- topic-classification
+- multi-label-classification
+- tabular-multi-class-classification
+- tabular-multi-label-classification
+---
+
+
+# Dataset Card for "UnpredicTable-cluster20" - Dataset of Few-shot Tasks from Tables
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-instances)
+  - [Data Splits](#data-instances)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+
+## Dataset Description
+
+- **Homepage:** https://ethanperez.net/unpredictable
+- **Repository:** https://github.com/JunShern/few-shot-adaptation
+- **Paper:** Few-shot Adaptation Works with UnpredicTable Data
+- **Point of Contact:** junshern@nyu.edu, perez@nyu.edu
+
+### Dataset Summary
+
+The UnpredicTable dataset consists of web tables formatted as few-shot tasks for fine-tuning language models to improve their few-shot performance.
+
+There are several dataset versions available:
+
+* [UnpredicTable-full](https://huggingface.co/datasets/MicPie/unpredictable_full): Starting from the initial WTC corpus of 50M tables, we apply our tables-to-tasks procedure to produce our resulting dataset, [UnpredicTable-full](https://huggingface.co/datasets/MicPie/unpredictable_full), which comprises 413,299 tasks from 23,744 unique websites.
+
+* [UnpredicTable-unique](https://huggingface.co/datasets/MicPie/unpredictable_unique): This is the same as [UnpredicTable-full](https://huggingface.co/datasets/MicPie/unpredictable_full) but filtered to have a maximum of one task per website. [UnpredicTable-unique](https://huggingface.co/datasets/MicPie/unpredictable_unique) contains exactly 23,744 tasks from 23,744 websites.
+
+* [UnpredicTable-5k](https://huggingface.co/datasets/MicPie/unpredictable_5k): This dataset contains 5k random tables from the full dataset.
+
+* UnpredicTable data subsets based on a manual human quality rating (please see our publication for details of the ratings):
+    * [UnpredicTable-rated-low](https://huggingface.co/datasets/MicPie/unpredictable_rated-low)
+    * [UnpredicTable-rated-medium](https://huggingface.co/datasets/MicPie/unpredictable_rated-medium)
+    * [UnpredicTable-rated-high](https://huggingface.co/datasets/MicPie/unpredictable_rated-high)
+
+* UnpredicTable data subsets based on the website of origin:
+    * [UnpredicTable-baseball-fantasysports-yahoo-com](https://huggingface.co/datasets/MicPie/unpredictable_baseball-fantasysports-yahoo-com) 
+    * [UnpredicTable-bulbapedia-bulbagarden-net](https://huggingface.co/datasets/MicPie/unpredictable_bulbapedia-bulbagarden-net)
+    * [UnpredicTable-cappex-com](https://huggingface.co/datasets/MicPie/unpredictable_cappex-com) 
+    * [UnpredicTable-cram-com](https://huggingface.co/datasets/MicPie/unpredictable_cram-com)
+    * [UnpredicTable-dividend-com](https://huggingface.co/datasets/MicPie/unpredictable_dividend-com) 
+    * [UnpredicTable-dummies-com](https://huggingface.co/datasets/MicPie/unpredictable_dummies-com)
+    * [UnpredicTable-en-wikipedia-org](https://huggingface.co/datasets/MicPie/unpredictable_en-wikipedia-org)
+    * [UnpredicTable-ensembl-org](https://huggingface.co/datasets/MicPie/unpredictable_ensembl-org)
+    * [UnpredicTable-gamefaqs-com](https://huggingface.co/datasets/MicPie/unpredictable_gamefaqs-com)
+    * [UnpredicTable-mgoblog-com](https://huggingface.co/datasets/MicPie/unpredictable_mgoblog-com)
+    * [UnpredicTable-mmo-champion-com](https://huggingface.co/datasets/MicPie/unpredictable_mmo-champion-com)
+    * [UnpredicTable-msdn-microsoft-com](https://huggingface.co/datasets/MicPie/unpredictable_msdn-microsoft-com)
+    * [UnpredicTable-phonearena-com](https://huggingface.co/datasets/MicPie/unpredictable_phonearena-com)
+    * [UnpredicTable-sittercity-com](https://huggingface.co/datasets/MicPie/unpredictable_sittercity-com)
+    * [UnpredicTable-sporcle-com](https://huggingface.co/datasets/MicPie/unpredictable_sporcle-com)
+    * [UnpredicTable-studystack-com](https://huggingface.co/datasets/MicPie/unpredictable_studystack-com)
+    * [UnpredicTable-support-google-com](https://huggingface.co/datasets/MicPie/unpredictable_support-google-com)
+    * [UnpredicTable-w3-org](https://huggingface.co/datasets/MicPie/unpredictable_w3-org)
+    * [UnpredicTable-wiki-openmoko-org](https://huggingface.co/datasets/MicPie/unpredictable_wiki-openmoko-org)
+    * [UnpredicTable-wkdu-org](https://huggingface.co/datasets/MicPie/unpredictable_wkdu-org)
+
+
+* UnpredicTable data subsets based on clustering (for the clustering details please see our publication):
+    * [UnpredicTable-cluster00](https://huggingface.co/datasets/MicPie/unpredictable_cluster00)
+    * [UnpredicTable-cluster01](https://huggingface.co/datasets/MicPie/unpredictable_cluster01)
+    * [UnpredicTable-cluster02](https://huggingface.co/datasets/MicPie/unpredictable_cluster02)
+    * [UnpredicTable-cluster03](https://huggingface.co/datasets/MicPie/unpredictable_cluster03)
+    * [UnpredicTable-cluster04](https://huggingface.co/datasets/MicPie/unpredictable_cluster04)
+    * [UnpredicTable-cluster05](https://huggingface.co/datasets/MicPie/unpredictable_cluster05)
+    * [UnpredicTable-cluster06](https://huggingface.co/datasets/MicPie/unpredictable_cluster06)
+    * [UnpredicTable-cluster07](https://huggingface.co/datasets/MicPie/unpredictable_cluster07)
+    * [UnpredicTable-cluster08](https://huggingface.co/datasets/MicPie/unpredictable_cluster08)
+    * [UnpredicTable-cluster09](https://huggingface.co/datasets/MicPie/unpredictable_cluster09)
+    * [UnpredicTable-cluster10](https://huggingface.co/datasets/MicPie/unpredictable_cluster10)
+    * [UnpredicTable-cluster11](https://huggingface.co/datasets/MicPie/unpredictable_cluster11)
+    * [UnpredicTable-cluster12](https://huggingface.co/datasets/MicPie/unpredictable_cluster12)
+    * [UnpredicTable-cluster13](https://huggingface.co/datasets/MicPie/unpredictable_cluster13)
+    * [UnpredicTable-cluster14](https://huggingface.co/datasets/MicPie/unpredictable_cluster14)
+    * [UnpredicTable-cluster15](https://huggingface.co/datasets/MicPie/unpredictable_cluster15)
+    * [UnpredicTable-cluster16](https://huggingface.co/datasets/MicPie/unpredictable_cluster16)
+    * [UnpredicTable-cluster17](https://huggingface.co/datasets/MicPie/unpredictable_cluster17)
+    * [UnpredicTable-cluster18](https://huggingface.co/datasets/MicPie/unpredictable_cluster18)
+    * [UnpredicTable-cluster19](https://huggingface.co/datasets/MicPie/unpredictable_cluster19)
+    * [UnpredicTable-cluster20](https://huggingface.co/datasets/MicPie/unpredictable_cluster20)
+    * [UnpredicTable-cluster21](https://huggingface.co/datasets/MicPie/unpredictable_cluster21)
+    * [UnpredicTable-cluster22](https://huggingface.co/datasets/MicPie/unpredictable_cluster22)
+    * [UnpredicTable-cluster23](https://huggingface.co/datasets/MicPie/unpredictable_cluster23)
+    * [UnpredicTable-cluster24](https://huggingface.co/datasets/MicPie/unpredictable_cluster24)
+    * [UnpredicTable-cluster25](https://huggingface.co/datasets/MicPie/unpredictable_cluster25)
+    * [UnpredicTable-cluster26](https://huggingface.co/datasets/MicPie/unpredictable_cluster26)
+    * [UnpredicTable-cluster27](https://huggingface.co/datasets/MicPie/unpredictable_cluster27)
+    * [UnpredicTable-cluster28](https://huggingface.co/datasets/MicPie/unpredictable_cluster28)
+    * [UnpredicTable-cluster29](https://huggingface.co/datasets/MicPie/unpredictable_cluster29)
+    * [UnpredicTable-cluster-noise](https://huggingface.co/datasets/MicPie/unpredictable_cluster-noise)
+
+### Supported Tasks and Leaderboards
+
+Since the tables come from the web, the distribution of tasks and topics is very broad. The shape of our dataset is very wide, i.e., we have 1000's of tasks, while each task has only a few examples, compared to most current NLP datasets which are very deep, i.e., 10s of tasks with many examples. This implies that our dataset covers a broad range of potential tasks, e.g., multiple-choice, question-answering, table-question-answering, text-classification, etc.
+
+The intended use of this dataset is to improve few-shot performance by fine-tuning/pre-training on our dataset.
+
+### Languages
+
+English
+
+## Dataset Structure
+
+### Data Instances
+
+Each task is represented as a jsonline file and consists of several few-shot examples. Each example is a dictionary containing a field 'task', which identifies the task, followed by an 'input', 'options', and 'output' field. The 'input' field contains several column elements of the same row in the table, while the 'output' field is a target which represents an individual column of the same row. Each task contains several such examples which can be concatenated as a few-shot task. In the case of multiple choice classification, the 'options' field contains the possible classes that a model needs to choose from.
+
+There are also additional meta-data fields such as 'pageTitle', 'title', 'outputColName', 'url', 'wdcFile'. 
+
+### Data Fields
+
+'task': task identifier
+
+'input': column elements of a specific row in the table. 
+
+'options': for multiple choice classification, it provides the options to choose from.
+
+'output': target column element of the same row as input.
+
+'pageTitle': the title of the page containing the table. 
+
+'outputColName': output column name
+
+'url': url to the website containing the table
+
+'wdcFile': WDC Web Table Corpus file
+
+### Data Splits
+
+The UnpredicTable datasets do not come with additional data splits.
+
+## Dataset Creation
+
+### Curation Rationale
+
+Few-shot training on multi-task datasets has been demonstrated to improve language models' few-shot learning (FSL) performance on new tasks, but it is unclear which training tasks lead to effective downstream task adaptation. Few-shot learning datasets are typically produced with expensive human curation, limiting the scale and diversity of the training tasks available to study. As an alternative source of few-shot data, we automatically extract 413,299 tasks from diverse internet tables. We provide this as a research resource to investigate the relationship between training data and few-shot learning.
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+We use internet tables from the English-language Relational Subset of the WDC Web Table Corpus 2015 (WTC). The WTC dataset tables were extracted from the July 2015 Common Crawl web corpus (http://webdatacommons.org/webtables/2015/EnglishStatistics.html). The dataset contains 50,820,165 tables from 323,160 web domains. We then convert the tables into few-shot learning tasks. Please see our publication for more details on the data collection and conversion pipeline.
+
+#### Who are the source language producers?
+
+The dataset is extracted from [WDC Web Table Corpora](http://webdatacommons.org/webtables/).
+
+### Annotations
+
+#### Annotation process
+
+Manual annotation was only carried out for the [UnpredicTable-rated-low](https://huggingface.co/datasets/MicPie/unpredictable_rated-low),
+[UnpredicTable-rated-medium](https://huggingface.co/datasets/MicPie/unpredictable_rated-medium), and [UnpredicTable-rated-high](https://huggingface.co/datasets/MicPie/unpredictable_rated-high) data subsets to rate task quality. Detailed instructions of the annotation instructions can be found in our publication.
+
+#### Who are the annotators?
+
+Annotations were carried out by a lab assistant.
+
+### Personal and Sensitive Information
+
+The data was extracted from [WDC Web Table Corpora](http://webdatacommons.org/webtables/), which in turn extracted tables from the [Common Crawl](https://commoncrawl.org/). We did not filter the data in any way. Thus any user identities or otherwise sensitive information (e.g., data that reveals racial or ethnic origins, sexual orientations, religious beliefs, political opinions or union memberships, or locations; financial or health data; biometric or genetic data; forms of government identification, such as social security numbers; criminal history, etc.) might be contained in our dataset.
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+This dataset is intended for use as a research resource to investigate the relationship between training data and few-shot learning. As such, it contains high- and low-quality data, as well as diverse content that may be untruthful or inappropriate. Without careful investigation, it should not be used for training models that will be deployed for use in decision-critical or user-facing situations.
+
+### Discussion of Biases
+
+Since our dataset contains tables that are scraped from the web, it will also contain many toxic, racist, sexist, and otherwise harmful biases and texts. We have not run any analysis on the biases prevalent in our datasets. Neither have we explicitly filtered the content. This implies that a model trained on our dataset may potentially reflect harmful biases and toxic text that exist in our dataset.
+
+### Other Known Limitations
+
+No additional known limitations.
+
+## Additional Information
+
+### Dataset Curators
+Jun Shern Chan, Michael Pieler, Jonathan Jao, Jérémy Scheurer, Ethan Perez
+
+### Licensing Information
+Apache 2.0
+
+### Citation Information
+
+```
+@misc{chan2022few,
+  author = {Chan, Jun Shern and Pieler, Michael and Jao, Jonathan and Scheurer, Jérémy and Perez, Ethan},
+  title = {Few-shot Adaptation Works with UnpredicTable Data},
+  publisher={arXiv},
+  year = {2022},
+  url = {https://arxiv.org/abs/2208.01009}
+}
+```

huggingface_dataset/Dataset_Card/Nicky0007_cointelegraph_news_English.md

@@ -0,0 +1,20 @@
+---
+task_categories:
+- token-classification
+- question-answering
+language:
+- en
+size_categories:
+- 10K<n<100K
+---
+# Dataset cointelegraph English
+
+## Dataset Description
+
+It is a dataset where information about the title, description, author, etc. is collected.
+approx: 10041 row
+page: https://cointelegraph.com/
+
+
+
+categorie: #cryptocurrency, #Bitcoin, #Ethereum ...

huggingface_dataset/Dataset_Card/autoevaluate_autoeval-eval-anli-plain_text-f2dca1-2066067125.md

@@ -0,0 +1,34 @@
+---
+type: predictions
+tags:
+- autotrain
+- evaluation
+datasets:
+- anli
+eval_info:
+  task: natural_language_inference
+  model: MoritzLaurer/DeBERTa-v3-base-mnli-fever-anli
+  metrics: []
+  dataset_name: anli
+  dataset_config: plain_text
+  dataset_split: dev_r1
+  col_mapping:
+    text1: premise
+    text2: hypothesis
+    target: label
+---
+# Dataset Card for AutoTrain Evaluator
+
+This repository contains model predictions generated by [AutoTrain](https://huggingface.co/autotrain) for the following task and dataset:
+
+* Task: Natural Language Inference
+* Model: MoritzLaurer/DeBERTa-v3-base-mnli-fever-anli
+* Dataset: anli
+* Config: plain_text
+* Split: dev_r1
+
+To run new evaluation jobs, visit Hugging Face's [automatic model evaluator](https://huggingface.co/spaces/autoevaluate/model-evaluator).
+
+## Contributions
+
+Thanks to [@ctkang](https://huggingface.co/ctkang) for evaluating this model.

huggingface_dataset/Dataset_Card/autoevaluate_autoeval-eval-futin__feed-sen_en_-1de085-2240171542.md

@@ -0,0 +1,34 @@
+---
+type: predictions
+tags:
+- autotrain
+- evaluation
+datasets:
+- futin/feed
+eval_info:
+  task: text_zero_shot_classification
+  model: bigscience/bloom-1b7
+  metrics: []
+  dataset_name: futin/feed
+  dataset_config: sen_en_
+  dataset_split: test
+  col_mapping:
+    text: text
+    classes: classes
+    target: target
+---
+# Dataset Card for AutoTrain Evaluator
+
+This repository contains model predictions generated by [AutoTrain](https://huggingface.co/autotrain) for the following task and dataset:
+
+* Task: Zero-Shot Text Classification
+* Model: bigscience/bloom-1b7
+* Dataset: futin/feed
+* Config: sen_en_
+* Split: test
+
+To run new evaluation jobs, visit Hugging Face's [automatic model evaluator](https://huggingface.co/spaces/autoevaluate/model-evaluator).
+
+## Contributions
+
+Thanks to [@futin](https://huggingface.co/futin) for evaluating this model.

huggingface_dataset/Dataset_Card/autoevaluate_autoeval-eval-futin__guess-en_3-8ea950-2087767174.md

@@ -0,0 +1,34 @@
+---
+type: predictions
+tags:
+- autotrain
+- evaluation
+datasets:
+- futin/guess
+eval_info:
+  task: text_zero_shot_classification
+  model: bigscience/bloomz-560m
+  metrics: []
+  dataset_name: futin/guess
+  dataset_config: en_3
+  dataset_split: test
+  col_mapping:
+    text: text
+    classes: classes
+    target: target
+---
+# Dataset Card for AutoTrain Evaluator
+
+This repository contains model predictions generated by [AutoTrain](https://huggingface.co/autotrain) for the following task and dataset:
+
+* Task: Zero-Shot Text Classification
+* Model: bigscience/bloomz-560m
+* Dataset: futin/guess
+* Config: en_3
+* Split: test
+
+To run new evaluation jobs, visit Hugging Face's [automatic model evaluator](https://huggingface.co/spaces/autoevaluate/model-evaluator).
+
+## Contributions
+
+Thanks to [@futin](https://huggingface.co/futin) for evaluating this model.

huggingface_dataset/Dataset_Card/autoevaluate_autoeval-staging-eval-project-ab647f27-7704970.md

@@ -0,0 +1,31 @@
+---
+type: predictions
+tags:
+- autotrain
+- evaluation
+datasets:
+- masakhaner
+eval_info:
+  task: entity_extraction
+  model: mbeukman/xlm-roberta-base-finetuned-yoruba-finetuned-ner-swahili
+  metrics: []
+  dataset_name: masakhaner
+  dataset_config: yor
+  dataset_split: test
+  col_mapping:
+    tokens: tokens
+    tags: ner_tags
+---
+# Dataset Card for AutoTrain Evaluator
+
+This repository contains model predictions generated by [AutoTrain](https://huggingface.co/autotrain) for the following task and dataset:
+
+* Task: Token Classification
+* Model: mbeukman/xlm-roberta-base-finetuned-yoruba-finetuned-ner-swahili
+* Dataset: masakhaner
+
+To run new evaluation jobs, visit Hugging Face's [automatic model evaluator](https://huggingface.co/spaces/autoevaluate/model-evaluator).
+
+## Contributions
+
+Thanks to [@lewtun](https://huggingface.co/lewtun) for evaluating this model.

huggingface_dataset/Dataset_Card/bethecloud_golf-courses.md

@@ -0,0 +1,93 @@
+---
+annotations_creators:
+- machine-generated
+language:
+- en
+language_creators:
+- found
+license:
+- mit
+multilinguality:
+- monolingual
+pretty_name: bethecloud/golf-courses
+size_categories:
+- n<1K
+source_datasets: []
+tags:
+- golf-courses
+task_categories:
+- image-classification
+task_ids:
+- multi-label-image-classification
+---
+
+## Dataset Description
+
+- **Homepage: https://mirror.xyz/bitkevin.eth**
+- **Repository: https://colab.research.google.com/drive/1EnqpDiKOVYhR0c6f4CgmDg2zqcbYZJpB#scrollTo=c1ef3d21-6e0e-46c9-a459-8a2ab856a5ca**
+- **Point of Contact: Kevin Leffew – kleffew94@gmail.com**
+
+### Dataset Summary: golf-course
+
+This dataset (bethecloud/golf-courses) includes 21 unique images of golf courses pulled from Unsplash.  
+
+The dataset is a collection of photographs taken at various golf courses around the world. The images depict a variety of scenes, including fairways, greens, bunkers, water hazards, and clubhouse facilities. The images are high resolution and have been carefully selected to provide a diverse range of visual content for fine-tuning a machine learning model.
+
+The dataset is intended to be used in the context of the Hugging Face Dream Booth hackathon, a competition that challenges participants to build innovative applications using the Hugging Face transformers library. The submission is for the category of landscape.  
+
+Overall, this dataset provides a rich source of visual data for machine learning models looking to understand and classify elements of golf courses. Its diverse range of images and high-quality resolution make it well-suited for use in fine-tuning models for tasks such as image classification, object detection, and image segmentation.
+
+By using the golf course images as part of their training data, participants can fine-tune their models to recognize and classify specific features and elements commonly found on golf courses. The ultimate goal after the hackathon is to pull this dataset from decentralized cloud storage (like Storj DCS), increasing its accessibility, performance, and resilience by distributing across an edge of over 17,000 uncorrelated participants.
+
+
+## Example Output
+![golf-acropolis.jpg]https://link.storjshare.io/juid5vc27dbajh6zyzplf4fah5xq/golf-course-output%2Fgolf-acropolis.png
+
+# Usage 
+The golf-courses dataset can be used by modifying the instance_prompt: a photo of golf course
+
+### Languages
+
+The language data in golf-courses is in English (BCP-47 en)
+
+## Dataset Structure
+
+The complete dataset is GBs and consists of 21 objects.
+
+### Parallelized download using Decentralized Object Storage (Storj DCS)
+
+A direct download for the dataset is located at https://link.storjshare.io/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses.
+
+In the future, Storj DCS will be used to download large datasets (exceeding 1TB) in a highly parallel, highly performant, and highly economical manner (by utilizing a network of over 17,000 diverse and economically incentivized datacenter node endpoints.
+
+### Curation Rationale
+
+This model was created as a sample by Kevin Leffew as part of the DreamBooth Hackathon.
+
+### Source Data
+
+The source data for the dataset is simply pulled from Unsplash
+
+### Licensing Information
+
+MIT License
+
+## Thanks to John Whitaker and Lewis Tunstall
+
+Thanks to [John Whitaker](https://github.com/johnowhitaker) and [Lewis Tunstall](https://github.com/lewtun)for writing out and describing the initial hackathon parameters at https://huggingface.co/dreambooth-hackathon.
+
+## Example Training Data
+![golf-course1.jpg](https://link.storjshare.io/raw/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/andrew-anderson-CtyC2JjLhVg-unsplash.jpg)
+![golf-course2.jpg](https://link.storjshare.io/raw/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/dean-SuGEzQkeJno-unsplash.jpg)
+![golf-course3.jpg](https://link.storjshare.io/raw/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/amauri-cruz-filho-kBNV9WpCs5k-unsplash.jpg)
+![golf-course4.jpg](https://link.storjshare.io/raw/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/minho-yoon-_ZVEio7AkGc-unsplash.jpg)
+![golf-course5.jpg](https://link.storjshare.io/raw/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/minho-yoon-_ZVEio7AkGc-unsplash.jpg)
+![golf-course6.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/jura-FegOaqn_4GQ-unsplash%20%281%29.jpg?wrap=1)
+![golf-course7.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/sly-dizzle-cE6SpYTfqqg-unsplash.jpg?wrap=1)
+![golf-course8.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/jura-FegOaqn_4GQ-unsplash.jpg)
+![golf-course9.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/sly-dizzle-cE6SpYTfqqg-unsplash.jpg?wrap=1)
+![golf-course10.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/dean-ricciardi-08Ipbe8GpWw-unsplash.jpg)
+![golf-course11.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/jonas-from-berlin-UgwkaRUt2d0-unsplash.jpg)
+![golf-course12.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/rob-tol-Ner8kdSXh0M-unsplash.jpg)
+![golf-course13.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/richard-brutyo-HQXFhq8FNJ8-unsplash.jpg?wrap=1)
+![golf-course14.jpg](https://link.storjshare.io/s/juo7ynuvpe5svxj3hh454v6fnhba/golf-courses/edwin-compton-Z8XlmAj65iM-unsplash.jpg?wrap=1)

huggingface_dataset/Dataset_Card/casino.md

@@ -0,0 +1,342 @@
+---
+annotations_creators:
+- expert-generated
+language_creators:
+- crowdsourced
+language:
+- en
+license:
+- cc-by-4.0
+multilinguality:
+- monolingual
+size_categories:
+- 1K<n<10K
+source_datasets:
+- original
+task_categories:
+- conversational
+- text-generation
+- fill-mask
+task_ids:
+- dialogue-modeling
+pretty_name: Campsite Negotiation Dialogues
+paperswithcode_id: casino
+dataset_info:
+  features:
+  - name: chat_logs
+    list:
+    - name: text
+      dtype: string
+    - name: task_data
+      struct:
+      - name: data
+        dtype: string
+      - name: issue2youget
+        struct:
+        - name: Firewood
+          dtype: string
+        - name: Water
+          dtype: string
+        - name: Food
+          dtype: string
+      - name: issue2theyget
+        struct:
+        - name: Firewood
+          dtype: string
+        - name: Water
+          dtype: string
+        - name: Food
+          dtype: string
+    - name: id
+      dtype: string
+  - name: participant_info
+    struct:
+    - name: mturk_agent_1
+      struct:
+      - name: value2issue
+        struct:
+        - name: Low
+          dtype: string
+        - name: Medium
+          dtype: string
+        - name: High
+          dtype: string
+      - name: value2reason
+        struct:
+        - name: Low
+          dtype: string
+        - name: Medium
+          dtype: string
+        - name: High
+          dtype: string
+      - name: outcomes
+        struct:
+        - name: points_scored
+          dtype: int32
+        - name: satisfaction
+          dtype: string
+        - name: opponent_likeness
+          dtype: string
+      - name: demographics
+        struct:
+        - name: age
+          dtype: int32
+        - name: gender
+          dtype: string
+        - name: ethnicity
+          dtype: string
+        - name: education
+          dtype: string
+      - name: personality
+        struct:
+        - name: svo
+          dtype: string
+        - name: big-five
+          struct:
+          - name: extraversion
+            dtype: float32
+          - name: agreeableness
+            dtype: float32
+          - name: conscientiousness
+            dtype: float32
+          - name: emotional-stability
+            dtype: float32
+          - name: openness-to-experiences
+            dtype: float32
+    - name: mturk_agent_2
+      struct:
+      - name: value2issue
+        struct:
+        - name: Low
+          dtype: string
+        - name: Medium
+          dtype: string
+        - name: High
+          dtype: string
+      - name: value2reason
+        struct:
+        - name: Low
+          dtype: string
+        - name: Medium
+          dtype: string
+        - name: High
+          dtype: string
+      - name: outcomes
+        struct:
+        - name: points_scored
+          dtype: int32
+        - name: satisfaction
+          dtype: string
+        - name: opponent_likeness
+          dtype: string
+      - name: demographics
+        struct:
+        - name: age
+          dtype: int32
+        - name: gender
+          dtype: string
+        - name: ethnicity
+          dtype: string
+        - name: education
+          dtype: string
+      - name: personality
+        struct:
+        - name: svo
+          dtype: string
+        - name: big-five
+          struct:
+          - name: extraversion
+            dtype: float32
+          - name: agreeableness
+            dtype: float32
+          - name: conscientiousness
+            dtype: float32
+          - name: emotional-stability
+            dtype: float32
+          - name: openness-to-experiences
+            dtype: float32
+  - name: annotations
+    list:
+      list: string
+  splits:
+  - name: train
+    num_bytes: 3211555
+    num_examples: 1030
+  download_size: 4300019
+  dataset_size: 3211555
+---
+
+
+# Dataset Card for Casino
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-fields)
+  - [Data Splits](#data-splits)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+  - [Contributions](#contributions)
+
+## Dataset Description
+
+- **Repository:** [Github: Kushal Chawla CaSiNo](https://github.com/kushalchawla/CaSiNo)
+- **Paper:** [CaSiNo: A Corpus of Campsite Negotiation Dialogues for Automatic Negotiation Systems](https://aclanthology.org/2021.naacl-main.254.pdf)
+- **Point of Contact:** [Kushal Chawla](kchawla@usc.edu)
+
+### Dataset Summary
+
+We provide a novel dataset (referred to as CaSiNo) of 1030 negotiation dialogues. Two participants take the role of campsite neighbors and negotiate for Food, Water, and Firewood packages, based on their individual preferences and requirements. This design keeps the task tractable, while still facilitating linguistically rich and personal conversations. This helps to overcome the limitations of prior negotiation datasets such as Deal or No Deal and Craigslist Bargain. Each dialogue consists of rich meta-data including participant demographics, personality, and their subjective evaluation of the negotiation in terms of satisfaction and opponent likeness.
+
+### Supported Tasks and Leaderboards
+
+Train end-to-end models for negotiation
+
+### Languages
+
+English
+
+## Dataset Structure
+
+### Data Instances
+
+```
+{
+    "chat_logs": [
+        {
+            "text": "Hello! \ud83d\ude42 Let's work together on a deal for these packages, shall we? What are you most interested in?",
+            "task_data": {}, 
+            "id": "mturk_agent_1"
+        },
+        ...
+    ],
+    "participant_info": {
+        "mturk_agent_1":
+            {
+                "value2issue": ...
+                "value2reason": ...
+                "outcomes": ...
+                "demographics": ...
+                "personality": ...
+            }, 
+        "mturk_agent_2": ...
+    },
+    "annotations": [
+        ["Hello! \ud83d\ude42 Let's work together on a deal for these packages, shall we? What are you most interested in?", "promote-coordination,elicit-pref"],
+        ...
+    ]
+}
+```
+
+### Data Fields
+
+- `chat_logs`: The negotiation dialogue between two participants
+  - `text`: The dialogue utterance
+  - `task_data`: Meta-data associated with the utterance such as the deal submitted by a participant
+  - `id`: The ID of the participant who typed this utterance
+- `participant_info`: Meta-data about the two participants in this conversation
+  - `mturk_agent_1`: For the first participant (Note that 'first' is just for reference. There is no order between the participants and any participant can start the conversation)
+      - `value2issue`: The priority order of this participant among Food, Water, Firewood
+      - `value2reason`: The personal arguments given by the participants themselves, consistent with the above preference order. This preference order and these arguments were submitted before the negotiation began. 
+      - `outcomes`: The negotiation outcomes for this participant including objective and subjective assessment.
+      - `demographics`: Demographic attributes of the participant in terms of age, gender, ethnicity, and education.
+      - `personality`: Personality attributes for this participant, in terms of Big-5 and Social Value Orientation
+  - `mturk_agent_2`: For the second participant; follows the same structure as above
+- `annotations`: Strategy annotations for each utterance in the dialogue, wherever available. The first element represents the utterance and the second represents a comma-separated list of all strategies present in that utterance.
+
+### Data Splits
+
+No default data split has been provided. Hence, all 1030 data points are under the 'train' split.
+
+|                     | Train |
+|       -----         | ----- |
+| total dialogues     |  1030 |
+| annotated dialogues |   396 |
+
+## Dataset Creation
+
+### Curation Rationale
+
+The dataset was collected to address the limitations in prior negotiation datasets from the perspective of downstream applications in pedagogy and conversational AI. Please refer to the original paper published at NAACL 2021 for details about the rationale and data curation steps ([source paper](https://aclanthology.org/2021.naacl-main.254.pdf)).
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+The dialogues were crowdsourced on Amazon Mechanical Turk. The strategy annotations were performed by expert annotators (first three authors of the paper). Please refer to the original dataset paper published at NAACL 2021 for more details ([source paper](https://aclanthology.org/2021.naacl-main.254.pdf)).
+
+#### Who are the source language producers?
+
+The primary producers are Turkers on Amazon Mechanical Turk platform. Two turkers were randomly paired with each other to engage in a negotiation via a chat interface. Please refer to the original dataset paper published at NAACL 2021 for more details ([source paper](https://aclanthology.org/2021.naacl-main.254.pdf)).
+
+### Annotations
+
+#### Annotation process
+
+From the [source paper](https://aclanthology.org/2021.naacl-main.254.pdf) for this dataset: 
+
+>Three expert annotators independently annotated 396 dialogues containing 4615 utterances. The annotation guidelines were iterated over a subset of 5 dialogues, while the reliability scores were computed on a different subset of 10 dialogues. We use the nominal form of Krippendorff’s alpha (Krippendorff, 2018) to measure the inter-annotator agreement. We provide the annotation statistics in Table 2. Although we release all the annotations, we skip Coordination and Empathy for our analysis in this work, due to higher subjectivity resulting in relatively lower reliability scores.
+
+#### Who are the annotators?
+
+Three expert annotators (first three authors of the paper).
+
+### Personal and Sensitive Information
+
+All personally identifiable information about the participants such as MTurk Ids or HIT Ids was removed before releasing the data.
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+Please refer to Section 8.2 in the [source paper](https://aclanthology.org/2021.naacl-main.254.pdf).
+
+### Discussion of Biases
+
+Please refer to Section 8.2 in the [source paper](https://aclanthology.org/2021.naacl-main.254.pdf).
+
+### Other Known Limitations
+
+Please refer to Section 7 in the [source paper](https://aclanthology.org/2021.naacl-main.254.pdf).
+
+## Additional Information
+
+### Dataset Curators
+
+Corresponding Author: Kushal Chawla (`kchawla@usc.edu`)\
+Affiliation: University of Southern California\
+Please refer to the [source paper](https://aclanthology.org/2021.naacl-main.254.pdf) for the complete author list.
+
+### Licensing Information
+
+The project is licensed under CC-by-4.0
+
+### Citation Information
+```
+@inproceedings{chawla2021casino,
+  title={CaSiNo: A Corpus of Campsite Negotiation Dialogues for Automatic Negotiation Systems},
+  author={Chawla, Kushal and Ramirez, Jaysa and Clever, Rene and Lucas, Gale and May, Jonathan and Gratch, Jonathan},
+  booktitle={Proceedings of the 2021 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies},
+  pages={3167--3185},
+  year={2021}
+}
+```
+
+### Contributions
+
+Thanks to [Kushal Chawla](https://kushalchawla.github.io/) for adding this dataset.

huggingface_dataset/Dataset_Card/huggingartists_billy-talent.md

@@ -0,0 +1,204 @@
+---
+language:
+- en
+tags:
+- huggingartists
+- lyrics
+---
+
+# Dataset Card for "huggingartists/billy-talent"
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [How to use](#how-to-use)
+- [Dataset Structure](#dataset-structure)
+  - [Data Fields](#data-fields)
+  - [Data Splits](#data-splits)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+- [About](#about)
+
+## Dataset Description
+
+- **Homepage:** [https://github.com/AlekseyKorshuk/huggingartists](https://github.com/AlekseyKorshuk/huggingartists)
+- **Repository:** [https://github.com/AlekseyKorshuk/huggingartists](https://github.com/AlekseyKorshuk/huggingartists)
+- **Paper:** [More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+- **Point of Contact:** [More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+- **Size of the generated dataset:** 0.222716 MB
+
+
+ <div class="inline-flex flex-col" style="line-height: 1.5;">
+    <div class="flex">
+        <div style="display:DISPLAY_1; margin-left: auto; margin-right: auto; width: 92px; height:92px; border-radius: 50%; background-size: cover; background-image: url(&#39;https://images.genius.com/66f0650a5d8acadaed4292d6e3df6b9b.1000x1000x1.jpg&#39;)">
+        </div>
+    </div>
+    <a href="https://huggingface.co/huggingartists/billy-talent">
+      <div style="text-align: center; margin-top: 3px; font-size: 16px; font-weight: 800">🤖 HuggingArtists Model 🤖</div>
+    </a>
+    <div style="text-align: center; font-size: 16px; font-weight: 800">Billy Talent</div>
+    <a href="https://genius.com/artists/billy-talent">
+    	<div style="text-align: center; font-size: 14px;">@billy-talent</div>
+    </a>
+</div>
+
+### Dataset Summary
+
+ The Lyrics dataset parsed from Genius. This dataset is designed to generate lyrics with HuggingArtists.
+ Model is available [here](https://huggingface.co/huggingartists/billy-talent).
+
+### Supported Tasks and Leaderboards
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Languages
+
+en
+
+## How to use
+
+How to load this dataset directly with the datasets library:
+
+```python
+from datasets import load_dataset
+
+dataset = load_dataset("huggingartists/billy-talent")
+```
+
+## Dataset Structure
+
+An example of 'train' looks as follows.
+```
+This example was too long and was cropped:
+
+{
+    "text": "Look, I was gonna go easy on you\nNot to hurt your feelings\nBut I'm only going to get this one chance\nSomething's wrong, I can feel it..."
+}
+```
+
+### Data Fields
+
+The data fields are the same among all splits.
+
+- `text`: a `string` feature.
+
+
+### Data Splits
+
+| train |validation|test|
+|------:|---------:|---:|
+|122|         -|   -|
+
+'Train' can be easily divided into 'train' & 'validation' & 'test' with few lines of code:
+
+```python
+from datasets import load_dataset, Dataset, DatasetDict
+import numpy as np
+
+datasets = load_dataset("huggingartists/billy-talent")
+
+train_percentage = 0.9
+validation_percentage = 0.07
+test_percentage = 0.03
+
+train, validation, test = np.split(datasets['train']['text'], [int(len(datasets['train']['text'])*train_percentage), int(len(datasets['train']['text'])*(train_percentage + validation_percentage))])
+
+datasets = DatasetDict(
+    {
+        'train': Dataset.from_dict({'text': list(train)}),
+        'validation': Dataset.from_dict({'text': list(validation)}),
+        'test': Dataset.from_dict({'text': list(test)})
+    }
+)
+```
+
+## Dataset Creation
+
+### Curation Rationale
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+#### Who are the source language producers?
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Annotations
+
+#### Annotation process
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+#### Who are the annotators?
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Personal and Sensitive Information
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Discussion of Biases
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Other Known Limitations
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+## Additional Information
+
+### Dataset Curators
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Licensing Information
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Citation Information
+
+```
+@InProceedings{huggingartists,
+    author={Aleksey Korshuk}
+    year=2021
+}
+```
+
+
+## About
+
+*Built by Aleksey Korshuk*
+
+[![Follow](https://img.shields.io/github/followers/AlekseyKorshuk?style=social)](https://github.com/AlekseyKorshuk)
+
+[![Follow](https://img.shields.io/twitter/follow/alekseykorshuk?style=social)](https://twitter.com/intent/follow?screen_name=alekseykorshuk)
+
+[![Follow](https://img.shields.io/badge/dynamic/json?color=blue&label=Telegram%20Channel&query=%24.result&url=https%3A%2F%2Fapi.telegram.org%2Fbot1929545866%3AAAFGhV-KKnegEcLiyYJxsc4zV6C-bdPEBtQ%2FgetChatMemberCount%3Fchat_id%3D-1001253621662&style=social&logo=telegram)](https://t.me/joinchat/_CQ04KjcJ-4yZTky)
+
+For more details, visit the project repository.
+
+[![GitHub stars](https://img.shields.io/github/stars/AlekseyKorshuk/huggingartists?style=social)](https://github.com/AlekseyKorshuk/huggingartists)

huggingface_dataset/Dataset_Card/huggingnft_cryptoadz-by-gremplin.md

@@ -0,0 +1,175 @@
+---
+tags:
+- huggingnft
+- nft
+- huggan
+- gan
+- image
+- images
+task: 
+- unconditional-image-generation
+datasets:
+- huggingnft/cryptoadz-by-gremplin
+license: mit
+---
+
+# Dataset Card
+
+## Disclaimer
+
+All rights belong to their owners.
+Models and datasets can be removed from the site at the request of the copyright holder.
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [How to use](#how-to-use)
+- [Dataset Structure](#dataset-structure)
+  - [Data Fields](#data-fields)
+  - [Data Splits](#data-splits)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+- [About](#about)
+
+## Dataset Description
+
+- **Homepage:** [https://github.com/AlekseyKorshuk/huggingnft](https://github.com/AlekseyKorshuk/huggingnft)
+- **Repository:** [https://github.com/AlekseyKorshuk/huggingnft](https://github.com/AlekseyKorshuk/huggingnft)
+- **Paper:** [More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+- **Point of Contact:** [More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+
+### Dataset Summary
+
+NFT images dataset for unconditional generation.
+
+NFT collection available [here](https://opensea.io/collection/cryptoadz-by-gremplin).
+
+Model is available [here](https://huggingface.co/huggingnft/cryptoadz-by-gremplin).
+
+Check Space: [link](https://huggingface.co/spaces/AlekseyKorshuk/huggingnft).
+
+### Supported Tasks and Leaderboards
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+
+## How to use
+
+How to load this dataset directly with the datasets library:
+
+```python
+from datasets import load_dataset
+
+dataset = load_dataset("huggingnft/cryptoadz-by-gremplin")
+```
+
+## Dataset Structure
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+
+### Data Fields
+
+The data fields are the same among all splits.
+
+- `image`: an `image` feature.
+- `id`: an `int` feature.
+- `token_metadata`: a `str` feature.
+- `image_original_url`: a `str` feature.
+
+### Data Splits
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+
+## Dataset Creation
+
+### Curation Rationale
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+#### Who are the source language producers?
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Annotations
+
+#### Annotation process
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+#### Who are the annotators?
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Personal and Sensitive Information
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Discussion of Biases
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Other Known Limitations
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+## Additional Information
+
+### Dataset Curators
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Licensing Information
+
+[More Information Needed](https://github.com/huggingface/datasets/blob/master/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
+
+### Citation Information
+
+```
+@InProceedings{huggingnft,
+    author={Aleksey Korshuk}
+    year=2022
+}
+```
+
+
+## About
+
+*Built by Aleksey Korshuk*
+
+[![Follow](https://img.shields.io/github/followers/AlekseyKorshuk?style=social)](https://github.com/AlekseyKorshuk)
+
+[![Follow](https://img.shields.io/twitter/follow/alekseykorshuk?style=social)](https://twitter.com/intent/follow?screen_name=alekseykorshuk)
+
+[![Follow](https://img.shields.io/badge/dynamic/json?color=blue&label=Telegram%20Channel&query=%24.result&url=https%3A%2F%2Fapi.telegram.org%2Fbot1929545866%3AAAFGhV-KKnegEcLiyYJxsc4zV6C-bdPEBtQ%2FgetChatMemberCount%3Fchat_id%3D-1001253621662&style=social&logo=telegram)](https://t.me/joinchat/_CQ04KjcJ-4yZTky)
+
+For more details, visit the project repository.
+
+[![GitHub stars](https://img.shields.io/github/stars/AlekseyKorshuk/huggingnft?style=social)](https://github.com/AlekseyKorshuk/huggingnft)

huggingface_dataset/Dataset_Card/macavaney_d2q-msmarco-passage-scores-monot5.md

@@ -0,0 +1,88 @@
+---
+annotations_creators:
+- no-annotation
+language: []
+language_creators:
+- machine-generated
+license: []
+pretty_name: Doc2Query monoT5 Relevance Scores for `msmarco-passage`
+source_datasets: [msmarco-passage]
+tags:
+- document-expansion
+- doc2query--
+task_categories:
+- text-retrieval
+task_ids:
+- document-retrieval
+viewer: false
+---
+
+# Doc2Query monoT5 Relevance Scores for `msmarco-passage`
+
+This dataset provides the pre-computed query relevance scores for the [`msmarco-passage`](https://ir-datasets.com/msmarco-passage) dataset,
+for use with Doc2Query--.
+
+The generated queries come from [`macavaney/d2q-msmarco-passage`](https://huggingface.co/datasets/macavaney/d2q-msmarco-passage) and
+were scored with [`castorini/monot5-base-msmarco`](https://huggingface.co/castorini/monot5-base-msmarco).
+
+## Getting started
+
+This artefact is meant to be used with the [`pyterrier_doc2query`](https://github.com/terrierteam/pyterrier_doc2query) pacakge. It can
+be installed as:
+
+```bash
+pip install git+https://github.com/terrierteam/pyterrier_doc2query
+```
+
+Depending on what you are using this aretefact for, you may also need the following additional packages:
+
+```bash
+pip install git+https://github.com/terrierteam/pyterrier_pisa # for indexing / retrieval
+pip install git+https://github.com/terrierteam/pyterrier_t5 # for reproducing this aretefact
+```
+
+## Using this artefact
+
+The main use case is to use this aretefact in a Doc2Query−− indexing pipeline:
+
+```python
+import pyterrier as pt ; pt.init()
+from pyterrier_pisa import PisaIndex
+from pyterrier_doc2query import QueryScoreStore, QueryFilter
+
+store = QueryScoreStore.from_repo('https://huggingface.co/datasets/macavaney/d2q-msmarco-passage-scores-monot5')
+index = PisaIndex('path/to/index')
+pipeline = store.query_scorer(limit_k=40) >> QueryFilter(t=store.percentile(70)) >> index
+
+dataset = pt.get_dataset('irds:msmarco-passage')
+pipeline.index(dataset.get_corpus_iter())
+```
+
+You can also use the store directly as a dataset to look up or iterate over the data:
+
+```python
+store.lookup('100')
+# {'querygen': ..., 'querygen_store': ...}
+for record in store:
+   pass
+```
+
+## Reproducing this aretefact
+
+This aretefact can be reproduced using the following pipeline:
+
+```python
+import pyterrier as pt ; pt.init()
+from pyterrier_t5 import MonoT5ReRanker
+from pyterrier_doc2query import Doc2QueryStore, QueryScoreStore, QueryScorer
+
+doc2query_generator = Doc2QueryStore.from_repo('https://huggingface.co/datasets/macavaney/d2q-msmarco-passage').generator()
+store = QueryScoreStore('path/to/store')
+pipeline = doc2query_generator >> QueryScorer(MonoT5ReRanker()) >> store
+
+dataset = pt.get_dataset('irds:msmarco-passage')
+pipeline.index(dataset.get_corpus_iter())
+```
+
+Note that this process will take quite some time; it computes the relevance score for 80 generated queries
+for every document in the dataset.

huggingface_dataset/Dataset_Card/nlpso_m0_qualitative_analysis_ref_cmbert_io.md

@@ -0,0 +1,46 @@
+---
+language:
+- fr
+multilinguality:
+- monolingual
+task_categories:
+- token-classification
+---
+
+# m0_qualitative_analysis_ref_cmbert_io
+
+## Introduction
+
+This dataset was used to perform **qualitative analysis** of [Jean-Baptiste/camembert-ner](https://huggingface.co/Jean-Baptiste/camembert-ner) on **flat NER task** using Flat NER approach [M0]. 
+It contains 19th-century Paris trade directories' entries.
+
+## Dataset parameters
+
+* Approach : M0
+* Dataset type : ground-truth
+* Tokenizer : [Jean-Baptiste/camembert-ner](https://huggingface.co/Jean-Baptiste/camembert-ner)
+* Tagging format : IO
+* Counts : 
+    * Train : 6084
+    * Dev : 676
+    * Test : 1685
+* Associated fine-tuned model : [nlpso/m0_flat_ner_ref_cmbert_io](https://huggingface.co/nlpso/m0_flat_ner_ref_cmbert_io)
+    
+## Entity types
+
+Abbreviation|Description
+-|-
+O |Outside of a named entity
+PER |Person or company name
+ACT |Person or company professional activity
+TITRE |Distinction
+LOC |Street name
+CARDINAL |Street number
+FT |Geographical feature
+
+## How to use this dataset
+
+```python
+from datasets import load_dataset
+
+train_dev_test = load_dataset("nlpso/m0_qualitative_analysis_ref_cmbert_io")

huggingface_dataset/Dataset_Card/nlpso_m0_qualitative_analysis_ref_ptrn_cmbert_io.md

@@ -0,0 +1,46 @@
+---
+language:
+- fr
+multilinguality:
+- monolingual
+task_categories:
+- token-classification
+---
+
+# m0_qualitative_analysis_ref_ptrn_cmbert_io
+
+## Introduction
+
+This dataset was used to perform **qualitative analysis** of [HueyNemud/das22-10-camembert_pretrained](https://huggingface.co/HueyNemud/das22-10-camembert_pretrained) on **flat NER task** using Flat NER approach [M0]. 
+It contains 19th-century Paris trade directories' entries.
+
+## Dataset parameters
+
+* Approach : M0
+* Dataset type : ground-truth
+* Tokenizer : [HueyNemud/das22-10-camembert_pretrained](https://huggingface.co/HueyNemud/das22-10-camembert_pretrained)
+* Tagging format : IO
+* Counts : 
+    * Train : 6084
+    * Dev : 676
+    * Test : 1685
+* Associated fine-tuned model : [nlpso/m0_flat_ner_ref_ptrn_cmbert_io](https://huggingface.co/nlpso/m0_flat_ner_ref_ptrn_cmbert_io)
+    
+## Entity types
+
+Abbreviation|Description
+-|-
+O |Outside of a named entity
+PER |Person or company name
+ACT |Person or company professional activity
+TITRE |Distinction
+LOC |Street name
+CARDINAL |Street number
+FT |Geographical feature
+
+## How to use this dataset
+
+```python
+from datasets import load_dataset
+
+train_dev_test = load_dataset("nlpso/m0_qualitative_analysis_ref_ptrn_cmbert_io")

huggingface_dataset/Dataset_Card/nntadotzip_iuQAchatbot.md

@@ -0,0 +1,21 @@
+annotations_creators:
+- crowdsourced
+language_creators:
+- crowdsourced
+- found
+languages:
+- en
+licenses:
+- cc-by-4.0
+multilinguality:
+- monolingual
+paperswithcode_id: squad
+pretty_name: SQuAD
+size_categories:
+- 10K<n<100K
+source_datasets:
+- extended|wikipedia
+task_categories:
+- question-answering
+task_ids:
+- extractive-qa

huggingface_dataset/Dataset_Card/pietrolesci_robust_nli.md

@@ -0,0 +1,178 @@
+## Overview
+Original dataset is available in the original [Github repo](https://github.com/tyliupku/nli-debiasing-datasets).
+
+This dataset is a collection of NLI benchmarks constructed as described in the paper
+[An Empirical Study on Model-agnostic Debiasing Strategies for Robust Natural Language Inference](https://aclanthology.org/2020.conll-1.48/)
+published at CoNLL 2020.
+
+
+## Dataset curation
+No specific curation for this dataset. Label encoding follows exactly what is reported in the paper by the authors.
+Also, from the paper:
+
+> _all the following datasets are collected based on the public available resources proposed by their authors, thus the experimental results in this paper are comparable to the numbers reported in the original papers and the other papers that use these datasets_
+
+Most of the datasets included follow the custom 3-class NLI convention `{"entailment": 0, "neutral": 1, "contradiction": 2}`.
+However, the following datasets have a particular label mapping 
+
+- `IS-SD`: `{"non-entailment": 0, "entailment": 1}`
+
+- `LI_TS`: `{"non-contradiction": 0, "contradiction": 1}`
+
+
+## Dataset structure
+This benchmark dataset includes 10 adversarial datasets. To provide more insights on how the adversarial
+datasets attack the models, the authors categorized them according to the bias(es) they test and they renamed
+them accordingly. More details in section 2 of the paper. 
+A mapping with the original dataset names is provided below
+
+|    | Name   | Original Name | Original Paper | Original Curation |
+|---:|:-------|:-----------------------|:--------------------------------------------------------------------------------------------------------------------------|:------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
+|  0 | PI-CD  | SNLI-Hard              | [Gururangan et al. (2018)](https://aclanthology.org/N18-2017/)                                                            | SNLI test sets instances that cannot be correctly classified by a neural classifier (fastText) trained on only the hypothesis sentences.                                                                                                                                            |
+|  1 | PI-SP  | MNLI-Hard              | [Liu et al. (2020)](https://aclanthology.org/2020.lrec-1.846/)                                                            | MNLI-mismatched dev sets instances that cannot be correctly classified by surface patterns that are highly correlated with the labels.                                                                                                                                              |
+|  2 | IS-SD  | HANS                   | [McCoy et al. (2019)](https://aclanthology.org/P19-1334/)                                                                 | Dataset that tests lexical overlap, subsequence, and constituent heuristics between the hypothesis and premises sentences.                                                                                                                                                          |
+|  3 | IS-CS  | SoSwap-AddAMod         | [Nie et al. (2019)](https://dl.acm.org/doi/abs/10.1609/aaai.v33i01.33016867)                                              | Pairs of sentences whose logical relations cannot be extracted from lexical information alone. Premise are taken from SNLI dev set and modified. The original paper assigns a Lexically Misleading Scores (LMS) to each instance. Here, only the subset with LMS > 0.7 is reported. |
+|  4 | LI-LI  | Stress tests (antonym) | [Naik et al. (2018)](https://aclanthology.org/C18-1198/) and [Glockner et al. (2018)](https://aclanthology.org/P18-2103/) | Merge of the 'antonym' category in Naik et al. (2018) (from MNLI matched and mismatched dev sets) and Glockner et al. (2018) (SNLI training set).                                                                                                                                   |
+|  5 | LI-TS  | Created by the authors | Created by the authors                                                                                                    | Swap the two sentences in the original MultiNLI mismatched dev sets. If the gold label is 'contradiction', the corresponding label in the swapped instance remains unchanged, otherwise it becomes 'non-contradicted'.                                                              |
+|  6 | ST-WO  | Word overlap           | [Naik et al. (2018)](https://aclanthology.org/C18-1198/)                                                                  | 'Word overlap' category in Naik et al. (2018).                                                                                                                                                                                                                                      |
+|  7 | ST-NE  | Negation               | [Naik et al. (2018)](https://aclanthology.org/C18-1198/)                                                                  | 'Negation' category in Naik et al. (2018).                                                                                                                                                                                                                                          |
+|  8 | ST-LM  | Length mismatch        | [Naik et al. (2018)](https://aclanthology.org/C18-1198/)                                                                  | 'Length mismatch' category in Naik et al. (2018).                                                                                                                                                                                                                                   |
+|  9 | ST-SE  | Spelling errors        | [Naik et al. (2018)](https://aclanthology.org/C18-1198/)                                                                  | 'Spelling errors' category in Naik et al. (2018).                                                                                                                                                                                                                                   |
+
+## Code to create the dataset
+
+```python
+
+import pandas as pd
+from datasets import Dataset, ClassLabel, Value, Features, DatasetDict
+
+
+Tri_dataset = ["IS_CS", "LI_LI", "PI_CD", "PI_SP", "ST_LM", "ST_NE", "ST_SE", "ST_WO"]
+Ent_bin_dataset = ["IS_SD"]
+Con_bin_dataset = ["LI_TS"]
+
+
+# read data
+with open("<path to file>/robust_nli.txt", encoding="utf-8", mode="r") as fl:
+    f = fl.read().strip().split("\n")
+    f = [eval(i) for i in f]
+df = pd.DataFrame.from_dict(f)
+
+# rename to map common names
+df = df.rename(columns={"prem": "premise", "hypo": "hypothesis"})
+
+# reorder columns
+df = df.loc[:, ["idx", "split", "premise", "hypothesis", "label"]]
+
+# create split-specific features
+Tri_features = Features(
+    {
+        "idx": Value(dtype="int64"),
+        "premise": Value(dtype="string"),
+        "hypothesis": Value(dtype="string"),
+        "label": ClassLabel(num_classes=3, names=["entailment", "neutral", "contradiction"]),
+    }
+)
+
+Ent_features = Features(
+    {
+        "idx": Value(dtype="int64"),
+        "premise": Value(dtype="string"),
+        "hypothesis": Value(dtype="string"),
+        "label": ClassLabel(num_classes=2, names=["non-entailment", "entailment"]),
+    }
+)
+
+Con_features = Features(
+    {
+        "idx": Value(dtype="int64"),
+        "premise": Value(dtype="string"),
+        "hypothesis": Value(dtype="string"),
+        "label": ClassLabel(num_classes=2, names=["non-contradiction", "contradiction"]),
+    }
+)
+
+# convert to datasets
+dataset_splits = {}
+
+for split in df["split"].unique():
+    print(split)
+    df_split = df.loc[df["split"] == split].copy()
+    
+    if split in Tri_dataset:
+        df_split["label"] = df_split["label"].map({"entailment": 0, "neutral": 1, "contradiction": 2})
+        ds = Dataset.from_pandas(df_split, features=Tri_features)
+    
+    elif split in Ent_bin_dataset:
+        df_split["label"] = df_split["label"].map({"non-entailment": 0, "entailment": 1})
+        ds = Dataset.from_pandas(df_split, features=Ent_features)
+    
+    elif split in Con_bin_dataset:
+        df_split["label"] = df_split["label"].map({"non-contradiction": 0, "contradiction": 1})
+        ds = Dataset.from_pandas(df_split, features=Con_features)
+
+    else:
+        print("ERROR:", split)
+    dataset_splits[split] = ds
+datasets = DatasetDict(dataset_splits)    
+datasets.push_to_hub("pietrolesci/robust_nli", token="<your token>")
+
+
+# check overlap between splits
+from itertools import combinations
+for i, j in combinations(datasets.keys(), 2):
+    print(
+        f"{i} - {j}: ",
+        pd.merge(
+            datasets[i].to_pandas(), 
+            datasets[j].to_pandas(), 
+            on=["premise", "hypothesis", "label"], 
+            how="inner",
+        ).shape[0],
+    )
+#> PI_SP - ST_LM:  0
+#> PI_SP - ST_NE:  0
+#> PI_SP - IS_CS:  0
+#> PI_SP - LI_TS:  1
+#> PI_SP - LI_LI:  0
+#> PI_SP - ST_SE:  0
+#> PI_SP - PI_CD:  0
+#> PI_SP - IS_SD:  0
+#> PI_SP - ST_WO:  0
+#> ST_LM - ST_NE:  0
+#> ST_LM - IS_CS:  0
+#> ST_LM - LI_TS:  0
+#> ST_LM - LI_LI:  0
+#> ST_LM - ST_SE:  0
+#> ST_LM - PI_CD:  0
+#> ST_LM - IS_SD:  0
+#> ST_LM - ST_WO:  0
+#> ST_NE - IS_CS:  0
+#> ST_NE - LI_TS:  0
+#> ST_NE - LI_LI:  0
+#> ST_NE - ST_SE:  0
+#> ST_NE - PI_CD:  0
+#> ST_NE - IS_SD:  0
+#> ST_NE - ST_WO:  0
+#> IS_CS - LI_TS:  0
+#> IS_CS - LI_LI:  0
+#> IS_CS - ST_SE:  0
+#> IS_CS - PI_CD:  0
+#> IS_CS - IS_SD:  0
+#> IS_CS - ST_WO:  0
+#> LI_TS - LI_LI:  0
+#> LI_TS - ST_SE:  0
+#> LI_TS - PI_CD:  0
+#> LI_TS - IS_SD:  0
+#> LI_TS - ST_WO:  0
+#> LI_LI - ST_SE:  0
+#> LI_LI - PI_CD:  0
+#> LI_LI - IS_SD:  0
+#> LI_LI - ST_WO:  0
+#> ST_SE - PI_CD:  0
+#> ST_SE - IS_SD:  0
+#> ST_SE - ST_WO:  0
+#> PI_CD - IS_SD:  0
+#> PI_CD - ST_WO:  0
+#> IS_SD - ST_WO:  0
+```

huggingface_dataset/Dataset_Card/polsum.md

@@ -0,0 +1,762 @@
+---
+annotations_creators:
+- expert-generated
+language_creators:
+- expert-generated
+language:
+- pl
+license:
+- cc-by-3.0
+multilinguality:
+- monolingual
+size_categories:
+- n<1K
+source_datasets:
+- original
+task_categories:
+- summarization
+task_ids:
+- news-articles-summarization
+paperswithcode_id: null
+pretty_name: Polish Summaries Corpus
+dataset_info:
+  features:
+  - name: id
+    dtype: string
+  - name: date
+    dtype: string
+  - name: title
+    dtype: string
+  - name: section
+    dtype: string
+  - name: authors
+    dtype: string
+  - name: body
+    dtype: string
+  - name: summaries
+    sequence:
+    - name: ratio
+      dtype: int32
+    - name: type
+      dtype: string
+    - name: author
+      dtype: string
+    - name: body
+      dtype: string
+    - name: spans
+      sequence:
+      - name: start
+        dtype: int32
+      - name: end
+        dtype: int32
+      - name: span_text
+        dtype: string
+  splits:
+  - name: train
+    num_bytes: 34787575
+    num_examples: 569
+  download_size: 6082812
+  dataset_size: 34787575
+---
+
+# Dataset Card for Polish Summaries Corpus
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-fields)
+  - [Data Splits](#data-splits)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+  - [Contributions](#contributions)
+
+## Dataset Description
+
+- **Homepage:** http://zil.ipipan.waw.pl/PolishSummariesCorpus
+- **Repository:** http://zil.ipipan.waw.pl/PolishSummariesCorpus
+- **Paper:** http://nlp.ipipan.waw.pl/Bib/ogro:kop:14:lrec.pdf
+- **Leaderboard:** [Needs More Information]
+- **Point of Contact:** [Mateusz Kopeć](http://zil.ipipan.waw.pl/MateuszKopec)
+
+### Dataset Summary
+
+The Corpus contains a large number of manual summaries of news articles,
+with many independently created summaries for a single text. Such approach is supposed to overcome the annotator bias, which is often described as a problem during the evaluation of the summarization algorithms against a single gold standard.
+
+### Supported Tasks and Leaderboards
+
+[Needs More Information]
+
+### Languages
+
+Polish
+
+## Dataset Structure
+
+### Data Instances
+
+See below an example from the dataset. Detailed descriptions of the fields are provided in the following section.
+
+```
+{'authors': 'Krystyna Forowicz',
+ 'body': "ROZMOWA\n\nProf. Krzysztof  Ernst, kierownik Zakładu Optyki Instytutu Fizyki Doświadczalnej Uniwersytetu Warszawskiego\n\nLidarowe oczy\n\nRYS. MAREK KONECKI\n\nJutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.\n\nCzy to kosztowne urządzenie będzie służyło tylko naukowcom?\n\nTego typu lidar jest rzeczywiście drogi, kosztuje około  miliona marek niemieckich. Jest to najnowsza generacja tego typu lidarów.  DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem, staramy się m.in. rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze.  I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Nad lidarem pracują specjaliści od laserów i od komputerów. Współpracujemy z doskonałym laboratorium prof. Ludgera Wöste z Freie Universitat Berlin rozwijającym m.in. problematykę lidarową. Pakiet software'u   wzbogacamy o nowe algorytmy, które potrafią lepiej i dokładniej rozszyfrowywać sygnał lidarowy, a w konsekwencji skażenia.  Żeby przetworzyć tzw. sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać rozsądne dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji. \n\nBadania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań  wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.  Zasadniczy koszt jego budowy pokryła uzyskana od Fundacji dotacja.  Część pieniędzy przekazał też Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej oraz Komitet Badań Naukowych.\n\nCzy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?\n\nNie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze łącznie z dostarczeniem informacji o ich rozkładzie. Ale np. obecnie prowadzimy badania mające na celu rozszerzenie możliwości lidaru o taką substancję jak fosgen.  Tym szkodliwym gazem może być  skażone  powietrze  w  miastach, w których zlokalizowane są zakłady chemiczne, np. w Bydgoszczy pewne ilości fosgenu emitują Zakłady Chemiczne Organika- Zachem. \n\nLidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć. Cząsteczki, które wykrywamy mają pasma absorbcji w bliskim nadfiolecie. Możemy np. badać zawartość ozonu w troposferze. Okazuje się bowiem, że o ile brak tego gazu w wysokich warstwach atmosfery powoduje groźny efekt cieplarniany, to jego nadmiar tuż nad Ziemią jest szkodliwy. Groźne są też substancje gazowe, jak np. tlenki azotu, będące następstwem spalin samochodowych. A samochodów przybywa.\n\nCzy stać nas będzie na prowadzenie pomiarów ozonu w miastach? \n\nKoszt jednego dnia kampanii pomiarowej firmy zachodnie szacują na kilka tysięcy DM. Potrzebne są pieniądze na utrzymanie lidaru, na prowadzenie badań. Nasze przedsięwzięcie nie ma charakteru komercyjnego. Koszt pomiarów będzie znacznie niższy.  Chcemy np. mierzyć w Warszawie rozkłady  koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta. Chcielibyśmy rozwinąć tutaj współpracę z państwowymi i wojewódzkimi służbami ochrony środowiska. Tego typu badania były prowadzone np. w Lyonie. Okazało się,  że najwięcej tlenków azotu występuje niekoniecznie  tam gdzie są one produkowane, to znaczy nie przy najruchliwszych ulicach, jeśli są one dobrze wentylowane a gromadzą się one  w małych uliczkach. Przede wszystkim jednak do końca tego roku zamierzamy zakończyć pomiary  skażeń atmosferycznych nad granicą polsko-niemiecką. Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu trzech granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie. Prowadziliśmy pomiary w samym Turowie, gdzie elektrownia Turoszowska jest głównym  źródłem emisji. W planie mamy Bogatynię, zagłębie miedziowe.   \n\nW Czarnym Trójkącie istnieje wiele stacjonarnych stacji monitoringowych.\n\nNasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów.  Możemy zatem śledzić ewolucję rozprzestrzeniania się tych zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. Wyniki naszych pomiarów porównujemy z  danymi uzyskanymi ze stacji monitoringowych.  \n\nJak wypadł Czarny Trójkąt?\n\nKiedy występowaliśmy  o finansowanie tego projektu do Fundacji Współpracy Polsko-Niemieckiej zanieczyszczenie powietrza w Czarnym Trójkącie było dużo większe niż obecnie i wszystko wskazuje na to, że będzie dalej spadać. Obecnie stężenie dwutlenku siarki jest na granicy naszych możliwości pomiarowych. Dla regionu Turoszowskiego to dobra wiadomość i dla stosunków polsko-niemieckich też.\n\nTypów lidarów jest wiele  \n\nTen lidar pracuje w obszarze bliskiego nadfioletu i promieniowania widzialnego, które jest wynikiem wykorzystania drugiej lub trzeciej harmonicznej lasera szafirowego, pracującego na granicy czerwieni i podczerwieni. DIAL jest tym typem lidara, który dzisiaj ma zdecydowanie największe wzięcie w ochronie środowiska. Z lidarów korzysta meteorologia. W Stanach Zjednoczonych lidary umieszcza się na satelitach (program NASA). Określają na przestrzeni kilkudziesięciu kilometrów rozkłady temperatury, wilgotności, ciśnienia, a także prędkości wiatru. Wykrywają pojawianie się huraganów, a nawet mogą określać rozmiary oka tajfunu.\n\nIle takich urządzeń jest w Europie?\n\n- W Europie takich lidarów jak nasz jest zaledwie kilka. Większość z nich mierzy ozon, dwutlenek siarki i tlenek azotu. Wykrywanie toluenu i benzenu jest oryginalnym rozwiązaniem. Długość fali dla benzenu jest już na skraju możliwości widmowych.  Nasz lidar typu DIAL jest najnowocześniejszym w Polsce. Ponadto jest lidarem ruchomym, zainstalowanym na samochodzie.  Ale  historia lidarów w naszym kraju jest dłuższa i zaczęła się na początku lat 60. Pierwsze próby  prowadzone były w stacji geofizycznej PAN  w Belsku, niedługo po skonstruowaniu pierwszego w świecie lasera  rubinowego. Potem powstał lidar stacjonarny, również typu DIAL, w Gdańsku, a w Krakowie sodary - urządzenia oparte na falach akustycznych, wygodne np. do pomiarów szybkości wiatru. Lidar umieszczony na samochodzie i zbudowany w latach 80  na Politechnice Poznańskiej w perspektywie miał być lidarem typu DIAL.\n\nFizycy dotychczas nie zajmowali się ochroną środowiska?\n\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji (zdjęć satelitarnych) Instytutu Geofizyki i, co bardzo ważne, współpraca z Freie Universität Berlin. Mamy również na UW Międzywydziałowe Studia Ochrony Środowiska i studentom przekazujemy informacje o lidarze i fizycznych metodach badania środowiska. Nasze działania dydaktyczne bardzo efektywnie wspiera NFOŚ.\n\nRozmawiała Krystyna Forowicz",
+ 'date': '1997-04-21',
+ 'id': '199704210011',
+ 'section': 'Nauka i Technika',
+ 'summaries': {'author': ['I',
+   'I',
+   'I',
+   'C',
+   'C',
+   'C',
+   'K',
+   'K',
+   'K',
+   'G',
+   'G',
+   'G',
+   'J',
+   'J',
+   'J'],
+  'body': ['Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.Czy to kosztowne urządzenie będzie służyło tylko naukowcom? Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad tym urządzeniem. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań  wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.',
+   'Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.Czy to kosztowne urządzenie będzie służyło tylko naukowcom? Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad tym urządzeniem. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań  wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą. Czy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?Nie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze łącznie z dostarczeniem informacji o ich rozkładzie. Możemy np. badać zawartość ozonu w troposferze. W Europie takich lidarów jak nasz jest zaledwie kilka. Większość z nich mierzy ozon, dwutlenek siarki i tlenek azotu. Fizycy dotychczas nie zajmowali się ochroną środowiska?Taka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji Instytutu Geofizyki i współpraca z Freie Universität Berlin.',
+   'Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym. Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał.',
+   'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. lidar Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, naukową I dydaktyczną. Żeby przetworzyć sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji. muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.',
+   'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. lidar Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym. Jest to najnowsza generacja tego typu lidarów.  DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem.  I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska. Żeby przetworzyć tzw. sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać rozsądne dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji. Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań  wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.  Zasadniczy koszt jego budowy pokryła uzyskana od Fundacji dotacja.  Część pieniędzy przekazał też Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej oraz Komitet Badań Naukowych. Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.',
+   'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. lidar Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, naukową I dydaktyczną.',
+   'Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \nPROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym. DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów.',
+   'Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \nPROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.Tego typu lidar jest drogi, kosztuje około  miliona marek niemieckich. DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem, staramy się m.in. rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze. I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć. Cząsteczki, które wykrywamy mają pasma absorbcji w bliskim nadfiolecie.Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów.  Możemy zatem śledzić ewolucję rozprzestrzeniania się tych zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. Wyniki naszych pomiarów porównujemy z  danymi uzyskanymi ze stacji monitoringowych.',
+   'Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \nPROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.   Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową i dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+   'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF ERNST: urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.\nto najnowsza generacja tego typu lidarów. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.  korzyść mamy potrójną: użyteczną, przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad urządzeniem I dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.\nNasze przedsięwzięcie nie ma charakteru komercyjnego. Chcemy np. mierzyć w Warszawie rozkłady koncentracji tlenków azotu. Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie.',
+   'Jutro odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF ERNST: urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.\n\nto kosztowne urządzenie będzie służyło tylko naukowcom?\n\nlidar jest rzeczywiście drogi. to najnowsza generacja tego typu lidarów. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.  korzyść mamy potrójną: użyteczną, przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad tym urządzeniem I dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.\n\nCzy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?\n\nNie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze. Ale prowadzimy badania mające na celu rozszerzenie możliwości lidaru o taką substancję jak fosgen.\n\nstać nas będzie na prowadzenie pomiarów ozonu w miastach? \n\nNasze przedsięwzięcie nie ma charakteru komercyjnego. Chcemy np. mierzyć w Warszawie rozkłady koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta. Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie. zanieczyszczenie było dużo większe niż obecnie i wszystko wskazuje na to, że będzie dalej spadać.\nDIAL dzisiaj ma zdecydowanie największe wzięcie w ochronie środowiska. \n\nFizycy dotychczas nie zajmowali się ochroną środowiska?\n\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu.',
+   'Co to jest lidar? \n\nPROF. KRZYSZTOF ERNST: urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.\nto najnowsza generacja tego typu lidarów. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.  korzyść mamy potrójną: użyteczną, wykonujemy pomiary skażeń atmosferycznych, naukową - rozwijamy badania nad urządzeniem I dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+   'Co to jest lidar? \nPROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. staramy się rozszerzyć jego zastosowanie na inne substancje występujące w atmosferze. Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej. zamierzamy zakończyć pomiary  skażeń atmosferycznych nad granicą polsko-niemiecką. Nasz lidar ma większe możliwości niż stacje monitoringowe. Możemy śledzić ewolucję rozprzestrzeniania się zanieczyszczeń, ich kierunek i zmiany. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji Instytutu Geofizyki i współpraca z Freie Universität Berlin.',
+   "Co to jest lidar? \nPROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. DIAL - lidar absorbcji różnicowej potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. staramy się rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze. Pakiet software'u wzbogacamy o nowe algorytmy, które potrafią dokładniej rozszyfrowywać sygnał lidarowy, a w konsekwencji skażenia. Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej. \n\nChcemy mierzyć w Warszawie rozkłady  koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta. zamierzamy zakończyć pomiary  skażeń atmosferycznych nad granicą polsko-niemiecką. Nasz lidar ma większe możliwości niż stacje monitoringowe. Możemy śledzić ewolucję rozprzestrzeniania się zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. \n\nDIAL jest tym typem lidara, który dzisiaj ma największe wzięcie w ochronie środowiska. Z lidarów korzysta meteorologia. W Europie takich lidarów jak nasz jest zaledwie kilka. Nasz lidar jest najnowocześniejszym w Polsce. Ponadto jest lidarem ruchomym, zainstalowanym na samochodzie.  \n\nFizycy dotychczas nie zajmowali się ochroną środowiska?\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji Instytutu Geofizyki i współpraca z Freie Universität Berlin.",
+   'Co to jest lidar? \nPROF. KRZYSZTOF  ERNST: to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. zamierzamy zakończyć pomiary  skażeń atmosferycznych nad granicą polsko-niemiecką. Nasz lidar ma większe możliwości niż stacje monitoringowe. Możemy śledzić ewolucję rozprzestrzeniania się zanieczyszczeń, ich kierunek i zmiany.'],
+  'ratio': [10, 20, 5, 10, 20, 5, 10, 20, 5, 10, 20, 5, 10, 20, 5],
+  'spans': [{'end': [244, 396, 457, 867, 922, 1022, 1103, 1877],
+    'span_text': ['Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
+     'Czy to kosztowne urządzenie będzie służyło tylko naukowcom?',
+     'Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
+     'naukową - rozwijamy badania nad tym urządzeniem',
+     '.',
+     'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+     'Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań  wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.'],
+    'start': [153, 247, 398, 760, 875, 1020, 1023, 1631]},
+   {'end': [244,
+     396,
+     457,
+     867,
+     922,
+     1022,
+     1103,
+     1878,
+     2132,
+     2296,
+     2969,
+     6225,
+     6985,
+     7047,
+     7282,
+     7326,
+     7383],
+    'span_text': ['Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
+     'Czy to kosztowne urządzenie będzie służyło tylko naukowcom?',
+     'Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
+     'naukową - rozwijamy badania nad tym urządzeniem',
+     '.',
+     'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+     'Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań  wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.',
+     'Czy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?',
+     'Nie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze łącznie z dostarczeniem informacji o ich rozkładzie.',
+     'Możemy np. badać zawartość ozonu w troposferze.',
+     'W Europie takich lidarów jak nasz jest zaledwie kilka. Większość z nich mierzy ozon, dwutlenek siarki i tlenek azotu.',
+     '',
+     'Fizycy dotychczas nie zajmowali się ochroną środowiska?',
+     'Taka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji',
+     'Instytutu Geofizyki i',
+     'współpraca z Freie Universität Berlin.'],
+    'start': [153,
+     247,
+     398,
+     760,
+     875,
+     1020,
+     1023,
+     1631,
+     2064,
+     2134,
+     2921,
+     6108,
+     6984,
+     6992,
+     7049,
+     7304,
+     7344]},
+   {'end': [244, 396, 1103, 1774, 1877],
+    'span_text': ['Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
+     '',
+     'Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał',
+     '.'],
+    'start': [153, 247, 1102, 1631, 1876]},
+   {'end': [159,
+     227,
+     243,
+     360,
+     804,
+     882,
+     1025,
+     1044,
+     1103,
+     1454,
+     1540,
+     1629,
+     2848],
+    'span_text': ['Jutro',
+     'odbędzie sie pokaz nowego polskiego lidara typu DIAL.',
+     'lidar',
+     'Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     'DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną,',
+     'naukową',
+     'I',
+     'dydaktyczną',
+     '.',
+     'Żeby przetworzyć',
+     'sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać',
+     'dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji.',
+     'muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.'],
+    'start': [153,
+     173,
+     238,
+     270,
+     591,
+     875,
+     1022,
+     1033,
+     1101,
+     1437,
+     1459,
+     1549,
+     2670]},
+   {'end': [159, 227, 243, 396, 922, 1103, 1629, 2062, 2582, 2848],
+    'span_text': ['Jutro',
+     'odbędzie sie pokaz nowego polskiego lidara typu DIAL.',
+     'lidar',
+     'Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
+     'Jest to najnowsza generacja tego typu lidarów.  DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem',
+     '.  I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+     'Żeby przetworzyć tzw. sygnał lidarowy, czyli to co wraca po rozproszeniu światła do układu, i otrzymać rozsądne dane dotyczące rozkładu koncentracji - trzeba dokonać skomplikowanych operacji.',
+     'Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej, dzięki której ten lidar u nas zaistniał i dla której w ramach naszych zobowiązań  wykonujemy pomiary zanieczyszczeń nad naszą wspólną granicą.  Zasadniczy koszt jego budowy pokryła uzyskana od Fundacji dotacja.  Część pieniędzy przekazał też Narodowy Fundusz Ochrony Środowiska i Gospodarki Wodnej oraz Komitet Badań Naukowych.',
+     '',
+     'Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć.'],
+    'start': [153, 173, 238, 270, 542, 1020, 1437, 1631, 2581, 2602]},
+   {'end': [159, 227, 243, 360, 804, 882, 1025, 1044, 1102],
+    'span_text': ['Jutro',
+     'odbędzie sie pokaz nowego polskiego lidara typu DIAL.',
+     'lidar',
+     'Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     'DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną,',
+     'naukową',
+     'I',
+     'dydaktyczną',
+     '.'],
+    'start': [153, 173, 238, 270, 591, 875, 1022, 1033, 1101]},
+   {'end': [246, 396, 922, 1102, 4763],
+    'span_text': ['Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
+     'DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem',
+     'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+     'Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów.'],
+    'start': [153, 247, 590, 1022, 4555]},
+   {'end': [246, 396, 480, 542, 1021, 1102, 2920, 4989],
+    'span_text': ['Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi. Nazywane też jest radarem laserowym.',
+     'Tego typu lidar jest',
+     'drogi, kosztuje około  miliona marek niemieckich.',
+     'DIAL - lidar absorbcji różnicowej  jest urządzeniem inteligentnym, to znaczy potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen. Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową - rozwijamy badania nad tym urządzeniem, staramy się m.in. rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze.',
+     'I korzyść dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+     'Lidar typu DIAL jest oparty na pomiarze absorbcji różnicowej, czyli muszą być zastosowane dwie wiązki laserowe o dwóch różnych długościach fali, z których jedna jest absorbowana, a druga nie jest absorbowana przez substancję, którą chcemy wykryć. Cząsteczki, które wykrywamy mają pasma absorbcji w bliskim nadfiolecie.',
+     'Nasz lidar ma większe możliwości niż stacje monitoringowe. Mierzy zanieczyszczenia nie tylko lokalnie, ale też ich rozkład w przestrzeni, z wysoką rozdzielczością przestrzenną i na odległość kilku kilometrów.  Możemy zatem śledzić ewolucję rozprzestrzeniania się tych zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi. Wyniki naszych pomiarów porównujemy z  danymi uzyskanymi ze stacji monitoringowych.'],
+    'start': [153, 247, 459, 493, 590, 1022, 2602, 4555]},
+   {'end': [246, 360, 626, 883, 920, 1102],
+    'span_text': ['Jutro w Instytucie  odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     '',
+     'Z lidara korzyść mamy potrójną: użyteczną, bo przy jego pomocy wykonujemy pomiary skażeń atmosferycznych, korzyść naukową',
+     'i',
+     'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.'],
+    'start': [153, 247, 625, 760, 919, 1032]},
+   {'end': [158,
+     262,
+     271,
+     359,
+     397,
+     590,
+     761,
+     803,
+     867,
+     907,
+     922,
+     1025,
+     1102,
+     3311,
+     3516,
+     3595,
+     3623,
+     3675,
+     4226,
+     4332],
+    'span_text': ['Jutro',
+     'odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF',
+     'ERNST:',
+     'urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     '',
+     'to najnowsza generacja tego typu lidarów.',
+     'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
+     'korzyść mamy potrójną: użyteczną,',
+     'przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
+     'naukową - rozwijamy badania nad',
+     'urządzeniem',
+     'I',
+     'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+     '',
+     'Nasze przedsięwzięcie nie ma charakteru komercyjnego.',
+     'Chcemy np. mierzyć w Warszawie rozkłady',
+     'koncentracji tlenków azotu',
+     '.',
+     'Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu',
+     'granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie.'],
+    'start': [153,
+     172,
+     263,
+     279,
+     396,
+     548,
+     699,
+     769,
+     806,
+     875,
+     911,
+     1022,
+     1033,
+     3310,
+     3462,
+     3556,
+     3596,
+     3674,
+     4158,
+     4233]},
+   {'end': [158,
+     262,
+     271,
+     359,
+     398,
+     459,
+     498,
+     543,
+     590,
+     761,
+     803,
+     867,
+     922,
+     1025,
+     1102,
+     2242,
+     2300,
+     2406,
+     3247,
+     3311,
+     3516,
+     3595,
+     3675,
+     4226,
+     4333,
+     5130,
+     5241,
+     5439,
+     5661,
+     5756,
+     7113],
+    'span_text': ['Jutro',
+     'odbędzie sie pokaz nowego polskiego lidara typu DIAL. Co to jest lidar? \n\nPROF. KRZYSZTOF',
+     'ERNST:',
+     'urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     '',
+     'to kosztowne urządzenie będzie służyło tylko naukowcom?',
+     'lidar jest rzeczywiście drogi',
+     '.',
+     'to najnowsza generacja tego typu lidarów.',
+     'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
+     'korzyść mamy potrójną: użyteczną,',
+     'przy jego pomocy wykonujemy pomiary skażeń atmosferycznych,',
+     'naukową - rozwijamy badania nad tym urządzeniem',
+     'I',
+     'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.',
+     'Czy wszystkie zanieczyszczenia będzie można wykryć za pomocą lidaru?\n\nNie ma takiego jednostkowego urządzenia, które by wykrywało i mierzyło wszystkie szkodliwe gazy w atmosferze',
+     '. Ale',
+     'prowadzimy badania mające na celu rozszerzenie możliwości lidaru o taką substancję jak fosgen.',
+     '',
+     'stać nas będzie na prowadzenie pomiarów ozonu w miastach?',
+     'Nasze przedsięwzięcie nie ma charakteru komercyjnego.',
+     'Chcemy np. mierzyć w Warszawie rozkłady',
+     'koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta.',
+     'Koncentrujemy się głównie na Czarnym Trójkącie - obszarze u zbiegu',
+     'granic: Polski, Niemiec i Czech, do niedawna uważanym za najbardziej zdegradowany region w Europie.',
+     'zanieczyszczenie',
+     'było dużo większe niż obecnie i wszystko wskazuje na to, że będzie dalej spadać.',
+     '',
+     'DIAL',
+     'dzisiaj ma zdecydowanie największe wzięcie w ochronie środowiska.',
+     'Fizycy dotychczas nie zajmowali się ochroną środowiska?\n\nTaka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu.'],
+    'start': [153,
+     172,
+     263,
+     279,
+     396,
+     402,
+     469,
+     541,
+     548,
+     699,
+     769,
+     806,
+     875,
+     1022,
+     1033,
+     2062,
+     2294,
+     2312,
+     3245,
+     3251,
+     3462,
+     3556,
+     3596,
+     4158,
+     4233,
+     5114,
+     5160,
+     5438,
+     5656,
+     5690,
+     6990]},
+   {'end': [262, 271, 359, 397, 590, 761, 803, 807, 867, 907, 922, 1025, 1102],
+    'span_text': ['Co to jest lidar? \n\nPROF. KRZYSZTOF',
+     'ERNST:',
+     'urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     '',
+     'to najnowsza generacja tego typu lidarów.',
+     'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
+     'korzyść mamy potrójną: użyteczną,',
+     '',
+     'wykonujemy pomiary skażeń atmosferycznych,',
+     'naukową - rozwijamy badania nad',
+     'urządzeniem',
+     'I',
+     'dydaktyczną - szkolimy studentów zainteresowanych ochroną środowiska.'],
+    'start': [227,
+     263,
+     279,
+     396,
+     548,
+     699,
+     769,
+     806,
+     824,
+     875,
+     911,
+     1022,
+     1033]},
+   {'end': [245,
+     360,
+     761,
+     936,
+     971,
+     1022,
+     1733,
+     1878,
+     4159,
+     4614,
+     4772,
+     4818,
+     4860,
+     4906,
+     7283,
+     7326,
+     7383],
+    'span_text': ['Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
+     'staramy się',
+     'rozszerzyć jego zastosowanie',
+     'na inne substancje występujące w atmosferze.',
+     'Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej',
+     '.',
+     'zamierzamy zakończyć pomiary  skażeń atmosferycznych nad granicą polsko-niemiecką.',
+     'Nasz lidar ma większe możliwości niż stacje monitoringowe.',
+     'Możemy',
+     'śledzić ewolucję rozprzestrzeniania się',
+     'zanieczyszczeń, ich kierunek i zmiany',
+     '.',
+     'Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji',
+     'Instytutu Geofizyki i',
+     'współpraca z Freie Universität Berlin.'],
+    'start': [227,
+     246,
+     699,
+     924,
+     942,
+     977,
+     1631,
+     1876,
+     4076,
+     4555,
+     4765,
+     4778,
+     4823,
+     4904,
+     7114,
+     7305,
+     7344]},
+   {'end': [245,
+     360,
+     625,
+     761,
+     936,
+     1022,
+     1311,
+     1357,
+     1436,
+     1733,
+     1878,
+     3247,
+     3311,
+     3563,
+     3676,
+     4159,
+     4614,
+     4772,
+     4818,
+     4906,
+     5410,
+     5439,
+     5701,
+     5789,
+     6163,
+     6364,
+     6472,
+     7048,
+     7283,
+     7326,
+     7383],
+    'span_text': ['Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST: Jest to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     'DIAL - lidar absorbcji różnicowej',
+     'potrafi rozróżnić, co  mierzy. Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
+     'staramy się',
+     'rozszerzyć jego zastosowanie także na inne substancje występujące w atmosferze.',
+     "Pakiet software'u",
+     'wzbogacamy o nowe algorytmy, które potrafią',
+     'dokładniej rozszyfrowywać sygnał lidarowy, a w konsekwencji skażenia.',
+     'Badania, które prowadzimy, są zainicjowane i finansowane  przez Fundację Współpracy Polsko-Niemieckiej',
+     '.',
+     '',
+     '',
+     'Chcemy',
+     'mierzyć w Warszawie rozkłady  koncentracji tlenków azotu, ich ewolucję czasową nad różnymi arteriami miasta.',
+     'zamierzamy zakończyć pomiary  skażeń atmosferycznych nad granicą polsko-niemiecką.',
+     'Nasz lidar ma większe możliwości niż stacje monitoringowe.',
+     'Możemy',
+     'śledzić ewolucję rozprzestrzeniania się',
+     'zanieczyszczeń, ich kierunek i zmiany spowodowane m.in. warunkami atmosferycznymi.',
+     '',
+     '',
+     'DIAL jest tym typem lidara, który dzisiaj ma',
+     'największe wzięcie w ochronie środowiska. Z lidarów korzysta meteorologia.',
+     'W Europie takich lidarów jak nasz jest zaledwie kilka.',
+     'Nasz lidar',
+     'jest najnowocześniejszym w Polsce. Ponadto jest lidarem ruchomym, zainstalowanym na samochodzie.',
+     'Fizycy dotychczas nie zajmowali się ochroną środowiska?',
+     'Taka specjalizacja powstala na Wydziale Fizyki UW dwa lata temu. Gwarancją sukcesu naszego programu dydaktyczno-badawczego jest udział w nim zakładów należących do Instytutu Fizyki Doświadczalnej UW, Pracowni Przetwarzania Informacji',
+     'Instytutu Geofizyki i',
+     'współpraca z Freie Universität Berlin.'],
+    'start': [227,
+     246,
+     591,
+     668,
+     924,
+     942,
+     1293,
+     1313,
+     1366,
+     1631,
+     1876,
+     3246,
+     3310,
+     3556,
+     3567,
+     4076,
+     4555,
+     4765,
+     4778,
+     4823,
+     5409,
+     5438,
+     5656,
+     5714,
+     6108,
+     6353,
+     6374,
+     6990,
+     7049,
+     7305,
+     7344]},
+   {'end': [245, 271, 360, 761, 4159, 4614, 4772, 4818, 4860, 4905],
+    'span_text': ['Co to jest lidar?',
+     'PROF. KRZYSZTOF  ERNST:',
+     'to urządzenie pozwalające wyznaczać zanieczyszczenia atmosfery metodami optycznymi.',
+     'Wykrywa ozon, dwutlenek siarki, tlenki azotu, benzen, toluen.',
+     'zamierzamy zakończyć pomiary  skażeń atmosferycznych nad granicą polsko-niemiecką.',
+     'Nasz lidar ma większe możliwości niż stacje monitoringowe.',
+     'Możemy',
+     'śledzić ewolucję rozprzestrzeniania się',
+     'zanieczyszczeń, ich kierunek i zmiany',
+     '.'],
+    'start': [227, 246, 276, 699, 4076, 4555, 4765, 4778, 4823, 4904]}],
+  'type': ['extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract',
+   'extract']},
+ 'title': 'Lidarowe oczy'}
+```
+
+### Data Fields
+
+- `id`: a `string` example identifier
+- `date`: date of the original article (`string`)
+- `title`: title of the original article (`string`)
+- `section`: the section of the newspaper the original article belonged to (`string`)
+- `authors`: original article authors (`string`)
+- `body`: original article body (list of `string`s)
+- `summaries`: a dictionary feature containing summaries of the original article with the following attributes:
+  - `ratio`: ratio of summary - percentage of the original article (list of `int32`s)
+  - `type`: type of summary - extractive (`extract`) or abstractive (`abstract`) (list of `string`s)
+  - `author`: acronym of summary author (list of `string`)
+  - `body`: body of summary (list of `string`)
+  - `spans`:  a list containing spans for extractive summaries (empty for abstractive summaries):
+    - `start`: start of span (`int32`)
+    - `end`: end of span (`int32`)
+    - `span_text`: span text (`string`)
+
+### Data Splits
+
+Single train split
+
+## Dataset Creation
+
+### Curation Rationale
+
+[Needs More Information]
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+[Needs More Information]
+
+#### Who are the source language producers?
+
+[Needs More Information]
+
+### Annotations
+
+#### Annotation process
+
+[Needs More Information]
+
+#### Who are the annotators?
+
+[Needs More Information]
+
+### Personal and Sensitive Information
+
+[Needs More Information]
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+[Needs More Information]
+
+### Discussion of Biases
+
+[Needs More Information]
+
+### Other Known Limitations
+
+[Needs More Information]
+
+## Additional Information
+
+### Dataset Curators
+
+[Needs More Information]
+
+### Licensing Information
+
+[Needs More Information]
+
+### Citation Information
+```
+@inproceedings{
+    ogro:kop:14:lrec,
+    author = "Ogrodniczuk, Maciej and Kopeć, Mateusz",
+    pdf = "http://nlp.ipipan.waw.pl/Bib/ogro:kop:14:lrec.pdf",
+    title = "The {P}olish {S}ummaries {C}orpus",
+    pages = "3712--3715",
+    crossref = "lrec:14"
+}
+@proceedings{
+    lrec:14,
+    editor = "Calzolari, Nicoletta and Choukri, Khalid and Declerck, Thierry and Loftsson, Hrafn and Maegaard, Bente and Mariani, Joseph and Moreno, Asuncion and Odijk, Jan and Piperidis, Stelios",
+    isbn = "978-2-9517408-8-4",
+    title = "Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014",
+    url = "http://www.lrec-conf.org/proceedings/lrec2014/index.html",
+    booktitle = "Proceedings of the Ninth International {C}onference on {L}anguage {R}esources and {E}valuation, {LREC}~2014",
+    address = "Reykjavík, Iceland",
+    key = "LREC",
+    year = "2014",
+    organization = "European Language Resources Association (ELRA)"
+}
+```
+### Contributions
+
+Thanks to [@kldarek](https://github.com/kldarek) for adding this dataset.

huggingface_dataset/Dataset_Card/readerbench_ro-fb-offense.md

@@ -0,0 +1,178 @@
+---
+annotations_creators:
+- expert-generated
+language_creators:
+- found
+language:
+- ro
+license:
+- apache-2.0
+multilinguality:
+- monolingual
+size_categories:
+- 1K<n<10K
+source_datasets:
+- original
+task_categories:
+- text-classification
+task_ids:
+- hate-speech-detection
+pretty_name: RO-FB-Offense
+extra_gated_prompt: 'Warning: this repository contains harmful content (abusive language,
+  hate speech).'
+tags:
+- hate-speech-detection
+---
+
+# Dataset Card for "RO-FB-Offense"
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-fields)
+  - [Data Splits](#data-splits)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+  - [Contributions](#contributions)
+
+## Dataset Description
+
+- **Homepage:** [https://github.com/readerbench/ro-fb-offense](https://github.com/readerbench/ro-fb-offense)
+- **Repository:** [https://github.com/readerbench/ro-fb-offense](https://github.com/readerbench/ro-fb-offense)
+- **Paper:** FB-RO-Offense – A Romanian Dataset and Baseline Models for detecting Offensive Language in Facebook Comments
+- **Point of Contact:** [Andrei Paraschiv](https://github.com/AndyTheFactory)
+
+### Dataset Summary
+
+FB-RO-Offense corpus, an offensive speech dataset containing 4,455 user-generated comments from Facebook live broadcasts available in Romanian
+
+The annotation follows the hierarchical tagset proposed in the Germeval 2018 Dataset. 
+The following Classes are available:
+  * OTHER: Non-Offensive Language
+  * OFFENSIVE:
+    - PROFANITY
+    - INSULT
+    - ABUSE
+    
+### Languages
+
+Romanian
+
+## Dataset Structure
+
+
+### Data Instances
+
+
+An example of 'train' looks as follows.
+
+```
+{
+  'sender': '$USER1208', 
+  'no_reacts': 1,
+  'text': 'PLACEHOLDER TEXT', 
+  'label': OTHER, 
+}
+```
+
+
+### Data Fields
+
+- `sender`: a `string` feature.
+- 'no_reacts': a `integer`
+- `text`: a `string`.
+- `label`: categorical `OTHER`, `PROFANITY`, `INSULT`, `ABUSE`
+
+
+### Data Splits
+
+|  name   |train|test|
+|---------|----:|---:|
+|ro|x|x|
+
+
+## Dataset Creation
+
+### Curation Rationale
+
+Collecting data for abusive language classification for Romanian Language.
+
+### Source Data
+
+Facebook comments
+
+#### Initial Data Collection and Normalization
+
+
+
+#### Who are the source language producers?
+
+Social media users
+
+### Annotations
+
+#### Annotation process
+
+
+
+#### Who are the annotators?
+
+Native speakers
+
+### Personal and Sensitive Information
+
+The data was public at the time of collection. No PII removal has been performed.
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+The data definitely contains abusive language. The data could be used to develop and propagate offensive language against every target group involved, i.e. ableism, racism, sexism, ageism, and so on.
+
+### Discussion of Biases
+
+
+### Other Known Limitations
+
+
+## Additional Information
+
+
+### Dataset Curators
+
+
+### Licensing Information
+
+This data is available and distributed under Apache-2.0 license
+
+### Citation Information
+
+```
+@inproceedings{busuioc2022fb-ro-offense,
+  title={FB-RO-Offense – A Romanian Dataset and Baseline Models for detecting Offensive Language in Facebook Comments},
+  author={ Busuioc, Gabriel-Razvan and Paraschiv, Andrei and Dascalu, Mihai},
+  booktitle={International Symposium on Symbolic and Numeric Algorithms for Scientific Computing (SYNASC) 2022},
+  year={2022}
+}
+
+```
+
+
+### Contributions
+
+