glossAPI/Apothetirio_Kallipos

Apothetirio Kallipos Greek Academic Books Dataset

Πληροφορίες για τα δεδομένα:

Το Apothetirio_Kallipos περιέχει καθαρισμένα και επεξεργασμένα δεδομένα που εξάγονται από το Ανοιχτό Ακαδημαϊκό Αποθετήριο Κάλλιπος, το οποίο αποτελεί το πρώτο ελληνικό ακαδημαϊκό αποθετήριο ανοιχτής πρόσβασης για πανεπιστημιακά συγγράμματα και επιστημονικά βιβλία. Περιλαμβάνει πλήθος ψηφιακών συγγραμμάτων από διάφορους επιστημονικούς τομείς. Το dataset μέσα από μια σειρά διαδικασιών μηχανικής μάθησης έχει καθαριστεί και επισημειωθεί αυτόματα όσον αφορά δομικά μέρη του κειμένου: περιεχόμενα , βιβλιογραφία , παράρτημα κλπ

Χαρακτηριστικά: Γλώσσα: Ελληνικά (el)

Πηγή: Ανοιχτό Ακαδημαϊκό Αποθετήριο Κάλλιπος (https://repository.kallipos.gr/)

Περιεχόμενο: Πανεπιστημιακά συγγράμματα και ακαδημαϊκά υλικά

Διαδικασία Καθαρισμού: Κατάτμηση κειμένου, αφαίρεση διπλότυπων, ομαλοποίηση κειμένου και φιλτράρισμα μεταδεδομένων

Μορφή:Parquet

Στατιστικά Dataset:

Total tokens: 196096307 Size: 572Mb Words Count: 117117288

Δομή Dataset

Το αρχείο metadata.parquet περιλαμβάνει τις εξής βασικές στήλες:

Column	Περιγραφή
original_filepath	Αρχική τοποθεσία αρχείου πριν την επεξεργασία
filepath	Τοποθεσία επεξεργασμένου αρχείου στο dataset
filename	Αναγνωριστικό εγγράφου
metadata_extracted	Μεταδεδομένα σε μορφή JSON από το αποθετήριο Κάλλιπος
document_type	Τύπος ακαδημαϊκού συγγράμματος
file_length	Μέγεθος εγγράφου

Τα μεταδεδομένα είναι ημι-δομημένα και ενδέχεται να διαφέρουν ανά τεκμήριο.

Πιθανές Χρήσεις: Εκπαίδευση και αξιολόγηση NLP μοντέλων για την επεξεργασία ελληνικών ακαδημαϊκών κειμένων

Κατηγοριοποίηση κειμένων και ανάλυση θεματολογίας

Μοντελοποίηση γλώσσας και μηχανική μάθηση

Άδεια Χρήσης: Το dataset ακολουθεί τους όρους αδειοδότησης του αρχικού αποθετηρίου Κάλλιπος, το οποίο διανέμει περιεχόμενο κυρίως υπό άδειες Creative Commons (CC BY-NC ή CC BY-NC-SA). Οι χρήστες πρέπει να τηρούν αυτούς τους όρους κατά τη χρήση του dataset.

Για ανατροφοδότηση επικοινωνήστε: glossapi.team@eellak.gr

Περιορισμοί

• Τα μεταδεδομένα αποθηκεύονται σε μορφή JSON και απαιτούν επεξεργασία για πλήρη αξιοποίηση.
• Ορισμένα πεδία μεταδεδομένων ενδέχεται να μην υπάρχουν σε όλα τα τεκμήρια.
• Τα ονόματα συγγραφέων και οι θεματικές κατηγορίες παρέχονται στα Ελληνικά.

Dataset Info:

The Apothetirio_Kallipos dataset contains cleaned and processed data extracted from the Kallipos Open Academic Repository, which is the first Greek open-access academic repository for university textbooks and scientific books. It includes a large collection of digital textbooks across various scientific disciplines. Through a series of machine learning processes, the dataset has been automatically cleaned and annotated regarding structural elements of the text, such as table of contents, bibliography, appendices, etc.

Features: Language: Greek (el)

Source: Kallipos Open Academic Repository (https://repository.kallipos.gr/)

Content: University textbooks and academic materials

Cleaning Process: Text segmentation, duplicate removal, text normalization, and metadata filtering

Format: Parquet

Dataset Statistics

Total tokens: 196096307 Size: 572Mb Words Count: 117117288

Dataset Structure

The metadata.parquet file contains the following columns:

Column	Description
original_filepath	Original file location before processing
filepath	Processed file location
filename	Document identifier
metadata_extracted	JSON metadata extracted from the repository
document_type	Type of academic document
file_length	Document length

Metadata is semi-structured and may vary between records.

Potential Uses: Training and evaluation of NLP models for processing Greek academic texts

Text classification and topic modeling

Language modeling and machine learning

License: The dataset follows the licensing terms of the original Kallipos repository, which primarily distributes content under Creative Commons (CC BY-NC or CC BY-NC-SA). Users must comply with these licensing terms when using the dataset.

Limitations

• Metadata is stored as JSON and requires parsing for structured use.
• Some metadata fields may be missing in certain documents.
• Author names and subject categories are provided in Greek.

For feedback, contact: glossapi.team@eellak.gr