| # NIMoz Museum Objects Corpus — 9 Muzeów (wmuzeach.pl) |
|
|
| Korpus obiektów muzealnych z cyfrowej platformy wmuzeach.pl (NIMoz — Narodowy Instytut Muzealnictwa), wygenerowany z AJAX endpoint `/pioro/myajaxlist/objects_list/getcontent/1/` z paginacją i filtrowaniem per sub-kolekcja. |
|
|
| ## Statystyki |
|
|
| | Metryka | Wartość | |
| |---------|---------| |
| | Muzea | 9 | |
| | Sub-kolekcje | 312 | |
| | Rekordy | 10,649 | |
| | Unikalne tagi | 5,694 | |
| | Znaki | 14,716,670 | |
| | Słowa | 1,968,273 | |
| | Tokeny (szac.) | ~2,558,754 | |
| | Rozmiar (ZIP) | 7.3 MB | |
|
|
| ## Plik |
|
|
| `nimoz_corpus_filtered.zip` — skompresowany JSONL (10,649 rekordów) |
|
|
| ## Pola |
|
|
| | Pole | Typ | Opis | |
| |------|-----|------| |
| | `text` | string | Nota popularyzatorska — główny tekst opisujący obiekt | |
| | `title` | string | Tytuł/nazwa obiektu | |
| | `museum` | string | Nazwa muzeum właścicielskiego | |
| | `collection` | string | Sub-kolekcja (muzeum/kategoria) z której pochodzi obiekt | |
| | `tags` | list[string] | Lista tagów / słów kluczowych | |
| | `info.author` | string | Autor / wytwórca | |
| | `info.object_type` | string | Rodzaj obiektu | |
| | `info.material` | string | Tworzywo / materiał | |
| | `info.dating` | string | Czas powstania / datowanie | |
| | `info.place_of_origin` | string | Miejsce powstania / znalezienia | |
| | `info.owner` | string | Właściciel | |
| | `info.inventory_number` | string | Numer identyfikacyjny | |
| | `info.location_status` | string | Lokalizacja / status | |
| | `main_image` | string | URL głównego obrazu obiektu | |
| | `images` | list[string] | Lista URL obrazów obiektu | |
| | `url` | string | URL strony obiektu na wmuzeach.pl | |
| | `id` | string | Unikalny identyfikator obiektu (token) | |
|
|
| ## Przetwarzanie |
|
|
| 1. Pobranie URL-i obiektów ze wszystkich 11 kolekcji głównych i 312 sub-kolekcji (AJAX endpoint z filtrowaniem sesyjnym) |
| 2. Scraping metadanych z 14,298 stron obiektów (BeautifulSoup) |
| 3. Naprawa pola `museum` (z `info.owner` + mapowanie slug→nazwa, normalizacja diakrytyków) |
| 4. Deduplikacja po ID i po treści opisu (−1,101 duplikatów) |
| 5. Redakcja PII (telefony → `[PHONE]`, emaile → `[EMAIL]`) |
| 6. Filtrowanie rekordów z pustym opisem (−2,548 rekordów) |
| 7. Audyt jakości: PII, deduplikacja, dekontaminacja |
|
|
| ## Audyt jakości |
|
|
| - **PII**: czyste (0 emaili, 0 telefonów, 0 PESEL po redakcji 2 rekordów) |
| - **Duplikaty**: 0 (po deduplikacji) |
| - **Dekontaminacja**: 0 nakładań (LLMzSzŁ, PoQuAD, PES) |
| - **Werdykt**: Obiecujący, gotowy do dalszej ewaluacji |
|
|
| ## Licencja |
|
|
| Obiekty udostępniane przez NIMoz na platformie wmuzeach.pl. Licencje poszczególnych obiektów mogą się różnić — większość obiektów jest udostępniana w ramach domeny publicznej lub licencji CC-BY. Sprawdź pole `license` w rekordzie dla szczegółów. |
|
|
| ## Pipeline |
|
|
| Kod pipeline: https://github.com/PiotrStyla/NIMoz |
|
|
| Tryb scraping: AJAX endpoint → paginacja per sub-kolekcja → BeautifulSoup parsing → deduplikacja → redakcja PII → dekontaminacja → audyt jakości. |
|
|
