File size: 2,958 Bytes
4deb372 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 | # NIMoz Museum Objects Corpus — 9 Muzeów (wmuzeach.pl)
Korpus obiektów muzealnych z cyfrowej platformy wmuzeach.pl (NIMoz — Narodowy Instytut Muzealnictwa), wygenerowany z AJAX endpoint `/pioro/myajaxlist/objects_list/getcontent/1/` z paginacją i filtrowaniem per sub-kolekcja.
## Statystyki
| Metryka | Wartość |
|---------|---------|
| Muzea | 9 |
| Sub-kolekcje | 312 |
| Rekordy | 10,649 |
| Unikalne tagi | 5,694 |
| Znaki | 14,716,670 |
| Słowa | 1,968,273 |
| Tokeny (szac.) | ~2,558,754 |
| Rozmiar (ZIP) | 7.3 MB |
## Plik
`nimoz_corpus_filtered.zip` — skompresowany JSONL (10,649 rekordów)
## Pola
| Pole | Typ | Opis |
|------|-----|------|
| `text` | string | Nota popularyzatorska — główny tekst opisujący obiekt |
| `title` | string | Tytuł/nazwa obiektu |
| `museum` | string | Nazwa muzeum właścicielskiego |
| `collection` | string | Sub-kolekcja (muzeum/kategoria) z której pochodzi obiekt |
| `tags` | list[string] | Lista tagów / słów kluczowych |
| `info.author` | string | Autor / wytwórca |
| `info.object_type` | string | Rodzaj obiektu |
| `info.material` | string | Tworzywo / materiał |
| `info.dating` | string | Czas powstania / datowanie |
| `info.place_of_origin` | string | Miejsce powstania / znalezienia |
| `info.owner` | string | Właściciel |
| `info.inventory_number` | string | Numer identyfikacyjny |
| `info.location_status` | string | Lokalizacja / status |
| `main_image` | string | URL głównego obrazu obiektu |
| `images` | list[string] | Lista URL obrazów obiektu |
| `url` | string | URL strony obiektu na wmuzeach.pl |
| `id` | string | Unikalny identyfikator obiektu (token) |
## Przetwarzanie
1. Pobranie URL-i obiektów ze wszystkich 11 kolekcji głównych i 312 sub-kolekcji (AJAX endpoint z filtrowaniem sesyjnym)
2. Scraping metadanych z 14,298 stron obiektów (BeautifulSoup)
3. Naprawa pola `museum` (z `info.owner` + mapowanie slug→nazwa, normalizacja diakrytyków)
4. Deduplikacja po ID i po treści opisu (−1,101 duplikatów)
5. Redakcja PII (telefony → `[PHONE]`, emaile → `[EMAIL]`)
6. Filtrowanie rekordów z pustym opisem (−2,548 rekordów)
7. Audyt jakości: PII, deduplikacja, dekontaminacja
## Audyt jakości
- **PII**: czyste (0 emaili, 0 telefonów, 0 PESEL po redakcji 2 rekordów)
- **Duplikaty**: 0 (po deduplikacji)
- **Dekontaminacja**: 0 nakładań (LLMzSzŁ, PoQuAD, PES)
- **Werdykt**: Obiecujący, gotowy do dalszej ewaluacji
## Licencja
Obiekty udostępniane przez NIMoz na platformie wmuzeach.pl. Licencje poszczególnych obiektów mogą się różnić — większość obiektów jest udostępniana w ramach domeny publicznej lub licencji CC-BY. Sprawdź pole `license` w rekordzie dla szczegółów.
## Pipeline
Kod pipeline: https://github.com/PiotrStyla/NIMoz
Tryb scraping: AJAX endpoint → paginacja per sub-kolekcja → BeautifulSoup parsing → deduplikacja → redakcja PII → dekontaminacja → audyt jakości.
|