chunk_id stringlengths 36 36 | document_id stringlengths 36 36 | parent_chunk_id stringlengths 36 36 ⌀ | wikipedia_url stringlengths 31 377 | title stringlengths 1 209 | chunk_type stringclasses 2
values | ordinal int32 0 428 | char_start int32 0 316k | char_end int32 71 318k | token_count int32 | text stringlengths 50 318k | embedding listlengths 1.02k 1.02k ⌀ |
|---|---|---|---|---|---|---|---|---|---|---|---|
6e67da74-f704-4fdb-9893-aafb8687b1fc | 00000437-28d9-431e-9d1f-2cc15c8d31d2 | 264890e5-a67e-449b-8cab-5a9678d9f8bd | https://tr.wikipedia.org/wiki/Tatar%20Ramazan%20%28film%29 | Tatar Ramazan (film) | child | 0 | 0 | 256 | null | Tatar Ramazan, Kerim Korcan'ın aynı isimli eserinden uyarlanan serinin ilk filmi. Olaylar II. Dünya Savaşı'nın bütün hızıyla sürdüğü 1942 yılında geçmektedir. Ahmet Kaya'nın müziklerini yaptığı film Cumhuriyet gazetesinin o dönem attığı manşetlerle açılır. | [
0.04549398645758629,
0.02281789854168892,
0.006564606446772814,
-0.02212013676762581,
0.01759614422917366,
0.010316084139049053,
0.014962255023419857,
0.06670064479112625,
0.0009094184497371316,
-0.010229041799902916,
0.036955997347831726,
0.013203074224293232,
-0.08772546797990799,
0.0181... |
2862edc8-c737-4d4e-81c6-180b85406125 | 00000437-28d9-431e-9d1f-2cc15c8d31d2 | 264890e5-a67e-449b-8cab-5a9678d9f8bd | https://tr.wikipedia.org/wiki/Tatar%20Ramazan%20%28film%29 | Tatar Ramazan (film) | child | 1 | 258 | 859 | null | Kerim Korcan'ın aynı isimli eserindeki 9 hikâyeden sürgüne gönderilişine kadar olan hikâyeleri içerir. 1942 yılında geçmektedir. toprak sahiplerinden Abidin Ağa'nın oğlunu vuran Tatar Ramazan dört yıl hapis yatmıştır. Çıktığında Zeynep ailesinin baskısına rağmen Tatar Ramazan'ı karşılar, köye dönerler. Oda sahnesinde, ... | [
0.020862143486738205,
0.012513439171016216,
-0.019704068079590797,
-0.021176764741539955,
0.029129574075341225,
-0.028752103447914124,
0.00475003058090806,
0.04996394366025925,
0.04124556481838226,
-0.009075750596821308,
0.01311164814978838,
0.01587929017841816,
-0.08188803493976593,
-0.00... |
42f9858c-d704-4133-b96e-2174d83ec6f4 | 00000437-28d9-431e-9d1f-2cc15c8d31d2 | 264890e5-a67e-449b-8cab-5a9678d9f8bd | https://tr.wikipedia.org/wiki/Tatar%20Ramazan%20%28film%29 | Tatar Ramazan (film) | child | 2 | 861 | 1,813 | null | Bu olay üzerine 11 yıl hapis yiyen Ramazan tekrar hapishaneye düşer. Bu arada Zeynep de sürekli aile baskısı altındadır. Gittiği hapishanede kimseye bulaşmamaya çalışan Tatar Ramazan esrar satan, kumar oynatan bir koğuş ağasıyla karşılaşır. Başlarda "rahat durmadı demesinler" diye kimseye bulaşmamaya çalışır. Aynı zama... | [
0.05556829273700714,
0.007945386692881584,
-0.03269563242793083,
-0.026454253122210503,
0.03614811226725578,
-0.03731174394488335,
-0.011132831685245037,
0.05123487859964371,
0.024164406582713127,
-0.038108933717012405,
0.018002944067120552,
0.023252196609973907,
-0.06768037378787994,
0.01... |
264890e5-a67e-449b-8cab-5a9678d9f8bd | 00000437-28d9-431e-9d1f-2cc15c8d31d2 | null | https://tr.wikipedia.org/wiki/Tatar%20Ramazan%20%28film%29 | Tatar Ramazan (film) | parent | 0 | 0 | 1,813 | null | Tatar Ramazan, Kerim Korcan'ın aynı isimli eserinden uyarlanan serinin ilk filmi. Olaylar II. Dünya Savaşı'nın bütün hızıyla sürdüğü 1942 yılında geçmektedir. Ahmet Kaya'nın müziklerini yaptığı film Cumhuriyet gazetesinin o dönem attığı manşetlerle açılır.
Kerim Korcan'ın aynı isimli eserindeki 9 hikâyeden sürgüne gön... | null |
6df90c0f-7fbf-46d1-a080-7e5c3ad217cb | 00000b9e-e97e-4fb1-aac5-c826d7034249 | 0217ccca-d628-4984-aece-d327b055b4cb | https://tr.wikipedia.org/wiki/Akarsu%2C%20Ardanu%C3%A7 | Akarsu, Ardanuç | child | 0 | 0 | 716 | null | Aharşia'nın yer aldığı Klarceti bölgesi, orta çağda Gürcistan'ın güneybatı topraklarını oluşturuyordu. Osmanlılar bölgeyi ve Aharşia köyünü 16. yüzyılın ortasında ele geçirdi. 1574 tarihli Defter-i Mufassal-i Vilayet-i Gürcistan adlı Osmanlı tahrir defterine göre köyün nüfusu 27 haneden oluşuyordu. Nüfusun tamamı Hrist... | [
0.045288462191820145,
0.009500108659267426,
-0.03854624181985855,
-0.021192187443375587,
0.02955034375190735,
0.010406014509499073,
-0.009507622569799423,
0.059460822492837906,
0.06376055628061295,
-0.014314275234937668,
0.015654169023036957,
0.014502731151878834,
-0.03540454059839249,
0.0... |
7edf1989-e986-47d6-af2c-fad433a221ea | 00000b9e-e97e-4fb1-aac5-c826d7034249 | 0217ccca-d628-4984-aece-d327b055b4cb | https://tr.wikipedia.org/wiki/Akarsu%2C%20Ardanu%C3%A7 | Akarsu, Ardanuç | child | 1 | 718 | 1,044 | null | Osmanlı idaresinin askere ve vergi alma amacıyla 1835 yılında gerçekleştirdiği nüfus tespitinde Aharşia'da 22 hanede 63 erkek yaşıyordu. Erkek sayısı kadar kadın sayısı eklenince, köyün toplam nüfusunun 126 kişiden oluştuğu ortaya çıkar. Köyün nüfusunun 1595 yılından itibaren artmamış, aksine azalmış olması dikkat çeki... | [
0.05015482380986214,
0.023891674354672432,
-0.039266783744096756,
-0.007841594517230988,
0.03479449450969696,
-0.0017961972625926137,
0.005573887377977371,
0.07205729186534882,
0.04702228307723999,
-0.0022876583971083164,
0.00206187111325562,
-0.006229074206203222,
-0.04391789436340332,
-0... |
a2cefdac-7920-474a-b156-e02e0b1b4d03 | 00000b9e-e97e-4fb1-aac5-c826d7034249 | 0217ccca-d628-4984-aece-d327b055b4cb | https://tr.wikipedia.org/wiki/Akarsu%2C%20Ardanu%C3%A7 | Akarsu, Ardanuç | child | 2 | 1,046 | 1,483 | null | Aharşia, uzun süre Osmanlı idaresinde kaldıktan sonra, 93 Harbi'nde Rusların eline geçti. Rus idaresinin Aharşia (Ахаршиа / Ахаричиа) olarak kaydettiği köy, Artvin sancağının (okrug) Ardanuç kazasına (uçastok) bağlıydı. Diagarmiçi nahiyesinin altı köyünden biriydi. Nüfusu 128 kişiden oluşuyordu. Nüfusun tamamının "Türk... | [
0.06201807036995888,
-0.014409581199288368,
-0.03301725909113884,
-0.03006397746503353,
0.013600360602140427,
0.009491035714745522,
0.0020637453999370337,
0.07196161895990372,
0.0578504353761673,
-0.024449560791254044,
0.022170765325427055,
-0.006294870283454657,
-0.032866012305021286,
0.0... |
4e935e56-f152-4d21-b008-e647529d9e56 | 00000b9e-e97e-4fb1-aac5-c826d7034249 | 0217ccca-d628-4984-aece-d327b055b4cb | https://tr.wikipedia.org/wiki/Akarsu%2C%20Ardanu%C3%A7 | Akarsu, Ardanuç | child | 3 | 1,485 | 2,142 | null | Aharşia, Birinci Dünya Savaşı'nın sonuna doğru Rusların bölgeden çekilmesinden sonra bir süre bağımsız Gürcistan'ın sınırları içinde kaldı. Sovyet Rusya'nın Gürcistan'ı işgali sürerken, köyün de yer aldığı Artvin-Ardahan bölgesi fiilen Türkiye'ye katıldı. 16 Mart 1921'de, Moskova Antlaşması'yla da köy yeniden Türkiye'y... | [
0.0682905837893486,
0.005122788716107607,
-0.015028432011604309,
-0.026010382920503616,
0.03377947583794594,
0.008059913292527199,
0.007369495462626219,
0.04570953547954559,
0.05905204638838768,
-0.017532888799905777,
0.011850539594888687,
0.0005418300279416144,
-0.05121355503797531,
0.015... |
0217ccca-d628-4984-aece-d327b055b4cb | 00000b9e-e97e-4fb1-aac5-c826d7034249 | null | https://tr.wikipedia.org/wiki/Akarsu%2C%20Ardanu%C3%A7 | Akarsu, Ardanuç | parent | 0 | 0 | 2,142 | null | Aharşia'nın yer aldığı Klarceti bölgesi, orta çağda Gürcistan'ın güneybatı topraklarını oluşturuyordu. Osmanlılar bölgeyi ve Aharşia köyünü 16. yüzyılın ortasında ele geçirdi. 1574 tarihli Defter-i Mufassal-i Vilayet-i Gürcistan adlı Osmanlı tahrir defterine göre köyün nüfusu 27 haneden oluşuyordu. Nüfusun tamamı Hrist... | null |
4a16c61a-2161-4955-aa49-7fde9ecb1c76 | 0000109f-0322-4c20-9874-a5dbae1646a6 | 9e2eac54-55a6-4f78-bdfd-bed3129ec4e0 | https://tr.wikipedia.org/wiki/Pierre-Auguste%20Renoir%20tablolar%C4%B1%20listesi | Pierre-Auguste Renoir tabloları listesi | child | 0 | 0 | 311 | null | Bu liste empresyonist ressam Pierre Auguste Renoir'ın resimlerinin (tamamlanmış) listesidir. Renoir, müzayedede 78,1 milyon Amerikan dolarına (1990'da) satılan yaklaşık 4000 tablo yaptı. Renoir resimlerinin en büyük koleksiyonu Philadelphia, Pennsylvania, Amerika Birleşik Devletleri'ndeki Barnes Vakfı'ndadır . | [
0.0316811166703701,
-0.03679169341921806,
-0.00713754165917635,
-0.01151156798005104,
0.01535902637988329,
-0.0063164448365569115,
-0.00669623538851738,
0.004435570910573006,
0.07171592116355896,
-0.03670172020792961,
0.038478121161460876,
0.0422162264585495,
-0.04761992022395134,
-0.00046... |
9e2eac54-55a6-4f78-bdfd-bed3129ec4e0 | 0000109f-0322-4c20-9874-a5dbae1646a6 | null | https://tr.wikipedia.org/wiki/Pierre-Auguste%20Renoir%20tablolar%C4%B1%20listesi | Pierre-Auguste Renoir tabloları listesi | parent | 0 | 0 | 311 | null | Bu liste empresyonist ressam Pierre Auguste Renoir'ın resimlerinin (tamamlanmış) listesidir. Renoir, müzayedede 78,1 milyon Amerikan dolarına (1990'da) satılan yaklaşık 4000 tablo yaptı. Renoir resimlerinin en büyük koleksiyonu Philadelphia, Pennsylvania, Amerika Birleşik Devletleri'ndeki Barnes Vakfı'ndadır . | null |
End of preview. Expand in Data Studio
Wikipedia-TR-2023-Embedded-Dump
Türkçe Vikipedi (tr.wikipedia.org) makaleleri, retrieval / RAG kullanım
senaryoları için parçalanmış (chunk) ve embedding'lenmiş hâliyle. Her
makale bir parent (ana) chunk'a (tüm makale metni, bağlam
genişletmek için) ve birden fazla child (alt) chunk'a (her biri
kendi embedding'ine sahip küçük pasajlar) bölünmüştür.
İçerik
| Makale | 348.751 |
| Embedding'li child chunk | 1.308.623 |
| Parent chunk (embeddingsiz) | 348.751 |
| Embedding modeli | intfloat/multilingual-e5-large, 1024 boyut |
| Dil | Türkçe |
| Lisans | CC BY-SA 3.0 |
Şema
| Kolon | Tip | Açıklama |
|---|---|---|
chunk_id |
string (uuid) | bu chunk'ın benzersiz kimliği |
document_id |
string (uuid) | kaynak makalenin kimliği; bir parent ile onun child'ları paylaşır |
parent_chunk_id |
string (uuid) | child satırlar için parent chunk id'si; parent satırlarda null |
wikipedia_url |
string | kaynak tr.wikipedia.org URL'si |
title |
string | makale başlığı |
chunk_type |
string | "parent" veya "child" |
ordinal |
int32 | chunk'ın kendi dokümanı/tipi içindeki sırası |
char_start / char_end |
int32 | makalenin normalize edilmiş metnindeki karakter aralığı |
token_count |
int32 | text alanının token sayısı (varsa) |
text |
string | chunk metni |
embedding |
list[1024] | text'in dense embedding'i; parent satırlarda null |
Chunking (parçalama) stratejisi
Makaleler, parent_chunk_id ile ilişkilendirilen bir parent chunk
(tüm makale) ve onun içindeki birkaç child chunk'a (daha küçük
pasajlar) bölünmüştür. Yalnızca child chunk'lar embedding taşır ve
retrieval için asıl kullanılacak birimdir; parent chunk'lar ise bir
retrieval pipeline'ının eşleşen bir child'ı daha geniş bağlama
genişletebilmesi için tutulur — küçük parçalar arama isabetini
artırırken tam makale bağlamı korur.
Embedding modeli
Embedding'ler intfloat/multilingual-e5-large
(1024 boyut) ile üretilmiştir. Modelin kullanım kuralına göre chunk
metni embedding'lenmeden önce "passage: " öneki ile kodlanmıştır — bu
önek saklanan text kolonunda yer almaz. Bu vektörlere karşı sorgu
embedding'i üretecekseniz, eğitim kuralıyla uyumlu olması için sorgu
metninizin başına "query: " ekleyin (bkz. model kartı).
Kullanım
from datasets import load_dataset
from sentence_transformers import SentenceTransformer
ds = load_dataset("SalihHub/Wikipedia-TR-2023-Embedded-Dump", split="train")
children = ds.filter(lambda r: r["chunk_type"] == "child")
model = SentenceTransformer("intfloat/multilingual-e5-large")
query_vector = model.encode("query: Kapadokya hangi ilde yer alır?", normalize_embeddings=True)
# child chunk'ları bir vektör veritabanına (pgvector, FAISS, Chroma vb.)
# yükleyip query_vector ile kosinüs benzerliği araması yapın; eşleşen
# child'ı parent_chunk_id üzerinden parent chunk'a genişletip bağlam
# olarak kullanın.
Sınırlamalar
- İçerik 2023 Türkçe Vikipedi dump'ından türetildiği için 2023 sonrasındaki olayları, güncellemeleri kapsamaz.
- Vikipedi'nin kendi doğruluk, güncellik ve tarafsızlık sınırlamaları (topluluk tarafından düzenlenen bir kaynak olması) bu veri kümesine de geçer.
Lisans
Metin içeriği Türkçe Vikipedi'den türetilmiştir ve Vikipedi'nin kendi lisanslamasıyla uyumlu olarak CC BY-SA 3.0 altında dağıtılmaktadır.
- Downloads last month
- 138