Datasets:
Cleaner data pipeline diagram using HTML tables
Browse files
README.md
CHANGED
|
@@ -326,100 +326,86 @@ This dataset receives **real-time updates** approximately every 10 blocks (~10 s
|
|
| 326 |
|
| 327 |
### Data Pipeline Architecture
|
| 328 |
|
| 329 |
-
<
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 330 |
|
|
|
|
| 331 |
```
|
| 332 |
-
|
| 333 |
-
|
| 334 |
-
|
| 335 |
-
|
| 336 |
-
|
| 337 |
-
|
| 338 |
-
|
| 339 |
-
โ โโโโโโโโโโโโโโโโ โ
|
| 340 |
-
โ โ ๐ฑ Genesis โ โ
|
| 341 |
-
โ โ Block 0 โ โ
|
| 342 |
-
โ โโโโโโโโฌโโโโโโโโ โ
|
| 343 |
-
โ โ โ
|
| 344 |
-
โ โโโโโโโโโโผโโโโโโโโโฌโโโโโโโโโโโโโโโโโ โ
|
| 345 |
-
โ โผ โผ โผ โ โ
|
| 346 |
-
โ โโโโโโโโโ โโโโโโโโโ โโโโโโโโโ โ โ
|
| 347 |
-
โ โ ๐งฎ SAT โ โ๐ Sum โ โ ๐บ๏ธ TSPโ โ โ
|
| 348 |
-
โ โโโโโฌโโโโ โโโโโฌโโโโ โโโโโฌโโโโ โ โ
|
| 349 |
-
โโโโโโโโโผโโโโโโโโโโผโโโโโโโโโโผโโโโโโโโโโโโโโโ โ
|
| 350 |
-
โ โ โ โ
|
| 351 |
-
โผ โผ โผ โ
|
| 352 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 353 |
-
โ ๐ P2P NETWORK โ
|
| 354 |
-
โ โ
|
| 355 |
-
โ โโโโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโ โ
|
| 356 |
-
โ โ ๐ก Node 1 โโโโโโโโโโบโ ๐ก Node 2 โ โ
|
| 357 |
-
โ โ 143.110.139.166 โ โ 68.183.205.12 โ โ
|
| 358 |
-
โ โโโโโโโโโโฌโโโโโโโโโ โโโโโโโโโโฌโโโโโโโโโ โ
|
| 359 |
-
โ โ โ โ
|
| 360 |
-
โ โโโโโโโโโโโโฌโโโโโโโโโโโโโโโโ โ
|
| 361 |
-
โ โผ โ
|
| 362 |
-
โ โโโโโโโโโโโโโโโโโโโ โ
|
| 363 |
-
โ โ ๐ฌ Gossipsub โ โ
|
| 364 |
-
โ โ Protocol โ โ
|
| 365 |
-
โ โโโโโโโโโโฌโโโโโโโโโ โ
|
| 366 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโผโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 367 |
-
โ
|
| 368 |
-
โผ
|
| 369 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 370 |
-
โ ๐ METRICS ENGINE โ
|
| 371 |
-
โ โ
|
| 372 |
-
โ โโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโ โ
|
| 373 |
-
โ โ โฑ๏ธ Timing โ โ ๐พ Memory โ โ ๐ฅ๏ธ Hardware โ โ ๐ Network โ โ
|
| 374 |
-
โ โ ฮผs precision โ โ byte-level โ โ context โ โ state โ โ
|
| 375 |
-
โ โโโโโโโโฌโโโโโโโ โโโโโโโโฌโโโโโโโ โโโโโโโโฌโโโโโโโ โโโโโโโโฌโโโโโโโ โ
|
| 376 |
-
โ โโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโโดโโโโโโโโโโโโโโโโโโ โ
|
| 377 |
-
โ โ โ
|
| 378 |
-
โ โโโโโโโโโโโโผโโโโโโโโโโโ โ
|
| 379 |
-
โ โ 54+ metrics/block โ โ
|
| 380 |
-
โ โโโโโโโโโโโโฌโโโโโโโโโโโ โ
|
| 381 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโผโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 382 |
-
โ
|
| 383 |
-
โผ
|
| 384 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 385 |
-
โ ๐ฏ DATA OUTPUT โ
|
| 386 |
-
โ โ
|
| 387 |
-
โ โโโโโโโโโโโโโโโโโโโ โ
|
| 388 |
-
โ โ ๐ฆ Buffer โ โ
|
| 389 |
-
โ โ (10 blocks) โ โ
|
| 390 |
-
โ โโโโโโโโโโฌโโโโโโโโโ โ
|
| 391 |
-
โ โ every ~10 seconds โ
|
| 392 |
-
โ โผ โ
|
| 393 |
-
โ โโโโโโโโโโโโโโโโโโโ โ
|
| 394 |
-
โ โ ๐ค HuggingFace โ โ
|
| 395 |
-
โ โ Dataset v2 โ โ
|
| 396 |
-
โ โโโโโโโโโโฌโโโโโโโโโ โ
|
| 397 |
-
โ โ โ
|
| 398 |
-
โ โผ โ
|
| 399 |
-
โ โโโโโโโโโโโโโโโโโโโ โ
|
| 400 |
-
โ โ ๐ Datasets API โ โ
|
| 401 |
-
โ โโโโโโโโโโฌโโโโโโโโโ โ
|
| 402 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโผโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 403 |
-
โ
|
| 404 |
-
โโโโโโโโโโโโโโโโโโโโผโโโโโโโโโโโโโโโโโโโ
|
| 405 |
-
โผ โผ โผ
|
| 406 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 407 |
-
โ ๐ฌ RESEARCH APPLICATIONS โ
|
| 408 |
-
โ โ
|
| 409 |
-
โ โโโโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโ โ
|
| 410 |
-
โ โ ๐ค Machine โ โ ๐ Performance โ โ ๐ Crypto โ โ
|
| 411 |
-
โ โ Learning โ โ Analysis โ โ Research โ โ
|
| 412 |
-
โ โโโโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโ โโโโโโโโโโโโโโโโโโโ โ
|
| 413 |
-
โ โ
|
| 414 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 415 |
-
|
| 416 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 417 |
-
Data flows from NP-complete problem solving
|
| 418 |
-
through metrics collection to real-time
|
| 419 |
-
research availability
|
| 420 |
-
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
|
| 421 |
```
|
| 422 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 423 |
</div>
|
| 424 |
|
| 425 |
---
|
|
|
|
| 326 |
|
| 327 |
### Data Pipeline Architecture
|
| 328 |
|
| 329 |
+
<table>
|
| 330 |
+
<tr>
|
| 331 |
+
<td>
|
| 332 |
+
|
| 333 |
+
**โ๏ธ CONSENSUS LAYER**
|
| 334 |
+
```
|
| 335 |
+
๐ฑ Genesis (Block 0)
|
| 336 |
+
โ
|
| 337 |
+
โโโโโโโโโผโโโโโโโโ
|
| 338 |
+
โผ โผ โผ
|
| 339 |
+
๐งฎSAT ๐Sum ๐บ๏ธTSP
|
| 340 |
+
โ โ โ
|
| 341 |
+
โโโโโโโโโดโโโโโโโโ
|
| 342 |
+
โ
|
| 343 |
+
โผ
|
| 344 |
+
```
|
| 345 |
+
|
| 346 |
+
</td>
|
| 347 |
+
<td>
|
| 348 |
|
| 349 |
+
**๐ P2P NETWORK**
|
| 350 |
```
|
| 351 |
+
๐ก Node 1 โโโโโโบ ๐ก Node 2
|
| 352 |
+
โ โ
|
| 353 |
+
โโโโโโโโโโฌโโโโโโโโโ
|
| 354 |
+
โผ
|
| 355 |
+
๐ฌ Gossipsub
|
| 356 |
+
โ
|
| 357 |
+
โผ
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 358 |
```
|
| 359 |
|
| 360 |
+
</td>
|
| 361 |
+
</tr>
|
| 362 |
+
<tr>
|
| 363 |
+
<td>
|
| 364 |
+
|
| 365 |
+
**๐ METRICS ENGINE**
|
| 366 |
+
```
|
| 367 |
+
โฑ๏ธTiming ๐พMemory ๐ฅ๏ธHardware ๐Network
|
| 368 |
+
โ โ โ โ
|
| 369 |
+
โโโโโโโโโโโดโโโโโโโโโโโดโโโโโโโโโโโ
|
| 370 |
+
โ
|
| 371 |
+
54+ metrics/block
|
| 372 |
+
โ
|
| 373 |
+
โผ
|
| 374 |
+
```
|
| 375 |
+
|
| 376 |
+
</td>
|
| 377 |
+
<td>
|
| 378 |
+
|
| 379 |
+
**๐ฏ DATA OUTPUT**
|
| 380 |
+
```
|
| 381 |
+
๐ฆ Buffer (10 blocks)
|
| 382 |
+
โ
|
| 383 |
+
every ~10 seconds
|
| 384 |
+
โ
|
| 385 |
+
โผ
|
| 386 |
+
๐ค HuggingFace v2
|
| 387 |
+
โ
|
| 388 |
+
โผ
|
| 389 |
+
๐ Datasets API
|
| 390 |
+
```
|
| 391 |
+
|
| 392 |
+
</td>
|
| 393 |
+
</tr>
|
| 394 |
+
</table>
|
| 395 |
+
|
| 396 |
+
<div align="center">
|
| 397 |
+
|
| 398 |
+
**๐ฌ RESEARCH APPLICATIONS**
|
| 399 |
+
|
| 400 |
+
| ๐ค Machine Learning | ๐ Performance Analysis | ๐ Cryptography Research |
|
| 401 |
+
|:-------------------:|:-----------------------:|:------------------------:|
|
| 402 |
+
| Training data | Solve time analysis | Hash function studies |
|
| 403 |
+
| Benchmarking | Hardware comparisons | Difficulty research |
|
| 404 |
+
|
| 405 |
+
---
|
| 406 |
+
|
| 407 |
+
*Data flows from NP-complete problem solving โ metrics collection โ real-time research availability*
|
| 408 |
+
|
| 409 |
</div>
|
| 410 |
|
| 411 |
---
|