netatui

dist/posts/*.jsonl にある X の投稿メタデータを結合して、dist/metadata.jsonl を作るためのリポジトリです。

Files

• dist/posts/*.jsonl: アカウントごとの投稿 JSONL
• dist/metadata.jsonl: 全投稿を結合した JSONL
• dist/assets/*: HAR から復元した画像アセット
• users.txt: from-users が読むユーザー ID 一覧

Build

bun src/main.ts from-har
bun src/main.ts from-users
bun src/main.ts from-users --max-pages 10
bun src/main.ts dl-media
bun src/main.ts build-metadata
bun run dl-media

from-users は users.txt を改行区切りで読み込み、Yahoo リアルタイム検索 API を 10 並列でたどります。--max-pages を省略したときは 50 ページ上限です。進捗表示は標準エラーにライブ描画し、最終サマリは標準出力に JSON で出します。

dl-media は dist/posts/*.jsonl の media_urls を走査し、dist/assets にまだ存在しない HTTP(S) メディアだけを 10 並列でダウンロードします。uuid:// など再取得できない URL はスキップ件数として集計します。

Format

各行は 1 投稿を表す JSON で、entryId, created_at, fetched_at, full_text, media_urls, file_names, lang, 各種 count, user 情報, raw を含みます。file_names は dist/assets/* を指す相対パス配列で、Hugging Face で画像列として扱うためのキーです。