|
|
| """ |
| |
| see huggingface_echodict\MiniClaude\MCPS\pg-supabase\server.js |
| |
| see huggingface_echodict\MiniClaude\MCPS\pg-supabase\supabase\functions\hello\index.ts |
| edge functions , 用于读写 huggingface datasets 上的图片和坐标文本 |
| |
| |
| uv venv --python 3.12 --seed --clear |
| ./.venv/Scripts/pip.exe install -r requirements.txt |
| |
| duckdb.exe 运行后 CALL start_ui(); |
| |
| 用 .duckdb 作为本地的“动态引擎“ CRUD 用 .parquet 作为你的“静态发布与同步格式 Sync ，这是目前处理数据清洗标注与 Hugging Face 交互的业界标准范式 |
| |
| uv tool install hf |
| |
| hf sync ./buckets_hlm hf://buckets/echodict/buckets_hlm |
| 它的默认行为其实就是同步“文件夹内的内容”，而不是把整个文件夹连同外层目录名一起同步过去 |
| 建议在命令最后加上 --dry-run 参数。它不会真的上传，而是打印出一份清单告诉你哪些文件会被上传，确认无误后再去掉 --dry-run 正式执行 |
| |
| |
| Hugging Face 的 Dataset 仓库（以及 Model/Space 仓库）提供了非常方便的 API 来遍历目录并流式读取图片文件。 |
| 你可以使用官方的 huggingface_hub 库中的 HfFileSystem 或 list_repo_tree 等功能，这让云端的文件操作就像在本地操作一样自然。 |
| 感觉没必要用 buckets 了， 直接 datasets 就可以满足需求 |
| |
| 读取文件，本地修改，再提交到远程，它能做到吗 |
| 完全可以做到。在 Node.js 环境下使用 @huggingface/hub ，你可以轻松实现“下载（或流式读取） -> 本地修改 -> 提交覆盖到远程”的完整闭环。 |
| |
| HF Dataset 能多人合作提交修改然后合并修改吗 |
| 可以的，HF Dataset 完全支持多人合作提交和合并修改。 |
| 1. 基于 PR (Pull Request) 的协作流程（推荐，最安全） |
| 2. 基于 Organization (组织) 的直接协作 |
| 如果你和你的团队成员完全互信，不需要走 PR 审核流程，你们可以组成一个 Organization 。 |
| |
| vercel 支持 elm language 吗 |
| Vercel 完全支持部署 Elm 语言的项目 |
| |
| huggingface_hub 里有的功能全部都有对应的 http api 吗 |
| 是的，几乎所有功能都有对应的 HTTP API |
| |
| elm language 做网站的体验怎么样 |
| 极其适合 ：金融级应用、医疗数据系统、需要极高稳定性和复杂状态管理的后台管理系统、或者你个人想学习纯函数式编程。 |
| 极不适合 ：需要快速迭代的 MVP 项目、需要大量使用第三方 JS 库（如复杂的 3D 渲染、地图组件）的项目、或者团队成员不愿意学习新范式的项目。 |
| |
| duckdb 能不能连接两具 duckdb 库联查 |
| 可以的，DuckDB 完全支持连接多个数据库文件并进行跨库联查。 |
| |
| -- 挂载第一个数据库文件并命名为 db1 |
| ATTACH 'path/to/first.duckdb' AS db1; |
| |
| -- 挂载第二个数据库文件并命名为 db2 |
| ATTACH 'path/to/second.duckdb' AS db2; |
| |
| -- 跨库联查：将 db1 中的 users 表与 db2 中的 orders 表进行 JOIN |
| SELECT u.id, u.name, o.order_total |
| FROM db1.users u |
| JOIN db2.orders o ON u.id = o.user_id; |
| |
| |
| supabase 完全兼容 postgresql 吗 |
| 是的，Supabase 完全兼容 PostgreSQL。 |
| 更准确地说，Supabase 的底层核心 就是一个原生的 PostgreSQL 数据库 ，而不是一个“类似 Postgres”或“仅兼容 Postgres 协议”的替代品。你可以把它理解为“加了强大外围生态（Auth、API、存储、实时通信）的托管版 PostgreSQL”。 |
| |
| |
| see huggingface_echodict\MiniClaude\MCPS\pg-supabase\server.js |
| 如果你面临的是 数据量不大或偏重增删改的业务 ：继续使用 Supabase 原生的 Postgres 表，配合合理的索引，性能已经完全足够。 |
| 如果你面临的是 TB 级别的日志、埋点数据、历史订单 ，并且需要跑重度报表和统计： |
| 强烈建议采用 Supabase Storage + Parquet 格式 + DuckDB Wrapper 的方案，这能以极低的成本为你提供比肩专业数据仓库（如 ClickHouse）的分析性能。 |
| |
| Supabase Storage 能直接上传任意文件吗？有没有 UI 来管理文件 |
| 是的，完全可以。Supabase Storage 不仅支持上传任意类型的文件，还提供了一个非常直观的 Web UI 供您进行可视化管理。 |
| |
| Supabase 免费版配置 |
| Postgres 数据库 500 MB 磁盘空间 / 项目 |
| 文件存储（Storage） 1 GB（单文件上传上限 50 MB） |
| |
| |
| 500 MB 磁盘空间 / 项目 |
| |
| typst 可以用 elm language 重写吗 |
| Elm 做 UI 层，Typst 做引擎层，通过 WASM boundary 连接——这才是合理架构 |
| |
| """ |
|
|
| import duckdb |
|
|
|
|
| if __name__ == '__main__': |
|
|
|
|
|
|
| con = duckdb.connect('typsthlm.duckdb') |
|
|
| |
| con.execute("CREATE SEQUENCE IF NOT EXISTS seq_image_annotations_id;") |
| con.execute(""" |
| CREATE TABLE IF NOT EXISTS image_annotations ( |
| id INTEGER DEFAULT nextval('seq_image_annotations_id'), |
| image_path VARCHAR, |
| md5 VARCHAR PRIMARY KEY, |
| real_page INT, |
| logic_page INT, |
| boxs STRUCT( |
| charText VARCHAR, |
| isPicText BOOLEAN, |
| pic_path VARCHAR, |
| charPoly STRUCT( |
| x1 INT, y1 INT, x2 INT, y2 INT, x3 INT, y3 INT, x4 INT, y4 INT |
| ) |
| )[], |
| pageText VARCHAR |
| ) |
| """) |
|
|
| |
| con.execute(""" |
| INSERT INTO image_annotations (image_path, md5, boxs) VALUES ( |
| 'data/ch01/out2/SWX0005_00001_00001.webp', |
| '1234567890abcdef1234567890abcdef1', |
| [{"charText": '天', 'isPicText': false, 'pic_path': '', 'charPoly': {'x1': 0, 'y1': 0, 'x2': 100, 'y2': 100, 'x3': 200, 'y3': 200, 'x4': 300, 'y4': 300}}] |
| ) |
| """) |
|
|
| con.commit() |
|
|
| |
| print("--- 查询数据 ---") |
| result = con.execute(""" |
| SELECT |
| id, |
| boxs[1] AS first_box, |
| boxs[1].charText AS first_char_text, |
| boxs[1].charPoly AS first_char_poly, |
| pageText AS first_page_text |
| FROM image_annotations |
| """).fetchall() |
| |
| for row in result: |
| print(f"ID: {row[0]}") |
| print(f"First Box: {row[1]}") |
| print(f"First CharText: {row[2]}") |
| print(f"First CharPoly: {row[3]}") |
| print(f"First PageText: {row[4]}") |
|
|
| con.close() |
|
|
| pass |
