Tuteldove/Y-SAGE_Full_window_dataset

Y-SAGE N64 Full-Window Dataset

目錄

• 一、資料概要
• 二、單筆畸變特徵資料如何變成結果
• 三、完整資料契約
• 四、補償方向與 target 語意
• 五、欄位分類與使用範圍
• 六、記憶體安全讀取
• 七、再現性與限制
• 八、隨附內容

這是受控 synthetic radial projection 環境下的 N64 full-window 重新觀測資料。每一列從一條原始垂直線出發，經單參數 k1 徑向前向投影，再以投影後仍可見的 N64 樣本計算 X/Y 幾何摘要。

欄位中的 HGM／midline 是歷史相容名稱，予以保留以避免破壞既有程式與模型契約。本文檔將核心量稱為 特徵 X 軸支撐邊界摘要（Feature X-Axis Support-Edge Summary），記為 M_x；程式中的語意名稱為 feature_x_support_summary。它目前是既有 estimated_midline_x 欄位的語意別名，不是新增的 CSV 欄位。

一、資料概要

本文的主要研究人口是本投影慣例下的 k1<0 桶型徑向畸變樣本。完整檔另外保留 k1=0 與 k1>0，用途是 synthetic sanity control 與相反投影方向的對照，不代表三組具有相同研究權重。

Population	研究定位	列數
k1<0	主要研究人口	6,274,012
k1=0	無畸變 sanity control	632,448
k1>0	相反投影方向的對照人口	6,634,862
全部	本 repository 上傳的 full-window population	13,541,322

核心讀值：M_x

M_x 將有效投影點在 X 軸上的左右支撐邊界，摘要成一個 X 座標：

xmin = min(xd[j] for j in S)
xmax = max(xd[j] for j in S)
M_x  = 0.5*(xmin+xmax)

因此，M_x 是 support bounding box 的水平中心座標。它不是所有投影點的 mean_x、不是影像中心 cx，也不是一條被偵測出的中線。圖中的黃色星號只是把這個純量座標標在 bounding box 下邊框。M_x 與 x_span=xmax-xmin 合用時，可完整還原 xmin 與 xmax，形成資訊無損的中心－跨度表示。

[原始垂直線：x0, W, H, k1]
        |
        | 確定性 N64 等距取樣 [Eq. 1]
        v
[64 個投影前樣本]
        |
        | 單參數徑向前向投影 [Eq. 2]
        v
[64 個投影候選點]
        |
        | 目的端可見性與 full-window 篩選 [Eq. 3]
        v
[可觀測樣本集合 S]
        |
        | X 軸支撐端點與摘要座標 [Eq. 4]
        v
[X 支撐摘要 + 跨度]
        |
        | Y 軸可觀測性摘要 [Eq. 5]
        v
[單列 N64 full-window readout]

這條流程概括資料使用的方法。精確公式緊接在單列圖解之後；完整 58 欄衍生契約則見「三、完整資料契約」。

二、單筆畸變特徵資料如何變成結果

下圖直接讀取主要 CSV 第一列並重新執行正式 N64 公式。圖中的端點、X 支撐摘要座標、X span、Y span 與 CSV 儲存值逐項比對，絕對差均小於 1e-6。

圖中 X 軸為了看清約 10 px 的位移而局部放大；Y 軸仍顯示完整畫布高度，且 y=0 位於影像頂端。本例 W=H=1000，依本資料的 cx=W/2、cy=H/2 契約，影像中心為 (500,500) px，所以 Y 中心確實是 500 px。第二張只顯示影像左側特徵，cx=500 px 位於裁切範圍右方；紫色短箭頭放在 y=500 px 並平行指向右側畫面外，下方兩行文字標明其目的位置為 (500,500)。這是連續座標中心定義，不是以像素索引端點計算的 (499.5,499.5)。第三張紅色虛線框是有效投影點的 axis-aligned support bounding box：框寬為 x_span，框高對應 Y 支撐範圍；下邊框上的黃色星號 M_x 是 X 軸摘要座標，不是偵測線。

階段	此列資料／輸出
輸入	original_x=36, W=1000, H=1000, k1=-0.05
N64 投影與篩選	64 個候選點，64 個仍可觀測
X 支撐端點	xmin=40.9961 px, xmax=46.7949 px
X 支撐摘要與跨度	feature_x_support_summary=43.8955 px, X span=5.7987 px
Y 可觀測性	Y span=0.97676
相對投影前位置	feature_x_support_summary-original_x=+7.8955 px

使用的方法與公式

Eq. 1：確定性 N64 等距取樣

對 j=0,...,63：

x[j] = x0
y[j] = (H-1)*j/63

作用：把每條投影前垂直線轉成固定數量、包含 Y 軸兩端且可重複的觀測樣本。本步沒有 random X resampling。

Eq. 2：單參數徑向前向投影

cx = W/2
cy = H/2
f  = max(W,H)

xn = (x-cx)/f
yn = (y-cy)/f
r2 = xn^2+yn^2
scale = 1+k1*r2

xd = cx+(x-cx)*scale
yd = cy+(y-cy)*scale

作用：在固定 synthetic projection contract 下取得目的端位置。本資料只使用 k1；沒有 k2、切向畸變或主點 jitter。在此單參數公式中，k1<0 使 radial scale 隨 r 增加而下降，依 OpenCV calib3d 的定義屬於 barrel distortion；k1>0 則是方向相反的對照。

Eq. 3：目的端可見性與 full-window 篩選

S = {
    j |
    0 <= xd[j] <= W-1,
    0 <= yd[j] <= H-1,
    0 <= yd[j]/(H-1) <= 1
}

作用：只讓目的端影像內可被觀測的樣本參與摘要。視窗條件使用投影後 yd，不是投影前 Y。

Eq. 4：X 軸支撐端點與摘要座標

xmin = min(xd[j] for j in S)
xmax = max(xd[j] for j in S)
feature_x_support_summary = 0.5*(xmin+xmax)
x_span = xmax-xmin

作用：將可觀測 X 軸支撐整理為端點，再重參數化為位置中心與區間寬度。

中心－跨度表示可完整還原端點：

xmin = feature_x_support_summary-0.5*x_span
xmax = feature_x_support_summary+0.5*x_span

因此它是資訊無損的可逆端點重參數化。

Eq. 5：Y 軸可觀測性摘要

y_norm[j] = yd[j]/(H-1)
y_span = max(y_norm[j] for j in S)-min(y_norm[j] for j in S)
n_observed = |S|

作用：記錄這次 X 軸摘要實際依賴多少 Y 軸觀測支撐。Full window 只代表允許使用完整目的端 Y 視窗，不保證每列 y_span=1。

精簡 pseudocode

Require: x0, W, H, k1, N=64

samples   <- uniformly_sample_vertical_line(x0, N)
projected <- forward_radial_project(samples, k1, W, H)
observed  <- keep_destination_visible_points(projected, full_window)

if observed is empty:
    feature_y_valid <- 0
else:
    xmin, xmax <- x_support_endpoints(observed)
    feature_x_support_summary, x_span <- summarize_x_support(xmin, xmax)
    y_span, n_observed <- y_observability(observed)

Ensure: X geometry + Y observability + audit fields

輸出欄位先按用途理解

欄位群組	回答的問題	代表欄位
Synthetic control	這列在哪種受控環境生成？	original_x, k1, resolution
X geometry	投影特徵在 X 軸上的支撐位置與寬度？	feature_x_min/max, feature_x_support_summary（legacy：estimated_midline_x）, feature_x_span
Y observability	這份 X 摘要由多少 Y 軸資訊支撐？	feature_y_span_norm, n_observed_samples
Audit/derived	如何診斷位置、region、尺度與交互關係？	center offsets, region, normalized interactions

完整公式、legacy 欄位例外與 58 欄逐欄定義放在「三、完整資料契約」，與前述流程說明分開呈現。

補充展開：Dataset metadata、符號與原始逐步算法

Dataset at a glance

項目	內容
資料列數	13,541,322（不含表頭）
欄位數	58
主要檔案大小	8,027,137,457 bytes，約 7.48 GiB
檔案格式	CSV，UTF-8 with BOM
浮點輸出	%.10g
每列意義	一條 original_x 垂直線在指定畫布與 k1 下的 N64 full-window 觀測
投影模型	單參數徑向前向投影：scale = 1 + k1*r^2
每列預定樣本數	64
觀測視窗	投影後的完整 Y 範圍 [0,1]
主要 CSV	data/THIS_Y_proto_Fill__window_full__local_hgm_reobserved_N64.csv

本 full-window 檔保留來源 full population 的逐列 k1，沒有在輸出階段另行限制 k1 正負。

一列資料代表什麼

每列至少需要四個來源量：

• original_x：投影前垂直線的固定 X 座標。
• image_width = W、image_height = H：畫布尺寸。
• k1：受控 synthetic 徑向投影參數。

流程不重新抽取 original_x，也不加入 camera jitter 或 principal-point jitter。同一列會沿原始 Y 軸等距取 64 點，投影後只保留仍在影像內且落入 full window 的點，再重新計算端點、X 支撐摘要座標、跨度、Y 覆蓋及衍生欄位。

符號約定

符號	定義
W, H	image_width, image_height
x0	original_x
cx, cy	W/2, H/2
f	max(W,H)；座標正規化尺度，不是標定焦距
xmin, xmax	可見投影點的最小／最大 xd
M_x	特徵 X 軸支撐邊界摘要（Feature X-Axis Support-Edge Summary）；計算上等於支撐區間中點，儲存在歷史欄位 estimated_midline_x
span_x	xmax-xmin
d	M_x-cx，有正負的摘要座標－影像中心位移
u	d/cx
rho	abs(d)/cx = abs(u)
u0	(x0-cx)/cx
a	W/H
span_x_norm	span_x/W
gL	xmin/W
gR	(W-xmax)/W
yn	投影後的 yd/(H-1)

N64 full-window 算法

1. 建立原始垂直線樣本

對 j = 0..63：

x[j] = original_x
y[j] = (H - 1) * j / 63

這 64 點包含原始 Y 軸的兩端。N64 本身沒有隨機抽樣。

2. 單參數徑向前向投影

cx = W / 2
cy = H / 2
f  = max(W, H)

xn = (x - cx) / f
yn = (y - cy) / f
r2 = xn*xn + yn*yn
scale = 1 + k1*r2

xd = cx + (x - cx)*scale
yd = cy + (y - cy)*scale

本資料只使用 k1，沒有 k2、切向畸變或非中心主點模型。

3. 可見性與 full-window 篩選

visible = (
    0 <= xd <= W - 1
    and 0 <= yd <= H - 1
)

y_projected_norm = yd / (H - 1)
in_window = visible and 0 <= y_projected_norm <= 1

視窗判定使用的是投影後的 Y 座標，不是投影前的 source Y。n_observed_samples 是 64 點中通過此條件的數量。

4. 端點、X 支撐摘要與跨度

feature_x_min  = min(xd[in_window])
feature_x_max  = max(xd[in_window])
feature_x_span = feature_x_max - feature_x_min
feature_x_support_summary = 0.5*(feature_x_min + feature_x_max)

# Existing CSV storage alias:
estimated_midline_x = feature_x_support_summary

若沒有任何有效點，feature_y_valid=0，依賴觀測結果的幾何欄位設為缺值。

中心－跨度表示

中心－跨度表示是原始端點的資訊無損可逆重參數化：

M_x    = 0.5*(xmin+xmax)
span_x = xmax-xmin

xmin = M_x - 0.5*span_x
xmax = M_x + 0.5*span_x

因此中心－跨度表示保留了原始端點資訊，同時將特徵拆解為位置中心與區間寬度。

三、完整資料契約

以下內容供欄位選擇、模型契約、公式審計與再現使用。一般讀者不需要在理解方法時同時展開全部 58 欄。

展開完整 58 欄定義與 region contract

完整欄位定義（58 欄）

A. 來源、畫布與 synthetic control（1–7）

欄位	型別／單位	精確定義與用途
experiment_path	string	Synthetic case 識別碼，例如 seed_3691_1000x1000\k-0_05；是相對識別碼，不是本機絕對路徑。
original_x	numeric, px	x0，投影前垂直線的 X 座標。這是 synthetic GT／oracle control，不是一般實際部署時可直接取得的特徵。
image_width	numeric, px	W，畫布寬度。
image_height	numeric, px	H，畫布高度。
k1	numeric	Synthetic 單參數徑向投影強度。屬生成／分析 control；除非明確進行 oracle 或 GFDE 診斷，不應當成一般部署輸入。
aspect_ratio	numeric	a=W/H。抽查 25,000 列與 W/H 的最大差異約 4.62e-10（輸出取位造成）。
source_row_id	integer	來源 full CSV 的零起算列序號；用於跨視窗配對，不是幾何特徵。

B. X 軸端點、支撐摘要與影像中心位移（8–18）

欄位	單位	精確公式／語意
estimated_midline_x	px	M_x=0.5*(xmin+xmax)；feature_x_support_summary 的歷史儲存欄位名稱。它是摘要座標，不是偵測線。
midline_offset	px	M_x-x0；投影造成的有號觀測位移。欄位名稱為 legacy。
feature_x_min	px	xmin=min(xd[in_window])。
feature_x_max	px	xmax=max(xd[in_window])。
feature_x_span	px	span_x=xmax-xmin。
midline_2_cx_abs_dx	px	Legacy compatibility：實際為 abs(x0-cx)，不是 abs(M_x-cx)。需要摘要座標－中心距離時應使用 hgm_cx_offset_abs_px。
estimated_to_center	px	d=M_x-cx。
local_ratio	normalized	rho=abs(M_x-cx)/cx。
midline_2_cx_abs_dx_norm	normalized	Legacy compatibility：1+rho。它不是 midline_2_cx_abs_dx 的單純正規化。
midline_2_cx_dx	px	d=M_x-cx；與 estimated_to_center 同義。
midline_2_cx_dx_norm	normalized	u=(M_x-cx)/cx。

C. X 軸正規化、半徑 proxy 與交互特徵（19–32）

欄位	單位	精確公式／語意
feature_2_left_edge_dx_norm	normalized	gL=xmin/W。
feature_2_right_edge_dx_norm	normalized	gR=(W-xmax)/W；依正式程式使用 W，不是 W-1。
feature_edge_balance_lr	normalized	gR-gL；正值表示右側剩餘間距較大。
radius_2_c_norm	normalized	rho；與 local_ratio 同義。
radius_2_c_norm_sq	normalized	rho^2。
radius_2_c_norm_cub	normalized	rho^3。
feature_x_span_norm	normalized	span_x_norm=span_x/W。
feature_x_span_norm_sq	normalized	span_x_norm^2。
interaction_span_norm_x_midline_2_cx_dx_norm	normalized	span_x_norm*u；保留摘要座標相對影像中心的方向。
aspect_by_midline_2_cx_dx	normalized	a*u。
interaction_gap_left_x_gap_right	normalized	gL*gR。
aspect_by_feature_x_span	normalized	a*span_x_norm。
aspect_by_radius_2_c_norm	normalized	a*rho。
aspect_by_midline_2_cx_dx_px	px	a*d。

D. Y 軸可觀測範圍與視窗（33–42）

令 Y={yd/(H-1) | in_window}。

欄位	單位	精確公式／語意
feature_y_min_norm	normalized	min(Y)。
feature_y_max_norm	normalized	max(Y)。
feature_y_span_norm	normalized	max(Y)-min(Y)。它是實際可見投影樣本的 Y span，不因視窗名稱為 full 就強制等於 1。
feature_y_centroid_norm	normalized	mean(Y)。
feature_y_spread_norm	normalized	sqrt(mean(Y^2)-mean(Y)^2)；可見 Y 樣本的 population spread。
feature_y_core_coverage	normalized	與固定 core [0.35,0.65] 的交集長度除以 0.30：max(0,min(ymax,.65)-max(ymin,.35))/.30。
feature_y_valid	0/1	n_observed_samples>0 時為 1，否則為 0。
sim_window_id	string	本檔固定為 full。同一套產生器也支援其他視窗，但不在此 CSV。
sim_win_low_norm	normalized	本檔固定為 0。
sim_win_high_norm	normalized	本檔固定為 1。

E. Protocol、觀測品質與 canonical audit（43–58）

欄位	型別／單位	精確公式／語意
reobserve_protocol	string	固定為 local_window_hgm_n64_forward_radial。
hgm_sample_count	integer	預定投影樣本數，本檔固定為 64。
n_observed_samples	integer	64 點中通過有限值、影像可見性與 Y 視窗條件的點數；應與幾何結果一併解讀。
cx_px	px	cx=W/2。注意不是 (W-1)/2。
cy_px	px	cy=H/2。注意不是 (H-1)/2。
focal_px	px	f=max(W,H)；只是投影公式的座標尺度，不是相機標定焦距。
hgm_cx_offset_px	px	d=M_x-cx；legacy 欄位名稱，語意為有號摘要座標－影像中心位移。
hgm_cx_offset_abs_px	px	abs(d)；legacy 欄位名稱，語意為摘要座標－影像中心絕對距離。
hgm_cx_offset_norm	normalized	u=d/cx。
hgm_side	category	由 d 判定：負為 left、正為 right、abs(d)<=1e-12 為 center。
hgm_region	category	由 abs(u) 依下方 region contract 分類。
original_x_cx_offset_px	px	x0-cx；synthetic oracle 衍生欄位。
original_x_cx_offset_abs_px	px	abs(x0-cx)；synthetic oracle 衍生欄位。
original_x_cx_offset_norm	normalized	u0=(x0-cx)/cx；synthetic oracle 衍生欄位。
original_x_side	category	由 x0-cx 判定 left／right／center；synthetic oracle。
original_x_region	category	由 abs(u0) 依下方 region contract 分類；synthetic oracle。

Region contract

hgm_region 使用 abs(hgm_cx_offset_norm)；original_x_region 使用 abs(original_x_cx_offset_norm)。

normalized absolute offset	label
[0.00,0.40)	center_0_40
[0.40,0.60)	mid_40_60
[0.60,0.85)	outer_60_85
[0.85,0.90)	transition_85_90
[0.90,1.00]	extreme_90_100
>1.00	beyond_100
非有限值	invalid

由於正規化分母是半寬 cx=W/2，center_0_40 對應整張影像中央約 40% 寬度，而不是距中心 40% 的全寬。

四、補償方向與 target 語意

本資料同時提供「投影觀測位移」與「要套回 X 支撐摘要座標的 correction」，兩者方向相反：

midline_offset = M_x - original_x  # legacy field name

correction_applied_to_summary = original_x - M_x
                              = -midline_offset

original_x = M_x - midline_offset

若模型直接學歷史欄位 midline_offset，部署時應從 M_x 減去模型輸出。若模型學的是 correction magnitude／direction，必須在模型契約中另行明確定義，不可只依 offset 名稱猜測加減方向。

五、欄位分類與使用範圍

Synthetic control／oracle 欄位

下列欄位用於 synthetic 條件控制、GT 配對與診斷分析。最終採用的模型未使用這些欄位；曾使用它們的診斷模型亦未納入最終模型或研究主張。

• original_x
• k1
• original_x_cx_offset_*
• original_x_side
• original_x_region
• source_row_id、experiment_path（身份／配對用途）

N64 觀測與可由其衍生的欄位

• feature_x_min, feature_x_max, feature_x_span, estimated_midline_x（語意別名：feature_x_support_summary）
• feature_y_*, n_observed_samples
• hgm_cx_offset_*, hgm_side, hgm_region
• edge gap、span、radius proxy 與 aspect interaction 欄位

Legacy 欄位警告

• midline_2_cx_abs_dx = abs(original_x-cx)，名稱不能按字面解讀。
• midline_2_cx_abs_dx_norm = 1+abs(M_x-cx)/cx，不是前者的正規化。
• estimated_to_center、midline_2_cx_dx、hgm_cx_offset_px 是同一基本量的不同契約名稱。
• local_ratio、radius_2_c_norm、hgm_cx_offset_abs_px/cx 表示同一基本量。

這些重複欄位是歷史模型相容與診斷用途，不代表 58 欄都是統計獨立特徵。欄位應依實驗契約選取，重複欄位也不被解釋為彼此獨立的研究貢獻。

六、記憶體安全讀取

不要使用沒有 usecols／chunksize 的 pandas.read_csv() 一次讀入整份 8 GB CSV。

import pandas as pd

path = "THIS_Y_proto_Fill__window_full__local_hgm_reobserved_N64.csv"
usecols = [
    "source_row_id",
    "image_width",
    "image_height",
    "k1",
    "original_x",
    "estimated_midline_x",
    "feature_x_span",
    "feature_y_span_norm",
    "n_observed_samples",
]

for chunk in pd.read_csv(
    path,
    usecols=usecols,
    chunksize=25_000,
    low_memory=False,
):
    # 在這裡處理一個 chunk；不要把所有 chunk 重新累積到記憶體。
    print(chunk.shape)

Hugging Face datasets 也可使用 streaming，private／gated repository 需先登入：

from datasets import load_dataset

stream = load_dataset(
    "Tuteldove/Y-SAGE_Full_window_dataset",
    split="train",
    streaming=True,
    token=True,
)

for row in stream.take(3):
    print(row)

七、再現性與限制

• 這是 synthetic control dataset，不代表真實相機的完整光學模型。
• 投影中心固定為 W/2,H/2，沒有 principal-point jitter。
• 投影只含單一 k1；沒有 k2、切向畸變或其他 projection family。
• focal_px=max(W,H) 是座標正規化尺度，不是經相機標定取得的實體焦距。
• N64 是有限取樣摘要；n_observed_samples 與 feature_y_span_norm 應和 X 幾何一起報告。
• full-window 指使用完整目的端 Y 視窗，不保證每條特徵都得到 feature_y_span_norm=1。
• 本資料不加入 random X resampling、camera jitter 或 principal-point jitter。
• k1、ratio、resolution 與位置相關欄位包含大量確定性的衍生與交互關係；相關性或高 R^2 不等同於各欄位具有可相加的獨立解釋力。

八、隨附內容

• code/01_full_to_n64_windows.py：由 full source 產生 full／fixed windows／sliding windows 的入口。
• code/02_verify_outputs.py：輸出公式與支撐範圍驗證。
• code/step14_local_window_hgm_reobserve_production.py：正式 N64 投影與逐欄計算核心。
• protocol/shortest_path_contract.json：最短再現流程契約。
• protocol/03_QUICK_VALIDATION_20260713.md：100 列快速行為驗證；不是正式研究結果。

快速驗證中，中心、X span、Y span 等公式誤差均低於正式容許值 2.0e-6。此結果只證明產生程式遵守欄位公式，不代表模型準確度或真實世界泛化能力。