相机史诗级智商税:色彩位深/bit数

相机史诗级智商税:色彩位深/bit数

色彩位深这个东西,我在之前有很多讨论了。先放结论,后面我来详细展开。

我快期末考试了,没时间引入太多复杂模型来评估(而且引入残差并傅里叶展开会牵扯更多的感知评价,偏离【一切情况下、科研情况下均无意义】的讨论),但是证据强度还算够用。

你会发现,网络时代如此几十年,还从没有过一个人发过视频对比出【16bit相机单张经过某种调色流程,比采样到14bit后进行同样的流程更好】。

1,对于你能买到的一切市售相机,16bit毫无价值——无论在调色上,还是在信噪比上,还是在一切后期的输出流程、科研需求中,都毫无价值。

2,对于一切夸张调色以及严苛的天文摄影、严苛的胶片反相/后处理,严苛的文物恢复工作,14bit及以上的相机输出位深毫无价值。

3,在iso400以上,一切市售相机从14bit截为12bit,pdr损失都低于0.1档。

ps:缩图流程以及堆栈流程,出于oversampling gain,你应当把位深进行相应提高,或者在浮点上做运算。但这和相机本身的bit数毫无关系——相机8bit也不耽误你在16bit上堆栈。

有点数学直觉但不多的人可能会持有两个看法:1,起码要分配到1e/dn吧?2,16bit下总归会有多的两位信息吧?

那么我针对这两种的评价是:1,在噪声的影响下,某个电子数根本不会跑到一个确定的dn值,他的随机幅度是极大的,做不做到1e/dn并无实质含义;2,16bit下最后两位信息你可以认为是14bit左移两位,后面两位加纯随机数。


输出位深相关的图像低阶信号统计:信噪比、量化相位与近黑行为

Low-Order Signal Statistics Related to Image Output Bit Depth: Signal-to-Noise Ratio, Quantization Phase, and Near-Black Behavior

作者:姜尧耕(https://y-g-jiang.github.io) 日期:2026-06

Update:

github.com/y-g-jiang/pa

摘要

本文研究线性 RAW 输出位深(16/14/12 bit)对信号还原能力的影响,并将其量化为低位深输出与理想线性信号在信噪比、条件均值、误差能量与空间结构上的相似性。近黑 banding 被建模为带高斯读噪的最近邻量化问题,核心对象是输出的条件分布及其低阶条件矩。量化输出的特征函数等于输入特征函数以量化频率为周期的复制求和;对高斯读噪,一阶和二阶相位谐波中的特征函数及其导数项都带有随读噪与量化步长之比指数衰减的高斯因子。读噪由此充当一个高效的非减性 dither,将相位相干结构指数压低。在此框架下,本文给出直接目标位深量化的一阶条件均值偏差闭式傅里叶级数,进而推导二阶误差能量的完整傅里叶形式;对 16-bit 整数码流再量化到 14-bit 的两级过程,则单列其离散转移模型与数值结果。对大量相机数据进行分析,比较其 14-bit、12-bit 下的信噪比与动态范围差异,并给出相应的低阶统计判据。全部分析限定于线性 RAW 域、最近邻量化与指定的独立同分布高斯时间读噪模型。

关键词:RAW 位深;16-bit;14-bit;12-bit;PDR;量化噪声;dither;banding;GFX100S;条件矩;傅里叶谐波;特征函数;Sheppard 修正


1. 引言

编码精度的意义建立在其承载的信号信息上。传感器时间读噪与 shot noise 会使最低几位逐帧摆动;PRNU、DSNU、黑场校正残差及后续链路还可能引入固定或相关结构。前一类随机项能够打散量化相位,此时若直接截位到低位,数值上的空格不必然对应稳定的量化相位结构,极端的可以参考类似二值半调的形式。

量化误差是输入的确定性函数,加性独立噪声只在特定条件下对矩成立 [8]。所以本文给出 s、读噪 N,研究条件分布 P(Y_b\mid s) 和它的各阶条件矩,如此刻画读噪把确定性结构打散到什么程度。

设理想线性 RAW 信号为 s,输出位深为 b,量化输出为 Y_b。我们关心的是输出相对理想信号的误差

 e_b(s)=Y_b-s .

如果两个位深 b_1,b_2 的误差分布在几个关键统计量上足够接近,也就是

 P(Y_{b_1}\mid s)\approx P(Y_{b_2}\mid s),

那么对这个信号来说,b_1b_2 就是相似的,在如下四层:

  1. 指定目标 SNR 下的 SNR-based DR 损失够小;其中 PDR 专指 T_{\mathrm{PDR}}=16000/PH 的情形;
  2. 条件均值偏差 B_b(s)=\mathbb E[Y_b-s\mid s] 够小;
  3. 二阶误差能量 M_{2,b}(s)=\mathbb E[(Y_b-s)^2\mid s] 的量化相位调制够小;
  4. 在视觉或空间处理的尺度上,残差的相关性、频谱和局部包络没有成稳定结构。

第一层关心损失多少信噪比,第二层关心无限堆栈之后会不会留下均值结构,第三层关心零均值残差的颗粒强弱还会不会随量化相位起伏,第四层关心这些起伏会不会在空间上排成稳定图样。本文把条件均值、条件二阶矩等低阶条件统计量中随 s\bmod\Delta 周期变化的部分,称为低阶量化相位结构;其中一阶结构对应确定性均值偏置,二阶结构对应零均值残差的能量调制。

特别地本文区分两条量化链路。直接目标位深量化写为

 Y_b^{\mathrm{dir}}=Q_{\Delta_b}(s+N).

若连续输入先量化为 16-bit 整数码,再把该整数码流量化到 14-bit,则写为

 Y_{14}^{\mathrm{post}}=T_{16\to14}\!\left(Q_1(s+N)\right),\qquad T_{16\to14}(n)=4\operatorname{round}_{\mathrm{even}}(n/4).

这里需要把“16-bit 整数码降到 14-bit”继续分开。字面截位 4\lfloor n/4\rfloor 与普通 half-up 四舍五入 4\lfloor n/4+1/2\rfloor 在扣除各自的固定码值偏移后,都是直接 Q_4 的量化相位平移;它们的相位平均中心化误差能量、最坏相位幅度和任一相同目标 SNR 下的 DR 均与直接 Q_4 相同,因而在 T_{\mathrm{PDR}} 下的 PDR 也相同。NumPy/Python 的 round 采用 ties-to-even,半步整数码会按粗码奇偶交替取向,所得量化单元宽度交替变化,不能化为一个固定偏移加相位平移。§3 至 §9 的闭式结果以 Y_b^{\mathrm{dir}} 为对象,同时覆盖截位与 half-up 在上述中心化口径下的等价结果;§10 单列 ties-to-even 两级模型。相机内部切换 ADC 位深还可能同时改变模拟增益、读出路径和后端噪声,可以对应模式的实测参数代入。


2. 经典框架:dither与量化的特征函数

2.1 量化输出的特征函数

设最近邻量化器

 Q_\Delta(x)=\Delta\operatorname{round}\!\left(\frac{x}{\Delta}\right),

作用在随机变量 X 上。Widrow 的统计量化理论给出量化输出的特征函数等于输入特征函数以 \Psi=2\pi/\Delta 为周期复制求和 [4][5][6]。下式采用 \operatorname{sinc}(x)=\sin(x)/x

 \Phi_{Q_\Delta(X)}(u)=\sum_{l=-\infty}^{\infty}\Phi_X(u+l\Psi)\,\operatorname{sinc}\!\Big(\tfrac{\Delta(u+l\Psi)}{2}\Big).

因此,量化误差里随 s 以量化网格为周期的条件统计量可在格点 2\pi k/\Delta 处分析。一阶条件矩的第 k 个谐波正比于输入特征函数的格点值;更高阶条件矩还会出现特征函数导数及其组合。高斯特征函数的各阶导数均为多项式乘同一个高斯指数因子。当 X=s+N、读噪 Ns 独立时,

 \Phi_X\!\left(\tfrac{2\pi k}{\Delta}\right)=e^{\,i 2\pi k s/\Delta}\,\Phi_N\!\left(\tfrac{2\pi k}{\Delta}\right).

Sripad 和 Snyder 的格点条件给出量化误差边缘分布严格均匀的判据,即 \Phi_X(2\pi l/\Delta)=0,\ \forall l\neq0 [7]。跨样本白性还涉及输入样本对的联合特征函数;本文在标量格点条件之外另行假设空间与帧间读噪独立。一般高斯输入的格点值不为零,但会随 r=\sigma/\Delta 快速减小。§3.1 以 A_2(r)=12(4r^2+1/\pi^2)e^{-2\pi^2r^2} 表示二阶首谐波相对于 \Delta^2/12 的调制,§7 给出完整二阶级数及其截断余项界。

2.2 高斯读出噪声的dithering行为

对零均值高斯读噪 N\sim\mathcal N(0,\sigma^2),特征函数处处不为零,

 \Phi_N\!\left(\tfrac{2\pi k}{\Delta}\right)=\exp\!\left[-\tfrac12\Big(\tfrac{2\pi k}{\Delta}\Big)^2\sigma^2\right]=\exp\!\left[-2\pi^2k^2\Big(\tfrac{\sigma}{\Delta}\Big)^2\right].

这个阻尼因子说明,高斯读噪不能把任何一阶矩调制严格清零(高斯特征函数没有实零点),但能有效压低第 k 个相位相干谐波。记 r=\sigma/\Delta,主谐波 k=1 的阻尼为 e^{-2\pi^2r^2}

Bennett 在 1948 年已用特征函数方法推导高斯过程均匀量化误差的精确谱,其中同样出现高斯阻尼;相关误差的白性还依赖输入的联合统计 [2]。本文不使用该相关函数的具体形式,只取标量格点阻尼推导条件矩。一般地,输入分布越平滑、格点特征函数越小,量化误差越接近量化定理给出的统计模型 [13]。在本文采用的高斯时间读噪模型中,特征函数在格点 2\pi k/\Delta 处给出很强的指数衰减。


3. 量化步长、均匀量化噪声与 SNR-based DR

3.1 步长与均匀量化噪声

统一用 16-bit DN(记 DN16)做单位,16-bit 最小步长 \Delta_{16}=1\,\mathrm{DN16},直接 14-bit 目标量化的等效步长 \Delta_{14}=4\,\mathrm{DN16}。若改用 14-bit ADU 比较 14-bit 与更低位深 b,量化步长为 \Delta_b=2^{14-b}。本节 DR 公式均针对 Y_b^{\mathrm{dir}}。当量化误差与输入低协方差、量化相位又被噪声打散时,均匀量化噪声近似给出经典结果:

 \sigma_{q,b}^2=\frac{\Delta_b^2}{12},\qquad \sigma_{q,b}=\frac{\Delta_b}{\sqrt{12}} .

这只是信噪比层面的低协方差近似。\Delta^2/12 需要量化相位被噪声充分随机化。对高斯输入,相关推导见 [27];本文采用 §7 的完整结果。二阶误差能量首谐波的实际半幅为 \Delta^2\delta(r),其中

 \delta(r)=\left(4r^2+\frac{1}{\pi^2}\right)e^{-2\pi^2r^2}, \qquad A_2(r)=\frac{\Delta^2\delta(r)}{\Delta^2/12}=12\delta(r).

r=0.5 时,\delta=7.9206\times10^{-3},故实际半幅为 7.9206\times10^{-3}\Delta^2,相对调制 A_2=9.5047\%。要求 A_2\le1\%r=0.619830;解析解及完整级数的余项控制见 §7、§8。平滑渐变中的相干结构还需结合条件分布和空间统计判断。

GFX100S 的 4.729\,\mathrm{DN16} 是已扣除量化项的净量化前时间读噪。对直接 16-bit 与直接 14-bit 目标量化,近黑总噪声分别为

 N_{16}=\sqrt{4.729^2+\frac1{12}}=4.7378,\qquad\\ N_{14}=\sqrt{4.729^2+\frac{16}{12}}=4.8679\quad(\mathrm{DN16}).

按目标 SNR 趋近于零的极限估计,最大动态范围差异为

 \Delta DR_{\max}=\log_2\frac{4.8679}{4.7378}=0.0391\ \mathrm{stops}.


未发生饱和时,约 0.04 stop 的曝光差可抵消直接 14-bit 目标量化的近黑 SNR 代价,使得全线信噪比表现均优于 16-bit;对应的高光余量也减少约 0.04 stop。若 16-bit 整数码经截位或 half-up 降到 14-bit,扣除固定码值偏移后沿用同一能量结果;若采用 ties-to-even,则两级误差的依赖关系会增加能量,其精确计算见 §10。

3.2 任意目标 SNR 下的 DR 与 PDR 特例

设信号电子数 S、总读出等效噪声 N(电子单位,shot 方差取 S),则

 \mathrm{SNR}=\frac{S}{\sqrt{S+N^2}} .

给定目标 SNR T,令 S/\sqrt{S+N^2}=T,平方后得 S^2-T^2S-T^2N^2=0,取正根

 S_T(N)=\frac{T^2+\sqrt{T^4+4T^2N^2}}{2}.

若满阱电子数为 F,则该目标下的 SNR-based DR 为

 \mathrm{DR}(T;N,F)=\log_2\!\frac{F}{S_T(N)}.

若 14-bit 与低位深 b 的噪声分别是 N_{14}(I),N_b(I),并取相同满阱,则低位深达到同一目标 SNR 所损失的 DR 为

 \Delta\mathrm{DR}_b(T,I) =\log_2\!\left(\frac{S_T\!\bigl(N_b(I)\bigr)}{S_T\!\bigl(N_{14}(I)\bigr)}\right).

PDR 使用 PLT [24] 的固定目标

 T_{\mathrm{PDR}}=\frac{16000}{PH}, \qquad \mathrm{PDR}(N,F;PH) :=\mathrm{DR}(T_{\mathrm{PDR}};N,F), \qquad \Delta\mathrm{PDR}_b(I) :=\mathrm{PDR}\!\bigl(N_{14}(I),F;PH\bigr)-\mathrm{PDR}\!\bigl(N_b(I),F;PH\bigr) =\Delta\mathrm{DR}_b(T_{\mathrm{PDR}},I),

其中 PH 为输出图像的像素高度。PDR 是 SNR-based DR 在该固定目标上的专名;任意其他目标 T 下的结果均记为 \mathrm{DR}(T)\Delta\mathrm{DR}_b(T,I)

r=\sigma/\Delta=0.5 时,二阶首谐波半幅为 \Delta^2\delta(0.5)=7.9206\times10^{-3}\Delta^2,相对于 \Delta^2/12 的调制为 A_2(0.5)=9.5047\%(§3.1、§7 与 [27])。当这一相位调制低于所选容差时,可将直接目标位深的量化噪声按低协方差近似并入量化前时间读噪:

 N_{14}(I)=k_{14}(I)\sqrt{R_{\mathrm{pre},14}(I)^2+\frac1{12}},

 N_b(I)=k_{14}(I)\sqrt{R_{\mathrm{pre},14}(I)^2+\frac{2^{2(14-b)}}{12}},

其中 R_{\mathrm{pre},14}(I) 是用 14-bit ADU 表示、已扣除量化项的净量化前时间读噪,k_{14}(I) 是从 ADU 折算到电子或统一噪声单位的比例因子,也就是转换增益的倒数(见 §4.2)。若输入已经是 14-bit 整数码,再量化到更低位深,需要先指定截位、half-up 或 ties-to-even;前两者在中心化后与直接目标量化等价,ties-to-even 应按离散转移概率重算。

其一,在 12-bit 模式可比 14-bit 多获得约 0.2 档曝光且未发生饱和的条件下,对 ISO 800 以上、除 A7S3 外的一切索尼机型(截至 2025 年;索尼已属同期噪声表现最好的一批),12-bit 的 SNR–EV 曲线在全部未过曝内容范围内均高于 14-bit。该结论覆盖任意目标 SNR T。在本节的均匀量化噪声模型内,\Delta\mathrm{DR}_b(T,I)T 增大而减小,其上确界为 T\to0 的噪声底极限;当约 0.2 档的额外曝光不小于该上确界时,它足以覆盖全部目标 SNR 下的位深损失。

其二,若只考察 PDR 规定的目标 T_{\mathrm{PDR}}=16000/PH,结论可以扩展到更广的机型范围:截至 2025 年,ISO 400 以上的一切市售相机,其 14\!\to\!12-bit PDR 损失均低于 0.1 档。

3.3 像素数与位深 DR 损失

固定传感器面积,固定单位面积满阱容与单位面积读噪功率,只改变像素数 P,即得位深损失随 P 的标度。

取目标 SNR T\to0,§3.2 的 \Delta\mathrm{DR}(T) 化为噪声底之比。

 \Delta\mathrm{DR}_{14\to12}^{(T\to0)} =\frac12\log_2\frac{R^2+\Delta_{12}^2/12}{R^2+\Delta_{14}^2/12} =\frac12\log_2\frac{r^2+1/12}{r^2+1/192}, \qquad r=\frac{R}{\Delta_{12}},\quad \Delta_{14}=\frac{\Delta_{12}}4.

R 为净量化前时间读噪,\Delta_{14}\Delta_{12} 为同一单位下的直接量化步长。该式在本节的低协方差均匀量化噪声模型内直接比较 14-bit 与 12-bit,分母已包含 14-bit 的 \Delta_{14}^2/12。各量随 P 的标度为:

  • 单位面积满阱一定 \Rightarrow 每像素满阱 \mathrm{FW}\propto1/P
  • 定位深、ADC 满量程对满阱(PLT 模型 [24] 的增益约定 k=\mathrm{FW}/2^{14}\Rightarrow 步长 \Delta\propto\mathrm{FW}\propto1/P
  • 单位面积读噪功率一定 \Rightarrow P\,R^2=\mathrm{const},即 R\propto1/\sqrt P

代入得

 r=\frac{R}{\Delta_{12}}\propto\sqrt P,\qquad \Delta\mathrm{DR}_{14\to12}^{(T\to0)} =\frac12\log_2\frac{1+c/P}{1+c/(16P)},

c 为常数;\Delta\propto1/P 随满阱增大快于 R\propto1/\sqrt P,故 P 越大则 r 越大、损失越小。

代入主页中 PLT 站公式作量级示意(全画幅参数、单位面积满阱与读噪功率固定、14-bit 基准 ISO)。极限列使用上式;T=20 列使用 §3.2 的 \Delta\mathrm{DR}_{14\to12}(20),其中 N_{12}^2=R^2+\Delta_{12}^2/12N_{14}^2=R^2+\Delta_{12}^2/192

像素数 (MP)满阱 (e⁻)读噪 (e⁻)r=R/\Delta_{12}\Delta\mathrm{DR}_{14\to12}^{(T\to0)}\Delta\mathrm{DR}_{14\to12}(T=20)
10080001.500.770.0890.0011
50160002.120.540.1670.0041
25320003.000.380.2980.016
12.5640004.240.270.4970.057

表中两列均以 14-bit 总噪声为分母,直接给出本节模型内的 14→12-bit DR 损失;前一列取噪声底极限,后一列取目标 SNR T=20。两者都不称为 PDR。这个标度依赖两种约定:定位深、满阱匹配时 \Delta\propto1/P,单位面积量化功率 \propto1/P;固定增益时(\Delta 不变、位深随满阱增大)单位面积量化功率 \propto P。本文与 PLT 取前者。

满阱本身给出与量化无关的另一标度:\mathrm{FW}\propto1/PR\propto1/\sqrt P,每像素动态范围 \mathrm{FW}/R\propto1/\sqrt P,每减半像素增 \tfrac12 stop(表中 100\to25 MP,\mathrm{FW}/R12.4 升至 13.4 stop)。


4. banding风险位置

4.1 决定比值 r=\sigma/\Delta

banding 由量化步长 \Delta、净时间噪声标准差 \sigma_t、空间渐变斜率、显示映射和观察尺度一起决定。对本文的直接量化模型,核心无量纲比值是 r=\sigma_t/\Deltar 很小时,输入在量化阈值附近缺少随机抖动,平滑渐变会和量化网格相干;r 够大时,量化相位被打散,一阶均值结构按 e^{-2\pi^2r^2} 迅速衰减(§2)。

由光子转移特性可知,同一位深下量化步长 \Delta 不随信号改变;在把 shot noise 近似为高斯项时,量化前时间噪声 \sigma_t(m)=\sqrt{\sigma_{\mathrm{read}}^2+m/K} 随信号上升,故 r=\sigma_t/\Delta 在低码值处最小、向亮部增大。这使 r 成为一个可跨亮度比较的保守指标:在亮度、空间频率、观察条件、tone curve 局部导数与 CSF 响应都相同的前提下,若两处的 r 相等,则量化台阶的可见性会随 \Delta 增大。线性提亮对信号、时间噪声与量化步长同步缩放,不改变 \sigma_t/\Delta。因此对相同目标感知范围,暗部最低码值处给出较保守的量化相位风险估计。

4.2 近黑噪声模型

GFX100S 的 PTC 拟合可分为量化前时间噪声与包含 PRNU 的跨像素总包络。以线性信号码值 m 为自变量:

 \sigma_{t,\mathrm{DN}}(m)=\sqrt{4.729^2+\frac{m}{0.71}}\ \ \mathrm{DN16},

 \sigma_{\mathrm{all},\mathrm{DN}}(m)=\sqrt{\sigma_{t,\mathrm{DN}}^2(m)+(0.007\,m)^2}\ \ \mathrm{DN16}.

m 是线性信号码值。跨像素总包络采用传感器噪声的标准三项结构 \sigma^2=\sigma_{\text{read}}^2+S/g+(\mathrm{PRNU}\cdot S)^2(Janesick 式 3.16–3.17,EMVA 1288 线性模型)[15][16][17],各项含义如下:

  • 常数项 4.729^2=22.36 是已去除量化噪声贡献、未差分的近似净量化前时间读噪方差;
  • 线性项 m/0.71=1.408\,m 是 shot noise 方差,系数是转换增益的倒数,K=0.71\ \mathrm{e^-/DN16}(等价 1.408\ \mathrm{DN16/e^-});
  • 二次项 (0.007\,m)^2=4.9\times10^{-5}\,m^2 是跨像素 PRNU 包络,\mathrm{PRNU}=0.7\%。它在逐帧时间序列中近似固定,本文不把它计入 r=\sigma_t/\Delta 的 dither 项。

这里的 PRNU 来自对 DPR 标版图像的采样,可能混入标版本身的照度不均与校正残差,因此 PRNU 项不作精度要求。近黑 r 由净时间读噪 4.729\,\mathrm{DN16} 决定。

由此读噪 4.729\,\mathrm{DN16}\times0.71\,\mathrm{e^-/DN16}\approx3.36\ \mathrm{e^-},近黑 m=0

 \sigma_{t,\mathrm{DN}}(0)=4.729\,\mathrm{DN16},\qquad r=\frac{\sigma_t}{\Delta}=\frac{4.729}{4}\approx1.18 .

这就是 GFX100S 近黑的直接量化工作比值,本文 §6 至 §9 的数值结论建立在这个净时间读噪上。图 6 即可见,在相同的码值跨度上,高码值区域的总噪声更大,因此同一量化步长对应的低阶相位结构更容易被随机项淹没。其中 shot noise 提供逐帧随机化,PRNU 部分只描述空间包络,不能当作独立 dither。


5. 后期拉伸与非线性变换

设后期操作在局部可微,记为 g,对小误差 e 有 Taylor 展开

 g(s+e)=g(s)+g'(s)\,e+\tfrac12 g''(s)\,e^2+O(e^3).

一阶项说明,原有时间读噪和量化残差被同一个局部导数 g'(s) 放大,所以比值 r=\sigma_t/\Delta 在线性缩放、局部白平衡、通道增益、密度线性变换这些操作下一阶不变。低阶量化相位结构由这个同步缩放后的比值控制,绝对码值差本身不足以判断风险。显示侧 banding 还受位的分配方式(编码曲线、gamma、LUT)影响,名义位数只能提供部分信息 [23]。

二阶项 \tfrac12 g''(s)\,\mathbb E[e^2\mid s] 中,\mathbb E[e^2\mid s]s 相位相干变化的部分可能传播为新的确定性结构。对直接 Q_4(s+N),这一调制在近黑 r\approx1.18 处约为 9.5\times10^{-11}\,\mathrm{DN16}^2(§7);截位和 half-up 经固定偏移校正后沿用该结果,ties-to-even 两级链路采用 §10 的离散结果。对常见的平滑局部变换而言,这一极小二阶调制难以被放大到主导信号统计的程度。


6. 一阶条件均值偏差:确定性均值结构

6.1 模型及期望

设量化前 X=s+N,\ N\sim\mathcal N(0,\sigma^2),直接量化输出 Y^{\mathrm{dir}}=Q_\Delta(X),误差 e=Y^{\mathrm{dir}}-s。固定 s 反复拍、在独立同分布时间读噪的假设下做无限平均:

 \lim_{n\to\infty}\frac1n\sum_{i=1}^n Q_\Delta(s+N_i)=\mathbb E[Q_\Delta(s+N)\mid s].

无限堆栈的极限保留条件均值偏差

 B_\Delta(s)=\mathbb E[Q_\Delta(s+N)\mid s]-s .

如果 B_\Delta(s)s\bmod\Delta 周期变化,就有确定性的均值相位结构;如果它低于给定测量容差,则在该容差内没有可分辨的均值相位结构。本节闭式对应直接 Q_\Delta(s+N),也给出中心化截位与 half-up 的同幅相移波形;ties-to-even 两级链路的极限偏差见 §10。

6.2 闭式傅里叶级数

最近邻量化残差 q(u)=\operatorname{round}(u)-u 是周期函数,锯齿展开为

 q(u)=\sum_{k=1}^{\infty}\frac{(-1)^k}{\pi k}\sin(2\pi k u).

按 §2 的基本原理对 X=s+N 逐项取期望,第 k 谐波乘上 \Phi_N(2\pi k/\Delta)=\exp(-2\pi^2k^2r^2),得到

 B_\Delta(s)=\frac{\Delta}{\pi}\sum_{k=1}^{\infty}\frac{(-1)^k}{k}\exp\!\left[-2\pi^2k^2\Big(\frac{\sigma}{\Delta}\Big)^2\right]\sin\!\Big(2\pi k\frac{s}{\Delta}\Big).

\sin(2\pi k s/\Delta) 是量化相位的周期结构,指数项是高斯读噪对它的抹平。

6.3 严格上界、截断余项与阈值稳定性

记首谐波项为

 B_{\Delta,1}(s)=-\frac{\Delta}{\pi}e^{-2\pi^2r^2}\sin\!\left(2\pi\frac{s}{\Delta}\right).

对完整级数使用 1/k\le1k^2\ge1+3(k-1),得到

 |B_\Delta(s)|\le\frac{\Delta}{\pi}\sum_{k\ge1}\frac1k e^{-2\pi^2k^2r^2} \le\frac{\Delta}{\pi}\,\frac{e^{-2\pi^2r^2}}{1-e^{-6\pi^2r^2}}.

该式给出总幅度的严格上界。对于截断余项 R_{B,1}=B_\Delta-B_{\Delta,1},由 1/k\le1/2k^2\ge4+5(k-2)k\ge2)进一步得到

 |R_{B,1}(s)|\le \frac{\Delta}{2\pi}\, \frac{e^{-8\pi^2r^2}}{1-e^{-10\pi^2r^2}}.

与首谐波幅值相比,

 \frac{\sup_s|R_{B,1}(s)|}{(\Delta/\pi)e^{-2\pi^2r^2}} \le\frac{e^{-6\pi^2r^2}}{2(1-e^{-10\pi^2r^2})} \le3.84\times10^{-5},\qquad r\ge0.4.

可见在 r\ge0.4 的阈值区间,首谐波近似的相对截断误差低于 3.84\times10^{-5}

把直接 16-bit 目标量化写成 Q_1、直接 14-bit 目标量化写成 Q_4(都用 DN16),两者期望差 B_D(s)=B_4(s)-B_1(s),由三角不等式 |B_D|\le|B_4|+|B_1|\Delta=1 的 16-bit 项衰减极快(r_{16}=\sigma),主导风险来自直接 14-bit 的 \Delta=4 项(r_{14}=\sigma/4):

 |B_D(s)|\lesssim\frac{4}{\pi}\exp\!\left[-\frac{\pi^2\sigma^2}{8}\right].

设幅度判据是确定性偏置 <\varepsilon\,\mathrm{DN16},解 \tfrac4\pi e^{-\pi^2\sigma^2/8}=\varepsilon

 \sigma(\varepsilon)=\frac{2\sqrt2}{\pi}\sqrt{\ln\!\Big(\frac{4}{\pi\varepsilon}\Big)} .

\sigma(\varepsilon) 对判据 \varepsilon 仅有对数级依赖,因而极为稳健:

判据 \varepsilon (DN16)10^{-2}10^{-4}10^{-6}10^{-12}
所需 \sigma (DN16)1.982.773.384.75

把判据收紧 4 个数量级(10^{-2}10^{-6}),所需读噪也才从 1.98 升到 3.38\,\mathrm{DN16}。而 GFX100S 近黑 \sigma=4.729\,\mathrm{DN16},代进去得确定性偏置

 |B_D|\approx\frac{4}{\pi}e^{-\pi^2(4.729)^2/8}\approx1.3\times10^{-12}\,\mathrm{DN16},

落在 \varepsilon=10^{-12} 一档,比一个 16-bit 码低约 12 个数量级。因此,直接 16-bit 与直接 14-bit 目标量化的一阶期望差在该模型下极小。中心化截位与 half-up 只有相位平移,沿用这个幅度;该数值不适用于 ties-to-even 两级模拟。


7. 二阶矩分布

一阶均值偏差为零不代表误差分布没有结构。一个零均值随机变量照样可以有随输入变化的方差、尾部、偏斜、峰度和空间相关性。对低阶量化相位结构来说,第二个最基础的量是二阶误差能量 M_{2,\Delta}(s)=\mathbb E[(Y-s)^2\mid s]

7.1 三项分解

归一化 \theta=s/\Delta,\ r=\sigma/\Delta,\ Z=N/\Delta\sim\mathcal N(0,r^2),归一化总误差 \eta_\theta=(Y-s)/\Delta=\operatorname{round}(\theta+Z)-\theta=Z+q(\theta+Z)。于是

 M_2(\theta)=\mathbb E[\eta_\theta^2]=\underbrace{\mathbb E[Z^2]}_{\text{读噪能量}}+\underbrace{2\,\mathbb E[Z\,q(\theta+Z)]}_{\text{交叉项}}+\underbrace{\mathbb E[q(\theta+Z)^2]}_{\text{量化残差能量}} .

该分解若直接写成读噪方差加 \Delta^2/12,便默认交叉项与相位项可以略去;这在 SNR-based DR 的均匀量化噪声近似中通常足够,但在二阶相位分析中需要显式保留这些项(见 §7.3)。

7.2 傅里叶闭式

量化残差平方的周期展开为

 q(u)^2=\frac{1}{12}+\sum_{k=1}^{\infty}\frac{(-1)^k}{\pi^2 k^2}\cos(2\pi k u).

两个高斯期望(第二个可由 Stein 引理 \mathbb E[Zg(Z)]=r^2\mathbb E[g'(Z)] 得到)

 \mathbb E[\cos(2\pi k(\theta+Z))]=e^{-2\pi^2k^2r^2}\cos(2\pi k\theta),

 \mathbb E[Z\sin(2\pi k(\theta+Z))]=2\pi k r^2 e^{-2\pi^2k^2r^2}\cos(2\pi k\theta).

代回三项分解(qq^2 的傅里叶系数分别是 O(1/k)O(1/k^2),乘上 |\sin|,|\cos|\le1 再经高斯阻尼后级数绝对收敛,由控制收敛定理保证),得到

 M_2(\theta)=r^2+\frac{1}{12}+\sum_{k=1}^{\infty}(-1)^k\Big(4r^2+\frac{1}{\pi^2k^2}\Big)e^{-2\pi^2k^2r^2}\cos(2\pi k\theta).

乘回 DN16 单位即 \mathbb E[(Q_\Delta(s+N)-s)^2\mid s]=\Delta^2 M_2(s/\Delta)r\to0M_2\to q(\theta)^2(纯量化误差),r\to\inftyM_2\to r^2+\tfrac1{12},趋近均匀量化噪声近似。

7.3 截断余项、量级与交叉项

记只保留 k=1 的二阶近似为

 M_{2,1}(\theta)=r^2+\frac1{12}-\left(4r^2+\frac1{\pi^2}\right)e^{-2\pi^2r^2}\cos(2\pi\theta).

对余项 R_{M,1}=M_2-M_{2,1},利用 k\ge21/k^2\le1/4k^2\ge4+5(k-2),得到

 |R_{M,1}(\theta)|\le\left(4r^2+\frac1{4\pi^2}\right)\frac{e^{-8\pi^2r^2}}{1-e^{-10\pi^2r^2}}.

r\ge0.4 时,该余项与二阶首谐波幅值之比不超过 7.68\times10^{-5};此处将系数比保守地放宽到 1。乘回实际单位后,余项上界还需乘 \Delta^2

二阶相位谐波同样被指数降低。在 GFX100S 近黑 r\approx1.18:首谐波阻尼 e^{-2\pi^2(1.18225)^2}\approx1.04\times10^{-12},二阶主相位半幅 (4r^2+1/\pi^2)e^{-2\pi^2r^2}\approx5.9\times10^{-12},乘回 \Delta^2=16 后约 9.5\times10^{-11}\,\mathrm{DN16}^2

交叉项只在小 r 时显著。在 r=0.5 处,舍去交叉项会使首谐波系数减少 4r^2e^{-2\pi^2r^2}=0.0071919,对应 0.0071919\Delta^2 的最坏相位误差;同一点截去全部 k\ge2 谐波的误差上界仅为 2.7431\times10^{-9}\Delta^2。交叉项省略误差与首谐波截断误差由此分开。在 r\approx1.18 处,首谐波及其交叉项已降至 10^{-11}10^{-12} 量级,更高谐波还受上述余项界约束,\sigma^2+\Delta^2/12 对该工作点已足够准确。

8. 一阶与二阶量化痕迹的软过渡

如上所述,读噪是否足以打散量化痕迹由相对读噪 r=\sigma/\Delta 决定。因此同一套判据适用于任意位深、任意量化步长。改变输出位深只是改变 \Delta,真正进入指数衰减项的是 \sigma/\Delta

对一阶条件均值,首谐波的无量纲幅度为

 A_1(r)=\frac{1}{\pi}\exp(-2\pi^2r^2),

它度量量化误差均值随输入相位起伏的首谐波强度。这个量若仍然较大,误差均值便含有空间相干结构,平均、堆栈或局部积分之后仍可能留下稳定的等级边界。完整偏置与该指标之间的误差由 §6.3 的余项界控制。

对二阶误差能量,首谐波的归一化幅度为

 A_2(r)=12\left(4r^2+\frac{1}{\pi^2}\right)\exp(-2\pi^2r^2),

它对应的是误差方差随输入相位起伏的强度,并以同一量化步长下的均匀量化误差方差 \Delta^2/12 归一化;二阶误差能量的实际主相位半幅为 (\Delta^2/12)A_2(r)。给定统一相对容差 \varepsilon,直接量化的两个首谐波阈值由 A_1(r)=\varepsilonA_2(r)=\varepsilon 确定:

 r_{1,\varepsilon}=\sqrt{\frac{\ln[1/(\pi\varepsilon)]}{2\pi^2}}, \qquad r_{2,\varepsilon}=\frac1{2\pi}\sqrt{-2W_{-1}\!\left(-\frac{\pi^2\varepsilon}{24\sqrt e}\right)-1}.

其中 W_{-1} 为 Lambert W 函数的 -1 分支。取 \varepsilon=1\%,得到 r_{1,\varepsilon}=0.418698r_{2,\varepsilon}=0.619830。在这两个阈值处,一阶偏置余项不超过 1.551\times10^{-7}\Delta,二阶余项相对于 \Delta^2/12 不超过 1.256\times10^{-12};完整级数与首谐波阈值在本文列示精度内一致。容差收紧到 0.1\% 时,两者分别为 0.5400.718;收紧到 0.01\% 时分别为 0.6390.801

把上述解析首谐波阈值取一位小数,可得到更便于使用的直接量化工程分区:

工程范围低阶相位结构的量级解释
r<0.4一阶、二阶通常仍在 1% 量级或更高
0.4\le r<0.6一阶穿过 1% 阈值,二阶仍占主导
0.6\le r<0.7二阶穿过 1% 阈值,并向 0.1% 量级衰减
0.7\le r<0.8二阶由约 0.1% 向 0.01% 量级衰减,属于弱残留区
r\ge0.8一阶、二阶均约在 0.01% 量级或更低

若能取得某机内 12-bit 模式下已扣除量化项的净时间读噪,并以 DN12 表示,则该模式的 \Delta=1,数值本身就是 r。例如 OM-1 Mark II 在最低原生 ISO 下若有 0.7\,\mathrm{DN12},直接量化模型给出一阶主谐波 A_1\approx2.0\times10^{-5}。无限堆栈趋于 s+B_\Delta(s),相位偏差很小但不严格为零;单帧还可能保留约 1.30\times10^{-4}\,\Delta^2 的二阶主调制。

对直接目标位深量化,可把对应步长写成 \Delta 后考察 r=\sigma/\Delta。以 S5M2 为例,若 14-bit 下 ISO 100 的净时间 RNDN 为 1.2\,\mathrm{ADU14},截位至 12-bit 目标量化近似时有 r=1.2/4=0.3,一阶与二阶残留都较明显;ISO 400 若为 3.4\,\mathrm{ADU14},则 r=0.85,一阶主谐波约 2.0\times10^{-7}\Delta,二阶主调制约 1.9\times10^{-6}\Delta^2。若处理对象是既有 14-bit 整数码流再量化到 12-bit,截位与 half-up 在中心化后沿用直接量化幅度,ties-to-even 等依赖粗码奇偶的规则应按 §10 同类方法重算。实际 S5M2 的 12-bit 直接输出模式更为复杂,其读出后续一些 isp 操作实际运行在高位深中。

对机内 ADC 状态直接改变到 14-bit 输出的情况,例如 GFX-100 的行为,他在 16-bit 下净读出噪声约为5.4\,\mathrm{ADU16},而在 14-bit 下净读出噪声约为1.4\,\mathrm{ADU14},直接模型预期的一、二阶量化相位调制很低。


9. 补充说明条件矩到低阶量化相位结构

前两节给出的是条件矩。但 banding 本质上是空间相干现象,因此这里说明逐点条件矩如何约束低阶量化相位结构。

在本文的空间独立时间读噪模型中,稳定的量化相位条带需要误差里存在随 s 确定性变化的相干分量。§6、§7 已给出一阶均值和二阶误差能量的相位谐波;对高斯读噪,这些低阶项都含 e^{-2\pi^2k^2r^2}。GFX100S 近黑 r\approx1.18 时,k=1 的指数因子约为 1.0\times10^{-12},所以直接量化模型的一阶均值结构与二阶能量调制都很低,剩余项的能量接近 \sigma^2+\Delta^2/12

条件矩不能排除模型之外的 banding。若读噪在空间上相关,或存在 DSNU、列噪声、行噪声、黑电平校正残差,和 s 不相干的项也可能形成条带;这类结构需要协方差、二维功率谱或重复帧固定图样分解来检验。


10. 两级量化情形与更多可视化解释

10.1 ties-to-even 的两级量化模型

与前文不同,相当多的程序在降位深时使用的是 ties-to-even 手段来降码值。这是因为直接截码值与四舍五入都会引起黑电平偏置,从而在无法规范小数黑电平时造成线性度的损失。

但如图 13–15 为先计算 Q_1(s+N),再用 NumPy 最近邻 ties-to-even 得到 14-bit 码,以此不会损失线性度,不过会引入更新的 banding 影响因素。这条链路对应 Y_{14}^{\mathrm{post}},与 §6、§7 的直接 Q_4(s+N) 解析式不同。令 n=Q_1(s+N)\in\mathbb Z,则

 p_n(s)=\Phi\!\left(\frac{n+1/2-s}{\sigma}\right)-\Phi\!\left(\frac{n-1/2-s}{\sigma}\right), \qquad T(n)=4\operatorname{round}_{\mathrm{even}}(n/4),


其中 \Phi 为标准正态分布函数。两级模型的条件均值偏差和二阶误差能量可直接求和:

 B_{\mathrm{post}}(s)=\sum_{n\in\mathbb Z}T(n)p_n(s)-s, \qquad M_{2,\mathrm{post}}(s)=\sum_{n\in\mathbb Z}[T(n)-s]^2p_n(s).

\sigma=4.729\,\mathrm{DN16} 下,对 s\bmod8 精确扫描得到

 \max_s|B_{\mathrm{post}}(s)|=9.85\times10^{-4}\,\mathrm{DN16}, \qquad \frac{\max_s M_{2,\mathrm{post}}-\min_s M_{2,\mathrm{post}}}{2}=3.47\times10^{-2}\,\mathrm{DN16}^2.

后者约占相位平均误差能量 23.9468\,\mathrm{DN16}^20.145\%。该平均能量比直接 Q_44.729^2+16/12=23.6968\,\mathrm{DN16}^20.25\,\mathrm{DN16}^2,来源是第一次量化后以有限概率出现的半步 tie。按相位平均误差能量估计,两级 16→14-bit 相对直接 16-bit 的近黑 DR 极限损失为 \tfrac12\log_2[23.9468/(4.729^2+1/12)]=0.0467 stop。两级结果显著高于直接 Q_41.33\times10^{-12}\,\mathrm{DN16}9.49\times10^{-11}\,\mathrm{DN16}^2,量级仍小于单帧随机波动。

两级输出的 500 帧均值标准误差为 \sqrt{23.9468/500}=0.2188\,\mathrm{DN16}。图 13 的浅蓝带是使用的量化前 \sigma_{\mathrm{sim}}/\sqrt{500}\approx0.2115\,\mathrm{DN16} 参考带,宽度比两级输出的标准误差低约 3.5\%;图内现已分别标明这两个量。图 13、图 14 无法分辨上述两套模型的相干偏差,只能展示有限帧随机残差的外观。原模拟还在 \sigma_{\mathrm{sim}}^2 中保留了 (0.007m)^2,但在图示 0\le m\le7.5\,\mathrm{DN16} 内,该项对总方差的贡献低于 0.013\%,不参与本文的 dither 论证。

10.1.1 截位、普通四舍五入与 ties-to-even

对非负 RAW 整数码 n,三种转移规则为

 T_{\mathrm{floor}}(n)=4\lfloor n/4\rfloor,\qquad T_{\mathrm{half\text{-}up}}(n)=4\lfloor n/4+1/2\rfloor,\qquad T_{\mathrm{even}}(n)=4\operatorname{round}_{\mathrm{even}}(n/4).

对每条链路加入表中的固定码值校正 c,定义其相对连续含噪输入的完整误差函数 g_T(x)=T(Q_1(x))+c-x。一个周期内的有效量化单元直接给出下表,横线表示对该完整周期的均匀平均。

规则校正 c(DN16)有效单元宽度\overline{g_T}\overline{g_T^2}(DN16²)
截位+3/2均匀 4016/12
half-up-1/2均匀 4016/12
ties-to-even05、3 交替019/12

截位和 half-up 校正后都是单元宽度为 4、重建值位于单元中心的均匀量化器,只与直接 Q_4 相差网格相位。因此它们的一阶、二阶条件矩波形只发生横向相移,§8 的幅度阈值和 §3 的 DR 表达式无需重算;取 T=T_{\mathrm{PDR}} 时,PDR 也相同。在 \sigma=4.729\,\mathrm{DN16}、black level 与四码分组对齐时,原始输出的固定偏移分别约为 -1.5+0.5\,\mathrm{DN16};校正后相位平均 MSE 均为 23.6968\,\mathrm{DN16}^2,相对直接 Q1 的近黑 DR 极限损失均为 0.0391 stop。

ties-to-even 在半步整数码处按粗码奇偶交替取向,形成宽度 5、3 交替的单元,无法用固定偏移化为均匀 Q_4。它的相位平均量化 MSE 为 19/12\,\mathrm{DN16}^2,比前三条等价链路多 1/4\,\mathrm{DN16}^2;严格积分见 §10.3.3。固定信号相位下仍以 §10.1 的 p_n(s) 离散和为准。

10.2 空间观察

下方三图是对一行渐变进行采样的结果:

上图使用单行剖面展示量化后的离散跳变,是为了把逐像素码值跳动直接暴露出来。实际视觉判断发生在二维空间中,那里人视觉处理流程会把一个最小可辨识圆内的多个像素共同积分,这个过程会削弱逐像素量化跳变的显著性。

另外,单行曲线在几个码值之间跳动,只说明数字样本是离散的;它本身并不等价于可见 banding。一个极端的例子比如下面的图像完全由纯白和纯黑组成:

二值半色调说明,局部像素值即使高度离散,经过空间采样与视觉积分后仍可能形成连续灰度感。它只提供空间积分的类比,不能替代 RAW 量化模型;这个例子用于说明几个码值上下跳本身不足以证明存在可见台阶。

10.3 两级模型的相位结构、主导区与 DR 行为

10.3.1 与直接量化一致的阈值口径

把 §8 的阈值口径用于两级离散转移模型。令 r=\sigma/\Delta_{14},并在一个完整的 s\bmod 8 周期内取最大相位幅度,定义

 A_{1,\mathrm{post}}(r)=\frac{\max_s|B_{\mathrm{post}}(s)|}{\Delta_{14}},\qquad A_{2,\mathrm{post}}(r)=\frac{\tfrac12[\max_s M_{2,\mathrm{post}}(s)-\min_s M_{2,\mathrm{post}}(s)]}{\Delta_{14}^2/12}.

A_1\le\varepsilonA_2\le\varepsilon 使用同一个无量纲相对容差。前者是条件均值偏置相对于一个量化步长的比例,后者是二阶误差能量相位调制相对于均匀量化误差方差 \Delta_{14}^2/12 的比例。两级指标取完整离散和的相位极值;直接量化参考取 §8 的首谐波解析指标 A_{1,\mathrm{dir}}=\pi^{-1}e^{-2\pi^2r^2}A_{2,\mathrm{dir}}=12(4r^2+\pi^{-2})e^{-2\pi^2r^2}。§6、§7 的余项界保证直接量化曲线在表列阈值附近与完整级数一致到所示精度。

对任一指标 A(r),稳定阈值定义为 r_\varepsilon=\inf\{r:A(r')\le\varepsilon,\ \forall r'\ge r\}。该定义容许两级离散模型在小 r 区间出现非单调起伏。

数值实现取 \Delta_{14}=4\sigma=4r,在 0\le s<8 上使用 4096 个等间隔相位,并对 n\in[\lfloor-12\sigma-3\rfloor,\lceil8+12\sigma+3\rceil]\cap\mathbb Z 计算 §10.1 的离散和。被截去的高斯尾概率低于 4\times10^{-33}。随后在 0.03\le r\le2.5 上作对数扫描,以后缀最大值确定稳定交点,并在交点邻域作对数插值。将相位数增至 8192 和 16384 后,1% 阈值在 10^{-6} 精度内仍保持为 0.8043911.273439

相对容差 \varepsilon两级 r_\varepsilon(A1)两级 r_\varepsilon(A2)直接首谐波 r_\varepsilon(A1)直接首谐波 r_\varepsilon(A2)
1\%0.8041.2730.4190.620
0.1\%1.0551.4640.5400.718
0.01\%1.2571.6290.6390.801

两级阈值约为直接量化阈值的两倍,这一尺度来自基本周期的扩展。定义 e_{\mathrm{dir}}(x)=Q_4(x)-xe_{\mathrm{post}}(x)=T(Q_1(x))-x,两者的周期分别为 4 和 8\,\mathrm{DN16}

周期为 P 的函数经方差为 \sigma^2 的高斯卷积后,第 k 个傅里叶分量带有阻尼

 G_P(k)=\exp\!\left[-\frac{\sigma^2}{2}\left(\frac{2\pi k}{P}\right)^2\right].

对条件偏置有 B(s)=\mathbb E[e(s+N)];对二阶矩有 M_2(s)=\sigma^2+2\mathbb E[N e(s+N)]+\mathbb E[e^2(s+N)]。高斯分部积分给出

 \mathbb E[N e(s+N)]=\sigma^2\frac{d}{ds}\mathbb E[e(s+N)].

因此,M_2 的非零谐波也带有 G_P(k),交叉项只改变其多项式系数和相位。

\sigma=4r,两个基本频率的阻尼分别为

 G_4(1)=e^{-2\pi^2r^2},\qquad G_8(1)=e^{-\pi^2r^2/2}.

指数中 r^2 的系数相差 4 倍,达到相近衰减量所需的 r 因而约相差 \sqrt4=2 倍。数值上,0.804/0.419=1.921.273/0.620=2.05;与 2 的偏差来自两种量化器不同的傅里叶系数、二阶交叉项和相位极值。

得到 ties-to-even 两级模型的工程分区:

工程范围低阶相位结构的量级解释
r<0.8一阶、二阶尚未稳定低于 1%
0.8\le r<1.3一阶穿过 1% 阈值,二阶仍占主导
1.3\le r<1.5二阶穿过 1% 阈值,并向 0.1% 量级衰减
1.5\le r<1.6二阶由约 0.1% 向 0.01% 量级衰减,属于弱残留区
r\ge1.6一阶、二阶均约在 0.01% 量级或更低

GFX100S 近黑 r=4.729/4=1.18225 落在工程分区 0.8\le r<1.3,即两级模型的二阶主导过渡区。离散求和给出

 A_{1,\mathrm{post}}=2.461\times10^{-4}=0.0246\%,\qquad A_{2,\mathrm{post}}=2.604\times10^{-2}=2.604\%.

相同工作点的一阶峰值偏置是 9.85\times10^{-4}\,\mathrm{DN16},二阶误差能量半极差是 3.47\times10^{-2}\,\mathrm{DN16}^2。500 帧平均的标准误差为 0.2188\,\mathrm{DN16},远大于一阶偏置;按最大偏置相位计算,随机均值标准误差降到该偏置量级约需 2.47\times10^7 帧。普通单帧与有限堆栈主要受二阶能量控制,无限堆栈的极限才由未消失的一阶偏置决定。

10.3.2 码值—像素阶梯与固定相位

这里的信号相位是连续均值 s 相对量化网格的位置。直接 Q1 和直接 Q4 同样有相位依赖;它们的 B(s)M_2(s) 分别以 1 和 4\,\mathrm{DN16} 为周期。两级 ties-to-even 链路因粗码奇偶交替,基本周期扩展到 8\,\mathrm{DN16}

10.3.3 相位平均 MSE 与近黑 DR 极限

固定信号相位下,Q1 误差、ties-to-even 映射和读噪通过同一个整数码耦合,M_{2,\mathrm{post}}(s) 始终由 §10.1 的离散和计算。本节再对均匀相位平均:

 \overline{M_2}:=\frac18\int_0^8 M_2(s)\,ds.

定义完整等效量化误差 g(x)=T_{\mathrm{even}}(Q_1(x))-x,则最终误差为 e=N+g(s+N)g 以 8 为周期;一个周期内,重建值 0 和 4 对应的单元分别为 [-5/2,5/2)[5/2,11/2),宽度为 5 和 3。故

 \overline g=0,\qquad \overline{g^2} =\frac18\left(\int_{-5/2}^{5/2}x^2\,dx+\int_{-3/2}^{3/2}x^2\,dx\right) =\frac{19}{12}.

对任一固定噪声实现 N=z,周期平移不改变上述积分,因此

 \frac18\int_0^8[z+g(s+z)]^2ds=z^2+\frac{19}{12}.

交叉项在这个周期积分下严格为零;该结论不使用误差独立假设。再对 N\sim\mathcal N(0,\sigma^2) 取期望,得到

 \overline{M_{2,\mathrm{post}}} =\sigma^2+\frac{19}{12} =\Delta_{14}^2\left(r^2+\frac{19}{192}\right).

作为比较,直接 Q1 与直接 Q4 的相位平均 MSE 分别为

 \overline{M_{2,Q1}}=\Delta_{14}^2\left(r^2+\frac{1}{192}\right),\qquad \overline{M_{2,Q4}}=\Delta_{14}^2\left(r^2+\frac{1}{12}\right).

\sqrt{\overline{M_2}} 定义相位平均等效噪声,在目标 SNR T\to0 的近黑极限,

 \Delta\mathrm{DR}_{\mathrm{post/Q1}}^{(T\to0)}=\frac12\log_2\frac{r^2+19/192}{r^2+1/192},

 \Delta\mathrm{DR}_{Q4/Q1}^{(T\to0)}=\frac12\log_2\frac{r^2+1/12}{r^2+1/192},\qquad \Delta\mathrm{DR}_{\mathrm{post/Q4}}^{(T\to0)}=\frac12\log_2\frac{r^2+19/192}{r^2+1/12}.

相位平均近黑 DR 极限可在一阶、二阶相位调制已经很低时继续存在,因为前者取决于平均 MSE,后两者只计随 s 周期变化的相干部分。GFX100S 工作点的两级总代价为 0.04666 stop,其中直接 Q4 部分为 0.03909 stop,tie 附加量为 0.00757 stop。同一工作点下,两级 M_{2,\mathrm{post}}(s)s=0\pmod 823.9121\,\mathrm{DN16}^2,相位平均为 23.9468\,\mathrm{DN16}^2,在 s=4\pmod 823.9815\,\mathrm{DN16}^2;固定相位近黑 DR 极限的峰峰范围为 0.00209 stop。


11. 结论

量化输出的特征函数由输入特征函数在频率间隔 2\pi/\Delta 处的副本加权求和。一阶条件矩的相位谐波由输入特征函数的格点值控制,二阶及更高阶矩还包含其导数项。对高斯时间读噪,这些项均带有 \exp[-2\pi^2k^2(\sigma/\Delta)^2],因此直接目标位深量化的一阶均值结构与二阶能量调制随 r=\sigma/\Delta 快速衰减。

§8 的直接量化分区来自首谐波解析阈值,余项界保证其在表列阈值附近与完整级数一致。§10 的两级分区取自完整离散和的数值稳定阈值。

16-bit 整数码经截位或 half-up 降至 14-bit 时,分别产生约 -1.5+0.5\,\mathrm{DN16} 的固定码值偏移。校正后,两者的一阶、二阶幅度及任一相同目标 T 下的 DR 均与直接 Q4 相同,在 T_{\mathrm{PDR}} 下的 PDR 也相同。ties-to-even 形成宽度为 5、3 的交替量化单元,其相位平均量化误差能量为 19/12\,\mathrm{DN16}^2,比直接 Q4、中心化截位和中心化 half-up 多 1/4\,\mathrm{DN16}^2

图 18、图 19 使用同一相对容差比较两类模型。1% 容差下,直接量化的一阶、二阶阈值分别为 0.4190.620,两级 ties-to-even 模型分别为 0.8041.273。工程上取 0.81.3 后,0.8\le r<1.3 构成两级模型的二阶主导过渡区。

图 20 给出量化网格的相位含义,图 21 给出相位平均 MSE 与近黑 DR 极限。近黑 DR 极限由相位平均误差能量确定,一阶、二阶相位结构则描述条件矩随信号相位的周期起伏。两级链路的近黑 DR 损失可分解为直接 Q4 相对 Q1 的量化损失与 ties-to-even 的附加损失,两者均为 r 的函数;固定相位范围由 M_2(s) 的峰峰值刻画,无限堆栈的极限则由未消失的一阶偏置决定。

参考文献

量化与矩的经典理论

[1] A. Zaman, The Density of the Fractional Part of a Normal Distribution, Lahore University of Management Sciences, 2004.

[2] W. R. Bennett, “Spectra of Quantized Signals,” Bell System Technical Journal, vol. 27, no. 3, pp. 446–472, 1948. doi:10.1002/j.1538-7305.1948.tb01340.x.

[3] W. F. Sheppard, “On the Calculation of the Most Probable Values of Frequency-Constants, for Data Arranged According to Equidistant Divisions of a Scale,” Proc. London Mathematical Society, vol. 29, pp. 353–380, 1898.

[4] B. Widrow, “A Study of Rough Amplitude Quantization by Means of Nyquist Sampling Theory,” IRE Trans. Circuit Theory, vol. 3, no. 4, pp. 266–276, 1956.

[5] B. Widrow, I. Kollár, and M.-C. Liu, “Statistical Theory of Quantization,” IEEE Trans. Instrumentation and Measurement, vol. 45, no. 2, pp. 353–361, 1996. doi:10.1109⁄19.492748.

[6] B. Widrow and I. Kollár, Quantization Noise: Roundoff Error in Digital Computation, Signal Processing, Control, and Communications, Cambridge University Press, 2008.

[7] A. B. Sripad and D. L. Snyder, “A Necessary and Sufficient Condition for Quantization Errors to be Uniform and White,” IEEE Trans. Acoustics, Speech, and Signal Processing, vol. 25, no. 5, pp. 442–448, 1977.

[8] R. M. Gray and D. L. Neuhoff, “Quantization,” IEEE Trans. Information Theory, vol. 44, no. 6, pp. 2325–2383, 1998. doi:10.1109⁄18.720541.

[9] R. M. Gray and T. G. Stockham, “Dithered Quantizers,” IEEE Trans. Information Theory, vol. 39, no. 3, pp. 805–812, 1993.

[10] A. G. Clavier, P. F. Panter, and D. D. Grieg, “Distortion in a Pulse Count Modulation System,” Trans. AIEE, vol. 66, pp. 989–1005, 1947.

Dither 理论

[11] L. Schuchman, “Dither Signals and Their Effect on Quantization Noise,” IEEE Trans. Communication Technology, vol. 12, no. 4, pp. 162–165, 1964. doi:10.1109/TCOM.1964.1088973.

[12] S. P. Lipshitz, R. A. Wannamaker, and J. Vanderkooy, “Quantization and Dither: A Theoretical Survey,” J. Audio Engineering Society, vol. 40, no. 5, pp. 355–375, 1992.

[13] R. A. Wannamaker, S. P. Lipshitz, J. Vanderkooy, and J. N. Wright, “A Theory of Nonsubtractive Dither,” IEEE Trans. Signal Processing, vol. 48, no. 2, pp. 499–516, 2000. doi:10.1109⁄78.823976.(机制细节亦见 R. A. Wannamaker, The Theory of Dithered Quantization, Ph.D. thesis, Univ. of Waterloo, 1997.)

[14] J. Vanderkooy and S. P. Lipshitz, “Resolution Below the Least Significant Bit in Digital Systems with Dither,” J. Audio Engineering Society, vol. 32, no. 3, pp. 106–113, 1984.

传感器噪声与光子传递曲线

[15] J. R. Janesick, Photon Transfer: DN → λ, SPIE Press Monograph PM170, 2007. doi:10.1117⁄3.725073.

[16] EMVA, Standard 1288: Standard for Characterization of Image Sensors and Cameras, Release 4.0 Linear, European Machine Vision Association, 2021.

[17] M. Konnik and J. Welsh, “High-level numerical simulations of noise in CCD and CMOS photosensors: review and tutorial,” arXiv:1412.4031, 2014.

[18] ISO 15739:2023, Photography — Electronic still-picture imaging — Noise measurements(含 Visual Noise / HVS 加权).

位深感知、动态范围与编码

[19] P. G. J. Barten, Contrast Sensitivity of the Human Eye and Its Effects on Image Quality, SPIE Press, 1999.

[20] S. Miller, M. Nezamabadi, and S. Daly, “Perceptual Signal Coding for More Efficient Usage of Bit Codes,” SMPTE Motion Imaging Journal, vol. 122, no. 4, pp. 52–59, 2013.

[21] DICOM PS3.14, Grayscale Standard Display Function (GSDF), NEMA.

[22] Rec. ITU-R BT.2100 / Report ITU-R BT.2246(HDR 与 contouring 阈值,8/10/12-bit).

[23] C. Poynton, Digital Video and HD: Algorithms and Interfaces, 2nd ed., Morgan Kaufmann, 2012.

本项目材料

[24] 姜尧耕, 14bit RAW Delta PDR Critical ISO Curves, project page, y-g-jiang.github.io/PLT.

[25] 姜尧耕, paper_IIARPTC, GitHub repository, github.com/y-g-jiang/pa.

[26] 姜尧耕, 在线 PTC 拟合与相机噪声分析图表材料, 2026.

[27] Y. Jiang (姜尧耕), Impact of ISP Affine Re-quantization on Photon Transfer Characteristics and Perceptual Quality, Zenodo preprint, 2025. doi:10.5281/zenodo.18949317. 代码与更新:github.com/y-g-jiang/pa。(给出高斯输入下二阶首谐波半幅 \Delta^2\delta(r)、相对于 \Delta^2/12 的归一化调制 A_2(r)=12\delta(r),以及非整数仿射再量化的相位振荡与相移分析。)

编辑于 2026-07-16 · 著作权归作者所有