大部分示波器的A/D分辨率為8個(gè)比特。用不同的采集模式，可按如下所述，通過求相鄰采樣的平均值來提高垂直分辨率。那么，通過求平均值和采用高分辨率模式可將分辨率提高多少呢?理論上講，增加值為0.5Log2N，其中N為相鄰采樣的平均數(shù)。

    實(shí)際情況是，2個(gè)字節(jié)的存儲(chǔ)深度限制了這一增加。兩個(gè)字節(jié)為16位。保留其中一位作為符號(hào)位，剩余的15位用作數(shù)據(jù)數(shù)值。舍入誤差使第14位和第15位成為隨機(jī)值，從而使實(shí)際限值變?yōu)?3位。因此，改善可從約六個(gè)有效位開始，用高度過采樣時(shí)可增至約13位。