一个具有8个离散信号值输出的模拟数字转换器模拟数字转换器的分辨率是指，对于允许范围内的模拟信号，它能输出离散数字信号值的个数。这些信号值通常用二进制数来存储，因此分辨率经常用比特作为单位，且这些离散值的个数是2的幂指数。例如，一个具有8位分辨率的模拟数字转换器可以将模拟信号编码成256个不同的离散值（因为28 = 256），从0到255（即无符号整数）或从-128到127（即带符号整数），至于使用哪一种，则取决于具体的应用。
分辨率同时可以用电气性质来描述，使用单位伏特。使得输出离散信号产生一个变化所需的最小输入电压的差值被称作最低有效位（Least significant bit, LSB）电压。这样，模拟数字转换器的分辨率Q等于LSB电压。模拟数字转换器的电压分辨率等于它总的电压测量范围除以离散电压间隔数：
这里N是离散电压间隔数，EFSR是总的电压测量范围， EFSR由下式给出
这里VRefHi和VRefLow是转换过程允许电压的上下限。
正常情况下，电压间隔数等于
这里M是模拟数字转换器的分辨率，以比特为单位。
大多数模拟数字转换器的响应类型为线性，这里的“线性”是指，输出信号的大小与输入信号的大小成线性比例。
一些早期的转换器的响应类型呈对数关系，由此来执行A-law算法或μ-law算法编码。这些编码现在由高分辨率的线性模拟数字转换器（例如12或16位）达到，并将其8为编码输出值进行绘制。
模拟数字转换器的误差有若干种来源。量化错误和非线性误差（假设这个模拟数字转换器标称具有线性特征）是任何模拟数字转换中都存在的内在误差。也有一种被称作孔径错误（aperture error），它是由于时钟的不良振荡，且常常在对时域信号数字化的过程中出现。
这种误差用一个称为“最低有效位”的参数来衡量。
模拟信号在时域上是连续的，因此可以将它转换为时间上连续的一系列数字信号。这样就要求定义一个参数来表示新的数字信号采样自模拟信号速率。这个速率称为转换器的采样率（sampling rate）或采样频率（sampling frequency）。
可以采集连续变化、带宽受限的信号（即每隔一时间测量并存储一个信号值），然后可以通过插值将转换后的离散信号还原为原始信号。这一过程的精确度受量化误差的限制。然而，仅当采样率比信号频率的两倍还高的情况下才可能达到对原始信号的忠实还原，这一规律在采样定理有所体现。
由于实际使用的模拟数字转换器不能进行完全实时的转换，所以对输入信号进行一次转换的过程中必须通过一些外加方法使之保持恒定。常用的有采样-保持电路，在大多数的情况里，通过使用一个电容器可以存储输入的模拟电压，并通过开关或门电路来闭合、断开这个电容和输入信号的连接。许多模拟数字转换集成电路在内部就已经包含了这样的采样-保持子系统。
所有的模拟数字转换器以每隔一定时间进行采样的形式进行工作。因此，它们的输出信号只是对输入信号行为的不完全描述。在某一次采样和下一次采样之间的时间段，仅仅根据输出信号，是无法得知输入信号的形式的。如果输入信号以比采样率低的速率变化，那么可以假定这两次采样之间的信号介于这两次采样得到的信号值。然而，如果输入信号改变过快，则这样的假设是错误的。
如果模拟数字转换器产生的信号在系统的后期，通过数字模拟转换器（digital to analog converter, DAC），则输出信号可以忠实地反映原始信号。如经过输入信号的变化率比采样率大得多，则是另一种情况，模拟数字转换器输出的这种“假”信号被称作“混叠”。混叠信号的频率为信号频率和采样率的差。例如，一个2千赫兹的正弦曲线信号在采样率在1.5千赫兹采样率的转换后，会被重建为500赫兹的正弦曲线信号。这样的问题被称作“混叠”。
为了避免混叠现象，模拟数字转换器的输入信号必须通过低通滤波器进行滤波处理，过滤掉频率高于采样率一半的信号。这样的滤波器也被称作反锯齿滤波器。它在实用的模拟数字转换系统中十分重要，常在混有高频信号的模拟信号的转换过程中应用。
尽管在大多数系统里，混叠是不希望看到的现象，值得注意的是，它可以提供限制带宽高频信号的同步向下混合（simultaneous down-mixing ，请参见采样过疏和混频器）。
在模拟数字转换器中，工作状况可以通过引入抖动信号（Dither）得到改善。Dither信号是在转换前混入输入信号的微量随机噪声（白噪声）。它的作用效果是输入信号极小时，造成LSB的状态随机在0和1之间振荡，而不是处于某一个固定值。这样做可以扩展模拟数字转换器可以转换的有效范围，而不需要在低输入的情况下完全切断这个信号，不过这样做的代价是噪音会小幅增加，量化误差会扩散到一系列噪音信号值。在时间范围上，还是可以较为精确地反映信号在时间上的变化。在输出端，使用一个适当的电子滤波器可以还原这个小幅信号波动。
没有加入Dither信号的低幅音频信号听起来十分扭曲和令人不快。因为如果没有Dither信号，低幅信号可能造成最低有效位固定在0或者1。引入Dither信号之后，音频的实际振幅可以通过在取一段时间上实际量化的采样和一系列Dither信号的采样的平均值来计算。Dither信号在一些集成系统里也有应用，例如电度表，它可以使信号值产生比模拟数字转换器最低有效位更为精确的结果。注意引入Dither信号只能增加采样器的分辨率，但是不能增加其线性的性质，因此精确度不一定能够改善。
通常的，为了经济，信号以允许的最低采样率被采样，造成的结果是产生在转换器整个通带上分布的白噪声。如果信号以高于奈奎斯特频率的频率被采样、然后进行数字滤波，才从而保证限制信号带宽，则又以下几个好处：
数字滤波器具有比模拟滤波器更好的性质（更锐利的滚降、相位），所有可以构成更锐利的反锯齿滤波器，从而可以对信号进行向下采样，给出更好的结果；
一个20位的模拟数字转换器可以当做一个24位、具有256倍过密采样的模拟数字转换器使用；
尽管有量化噪声，信噪比还是会比使用整个可用的带宽更高。使用了此技术后，可能会获得一个比单独使用转换器更高的分辨率；
每倍频的过密采样（在很多应用中还不够）的信噪比的改善为3分贝（等效于0.5位）。因此，过密采样通常与噪音信号整形耦合在一起。通过噪音整形，改善可以达到每倍频6L 3 dB（这里L是用于噪音整形的环路滤波器的阶数，例如，一个2阶环路滤波器可以提供15分贝每倍频的改善）。
模拟数字转换器的速度根据其种类有较大的差异。威尔金森模拟数字转换器受到其时钟率的限制。目前，频率超过300兆赫兹已经成为可能。转换所需的时间这届与通道的数量成比例。对于一个逐次逼近（successive-approximation）模拟数字转换器，其转换时间与通道数量的对数成比例。这样，大量通道可以使逐次逼近转换器比威尔金森转换器快。然而，威尔金斯转换器小号的时间是数字的，而逐次逼近转换器是模拟的。由于模拟的自身就比数字的更慢，当通道数量增加，所需的时间也增加。这样，其在工作时具有相互竞争的过程。Flash模拟数字转换器是这三种里面最快的一种，转换基本是以一个单独平行的过程。对于一个8位单元，转换可以在十几个纳秒的时间内完成。
人们期望在速度和精确度之间达到一个最佳平衡。Flash模拟数字转换器具有与比较器水平的漂移和不确定性，这将导致通道宽度的不均一性。结果是Flash模拟数字转换器的线性不佳。对于逐次逼近模拟数字转换器，糟糕的线性也很明显，不过这还是比Flash模拟数字转换器好一点。这里，非线性是源于减法过程的误差积累。在这一点上，威尔金森转换器是表现最好的。它们拥有最好的微分非线性。其他种类的转换器则要求通道平滑，以达到像威尔金森转换器的水平。[3][4]
