標本化
アナログ信号をディジタル化する時、まず標本化を行います。標本化では、アナログ信号をある一定の時間間隔で抽出します(サンプリング)。この抽出を行う時間間隔を周期Tとした時、その逆数\( f = \frac{1}{T} \) を標本化周波数(サンプリング周波数)と呼びます。
量子化
標本化を行った各サンプルは、アナログ・データです。標本化後の各サンプルを量子化することで、アナログからディジタル・データに変換されます。量子化の時、元のアナログ・データに何ビットを割り当てるかで量子化後のデータの精度が変わります。より多いビット数を割り当てれば、より高い精度でアナログ・データをディジタル化できますが、ディジタル化後のデータ量が多くなります。逆に少ないビット数で量子化を行えば、ディジタル化後のデータ量が少なくなる代わりに、元のアナログ・データとディジタル化後のデータの差異が大きくなります。
この例は、標本化したサンプルを3ビット (\( 2^3 = 8 \)段階 )で量子化しています。元のアナログ・データで5.8という値は、量子化後は6という値になります。量子化後の値は0から7までの8段階しかないため、5.8といった小数点以下の精度はディジタル化後は判別できないことになります。