Kvantisering

Hvis en fysisk størrelse skal repræsenteres ved et bestemt antal bit, må der ske en afrunding, da den digitale værdi kun nøjagtigt kan repræsentere et begrænset antal værdier. En sådan omsætning af en kontinuerlig størrelse til et afgrænset antal værdier kaldes kvantisering.

Når et analogt signal omsættes til et digitalt, måles det analoge signals størrelse med faste tidsintervaller (sampling), og signalet kvantiseres; dermed omsættes signalet til en bitstrøm med en bithyppighed, svarende til målefrekvensen gange antallet af bit i hver måleværdi.

Som vist af Nyquist er det nødvendigt at måle et analogt signal med en frekvens, der er den dobbelte af den højest forekommende frekvens i signalet. Derved kan det analoge signal atter genskabes på entydig måde. Kvantiseringen vil imidlertid bevirke, at der opstår et brusende støjsignal efter gendannelsen af det analoge signal. Jo finere kvantiseringen er, des svagere bliver dette støjsignal, der kaldes kvantiseringsstøjen.

En telefonkanal overfører frekvenser op til knap 4.000 Hz, og derfor aftastes en sådan kanal 8.000 gange pr. sekund, når den skal omsættes til en digital kanal. Hver måleværdi repræsenteres ved 8 bit, hvorved den samlede bitstrøm bliver 64 kbit/s. Valget af 8 bit pr. måling bevirker, at kvantiseringsstøjen bliver ca. 30 decibel lavere end talesignalet i det relevante dynamikområde. Se også PCM.