Błąd, który występuje przy przypisywaniu wartości sygnału analogowego do określonych przedziałów ciągłych w formie cyfrowej, nosi nazwę błąd

Błąd kwantowania występuje, gdy sygnał analogowy jest przekształcany na wartości cyfrowe w procesie konwersji analogowo-cyfrowej. W ramach tego procesu, ciągłe wartości sygnału analogowego są przyporządkowywane do dyskretnych poziomów, co prowadzi do utraty dokładności. Przykładem może być sytuacja, w której amplituda sygnału audio jest zamieniana na wartości cyfrowe w określonym zakresie, np. 0-255 dla 8-bitowego sygnału. Wartości, które nie pasują idealnie do określonego poziomu kwantyzacji, są zaokrąglane, co skutkuje błędem. W praktyce, aby zminimalizować błąd kwantowania, stosuje się wyższe rozdzielczości bitowe, co pozwala na dokładniejsze odwzorowanie sygnału. W branży audio i wideo standardy takie jak PCM (Pulse Code Modulation) wymagają wysokiej rozdzielczości, aby zminimalizować te błędy. Należy pamiętać, że większa liczba bitów zwiększa jakość sygnału, ale także wymaga więcej miejsca na dane, co jest kluczowe w kontekście wyboru formatu kompresji danych.