L'erreur quadratique moyenne se calcule de façon classique :
Après correction du biais, la densité de probabilité de l'erreur est uniforme dans l'intervalle [-q/2, q/2] :
dans l'intervalle [-q/2, q/2]
ailleurs
Soit un écart-type ou encore bits.
(on remarque que le coefficient 1/12 provient de l'intégration, et n'a rien à voir avec le nombre de bits utilisés)