ある情報源$X \sim p(x)$を $R$ ビットで符号化と復号をした結果 $\hat{X}$が得られるとします。
この情報源 $X$ とその代表値$\hat{X}$のサンプルがどれくらい異なっているか(歪み)を表すコストとして歪み関数$d(x,\hat{x})$を考えます。
許容する歪み$D$に対する符号化ビット数の下限 $R$をレート歪み関数 $R(D)$ と呼び、これは
$$
R^{(I)}(D) = \min_{p(\hat{x}|x) : \sum_{(x,\hat{x})} p(x, \hat{x})d(x,\hat{x}) \leq D} I(X; \hat{X}),
$$
と定義される情報レート歪み関数と一致します。ここで$I(X;\hat{X})$は相互情報量です。