ある情報源 $X \sim p(x)$ を $R$ ビットで符号化と復号をした結果 $\hat{X}$ が得られるとします。 この情報源 $X$ とその代表値 $\hat{X}$ のサンプルがどれくらい異なっているか(歪み)を表すコストとして歪み関数 $d(x,\hat{x})$ を考えます。
許容する歪み $D$ に対する符号化ビット数の下限 $R$ をレート歪み関数 $R(D)$ と呼び、これは
$$
R^{(I)}(D) = \min_{p(\hat{x}|x) : \sum_{(x,\hat{x})} p(x, \hat{x})d(x,\hat{x}) \leq D} I(X; \hat{X}),
$$
と定義される情報レート歪み関数と一致します。ここで $I(X;\hat{X})$ は相互情報量です。