由于码字空间C是n维数二元线性空间中的一个k维子空间，由线性代数理论可知，

是由“1”或“0”元素组成的矩阵，它的k个行就是线性独立矢量，，，。

矩阵G称为线性码C的生成矩阵。公式（1.1）建立了信息空间到码字空间的线性映射。

经过行变换和列变换的矩阵生成的线性空间与原来的矩阵生成的线性空间是等价的，也就是说生成矩阵经过初等变换之后，所生成的码与原来的码是等价的。由此可以将生成矩阵经过变换之后，形成系统生成矩阵（即产生的码中，信息码元在码字的高位部分，而校验码元在码字的低位部分）。即

这也表示由G的行矢量所扩张成的k维子空间与H矩阵行矢量所扩张成的r维子空间是正交的。

G与H中只要有一个确定，另一个就是可以确定的。只要校验矩阵给订=定，校验码元和信息码元之间的关系就完全确定了。

在通信中，由于信息码元序列是一种随机序列，接收端无法预知码元的取值，也无法识别其中有无错码。所以在发送端需要在信息码元序列中增加一些差错控制码元，它们称为监督码元（校验元）。这些监督码元和信息码元之间有确定的关系。

在信息码元序列中加监督码元就称为差错控制编码，差错控制编码属于信道编码。

信息码元和监督码元之间有一种关系，关系不同，形成的码类型也不同。可分为两大类：分组码和卷积码。其中，分组码是把信息码元序列以每k个码元分组，编码器将每个信息组按照一定规律产生r个多余的码元（称为校验元），形成一个长为n=k r的码字。

当分组码的信息码元与监督码元之间的关系为线性关系时（用线性方程组联系），这种分组码就称为线性分组码。包括汉明码和循环码。

对于长度为n的二进制线性分组码，它有种可能的码字，从中可以选择M=个码字（k

编码中各个码字间距离的最小值称为最小码距d，最小码距是衡量码组检错和纠错能力的依据，其关系如下：

（1）为了检测e个错码，则要求最小码距d>e 1;

（2）为了纠正t个错码，则要求最小码距d>2t 1;

（3）为了纠正t个错码，同时检测e个错码，则要求最小码距d>e t 1,e>t。

线性分组码是建立在代数群论基础上的，各许用码字的集合构成了代数学中的群，它们的主要性质如下：

（1）任意两许用码字之和（对于二进制码这个和的含义是模二和）仍为一个需要码字，也就是说，线性分组码具有封闭性；

（2）码字间的最小码距等于非零码的最小码重。

下面是一个（7,3）线性分组码，有信息组(m₂m₁m₀),信息组在码字的前部，即：

生成矩阵为

信息组和对应的码字由表3.1给出。

则其校验矩阵为

设(n,k)线性分组码，生成矩阵为G，校验矩阵H，发送端送出的码字为：

C=(cn－1 cn－2 …c1c0)

接收端收到的码字为：

R=(rn－1 rn－2…r1 r0)

由于信道噪声的干扰为：

R=E C

E为传输过程中由于干扰而叠加在C上的错误图样。

E=(en－1 en－2…e1 e0)

其中

接收端可以用H矩阵来进行检验，检验运算的结果为伴随式S。

可见，由于CHT=0，因此伴随式(或称校验因子)S只和E有关。

本节所举的(7,3)码，最小码距为4，可纠正一位错同时检二位错。

（1）纠一位错

设E=(0100000)，即C5的位置出错，则有：

S正好为H中对应C5位置的一列，可见是C5出错，即可纠正。

（2）检两位错

设E=(0110000)，即C5C4出错，则有：

S不等于0，表示有错，但它又不等于H中的任一列，所以能检二位错，但不能纠正。

（3）三位错

设E=(0111000)，即C5C4C3同时出错，则有：

S不等于0，表示有错，但S却是H中对应于C0的一列，于是判断C0出错，造成错纠。因此该(7,3)线性码只能纠一位错，检两位。在有三位出错时，就会产生错纠。但如果只用于检错，则可检三位错。

所以，当S0时，即可判断R不是码字，即有错。当S=0时，按收方就认为R是对方发送的码字C。但是需要指出的是如果E恰好等于码字集中7个非零码字中的一个，即：

R=C E

E为另一码字，二个码字之和，必然为一码字，从而有：

RHT=0

这种类型的错误图样称为不可检错误图样。由于有2k－1个非零码字，所以有2k－1个不可检错误图样。

线性预测编码的基础是假设声音信号（浊音）是音管末端的蜂鸣器产生的，偶尔伴随有嘶嘶声与爆破声（齿擦音与爆破音）。尽管这看起来有些原始，但是这种模式实际上非常接近于真实语音产生过程。声带之间的声门产生不同强度（音量）与频率（音调）的声音，喉咙与嘴组成共鸣声道。嘶嘶声与爆破声通过舌头、嘴唇以及喉咙的作用产生出来。

线性预测编码通过估计共振峰、剔除它们在语音信号中的作用、估计保留的蜂鸣音强度与频率来分析语音信号。剔除共振峰的过程称为逆滤波，经过这个过程剩余的信号称为残余信号（en:residue）。

描述峰鸣强度与频率、共鸣峰、残余信号的数字可以保存、发送到其它地方。线性预测编码通过逆向的过程合成语音信号：使用蜂鸣参数与残余信号生成源信号、使用共振峰生成表示声道的滤波器，源信号经过滤波器的处理就得到语音信号。

由于语音信号随着时间变化，这个过程是在一段段的语音信号帧上进行处理的。通常每秒 30 到 50 帧的速度就能对可理解的信号进行很好的压缩。

根据斯坦福大学 Robert M. Gray 的说法，线性预测编码起源于 1966 年，当时 NTT 的 S. Saito 和 F. Itakura 描述了一种自动音素识别的方法，这种方法第一次使用了针对语音编码的最大似然估计实现。1967 年，John Burg 略述了最大熵的实现方法。1969 年 Itakura 与 Saito 提出了部分相关（en:partial correlation）的概念, May Glen Culler 提议进行实时语音压缩，B. S. Atal 在美国声学协会年会上展示了一个 LPC 语音编码器。1971 年 Philco-Ford 展示了使用 16 位 LPC 硬件的实时 LPC 并且卖出了四个。

1972 年 ARPA 的 Bob Kahn 与 Jim Forgie (en:Lincoln Laboratory, LL) 以及 Dave Walden (BBN Technologies) 开始了语音信息包的第一次开发，这最终带来了 Voice over IP 技术。根据 Lincoln Laboratory 的非正式历史资料记载，1973 年 Ed Hofstetter 实现了第一个 2400 位/秒 的实时 LPC。1974 年，第一个双向实时 LPC 语音包通信在 Culler-Harrison 与 Lincoln Laboratories 之间通过 ARPANET 以 3500 位/秒 的速度实现。1976 年，第一次 LPC 会议通过 ARPANET 使用 Network Voice Protocol 在Culler-Harrison、ISI、SRI 与 LL 之间以 3500 位/秒 的速度实现。最后在 1978 年，BBN 的 Vishwanath et al. 开发了第一个变速 LPC 算法。

线性预测编码的基础是假设声音信号（浊音）是音管末端的蜂鸣器产生的，偶尔伴随有嘶嘶声与爆破声（齿擦音与爆破音）。尽管这看起来有些原始，但是这种模式实际上非常接近于真实语音产生过程。声带之间的声门产生不同强度（音量）与频率（音调）的声音，喉咙与嘴组成共鸣声道。嘶嘶声与爆破声通过舌头、嘴唇以及喉咙的作用产生出来。

线性预测编码通过估计共振峰、剔除它们在语音信号中的作用、估计保留的蜂鸣音强度与频率来分析语音信号。剔除共振峰的过程称为逆滤波，经过这个过程剩余的信号称为残余信号（en:residue）。

描述峰鸣强度与频率、共鸣峰、残余信号的数字可以保存、发送到其它地方。线性预测编码通过逆向的过程合成语音信号：使用蜂鸣参数与残余信号生成源信号、使用共振峰生成表示声道的滤波器，源信号经过滤波器的处理就得到语音信号。

由于语音信号随着时间变化，这个过程是在一段段的语音信号帧上进行处理的。通常每秒 30 到 50 帧的速度就能对可理解的信号进行很好的压缩。