对于初始的或者迭代中的增广权矢量，用训练模式检验其合理性。当不合理时，对其进行校正，利用梯度下降法。梯度下降法也是人工神经网络中线性阈值神经元的学习算法。给定一个增广的训练模式集合，其中每个模式类别已知。首先进行初始化，对训练模式进行增广化和符号规范化，设置迭代步数，赋给增量一个正的常数；分别赋予初始增广权矢量的各分量较小的任意值。输入训练模式，计算判别函数值。按照四条规则调整增广权矢量。在用全部模式训练完一轮后，如果仍有模式被错分，则需要进行第二轮、第三轮迭代，直到所有模式都能够正确分类为止。
