让 AI 找 SVM 的支持向量:远处再添样本,分界线为何可能不动
训练样本增加了,分类边界就一定移动吗?对一份线性可分的硬间隔练习,新增点如果没有收紧约束,最优边界可以保持原样。让AI从不等式推导一次,比只记住“支持向量在边缘”更具体。
AI模型生成的概念插图:两类点分处边界两侧,靠近边界的点被突出;无精确坐标,不是本文一维点集的真实绘图。
用四个点固定一条最宽的空隙
一维负类点取x=-2、-1,标签y=-1;正类点取x=1、2,标签y=1。分类分数是wx+b,按其正负决定类别。本文采用硬间隔:所有点满足y(wx+b)≥1,并最小化w²/2,不使用松弛变量。
最靠近的负点-1要求w-b≥1,正点1要求w+b≥1。两式相加得w≥1,因此目标最小时w=1;此时两个不等式又共同要求b=0。另两个远点的带符号分数都是2,也满足约束。
分界点解wx+b=0,得到x=0。两条间隔边界wx+b=-1和1位于x=-1与1,总宽度为2/|w|=2。恰好压在约束等号上的-1与1决定了这份解,是这里的支持向量。
远点不收紧约束,近点会挤窄间隔
再加入正类x=10,原解给它分数10,已远大于1。原来的下界w≥1没有消失,而w=1、b=0仍可行,所以最优解不变。这个结论来自约束证明,不是宣称任何新增数据都没有用。
改为加入正类x=0.5。它要求0.5w+b≥1,与负点-1的约束w-b≥1相加,得到1.5w≥2,所以w至少为4/3。取w=4/3时b=1/3,两边都达到等号,其他原点也继续可行。
新分界点是-b/w=-1/4,向负类方向移动;总间隔宽度为2/(4/3)=1.5。新的紧约束点成为-1与0.5。若AI仍固定分界点在0,只因为原来的点左右对称,就忽略了新增样本已经破坏这份对称。
把分数乘大,不会制造更宽的几何间隔
在最初四点上,把w=1、b=0改成w=2、b=0,分类符号确实相同,原点的分数也翻倍。但实际点到x=0的距离没有变化,而目标w²/2从0.5升为2,因此它不是更好的硬间隔规范解。不能拿未归一化分数的大小当几何距离。
读者可以让AI逐点列y(wx+b),标出等于1的点,再独立解分界位置和2/|w|。检验新样本的影响时,先证明旧解是否仍可行,再看原有约束是否仍给出相同目标下界;这比凭散点数量猜测边界更可靠。
硬间隔要求数据线性可分。真实SVC通常采用带C与松弛量的软间隔,允许违反边界条件;核函数、样本权重和特征单位也会影响解。本例不把支持向量简单等同于所有真实任务中“最重要的人或数据”,更不以训练点全部分对推断测试集准确率。
资料核对日期:2026年10月2日。算例为原创教学设定,已用独立Python计算复核,不代表真实模型训练或性能测试。


