發信人: fpzh (fpzh), 信區: DataMining
標  題: SVM：關于Osuna算法（定理）的一點疑問
發信站: 南京大學小百合站 (Wed Dec  4 10:04:30 2002), 站內信件

Edgar Osuna et al, An Improved Training Algorithm for Support Vector Machine
s

這篇文章中的定理2說，將集合N（非工作集）中的違反KT條件的一個點和工作集B中的一
個點對換，新的子問題優化后，目標函數會有一個嚴格的improvement，因為目標函數是
求最小，所以這樣下去目標函數會嚴格遞減。

目標函數嚴格遞減是沒有問題的，我不明白的是，這種遞減的程度有多大。比如，開始
與全局真實最優的差距為0.5，第一次改進為0.1，第二次改進為0.01，第三次改進為0.
001……，依此類推，這樣它永遠也收斂不到全局真實最優值。

或許現實世界中這種情況不存在，但是對于這個improvement，有沒有一個嚴格的界呢，
比如每次改進目標函數至少減少0.01

這種想法可能有些幼稚，請大家多指教

--
※ 來源:．南京大學小百合站 bbs.nju.edu.cn．[FROM: 202.113.12.191]