Sequential Minimal Optimization (SM

Sequential Minimal Optimization (SMO) is a simple algorithm that can quickly solve the SVM
QP problem without any extra matrix storage and without using numerical QP optimization steps
at all. SMO decomposes the overall QP problem into QP sub-problems, using Osuna’s theorem
to ensure convergence.
Unlike the previous methods, SMO chooses to solve the smallest possible optimization problem
at every step. For the standard SVM QP problem, the smallest possible optimization problem
involves two Lagrange multipliers, because the Lagrange multipliers must obey a linear equality
constraint. At every step, SMO chooses two Lagrange multipliers to jointly optimize, finds the
optimal values for these multipliers, and updates the SVM to reflect the new optimal values (see
figure 2).
The advantage of SMO lies in the fact that solving for two Lagrange multipliers can be done
analytically. Thus, numerical QP optimization is avoided entirely. The inner loop of the
algorithm can be expressed in a short amount of C code, rather than invoking an entire QP library
routine. Even though more optimization sub-problems are solved in the course of the algorithm,
each sub-problem is so fast that the overall QP problem is solved quickly.
In addition, SMO requires no extra matrix storage at all. Thus, very large SVM training problems
can fit inside of the memory of an ordinary personal computer or workstation. Because no matrix
algorithms are used in SMO, it is less susceptible to numerical precision problems.
There are two components to SMO: an analytic method for solving for the two Lagrange
multipliers, and a heuristic for choosing which multipliers to optimize.

ผลลัพธ์ (ไทย) 1:

เพิ่มประสิทธิภาพน้อยที่สุดตามลำดับ (SMO) เป็นอัลกอริทึมง่าย ๆ ที่สามารถแก้การ SVMQP ปัญหา โดยเก็บข้อมูลเสริมเมตริกซ์ใด ๆ และโดยไม่ ต้องใช้ขั้นตอนเพิ่มประสิทธิภาพ QP เลขทั้งหมด SMO สลายตัวไปปัญหา QP โดยรวมเป็นปัญหาย่อย QP โดยใช้ทฤษฎีบทของอย่างสวยให้บรรจบกันซึ่งแตกต่างจากวิธีการก่อนหน้านี้ SMO เลือกการแก้ปัญหาเพิ่มประสิทธิภาพได้น้อยที่สุดในทุกขั้นตอน สำหรับปัญหา SVM QP มาตรฐาน ปัญหาเพิ่มประสิทธิภาพได้น้อยที่สุดเกี่ยวข้องกับตัวคูณ Lagrange สอง เนื่องจากตัวคูณ Lagrange ต้องปฏิบัติตามเสมอภาคเชิงเส้นข้อจำกัด ในทุกขั้นตอน SMO เลือกตัวคูณ Lagrange สองการปรับปรุงกิจการ ค้นหาการค่าที่เหมาะสมสำหรับตัวคูณเหล่านี้ และ SVM เพื่อสะท้อนถึงค่าที่ดีที่สุดใหม่ (ดูการปรับปรุงภาพ 2)ประโยชน์ของ SMO อยู่ในความจริงที่แก้ตัวคูณ Lagrange สองสามารถทำได้analytically ดังนั้น เพิ่มประสิทธิภาพ QP เลขจะหลีกเลี่ยงทั้งหมด วนในการอัลกอริทึมสามารถแสดงได้ในระยะสั้น ๆ ของรหัส C มากกว่าเรียกทุก ๆ QPกิจวัตรประจำวัน แม้ว่า แก้ปัญหาย่อยเพิ่มมากขึ้นในอัลกอริทึมแต่ละปัญหาย่อยได้อย่างรวดเร็วว่า เป็นแก้ไขปัญหา QP โดยรวมอย่างรวดเร็วนอกจากนี้ SMO ต้องไม่เก็บเมทริกซ์พิเศษทั้งหมด ดังนั้น ปัญหาฝึก SVM มีขนาดใหญ่มากสามารถใส่ในหน่วยความจำของคอมพิวเตอร์ส่วนบุคคลธรรมดาหรือเวิร์กสเตชัน เนื่องจากเมทริกซ์ไม่อัลกอริทึมที่ใช้ใน SMO หดปัญหาความแม่นยำของตัวเลขมีคอมโพเนนต์สอง SMO: วิธีการวิเคราะห์สำหรับแก้ Lagrange สองตัวคูณ และแก้ปัญหาในการเลือกตัวคูณที่จะเพิ่มประสิทธิภาพ

ผลลัพธ์ (ไทย) 2:

ตามลำดับการเพิ่มประสิทธิภาพน้อยที่สุด (SMO) เป็นขั้นตอนวิธีการง่ายๆที่สามารถแก้ SVM
ปัญหา QP โดยไม่ต้องจัดเก็บเมทริกซ์ใด ๆ เป็นพิเศษและโดยไม่ต้องใช้ตัวเลขขั้นตอนการเพิ่มประสิทธิภาพ QP
ที่ทั้งหมด SMO สลายตัวปัญหา QP โดยรวมเข้า QP ย่อยปัญหาโดยใช้ทฤษฎีบท Osuna ของ
เพื่อให้แน่ใจว่าการบรรจบ.
ซึ่งแตกต่างจากวิธีการก่อนหน้า, SMO เลือกที่จะแก้ปัญหาการเพิ่มประสิทธิภาพเป็นไปได้ที่เล็กที่สุด
ในทุกขั้นตอน สำหรับมาตรฐานปัญหา SVM QP ปัญหาการเพิ่มประสิทธิภาพเป็นไปได้ที่เล็กที่สุด
เกี่ยวข้องกับสองคูณ Lagrange เพราะคูณ Lagrange ต้องเป็นไปตามสมการเชิงเส้น
จำกัด ในทุกขั้นตอน SMO เลือกสองคูณ Lagrange เพื่อร่วมกันเพิ่มประสิทธิภาพพบว่า
ค่าที่เหมาะสมที่สุดสำหรับตัวคูณเหล่านี้และปรับปรุง SVM สะท้อนให้เห็นถึงค่านิยมที่เหมาะสมใหม่ (ดู
รูปที่ 2).
ประโยชน์ของ SMO อยู่ในความจริงที่ว่าแก้สอง Lagrange คูณสามารถทำได้
วิเคราะห์ ดังนั้นตัวเลขการเพิ่มประสิทธิภาพ QP จะหลีกเลี่ยงอย่างสิ้นเชิง วงในของ
อัลกอริทึมสามารถแสดงออกในจำนวนเงินที่สั้นของรหัส C มากกว่าอัญเชิญทั้ง QP ห้องสมุด
ประจำ แม้ว่าปัญหาย่อยเพิ่มประสิทธิภาพมากขึ้นจะแก้ไขได้ในหลักสูตรของอัลกอริทึมที่
ย่อยแต่ละปัญหาเป็นไปอย่างรวดเร็วเพื่อให้ปัญหา QP โดยรวมจะแก้ไขได้อย่างรวดเร็ว.
นอกจากนี้ SMO ไม่จำเป็นต้องมีการจัดเก็บเมทริกซ์พิเศษที่ทุกคน ดังนั้นปัญหาที่เกิดขึ้นมีขนาดใหญ่มากการฝึกอบรม SVM
สามารถพอดีภายในของหน่วยความจำของคอมพิวเตอร์ส่วนบุคคลสามัญหรือเวิร์กสเตชัน เพราะไม่มีเมทริกซ์
อัลกอริทึมที่ใช้ใน SMO มันเป็นน้อยไวต่อปัญหาความแม่นยำตัวเลข.
มีสององค์ประกอบจะ SMO: วิธีการวิเคราะห์สำหรับการแก้สำหรับสอง Lagrange
คูณและการแก้ปัญหาในการเลือกที่ตัวคูณเพิ่มประสิทธิภาพ

ผลลัพธ์ (ไทย) 3:

ลําดับที่น้อยที่สุดเพิ่มประสิทธิภาพ ( SMO ) เป็นขั้นตอนวิธีที่ง่ายที่สามารถแก้ไข SVMqp ปัญหาโดยไม่ต้องกระเป๋าเมทริกซ์พิเศษใด ๆโดยไม่ต้องใช้ขั้นตอนที่เหมาะสมและ qp เชิงตัวเลขที่ทั้งหมด ปัญหา qp SMO สลายตัวรวมเป็นปัญหาย่อย qp โดยใช้ทฤษฎีบทของโอซูนาเพื่อให้บรรจบกัน .ซึ่งแตกต่างจากวิธีการที่ก่อนหน้านี้ SMO เลือกที่จะแก้ปัญหาที่เหมาะสมที่สุด น้อยที่สุดทุกขั้นตอน สำหรับมาตรฐาน SVM qp ปัญหา , ปัญหาการเพิ่มประสิทธิภาพเป็นไปได้น้อยที่สุดเกี่ยวข้องกับสองลากรองจ์คูณลากรองจ์คูณต้องเชื่อฟัง เพราะความเสมอภาคเชิงเส้นจำกัด ทุกขั้นตอน SMO เลือกสอง Lagrange ตัวคูณร่วมเพิ่มประสิทธิภาพพบว่าค่านิยมที่เหมาะสมสำหรับตัวคูณเหล่านี้และการปรับปรุง SVM สะท้อนใหม่ค่า ( ดูที่เหมาะสมรูปที่ 2 )ประโยชน์ของ SMO อยู่ในความเป็นจริงว่า การแก้สอง Lagrange ตัวคูณสามารถทําทฤษฎี . ดังนั้น การเพิ่มประสิทธิภาพ qp เชิงตัวเลขหลีกเลี่ยงทั้งหมด วงด้านในของอัลกอริทึมที่สามารถแสดงได้ในเวลาสั้น รหัส มากกว่าการเป็นห้องสมุด qp ทั้งหมดตามปกติ แม้ว่าการเพิ่มประสิทธิภาพการแก้ไขปัญหาย่อยมากขึ้นในหลักสูตรของขั้นตอนวิธีปัญหาคือแต่ละย่อยเร็วมาก ปัญหา qp โดยรวมจะคลี่คลายโดยเร็วนอกจากนี้ SMO ไม่ต้องเสริมแบบกระเป๋าทั้งหมด ดังนั้น ปัญหาการฝึก SVM ขนาดใหญ่มากสามารถพอดีภายในหน่วยความจำของคอมพิวเตอร์ธรรมดาหรือเวิร์กสเตชัน เพราะไม่มีเมทริกซ์ขั้นตอนวิธีที่ใช้ใน SMO มันน้อยไวต่อปัญหาความถูกต้องเชิงตัวเลขมีสององค์ประกอบ SMO : วิธีการเชิงวิเคราะห์สำหรับการสองลากรองจ์ตัวคูณและฮิวริสติกสำหรับการเลือกที่ตัวคูณเพื่อเพิ่มประสิทธิภาพ .