CHAPTER 2. COMBINATIONS OF LEARNING MACHINES 24
For example, consider the situation if we had an ensemble of four neural networks on
a two-class problem. Each has a single sigmoidal output unit, if the output is above 0.5,
we say it is class A, and class B otherwise. For a new pattern the networks give outputs
0.2, 0.6, 0.7 and 0.99. The min rule would predict class B, whereas the max and med rules
would predict class A. Roli and Fumera [113] presents empirical evidence supporting the
arguments by Tumer and Ghosh [136] stating that order statistics are most beneficial as
combination rules when the classifiers are highly imbalanced in accuracy.
An alternative to the static combination methods discussed so far is to choose a single
predictor from the ensemble, dependent on what input pattern is received. The DCS-LA
(Dynamic Classifier Selection with Local Accuracy) algorithm by Woods et al [150] uses
estimates of local accuracy in the input space to select a single classifier to respond to a
new pattern; their experiments plus extensive testing by Kuncheva [71] establish DCS-LA as
a very robust technique for combining estimators that have different individual accuracies.
A novel approach was adopted by Langdon [81, 82, 83] using a Genetic Programming [69]
system, to find a highly non-linear method of combining the outputs of the ensemble. This
combination rule was applied to a medical dataset and Receiver-Operator Characteristics
(ROC) [158] were calculated. The system was found to improve performance in ROC
space beyond a previously suggested theoretical upper bound [121]. A similarly inspired
evolutionary approach was taken by Zhou et al [159], using a Genetic Algorithm to select a
good set of networks to include in the ensemble.
บทที่ 2 ชุดเรียนรู้เครื่องจักร 24พิจารณาสถานการณ์เช่น หากเรามีวงดนตรีเป็นของเครือข่ายประสาทสี่ปัญหาสองชั้น มีหน่วยออกเดี่ยว sigmoidal ถ้าผลลัพธ์เหนือ 0.5เราว่า เป็น class A, class B รูปแบบใหม่สำหรับ เครือข่ายให้แสดงผล0.2, 0.6, 0.7 และ 0.99 กฎ min จะทำนายคลาส B ในขณะที่กฎสูงสุด และเม็ดจะทำนายคลาส A. Roli และ Fumera [113] นำเสนอหลักฐานประจักษ์สนับสนุนการอาร์กิวเมนต์ Tumer และภโฆษ [136] ระบุสถิติใบสั่งที่มีประโยชน์มากที่สุดเป็นชุดกฎเมื่อคำนามภาษาที่ imbalanced สูงในความถูกต้องทางเลือกวิธีรวมคงที่กล่าวถึงมากคือการ เลือกเดียวผู้ทายผลจากวงดนตรี ขึ้นอยู่กับรูปแบบใดเข้ารับ DCS-ลาอัลกอริทึม (Classifier เลือกแบบไดนามิก มีความแม่นยำภายใน) โดยใช้ไม้ et al [150]การประเมินความถูกต้องเฉพาะในพื้นที่ป้อนข้อมูลเพื่อเลือก classifier เดียวเพื่อตอบสนองต่อการรูปแบบใหม่ การทดลองและทดสอบอย่างละเอียด โดย Kuncheva [71] สร้าง DCS-ลาเป็นเทคนิคที่แข็งแกร่งมากสำหรับรวม estimators ที่มีแต่ละ accuracies แตกต่างกันวิธีนวนิยายถูกนำมาใช้ โดยมาก [81, 82, 83] โดยใช้การเขียนโปรแกรมทางพันธุ [69]ระบบ หาวิธีสูงไม่ใช่เชิงเส้นรวมแสดงผลแบบวงดนตรี นี้ใช้กับชุดข้อมูลทางการแพทย์และรับดำเนินลักษณะชุดกฎ(ROC) [158] were calculated. The system was found to improve performance in ROCspace beyond a previously suggested theoretical upper bound [121]. A similarly inspiredevolutionary approach was taken by Zhou et al [159], using a Genetic Algorithm to select agood set of networks to include in the ensemble.
การแปล กรุณารอสักครู่..
