Lasso regression differs from ridge

Lasso regression differs from ridge regression in a way that it uses absolute values in the penalty function, instead of squares. This leads to penalizing (or equivalently constraining the sum of the absolute values of the estimates) values which causes some of the parameter estimates to turn out exactly zero. Larger the penalty applied, further the estimates get shrunk towards absolute zero. This results to variable selection out of given n variables.

Similar to Ridge Regression, Lasso (Least Absolute Shrinkage and Selection Operator) also penalizes the absolute size of the regression coefficients. In addition, it is capable of reducing the variability and improving the accuracy of linear regression models. Look at the equation below:

ผลลัพธ์ (ไทย) 1:

ถดถอยแบบ lasso แตกต่างจากการถดถอยริดจ์ในวิธีที่ใช้ค่าสัมบูรณ์ในฟังก์ชันลงโทษ แทนสี่เหลี่ยม นี้นำไปสู่โทษ (หรือ equivalently constraining ผลรวมของค่าสัมบูรณ์ของการประเมิน) ค่าซึ่งทำให้ค่าประมาณพารามิเตอร์ออกมาว่าศูนย์บาง ใหญ่โทษใช้ เพิ่มเติมการประเมินรับ shrunk ไปทางศูนย์สัมบูรณ์ ซึ่งผลการเลือกตัวแปรที่กำหนดให้ตัวแปร nคล้ายกับถดถอยริดจ์ แลซโซ (การหดตัวน้อยที่แน่นอนและเลือกผู้ให้บริการ) ยัง penalizes ขนาดสัมบูรณ์ของสัมประสิทธิ์ของปัญหา นอกจากนี้ มันเป็นความสามารถในการลดความแปรปรวน และการปรับปรุงความแม่นยำของแบบจำลองถดถอยเชิงเส้น ดูที่สมการด้านล่าง:

ผลลัพธ์ (ไทย) 2:

การถดถอยเชือกแตกต่างจากการถดถอยสันในทางที่จะใช้ค่าที่แน่นอนในการทำงานโทษแทนของสี่เหลี่ยม นี้นำไปสู่การลงทัณฑ์ (หรือเท่า constraining ผลรวมของค่าแน่นอนของประมาณการ) ค่าซึ่งเป็นสาเหตุบางส่วนของประมาณการพารามิเตอร์ที่จะเปิดออกว่าเป็นศูนย์ ขนาดใหญ่ที่ใช้โทษต่อประมาณการที่ได้รับการหดตัวต่อศูนย์แน่นอน ซึ่งจะส่งผลในการเลือกตัวแปรจาก n ตัวแปรที่กำหนด.

คล้ายกับริดจ์ถดถอยเชือก (น้อยแอบโซลูทการหดตัวและการคัดเลือกผู้ประกอบการ) นอกจากนี้ยังลงโทษขนาดที่แน่นอนของค่าสัมประสิทธิ์การถดถอย นอกจากนี้ยังมีความสามารถในการลดความแปรปรวนและปรับปรุงความถูกต้องของแบบจำลองการถดถอยเชิงเส้น ดูสมการดังต่อไปนี้:

ผลลัพธ์ (ไทย) 3:

บ่วงถดถอย ต่างจากจ๋าในวิธีที่ใช้ค่าสัมบูรณ์ในฟังก์ชันโทษแทนของสี่เหลี่ยม นี้นำไปสู่การลงโทษ ( หรือก้องจำกัดผลรวมของค่าสมบูรณ์ของค่าประมาณการ ) ซึ่งสาเหตุบางส่วนของพารามิเตอร์การประเมินออกมาตรงศูนย์ ขนาดใหญ่ปรับประยุกต์เพิ่มเติม ประมาณการได้หดสู่ศูนย์สัมบูรณ์ . ผลลัพธ์ของการเลือกตัวแปรจำนวนเต็มตัวแปรคล้ายกับสันเขาถดถอยบาศ ( อย่างน้อยแน่นอน การหดและการเลือกผู้ประกอบการยัง penalizes ขนาดสัมบูรณ์ของสัมประสิทธิ์ถดถอย . นอกจากนี้ยังสามารถลดความแปรปรวนและปรับปรุงความถูกต้องของตัวแบบการถดถอยเชิงเส้น ดูสมการข้างล่างนี้ :