Least squares alternatives[edit]The

Least squares alternatives[edit]
The simplest methods of estimating parameters in a regression model that are less sensitive to outliers than the least squares estimates, is to use least absolute deviations. Even then, gross outliers can still have a considerable impact on the model, motivating research into even more robust approaches.

In 1973, Huber introduced M-estimation for regression. The M in M-estimation stands for "maximum likelihood type". The method is robust to outliers in the response variable, but turned out not to be resistant to outliers in the explanatory variables (leverage points). In fact, when there are outliers in the explanatory variables, the method has no advantage over least squares.

In the 1980s, several alternatives to M-estimation were proposed as attempts to overcome the lack of resistance. See the book by Rousseeuw and Leroy for a very practical review. Least trimmed squares (LTS) is a viable alternative and is currently (2007) the preferred choice of Rousseeuw and Ryan (1997, 2008). The Theil–Sen estimator has a lower breakdown point than LTS but is statistically efficient and popular. Another proposed solution was S-estimation. This method finds a line (plane or hyperplane) that minimizes a robust estimate of the scale (from which the method gets the S in its name) of the residuals. This method is highly resistant to leverage points, and is robust to outliers in the response. However, this method was also found to be inefficient.

MM-estimation attempts to retain the robustness and resistance of S-estimation, whilst gaining the efficiency of M-estimation. The method proceeds by finding a highly robust and resistant S-estimate that minimizes an M-estimate of the scale of the residuals (the first M in the method's name). The estimated scale is then held constant whilst a close-by M-estimate of the parameters is located (the second M).

ผลลัพธ์ (ไทย) 1:

ทางเลือกสำหรับกำลังสองน้อยสุด [แก้]วิธีการประมาณพารามิเตอร์ในแบบจำลองถดถอยที่ไวต่อ outliers มากกว่าประมาณการกำลังสองน้อยสุด ง่ายที่สุดคือการ ใช้จุลภาคอย่างน้อย แม้แล้ว รวม outliers สามารถยังคงมีผลกระทบมากในรูปแบบ การวิจัยสร้างแรงจูงใจในวิธีที่มีประสิทธิภาพมากยิ่งขึ้นในปี 1973 ฮูเบอร์แนะนำ M-การประเมินสำหรับการถดถอย M ในประมาณ M ย่อมาจาก "ชนิดโอกาสสูงสุด" วิธีมีประสิทธิภาพเพื่อ outliers ในตัวแปรตอบสนอง แต่เปิดออกไม่ทนต่อ outliers ในตัวแปรอธิบาย (งัดจุด) ในความเป็นจริง เมื่อมี outliers ในตัวแปรอธิบาย วิธีการได้ไม่ดีกว่ากำลังสองน้อยสุดในทศวรรษ 1980, M-การประเมินทางเลือกสำหรับหลายที่ถูกนำเสนอเป็นความพยายามที่จะเอาชนะการขาดของความต้านทาน ดูหนังสือ โดย Rousseeuw และ Leroy สำหรับรีวิวเป็นประโยชน์มาก สี่เหลี่ยมตัดน้อย (LTS) เป็นอีกทางเลือกหนึ่ง และในขณะนี้ (2007) ดี Rousseeuw และไรอัน (1997, 2008) ประมาณ Theil – เซนมีจุดแบ่งต่ำกว่า LTS แต่มีประสิทธิภาพทางสถิติ และยอดนิยม อีกเสนอโซลูชันแก้ไขการประเมิน S วิธีนี้พบบรรทัด (เครื่องบินหรือ hyperplane) ที่ช่วยลดการประเมินประสิทธิภาพของขนาด (ซึ่งวิธีการได้รับที่ในชื่อ) ของเหลือ วิธีนี้คือทนทานต่อการใช้ประโยชน์จากจุด และแข็งแกร่งเพื่อ outliers ในการตอบสนอง อย่างไรก็ตาม วิธีการนี้พบว่าจะไม่มีประสิทธิภาพมม.ประมาณพยายามรักษาความทนทานและความต้านทานของการประเมิน S ในขณะที่ได้รับประสิทธิภาพของ M-การประเมิน วิธีการดำเนินการ โดยการค้นหาแข็งแกร่งสูง และทน S-ประเมินที่ลด M-ประมาณการขนาดของเหลือ (M ตัวแรกในชื่อของวิธีการ) ขนาดโดยประมาณแล้วอยู่คงในขณะปิดโดย M-ประมาณการของพารามิเตอร์อยู่ (ม 2)

ผลลัพธ์ (ไทย) 2:

น้อยสแควร์ทางเลือก [แก้ไข]
วิธีการที่ง่ายที่สุดของพารามิเตอร์ในการประเมินรูปแบบการถดถอยที่ไม่ไวต่อค่าผิดปกติกว่าประมาณการอย่างน้อยสี่เหลี่ยมคือการใช้น้อยเบี่ยงเบนแน่นอน แล้วถึงแม้ค่าผิดปกติขั้นต้นยังสามารถมีผลกระทบต่อรูปแบบการสร้างแรงจูงใจการวิจัยเป็นแนวทางแม้มีประสิทธิภาพมากขึ้น.

ในปี 1973 ฮิวแนะนำ M-ประมาณการถดถอย เอ็มเอ็มประมาณการย่อมาจาก "ประเภทโอกาสสูงสุด" วิธีการที่มีประสิทธิภาพในการค่าผิดปกติในตัวแปรตอบสนอง แต่เปิดออกไม่ได้ที่จะทนต่อความผิดปกติในการอธิบายตัวแปร (จุดงัด) ในความเป็นจริงเมื่อมีค่าผิดปกติในการอธิบายตัวแปรวิธีการที่มีความได้เปรียบกว่าสองน้อย no.

ในช่วงปี 1980 ทางเลือกหลายอย่างเพื่อการประมาณ M-ถูกเสนอให้เป็นความพยายามที่จะเอาชนะการขาดของความต้านทาน ดูหนังสือโดย Rousseeuw และ Leroy สำหรับการตรวจสอบการปฏิบัติมาก อย่างน้อยที่ถูกตัดสี่เหลี่ยม (LTS) เป็นทางเลือกที่ทำงานในปัจจุบันและเป็น (2007) ทางเลือกที่ดีของ Rousseeuw และไรอัน (1997, 2008) Theil เซ็นประมาณการมีจุดสลายต่ำกว่า LTS แต่มีประสิทธิภาพทางสถิติและเป็นที่นิยม อีกวิธีที่เสนอ S-การประมาณค่า วิธีการนี้จะพบว่าเส้น (เครื่องบินหรือไฮเปอร์เพลน) ที่ช่วยลดการประเมินประสิทธิภาพของเครื่องชั่ง (ซึ่งวิธีการที่ได้รับ S ในชื่อของมัน) ของคลาดเคลื่อน วิธีการนี้เป็นอย่างสูงที่ทนต่อการยกระดับจุดและมีประสิทธิภาพเพื่อค่าผิดปกติในการตอบสนอง แต่วิธีนี้ยังพบว่าไม่มีประสิทธิภาพ.

MM-การประมาณค่าความพยายามที่จะรักษาความแข็งแรงและความต้านทานของ S-การประมาณค่าในขณะที่ดึงดูดประสิทธิภาพของ M-การประมาณการดังกล่าว วิธีการโดยการหารายได้สูงที่แข็งแกร่งและทน S-ประมาณการที่ช่วยลดเอ็มประมาณการขนาดของเหลือที่ (เอ็มครั้งแรกในชื่อของวิธีการทำ) ขนาดโดยประมาณแล้วจะจัดขึ้นอย่างต่อเนื่องในขณะที่ใกล้ชิดโดย M-ประมาณการของพารามิเตอร์ตั้งอยู่ (ที่สอง M)

ผลลัพธ์ (ไทย) 3:

อย่างน้อยทางเลือก [ แก้ไข ]ง่ายวิธีการประมาณค่าพารามิเตอร์ในตัวแบบการถดถอยที่น้อยกว่าความไวผิดปกติกว่าอย่างน้อยประมาณ จะต้องใช้อย่างน้อยสัมบูรณ์ที่เบี่ยงเบน แล้วรวมค่าผิดปกติยังสามารถมีผลกระทบมากในรูปแบบการวิจัยเป็นแรงจูงใจที่แข็งแกร่งมากขึ้นแม้วิธีในปี 1973 , Admin แนะนำ m-estimation สำหรับการถดถอย เมตรใน m-estimation หมายถึง " ชนิด " ความน่าจะเป็นสูงสุด วิธีการที่แข็งแกร่งเพื่อตอบสนองผิดปกติในตัวแปร แต่ออกมาไม่ต้องทนต่อค่าผิดปกติในตัวแปรอธิบาย ( จุด leverage ) ในความเป็นจริงเมื่อมีการผิดปกติในตัวแปรอธิบาย วิธีที่ไม่มีความได้เปรียบมากกว่าอย่างน้อย .ในช่วงปี 1980 , หลายทางเลือกในการ m-estimation ถูกเสนอเป็นความพยายามที่จะเอาชนะการต่อต้าน เห็นหนังสือเล่มนี้โดย rousseeuw Leroy สำหรับการทบทวนและการปฏิบัติมาก อย่างน้อยตัดสี่เหลี่ยม ( LTS ) เป็นทางเลือกที่ทำงานได้และเป็นปัจจุบัน ( 2007 ) ทางเลือกของ rousseeuw และ Ryan ( 1997 , 2008 ) การประมาณการมีเซนทิล–ลดสลายจุดกว่าออกมาแต่ทางสถิติที่มีประสิทธิภาพและเป็นที่นิยม เสนอโซลูชั่น เป็นอีก s-estimation . วิธีนี้จะพบบรรทัด ( เครื่องบินหรือระนาบเกิน ) ที่ลดการประเมินประสิทธิภาพของขนาด ( จากที่วิธีการได้รับในชื่อของค่า . วิธีนี้เป็นวิธีที่ทนทานเพื่อใช้ประโยชน์จากคะแนนและไม่มีเสถียรภาพ การผิดปกติในการตอบสนอง แต่วิธีนี้ยังพบว่าไม่เป็นผลประมาณอืมพยายามรักษาความทนทานและความต้านทานของ s-estimation ในขณะที่เพิ่มประสิทธิภาพของ m-estimation . วิธีการดำเนินการโดยการค้นหาสูงที่แข็งแกร่งและทนทาน s-estimate ที่ช่วยลดการ m-estimate ของขนาดของความคลาดเคลื่อน ( ครั้งแรกในชื่อของวิธีการ ) ขนาดโดยประมาณจะจัดขึ้นปิดโดย m-estimate ของพารามิเตอร์คงที่ในขณะที่ตั้งอยู่ ( 2 เมตร )