In the sparse linear regression set

In the sparse linear regression setting, we consider testing the significance of the predictor variable that enters the current lasso model, in the sequence of models visited along the lasso solution path. We propose a simple test statistic based on lasso fitted values, called the covariance test statistic, and show that when the true model is linear, this statistic has an Exp(1) asymptotic distribution under the null hypothesis (the null being that all truly active variables are contained in the current lasso model). Our proof of this result for the special case of the first predictor to enter the model (i.e., testing for a single significant predictor variable against the global null) requires only weak assumptions on the predictor matrix X. On the other hand, our proof for a general step in the lasso path places further technical assumptions on X and the generative model, but still allows for the important high-dimensional case p > n, and does not necessarily require that the current lasso model achieves perfect recovery of the truly active variables.

Of course, for testing the significance of an additional variable between two nested linear models, one typically uses the chi-squared test, comparing the drop in residual sum of squares (RSS) to a χ21 distribution. But when this additional variable is not fixed, and has been chosen adaptively or greedily, this test is no longer appropriate: adaptivity makes the drop in RSS stochastically much larger than χ21 under the null hypothesis. Our analysis explicitly accounts for adaptivity, as it must, since the lasso builds an adaptive sequence of linear models as the tuning parameter λ decreases. In this analysis, shrinkage plays a key role: though additional variables are chosen adaptively, the coefficients of lasso active variables are shrunken due to the l1 penalty. Therefore, the test statistic (which is based on lasso fitted values) is in a sense balanced by these two opposing properties—adaptivity and shrinkage—and its null distribution is tractable and asymptotically Exp(1).

ผลลัพธ์ (ไทย) 1:

การถดถอยเชิงเส้นบ่อ เราควรทดสอบนัยสำคัญของตัวแปร predictor ที่ป้อนแบบ lasso แบบปัจจุบัน ในลำดับการเยี่ยมชมตลอดเส้นทางแบบ lasso โซลูชันรุ่น เราเสนอสถิติทดสอบอย่างง่าย ๆ ตามแบบ lasso เพียบค่า เรียกสถิติทดสอบความแปรปรวนร่วม และแสดงว่าเมื่อแบบจริงเชิงเส้น สถิตินี้มีการแจกจ่าย asymptotic Exp(1) ภายใต้สมมติฐานเป็น null (เป็น null ถูกว่า ตัวแปรที่ใช้งานอยู่จริงทั้งหมดอยู่ในรูปแบบ lasso แบบปัจจุบัน) หลักฐานของเราผลสำหรับกรณีพิเศษของจำนวนประตูแรกเพื่อป้อนแบบนี้ (เช่น ทดสอบตัวแปร predictor เดียวอย่างมีนัยสำคัญกับ null สากล) ต้องอ่อนแอสมมติฐานในเมตริกซ์ predictor X บนมืออื่น ๆ หลักฐานของเราสำหรับวางขั้นตอนทั่วไปในเส้นทางแบบ lasso เพิ่มเติมสมมติฐานเทคนิคบน X และแบบ generative แต่ยังคงอนุญาตให้ p กรณีสูงมิติสำคัญ > n และไม่จำเป็นต้องว่า แบบ lasso รุ่นปัจจุบันได้รับการกู้คืนที่สมบูรณ์แบบของตัวแปรใช้งานอย่างแท้จริงแน่นอน การทดสอบนัยสำคัญของตัวแปรเพิ่มเติมระหว่างรูปแบบเชิงซ้อนสอง โดยทั่วไปใช้การทดสอบไคสแควร์ เปรียบเทียบลดลงเหลือผลรวมกำลังสอง (RSS) แจก χ21 แต่เมื่อตัวแปรเพิ่มเติมนี้ไม่ถาวร และได้ถูกเลือกอย่างเหมาะ หรือตะกละตะกลาม การทดสอบนี้จะไม่เหมาะสม: adaptivity ทำแบบหล่นใน RSS stochastically ขนาดใหญ่กว่า χ21 ภายใต้สมมติฐานเป็น null การวิเคราะห์ของเราอย่างชัดเจนบัญชีสำหรับ adaptivity เป็นมันต้อง ตั้งแต่กม้าสร้างลำดับที่เหมาะสมของแบบจำลองเชิงเส้นเป็นการปรับแต่งพารามิเตอร์λลด ในการวิเคราะห์ การหดตัวมีบทบาทสำคัญ: แม้ว่าตัวแปรเพิ่มเติมจะถูกเลือกอย่างเหมาะ สัมประสิทธิ์ของตัวแปรใช้งานแบบ lasso มี shrunken เนื่องจากโทษ l1 ดังนั้น สถิติทดสอบ (ซึ่งขึ้นอยู่กับค่าติดตั้งแบบ lasso) เป็นความรู้สึกที่สมดุล โดยคุณสมบัติเหล่านี้ฝ่ายตรงข้าม 2 — adaptivity และหดตัว — และการกระจายของ null tractable asymptotically Exp(1) และ

ผลลัพธ์ (ไทย) 3:

ในป่าโปร่ง ถดถอยเชิงเส้นตรง การตั้งค่า เราพิจารณาการทดสอบความสำคัญของตัวแปรตัวแปรที่เข้ามาในรูปแบบเชือก ปัจจุบันในลำดับของรุ่นไปตามเชือกแก้ไขเส้นทาง เรานำเสนอการทดสอบอย่างง่าย สถิติที่ใช้ ค่าเชือกเข็มขัด เรียกว่า ความแปรปรวนการทดสอบทางสถิติ และพบว่าเมื่อความจริงเป็นแบบเชิงเส้นสถิตินี้ได้ exp ( 1 ) จำหน่ายเฉลี่ยภายใต้สมมติฐานว่าง ( Null จะว่าตัวแปรการใช้งานอย่างแท้จริงทั้งหมดที่มีอยู่ในรูปแบบเชือกในปัจจุบัน ) ของเราพิสูจน์ผลนี้สำหรับกรณีพิเศษของโดยที่เพื่อระบุรูปแบบ ( เช่นการทดสอบตัวแปรสำคัญตัวเดียวกับ ( null ) ใช้เพียงอ่อนแอข้อสมมติตัวแปรเมทริกซ์เอ็กซ์ บนมืออื่น ๆ , หลักฐานของเราสำหรับขั้นตอนทั่วไปในบ่วงบาศเส้นทางสถานที่เพิ่มเติมสมมติฐานทางเทคนิคบน X และเซลล์แบบ แต่ยังช่วยให้ความสำคัญสูง - มิติกรณี p > nไม่จําเป็นต้องใช้ว่ารูปแบบเชือกปัจจุบันบรรลุการกู้คืนที่สมบูรณ์แบบของตัวแปรใช้งานอย่างแท้จริง

แน่นอน สำหรับการทดสอบความสำคัญของตัวแปรเพิ่มเติมระหว่างสองซ้อนกันแบบเชิงเส้นหนึ่งโดยทั่วไปจะใช้ชิทดสอบสี่เหลี่ยมเปรียบเทียบวางในผลรวมตกค้างของสี่เหลี่ยม ( RSS ) χ 21 เพื่อแจกจ่าย แต่เมื่อตัวแปรเพิ่มเติมไม่คงที่และได้รับเลือกการปรับตัวหรือตะกละ การทดสอบนี้ไม่เหมาะสม : adaptivity ทำให้หล่นใน RSS stochastically ขนาดใหญ่กว่าχ 21 ภายใต้สมมติฐานโมฆะ . การวิเคราะห์ของเราอย่างชัดเจน บัญชี adaptivity ตามที่มันต้องการ เนื่องจากบ่วงบาศสร้างการลำดับของแบบจำลองเชิงเส้นเป็นพารามิเตอร์λปรับลดลง ในการวิเคราะห์นี้ การหดตัว มีบทบาทสําคัญ :แม้ว่าตัวแปรอื่นๆ เลือกตามที่ ค่าสัมประสิทธิ์ของตัวแปรเป็นบ่วงบาศหดเนื่องจากการ L1 จุดโทษ ดังนั้น การทดสอบทางสถิติ ( ซึ่งยึดเชือกพอดีค่า ) คือในความรู้สึกสมดุล โดยทั้งสองฝ่าย คุณสมบัติ adaptivity และการหดตัวของการกระจายและควบคุมได้ง่าย asymptotically EXP ( 1 )