Regression and Bayesian uncertainty

Regression and Bayesian uncertainty analysis are two different
ways to quantify parametric and predictive uncertainties. While the
regression confidence intervals are computationally frugal and easy
to compute, the computationally expensive Bayesian credible intervals
are more accurate for highly nonlinear problems with local
minima. The ability of UCODE_2014 to calculate both kinds of intervals
provides great flexibility in evaluating parametric and predictive
uncertainties.
This work integrates the advanced MCMC algorithm, DREAM,
into UCODE_2014 for Bayesian uncertainty analysis. This enables
UCODE_2014 to efficiently handle high-dimensional and multimodal
problems while taking advantage of UCODE structures to
obtain straightforward and flexible execution. With the template
and instruction files of UCODE, the uncertainty analysis can be
assessed for any process models with ASCII-based inputs and outputs
without modifying source code. With the parallel computing
capability based on UCODE's robust dispatcher-runner protocol, the
Bayesian uncertainty analysis can be evaluated with relatively high
efficiency. In addition, UCODE_2014 provides versatile ways to
initialize the MCMC process and a proper selection can accelerate
the chain convergence and save computational time. It also provides
a variety of parameter prior distributions which makes its
application more flexible. Most importantly, the program can be
used for not only the parametric but also the predictive uncertainty
analysis with little alteration of the input files.
This work uses a groundwater reactive transport model to
illustrate that UCODE_2014 can be used for Bayesian uncertainty
analysis of a variety of environmental problems. When applied to
large-scale inverse problems, e.g., highly heterogeneous problems,
MCMC methods face two major challenges. First, the complex process
models may make MCMC simulation computationally
unaffordable to evaluate posterior probability density for any
parameter sample. In addition, the high-dimensional parameter
spaces make the exploration of the posterior parameter distribution
difficult sometimes even prohibitive. To resolve the first challenge,
currently there are two major strategies: (1) develop advanced
MCMC algorithms to improve computationally efficiency by
reducing the needed number of process model executions, i.e., MTDREAMzs
(Laloy and Vrugt, 2012); and (2) apply model surrogate
methods to improve computationally efficiency by evaluating the
computationally frugal surrogate model instead of the actual process
model, i.e., Zhang et al. (2013) and Laloy et al. (2013). The second
challenge is more difficult because the high dimension usually
means large model nonlinearity and many local minima. For those
problems, currently none of the MCMC methods can guarantee that
all local minima will be found, and surrogate methods are no longer
absolutely computationally competitive because building the surrogate
model can require a large number of process model runs.
Combining the advanced MCMC algorithm with some dimensionality
reduction techniques may be a good solution.

ผลลัพธ์ (ไทย) 1:

ถดถอยและการวิเคราะห์ความไม่แน่นอนของทฤษฎีสองแตกต่างกันวิธีวัดปริมาณไม่แน่นอนพาราเมตริก และการคาดการณ์ ในขณะช่วงความเชื่อมั่นถดถอยจะ computationally ประหยัด และง่ายการคำนวณ ช่วงน่าเชื่อถือทฤษฎี computationally แพงถูกมากปัญหาไม่เชิงเส้นสูงพร้อมกมินิมา ความสามารถในการ UCODE_2014 การคำนวณช่วงเวลาทั้งสองชนิดมีความยืดหยุ่นที่ดีในการประเมินคาดการณ์ และพาราเมตริกความไม่แน่นอนงานนี้รวมอัลกอริธึม MCMC ขั้นสูง ความฝันเป็น UCODE_2014 สำหรับการวิเคราะห์ทฤษฎีความไม่แน่นอน ซึ่งช่วยให้UCODE_2014 การจัดการ มิติสูง และทุกอย่างมีประสิทธิภาพปัญหาในขณะที่โครงสร้าง UCODE ไปประโยชน์ได้รับการดำเนินการตรงไปตรงมา และมีความยืดหยุ่น ด้วยแม่แบบและแฟ้มคำสั่ง UCODE การวิเคราะห์ความไม่แน่นอนอาจเป็นได้ประเมินแบบจำลองกระบวนการใด ๆ กับ ASCII โดยใช้อินพุตและเอาท์พุตไม่ มีการปรับเปลี่ยนรหัสแหล่งที่มา กับคอมพิวเตอร์แบบขนานตามของ UCODE วิ่งผู้แข็งแกร่งโพรโทคอล ความสามารถในการสามารถประเมินวิเคราะห์ทฤษฎีความไม่แน่นอนมีค่อนข้างสูงประสิทธิภาพการ นอกจากนี้ UCODE_2014 มีวิธีหลากหลายในการเริ่มต้นการ MCMC และตัวเลือกที่เหมาะสมสามารถเร่งการบรรจบกันของโซ่ และบันทึกเวลาที่คำนวณ นอกจากนี้ยังมีหลากหลายพารามิเตอร์ก่อนกระจายซึ่งทำให้การโปรแกรมประยุกต์มีความยืดหยุ่น สำคัญที่สุด โปรแกรมสามารถใช้สำหรับไม่เพียงพาราเมตริก แต่ความไม่แน่นอนการคาดการณ์วิเคราะห์ ด้วยเอาไว้ใส่ไฟล์น้อยงานนี้ใช้แบบปฏิกิริยาการขนส่งน้ำให้แสดงว่า สามารถใช้ UCODE_2014 สำหรับทฤษฎีความไม่แน่นอนวิเคราะห์ปัญหาสิ่งแวดล้อมที่หลากหลาย เมื่อใช้กับขนาดใหญ่ผกผันปัญหา เช่น ปัญหาแตกต่างกันมากMCMC วิธีเผชิญกับความท้าทายสำคัญสอง แรก กระบวนการซับซ้อนรูปแบบอาจทำให้การจำลอง MCMC computationallyข้าวยากหมากแพงเพื่อประเมินความหนาแน่นความน่าเป็นหลังใดตัวอย่างของพารามิเตอร์ นอกจากนี้ พารามิเตอร์มิติสูงพื้นที่ทำการสำรวจการกระจายหลังพารามิเตอร์ยากบางครั้งห้ามปราม เมื่อต้องการแก้ไขความท้าทายแรกขณะนี้มี 2 กลยุทธ์หลัก: (1) พัฒนาขั้นสูงMCMC อัลกอริทึมในการปรับปรุงประสิทธิภาพ computationallyทางจำเป็นของกระบวนการดำเนินการแบบจำลอง เช่น MTDREAMzs(Laloy และ Vrugt, 2012); และ (2) ใช้รูปแบบตัวแทนวิธีการปรับปรุงประสิทธิภาพ computationally โดยประเมินในรูปแบบตัวแทน computationally ประหยัดแทนกระบวนการจริงรุ่น เช่น al. et จาง (2013) และ Laloy et al. (2013) ที่สองความท้าทายคือยากเนื่องจากขนาดสูงมักจะหมายความว่า nonlinearity รุ่นใหญ่และกมินิมาท้องถิ่นจำนวนมาก สำหรับผู้ที่ปัญหา ขณะนี้ไม่มีวิธี MCMC สามารถรับประกันได้ว่าจะพบกมินิมาท้องถิ่นทั้งหมด และวิธีที่ตัวแทนจะไม่แข่งขันอย่าง computationally เนื่องจากอาคารตัวแทนรูปแบบอาจต้องการจำนวนมากของรูปแบบกระบวนการทำงานรวมอัลกอริทึม MCMC ขั้นสูงกับบาง dimensionalityเทคนิคการลดอาจเป็นโซลูชันที่ดี

ผลลัพธ์ (ไทย) 2:

การถดถอยและการวิเคราะห์ความไม่แน่นอนแบบเบย์มีสองที่แตกต่างกัน
วิธีการที่จะหาจำนวนคณิตศาสตร์และการคาดการณ์ความไม่แน่นอน ในขณะที่
ความเชื่อมั่นที่ถดถอยเป็นคอมพิวเตอร์ประหยัดและง่ายต่อ
การคำนวณที่แพงคอมพิวเตอร์ช่วงเวลาที่น่าเชื่อถือแบบเบย์
มีความถูกต้องมากขึ้นสำหรับปัญหาที่ไม่เป็นเชิงเส้นอย่างมากกับท้องถิ่น
น้อย ความสามารถของ UCODE_2014 ในการคำนวณทั้งสองชนิดของช่วงเวลา
ให้มีความยืดหยุ่นที่ดีในการประเมินคณิตศาสตร์และการคาดการณ์
ความไม่แน่นอน
งานนี้รวมขั้นตอนวิธี MCMC ขั้นสูง, ความฝัน
เป็น UCODE_2014 สำหรับการวิเคราะห์ความไม่แน่นอนแบบเบย์ ซึ่งจะช่วยให้
UCODE_2014 ได้อย่างมีประสิทธิภาพจัดการกับมิติสูงและต่อเนื่อง
ปัญหาในขณะที่การใช้ประโยชน์จากโครงสร้าง UCODE ที่จะ
ได้รับการดำเนินการตรงไปตรงมาและมีความยืดหยุ่น ที่มีแม่แบบ
และการเรียนการสอนของไฟล์ UCODE การวิเคราะห์ความไม่แน่นอนที่สามารถ
ประเมินแบบจำลองกระบวนการใด ๆ กับปัจจัย ASCII-based และผล
โดยไม่ต้องแก้ไขซอร์สโค้ด ด้วยการคำนวณแบบขนาน
ความสามารถในการขึ้นอยู่กับโปรโตคอลรีบวิ่ง UCODE ที่แข็งแกร่ง,
การวิเคราะห์ความไม่แน่นอนแบบเบย์สามารถประเมินได้ค่อนข้างสูงที่มี
ประสิทธิภาพ นอกจากนี้ UCODE_2014 มีวิธีการที่หลากหลายเพื่อ
เริ่มต้นกระบวนการ MCMC และเลือกที่เหมาะสมสามารถเร่ง
การบรรจบกันของห่วงโซ่และประหยัดเวลาในการคำนวณ นอกจากนี้ยังมี
ความหลากหลายของพารามิเตอร์การแจกแจงก่อนซึ่งทำให้มี
การประยุกต์ใช้ความยืดหยุ่นมากขึ้น ที่สำคัญที่สุดคือโปรแกรมที่สามารถ
ใช้สำหรับการไม่เพียง แต่ตัวแปร แต่ยังไม่แน่นอนการคาดการณ์
การวิเคราะห์ที่มีการเปลี่ยนแปลงเล็ก ๆ น้อย ๆ ของอินพุตไฟล์
งานนี้ใช้น้ำบาดาลรูปแบบการขนส่งปฏิกิริยาที่
แสดงให้เห็นว่า UCODE_2014 สามารถใช้สำหรับความไม่แน่นอนคชกรรม
การวิเคราะห์ความหลากหลายของ ปัญหาสิ่งแวดล้อม เมื่อนำไปใช้กับ
ปัญหาผกผันขนาดใหญ่เช่นปัญหาต่างกันอย่างมาก
วิธีการ MCMC สองเผชิญความท้าทายที่สำคัญ ครั้งแรกขั้นตอนที่ซับซ้อน
รุ่นอาจทำให้การจำลอง MCMC คอมพิวเตอร์
unaffordable เพื่อประเมินความหนาแน่นของความน่าจะเป็นหลัง ๆ
ตัวอย่างพารามิเตอร์ นอกจากนี้สูงมิติพารามิเตอร์
ช่องว่างที่ทำให้การตรวจสอบข้อเท็จจริงของการกระจายพารามิเตอร์หลัง
บางครั้งยากที่ต้องห้ามแม้กระทั่ง เพื่อแก้ไขความท้าทายครั้งแรก
นี้มีสองกลยุทธ์หลักคือ (1) การพัฒนาขั้นสูง
ขั้นตอนวิธี MCMC เพื่อปรับปรุงประสิทธิภาพการคำนวณโดย
การลดจำนวนที่จำเป็นของกระบวนการการประหารชีวิตแบบคือ MTDREAMzs
(Laloy และ Vrugt, 2012); และ (2) ใช้แทนรูปแบบ
วิธีการในการปรับปรุงประสิทธิภาพของคอมพิวเตอร์โดยการประเมิน
รูปแบบการประหยัดตัวแทนคอมพิวเตอร์แทนของกระบวนการที่เกิดขึ้นจริง
รูปแบบคือ Zhang et al, (2013) และ Laloy และคณะ (2013) สอง
ความท้าทายเป็นเรื่องยากมากขึ้นเพราะมิติที่สูงมักจะ
หมายถึงการไม่เป็นเชิงเส้นแบบจำลองขนาดใหญ่และท้องถิ่นน้อยมาก สำหรับผู้ที่
มีปัญหาในขณะนี้ไม่มีวิธีการ MCMC สามารถรับประกันได้ว่า
ทุกท้องถิ่นน้อยจะพบและวิธีการตัวแทนไม่ได้
อย่างแน่นอนในการแข่งขันคอมพิวเตอร์เพราะการสร้างตัวแทน
รุ่นจะต้องมีจำนวนมากของรูปแบบขั้นตอนการทำงาน
รวมขั้นตอนวิธี MCMC ขั้นสูงด้วย บางมิติ
เทคนิคการลดอาจจะเป็นทางออกที่ดี

ผลลัพธ์ (ไทย) 3:

การวิเคราะห์การถดถอยและความไม่แน่นอนแบบสองวิธีที่แตกต่างกันเพื่อหาตัวแปรพยากรณ์
และความไม่แน่นอน ในขณะที่ความเชื่อมั่นเป็น computationally
การประหยัดและหาง่าย

คชกรรมน่าเชื่อถือ , ช่วงเวลา computationally แพงได้อย่างถูกต้อง สำหรับปัญหาที่ไม่เป็นเชิงเส้นสูงกับท้องถิ่น ไม่นี่ ม๊า

ความสามารถของ ucode_2014 คำนวณทั้งสองชนิดของช่วงเวลา
มีความยืดหยุ่นที่ดีในการประเมินเชิงพยากรณ์

และความไม่แน่นอน งานนี้รวมขั้นตอนวิธีขั้นสูงใน MCMC ฝัน
ucode_2014 สำหรับความไม่แน่นอนการวิเคราะห์คชกรรม . นี้จะช่วยให้สามารถจัดการและ ucode_2014

สูง - มิติหลายปัญหาในขณะที่ได้ประโยชน์จากโครงสร้าง ucode

ขอรับตรงไปตรงมาและความยืดหยุ่นในการดำเนินการ กับแม่แบบ
ไฟล์และการจัดการเรียนการสอนของ ucode การวิเคราะห์ความไม่แน่นอนสามารถประเมินรูปแบบกระบวนการใด ๆ

ตามด้วยตัวอักษรอินพุตและเอาต์พุตโดยการแก้ไขรหัสแหล่งที่มา กับขนานคอมพิวเตอร์
ความสามารถตาม ucode แข็งแกร่งคาดส่งโปรโตคอล
ความไม่แน่นอนการวิเคราะห์แบบเบส์สามารถประเมินผลที่มีประสิทธิภาพค่อนข้างสูง

นอกจากนี้ ucode_2014 มีวิธีการหลากหลาย

เริ่มต้นกระบวนการ MCMC และเลือกที่เหมาะสมสามารถเร่ง
โซ่การลู่เข้าและประหยัดเวลาในการคำนวณ นอกจากนี้ยังมีความหลากหลายของพารามิเตอร์ของการแจกแจงก่อน

ซึ่งทำให้การใช้งานที่ยืดหยุ่นมากขึ้น ที่สำคัญที่สุดคือ โปรแกรมสามารถใช้ไม่เพียง แต่จัด

แต่ยังมีความไม่แน่นอน การเปลี่ยนแปลงเล็ก ๆน้อย ๆของการพยากรณ์ด้วย
ไฟล์ใส่งานนี้ใช้น้ำบาดาลที่มีการขนส่งรูปแบบ

ucode_2014 แสดงให้เห็นว่าสามารถใช้ในการวิเคราะห์ความไม่แน่นอน
เบย์ของความหลากหลายของปัญหาสิ่งแวดล้อม เมื่อใช้

ปัญหาผกผันขนาดใหญ่เช่น ปัญหา สูงต่างกัน ,
วิธีการ MCMC เผชิญความท้าทายที่สองหลัก แรก , กระบวนการที่ซับซ้อนอาจทำให้การจำลองแบบ

computationally MCMCunaffordable เพื่อประเมินความหนาแน่นของความน่าจะเป็นของตัวแปรใด
ตัวอย่าง นอกจากนี้ เป็นพารามิเตอร์
- สูงขนาดทำให้การสำรวจของพารามิเตอร์การแจกแจง
ยากบางครั้งก็ห้ามปราม เพื่อแก้ปัญหาความท้าทายแรก
ในปัจจุบันมี 2 กลยุทธ์หลัก ได้แก่ ( 1 ) การพัฒนาอัลกอริทึม MCMC ขั้นสูงเพื่อเพิ่มประสิทธิภาพ computationally

โดยลดการใช้จำนวนของการประหารชีวิตแบบกระบวนการ เช่น mtdreamzs
( laloy และ vrugt 2012 ) ; และ ( 2 ) ใช้รูปแบบตัวแทน
วิธีการปรับปรุงประสิทธิภาพ computationally โดยการประเมินแบบตัวแทน computationally ประหยัด

จริงแทนของกระบวนการ รูปแบบ ได้แก่ Zhang et al . ( 2013 ) และ laloy et al . ( 2013 ) ความท้าทายที่สอง
ยากเพราะขนาดสูงมักจะ
หมายถึงค่ารูปแบบขนาดใหญ่และไม่นี่ ม๊าท้องถิ่นมากมาย สำหรับปัญหาเหล่านั้น
ปัจจุบันไม่มีของ MCMC วิธีการสามารถรับประกันได้ว่าไม่นี่ ม๊า
ท้องถิ่นจะพบและวิธีการเป็นตัวแทนอีกต่อไป
อย่าง computationally แข่งขันเพราะการสร้างโมเดลตัวแทน
สามารถใช้เป็นจำนวนมากของกระบวนการทํางาน .
รวมขั้นตอนวิธีขั้นสูงกับบาง dimensionality
MCMCเทคนิคลดอาจเป็นทางออกที่ดี