Okay, so calculus doesn't work. For

Okay, so calculus doesn't work. Fortunately, there is a beautiful analogy which suggests an algorithm which works pretty well. We start by thinking of our function as a kind of a valley. If you squint just a little at the plot above, that shouldn't be too hard. And we imagine a ball rolling down the slope of the valley. Our everyday experience tells us that the ball will eventually roll to the bottom of the valley. Perhaps we can use this idea as a way to find a minimum for the function? We'd randomly choose a starting point for an (imaginary) ball, and then simulate the motion of the ball as it rolled down to the bottom of the valley. We could do this simulation simply by computing derivatives (and perhaps some second derivatives) of CC - those derivatives would tell us everything we need to know about the local "shape" of the valley, and therefore how our ball should roll.

Based on what I've just written, you might suppose that we'll be trying to write down Newton's equations of motion for the ball, considering the effects of friction and gravity, and so on. Actually, we're not going to take the ball-rolling analogy quite that seriously - we're devising an algorithm to minimize CC, not developing an accurate simulation of the laws of physics! The ball's-eye view is meant to stimulate our imagination, not constrain our thinking. So rather than get into all the messy details of physics, let's simply ask ourselves: if we were declared God for a day, and could make up our own laws of physics, dictating to the ball how it should roll, what law or laws of motion could we pick that would make it so the ball always rolled to the bottom of the valley?

To make this question more precise, let's think about what happens when we move the ball a small amount Δv1Δv1 in the v1v1 direction, and a small amount Δv2Δv2 in the v2v2 direction. Calculus tells us that CC changes as follows:

ผลลัพธ์ (ไทย) 1:

พอดี แคลคูลัสไม่ทำงาน โชคดี มีการเปรียบเทียบความสวยงามซึ่งแสดงให้เห็นกอริทึมที่ดี เราเริ่มต้นจากการทำงานของเราเป็นชนิดของหุบเขา ถ้าคุณเหล่เพียงเล็กน้อยที่จุดด้านบน ที่ไม่ควรจะยากเกินไป และเราลองนึกภาพลูกกลิ้งลงทางลาดของหุบเขา ประสบการณ์ในชีวิตประจำวันของเราบอกเราว่า ลูกในที่สุดก็จะย้อนไปด้านล่างของหุบเขา บางทีเราสามารถใช้ความคิดนี้เป็นวิธีการค้นหาอย่างน้อยสำหรับฟังก์ชันหรือไม่ เราจะเลือกแบบสุ่มจุดเริ่มต้นสำหรับตัวลูก (ในจินตนาการ) แล้ว จำลองการเคลื่อนที่ของลูกให้มันรีดลงไปด้านล่างของหุบเขา เราสามารถทำจำลองนี้เพียงแค่ โดยการคำนวณอนุพันธ์ (และบางทีอนุพันธ์บางสอง) ของ CC - อนุพันธ์เหล่านั้นจะบอกเราทุกอย่างเราต้องรู้เกี่ยวกับท้องถิ่น "รูปร่าง" ของหุบเขา และดังนั้นวิธีควรม้วนลูกของเราตามสิ่งที่ฉันได้เพียงแค่เขียน คุณอาจสมมติว่า เราจะพยายามเขียนลงของนิวตันสมการของการเคลื่อนไหวสำหรับลูก พิจารณาผลของแรงเสียดทานและแรงโน้มถ่วง และอื่น ๆ จริง เราไม่จะใช้เปรียบเทียบลูกกลิ้งมากว่า อย่างจริงจัง - เรากำลังทบทวนอัลกอริทึมเพื่อลด CC ไม่พัฒนาการจำลองที่ถูกต้องของกฎหมายของฟิสิกส์ มุมมองของลูกตาจะหมายถึงการกระตุ้นจินตนาการของเรา ไม่จำกัดความคิดของเรา ดังนั้นค่อนข้าง มากกว่าที่ได้รับในทุกรายละเอียดที่ยุ่งของฟิสิกส์ ลองเพียงแค่ถามตัวเอง: ถ้าเราถูกประกาศพระสำหรับวัน และอาจทำให้ค่าเราเองกฎหมายของฟิสิกส์ บอกกับลูกว่ามันควรม้วน กฎหมายหรือกฎหมายของการเคลื่อนไหวอะไรได้เราเลือกที่จะทำให้ลูกเสมอ รีดที่ด้านล่างของหุบเขาคำถามนี้ให้ชัดเจนยิ่งขึ้น ลองคิดว่า จะเกิดอะไรขึ้นเราย้ายลูกเป็น Δv1Δv1 เล็กน้อยในทิศทางที่ v1v1 และมี Δv2Δv2 เล็กน้อยในทิศทางที่ v2v2 แคลคูลัสบอกเราว่า CC เปลี่ยนเป็นดังนี้:

ผลลัพธ์ (ไทย) 2:

เอาล่ะเพื่อแคลคูลัสไม่ทำงาน โชคดีที่มีการเปรียบเทียบที่สวยงามซึ่งแสดงให้เห็นขั้นตอนวิธีการที่ทำงานสวยกัน เราเริ่มต้นด้วยความคิดของฟังก์ชั่นของเราเป็นชนิดของหุบเขา หากคุณเหล่เพียงเล็กน้อยที่พล็อตดังกล่าวข้างต้นที่ไม่ควรจะยากเกินไป และเราคิดลูกบอลกลิ้งลงทางลาดของหุบเขา ประสบการณ์ในชีวิตประจำวันของเราบอกเราว่าลูกในที่สุดก็จะหมุนไปด้านล่างของหุบเขา บางทีเราสามารถใช้ความคิดนี้เป็นวิธีการค้นหาขั้นต่ำสำหรับฟังก์ชั่นหรือไม่? เราต้องการสุ่มเลือกเป็นจุดเริ่มต้นสำหรับ (จินตนาการ) ลูกแล้วจำลองการเคลื่อนไหวของลูกในขณะที่มันกลิ้งลงไปที่ด้านล่างของหุบเขา เราสามารถทำจำลองนี้ได้ง่ายๆโดยการซื้อขายสัญญาซื้อขายล่วงหน้า (และบางทีบางอนุพันธ์สอง) ของ CC คอมพิวเตอร์ - อนุพันธ์เหล่านั้นจะบอกเราทุกสิ่งที่เราจำเป็นต้องรู้เกี่ยวกับ "รูปร่าง" ท้องถิ่นของหุบเขาและดังนั้นวิธีการที่ลูกของเราควรม้วน.

ขึ้นอยู่กับสิ่ง ผมเคยเขียนเพียงแค่คุณอาจคิดว่าเราจะพยายามที่จะเขียนลงสมการของนิวตันของการเคลื่อนไหวสำหรับลูกพิจารณาผลกระทบของแรงเสียดทานและแรงโน้มถ่วงและอื่น ๆ ที่จริงเราจะไม่ใช้การเปรียบเทียบลูกกลิ้งค่อนข้างจริงจัง - เรากำลังการณ์อัลกอริทึมเพื่อลด CC ไม่พัฒนาจำลองที่ถูกต้องของกฎหมายของฟิสิกส์! มุมมอง ball's ตาจะหมายถึงการกระตุ้นจินตนาการของเราไม่ได้ จำกัด การคิดของเรา ดังนั้นแทนที่จะได้รับในทุกรายละเอียดที่ยุ่งของฟิสิกส์ขอเพียงแค่ถามตัวเองถ้าเราถูกประกาศพระเจ้าสำหรับวันและสามารถทำขึ้นตามกฎหมายของเราเองของฟิสิกส์เล่าเพื่อลูกว่ามันควรม้วนสิ่งที่กฎหมายหรือกฎหมายของ การเคลื่อนไหวที่เราสามารถเลือกที่จะทำให้มันเพื่อให้ลูกรีดเสมอไปที่ด้านล่างของหุบเขาหรือไม่

เพื่อให้คำถามนี้แม่นยำมากขึ้นลองคิดเกี่ยวกับสิ่งที่เกิดขึ้นเมื่อเราย้ายลูกบอลขนาดเล็กจำนวนΔv1Δv1ในทิศทาง v1v1 และจำนวนเงินขนาดเล็ก Δv2Δv2ในทิศทาง v2v2 แคลคูลัสบอกเราว่าการเปลี่ยนแปลง CC ดังนี้

ผลลัพธ์ (ไทย) 3:

โอเค งั้นแคลคูลัสไม่ทำงาน โชคดี มี สวยงาม คล้ายคลึงซึ่งแสดงให้เห็นวิธีการที่ใช้ได้ดีทีเดียว เราเริ่มจากการคิดงานของเราเป็นชนิดของหุบเขา ถ้าคุณเหล่เพียงเล็กน้อยที่แปลงข้างต้น ไม่น่าจะยากเกินไป และเราคิดว่าลูกกลิ้งลงไปตามทางลาดของหุบเขา ประสบการณ์ในชีวิตประจำวันของเราบอกเราว่า ลูกบอลจะกลิ้งไปที่ด้านล่างของหุบเขา บางทีเราสามารถใช้แนวคิดนี้เป็นวิธีการค้นหาขั้นต่ำสำหรับฟังก์ชัน ? เราจะสุ่มเลือกจุดเริ่มต้น ( ในจินตนาการ ) ลูกบอล แล้วจำลองการเคลื่อนที่ของลูกบอลมันกลิ้งลงไปด้านล่างของหุบเขา เราสามารถทำแบบจำลองนี้เพียงของคอมพิวเตอร์ ( และบางทีบางอนุพันธ์ที่สอง ) ของ CC - อนุพันธ์นั้นจะบอกเราทุกอย่างที่เราอยากรู้เกี่ยวกับรูปร่างท้องถิ่น " ของหุบเขาและดังนั้นวิธีที่ลูกของเราควรม้วนจากที่ผมเขียนไว้ คุณอาจจะคิดว่าเราพยายามจะเขียนสมการของนิวตันการเคลื่อนไหว ของบอล พิจารณาผลของแรงเสียดทานและแรงโน้มถ่วง และอื่น ๆ จริงๆแล้ว เราไม่ได้ไปเอาบอลคล้ายคลึงกลิ้งค่อนข้างนะ - เรากำลังคิดวิธีที่จะลด CC ไม่พัฒนาแบบจำลองถูกต้องของกฎหมายของฟิสิกส์ ! ดูบอลเป้าหมายที่จะกระตุ้นจินตนาการของเราไม่ จำกัด การคิดของเรา ดังนั้นแทนที่จะได้รับในรายละเอียดทั้งหมดที่ยุ่งเหยิงของฟิสิกส์ เราก็ถามตัวเอง : ถ้าเราถูกประกาศเป็นพระเจ้าสำหรับวัน และสามารถทำให้กฎหมายของเราเองของฟิสิกส์ บอกกับลูกว่ามันควรม้วน มีกฎหมายหรือกฎการเคลื่อนที่ได้ เราเลือกที่จะให้มันเพื่อลูกเสมอ รีด ที่ด้านล่างของหุบเขา ?เพื่อให้คำถามนี้แม่นกว่า คิดถึงสิ่งที่เกิดขึ้นเมื่อเราย้ายลูกเล็กน้อยΔ V1 Δ V1 ใน v1v1 ทิศทางและปริมาณที่น้อยΔ V2 Δ V2 ใน v2v2 ทิศทาง แคลคูลัส บอกเราว่า การเปลี่ยนแปลง CC ดังนี้