2.1.2 The Supervised Learning Probl

2.1.2 The Supervised Learning Problem
Defining the Problem
The Supervised Learning Problem is, given a finite training set, t, to update w so as to
minimise equation (2.5). It can be seen that this is the challenge of reconstructing the map
φ from the set t, in spite of the fact that it is a limited, noisy sample of φ’s behaviour.
We have w′ ← L(f, t, w), which indicates that our learning algorithm L has updated the
parameter vector w. For the class of predictors we will be considering, it is common for an
input to the learning algorithm to be a random initialisation of the parameter vector, drawn
according to the distribution of the random variable W, which for this thesis we define as
uniform over [ −0.5, 0.5]k.
The “trained” function f( ·; w) is dependent on two random variables, T and W. Once
trained, for any input from the space X, the function will now map2 it to a point in the
output space Y; if it received a different training set or parameter initialization, it may have
performed a different mapping. As previously mentioned, when calculating any measure
based on our predictor, we would like to eliminate these random influences. For a particular
input vector x, the expected value of the predictor f is defined as:

ผลลัพธ์ (ไทย) 1:

2.1.2 การเรียนรู้ที่มีปัญหาการกำหนดปัญหาปัญหาการเรียนรู้แบบมีผู้สอนเป็น ให้ชุดฝึกอบรมมีจำกัด t ปรับปรุง w ดังนั้นเป็นไปลดสมการ (2.5) จะเห็นได้ว่า เป็นความท้าทายของการบูรณะแผนที่Φจาก t ชุด แม้ว่าข้อเท็จจริงที่ว่า มันเป็นพฤติกรรมของφอย่างจำกัด เสียงดังเราได้ w′ ← L (f, t, w), ซึ่งบ่งชี้ว่า ได้ปรับปรุงขั้นตอนวิธีการเรียนรู้ของเรา L การพารามิเตอร์แบบเวกเตอร์ w สำหรับคลาสของเราจะพิจารณา predictors มันเป็นเรื่องธรรมดาสำหรับการเข้ากับอัลกอริทึมการเรียนรู้จะ initialisation สุ่มของเวกเตอร์พารามิเตอร์ วาดตามการกระจายของตัวแปรสุ่ม W ซึ่งสำหรับวิทยานิพนธ์นี้เรากำหนดเป็นk สม่ำเสมอมากกว่า [−0.5, 0.5]F ฟังก์ชัน "ฝึกอบรม" (ลอก w) จะขึ้นอยู่กับสองสุ่มตัวแปร T และ W. ครั้งการฝึกอบรม สำหรับใด ๆ เข้าจากพื้นที่ X, map2 วันนี้จะฟังก์ชันนั้นไปยังจุดในการพื้นที่ผลผลิต Y ถ้าได้รับการฝึกอบรมต่าง ๆ ตั้งค่าหรือพารามิเตอร์เริ่มต้น ได้ทำการแมปอื่น ก่อนหน้านี้เป็น ที่กล่าวถึง เมื่อคำนวณวัดใด ๆขึ้นอยู่กับจำนวนประตูของเรา เราอยากที่จะกำจัดอิทธิพลสุ่มเหล่านี้ สำหรับเฉพาะเวกเตอร์อินพุต x ค่าคาดหมายของ f ผู้ทายผลถูกกำหนดเป็น:

ผลลัพธ์ (ไทย) 2:

2.1.2
การเรียนรู้ภายใต้การดูแลปัญหาการกำหนดปัญหาปัญหาการเรียนรู้ภายใต้การควบคุมคือได้รับชุดฝึกอบรม
จำกัด , เสื้อ,
การปรับปรุงน้ำหนักเพื่อลดสมการ(2.5) จะเห็นได้ว่านี่คือความท้าทายของการฟื้นฟูแผนที่φจากเสื้อชุดทั้งๆที่ความจริงที่ว่ามันเป็นที่ จำกัด ตัวอย่างที่มีเสียงดังของพฤติกรรมφของ. เรามีน้ำหนัก '← L (ฉ, เสื้อ w,) ซึ่งบ่งชี้ว่าขั้นตอนวิธีการเรียนรู้ L ของเราได้ปรับปรุงพารามิเตอร์เวกเตอร์ก สำหรับการเรียนของตัวพยากรณ์ที่เราจะได้รับการพิจารณาเป็นเรื่องปกติสำหรับการป้อนข้อมูลขั้นตอนวิธีการเรียนรู้ที่จะเป็น initialisation สุ่มของเวกเตอร์พารามิเตอร์วาดตามการกระจายของW ตัวแปรสุ่มซึ่งสำหรับวิทยานิพนธ์ฉบับนี้เรากำหนดเป็นเครื่องแบบมากกว่า[-0.5, 0.5] k. ว่า "การฝึกอบรม" ฟังก์ชัน f (·; W) จะขึ้นอยู่กับสองตัวแปรสุ่มทีดับบลิวและเมื่อผ่านการฝึกอบรมสำหรับการป้อนข้อมูลจากพื้นที่X ใด ๆ ฟังก์ชั่นในขณะนี้จะ map2 มันไปยังจุด ในพื้นที่เอาท์พุทY; ถ้าได้รับการฝึกอบรมชุดที่แตกต่างกันหรือพารามิเตอร์เริ่มต้นมันอาจจะดำเนินการทำแผนที่ที่แตกต่างกัน ดังที่ได้กล่าวไว้ก่อนหน้านี้เมื่อคำนวณมาตรการใด ๆขึ้นอยู่กับการทำนายของเราเราต้องการที่จะกำจัดอิทธิพลสุ่มเหล่านี้ โดยเฉพาะอย่างยิ่งสำหรับการป้อนข้อมูลเวกเตอร์ x มูลค่าที่คาดว่าจะฉทำนายที่ถูกกำหนดให้เป็น:

ผลลัพธ์ (ไทย) 3:

2.1.2 ดูแลปัญหาการเรียน

การกำหนดปัญหาการเรียน ปัญหาคือ ให้จำกัดการตั้งค่า , t , W เพื่อปรับปรุง

ลดสมการ ( 2 ) จะเห็นได้ว่า นี่คือความท้าทายของการฟื้นฟูการφแผนที่
จากชุดที ทั้งๆที่ความจริง มันเป็นเสียงของφจำกัด ตัวอย่างของพฤติกรรม เราต้องดูแล←
w L ( f , t , W )ซึ่งพบว่า การเรียนรู้ของเรามีการปรับปรุงอัลกอริทึม L
เวกเตอร์สำหรับชั้นเรียนตัวแปรพารามิเตอร์ . เรา จะ พิจารณา มันเป็นเรื่องธรรมดาสำหรับ
ใส่ขั้นตอนวิธีการเรียนรู้เป็น initialisation สุ่มของตัวแปรเวกเตอร์ , วาด
ตามการกระจายของตัวแปรสุ่ม W ซึ่งในวิทยานิพนธ์นี้เรากำหนดเป็น
ชุดมากกว่า [ − 0.5 , 0.5 ] K .
" ฝึก " ฟังก์ชัน f ( ด้วย ;W ) จะขึ้นอยู่กับสองตัวแปรสุ่ม T และ ครั้งเดียว
การฝึกอบรมสำหรับสัญญาณใด ๆจากพื้นที่ X , ฟังก์ชันนี้จะ map2 ไปยังจุดในพื้นที่ออก
Y ; ถ้ามันได้รับการตั้งค่าพารามิเตอร์ที่แตกต่างกันหรือการเริ่มต้น มันอาจมี
แสดงแผนที่ที่แตกต่างกัน ตามที่กล่าวถึงก่อนหน้านี้ เมื่อคำนวณตามมาตรฐาน
) ของเราเราต้องการที่จะขจัดอิทธิพลสุ่ม เหล่านี้ สำหรับเฉพาะ
อินพุตเวกเตอร์ x , ค่าคาดหวังของตัว F หมายถึง :