When the neural element number n of

When the neural element number n of neural networks is larger than the sample size m, the overfitting
problem arises since there are more parameters than actual data (more variable than constraints). In order
to overcome the overfitting problem, we propose to reduce the number of neural elements by using
compressed projection A which does not need to satisfy the condition of Restricted Isometric Property
(RIP). By applying probability inequalities and approximation properties of the feedforward neural networks
(FNNs), we prove that solving the FNNs regression learning algorithm in the compressed domain
instead of the original domain reduces the sample error at the price of an increased (but controlled) approximation
error, where the covering number theory is used to estimate the excess error, and an upper
bound of the excess error is given.

ผลลัพธ์ (ไทย) 1:

เมื่อ n หมายเลของค์ประกอบประสาทข่ายประสาทมีขนาดใหญ่กว่าตัวอย่างขนาด m, overfitting ที่ปัญหาเกิดขึ้นเนื่องจากมีพารามิเตอร์มากกว่าข้อมูลที่แท้จริง (ตัวแปรเพิ่มมากขึ้นกว่าข้อจำกัด) ในใบสั่งเพื่อเอาชนะปัญหา overfitting เราเสนอเพื่อลดจำนวนองค์ประกอบประสาทโดยโปรเจคเตอร์บีบอัดซึ่งไม่จำเป็นต้องตอบสนองเงื่อนไขของคุณสมบัติวาดสามมิติจำกัด(คัดลอก) โดยใช้ความน่าเป็นความเหลื่อมล้ำทางและประมาณคุณสมบัติของเครือข่ายประสาท feedforward(FNNs), เราพิสูจน์ว่าแก้ถด FNNs เรียนรู้อัลกอริทึมในโดเมนบีบอัดแทนโดเมนเดิมช่วยลดข้อผิดพลาดอย่างที่ราคาประมาณที่เพิ่มขึ้น (แต่ควบคุม)ข้อผิดพลาด การที่มีใช้ทฤษฎีจำนวนครอบคลุมการประเมินผิดพลาดเกิน และบนการกำหนดขอบเขตของข้อผิดพลาดเกิน

ผลลัพธ์ (ไทย) 3:

เมื่อตัวเลขธาตุ ประสาทของโครงข่ายประสาทเทียมมีขนาดใหญ่กว่าขนาดตัวอย่าง M ,
overfitting ปัญหาเกิดขึ้นเนื่องจากมีตัวแปรมากกว่าข้อมูลที่เป็นจริง ( ตัวแปรมากกว่าข้อจำกัด ) เพื่อที่จะเอาชนะปัญหา
overfitting เราเสนอให้ลดจำนวนขององค์ประกอบของระบบประสาทโดยใช้
อัดการฉายที่ไม่ต้องตอบสนองเงื่อนไขจำกัดสามมิติคุณสมบัติ
( ตัด ) โดยการใช้อสมการความน่าจะเป็นและคุณสมบัติการประมาณค่าแบบจำลองโครงข่ายประสาทไปข้างหน้า
( fnns ) เราพิสูจน์ว่า การแก้ fnns การเรียนรู้ขั้นตอนวิธีในการบีบอัดโดเมน
แทนโดเมนเดิมลดจำนวนข้อผิดพลาดที่ราคาเพิ่มขึ้น ( แต่ควบคุม ) ข้อผิดพลาดประมาณ
ซึ่งครอบคลุมทฤษฎีตัวเลขใช้ในการประมาณการผิดพลาดเกิน และบน
ผูกพันของข้อผิดพลาดส่วนเกินให้