up in suboptimal architectures. Gen

up in suboptimal architectures. Genetic algorithms applied to selection of architectures do
not guarantee good solutions and are computationally very demanding [7]. Missing inputs
are especially difficult to handle since filling the unknown features with the most frequently
appearing values may lead to poor results.
MLPs are widely used for classification and approximation problems, while many interesting
problems involve pattern completion and association. Associative memory models are
usually based on recurrent networks. It would be very interesting to accomplish similar task
using feedforward MLP networks. MLPs, SVMs [2] and other methods based on discriminant
analysis, perform mappings that are rather difficult to interpret. Proponents of the logical rulebased
machine learning methods consider it to be the biggest drawback of neural networks,
limiting their applications in safety-critical fields such as medicine. Similarity-Based
Methods (SBMs), for example the k-nearest neighbor (k-NN) method, retrieve the relevant
context for each query presented to the classification system, providing some interpretation
and estimating probability of different class assignment. Such interpretation is also possible
for the Radial Basis Function (RBF) networks using Gaussian or other localized functions, or
the Learning Vector Quantization (LVQ) method based on optimization of reference vectors.
It may seem that such an interpretation is not possible for MLPs since they belong to the
discriminant rather than to memory-based techniques. One way to obtain an interpretation
of MLP decisions is to study the transition from MLPs to networks performing logical
operations [8]. Although discriminant methods and prototype methods seem to be quite
different in fact the two approaches are deeply connected. A single hyperplane discriminating
vectors belonging to two classes may be replaced by two prototypes, one for each class. For
N prototypes one can generate N(N −1)/2 pair-wise discriminating hyperplanes providing
piece-wise linear approximation to the decision borders.
All these shortcomings of the MLP networks are overcome here. Recently a general
framework for Similarity-Based Methods (SBMs) used for classification has been presented
[9]. It is briefly presented in the next section, and several examples of well-known and new
neural methods derived using this framework are presented. In particular the Distance-Based
Multilayer Perceptrons (D-MLPs) are introduced, improving upon the traditional approach
by providing more flexible decision borders, using information about the structure of the data
derived from clusterization procedures and enabling a prototype-based interpretation of the
results. Symbolic values used with probabilistic distance functions allow to avoid ad hoc
procedure to replace them with numerical values. SBM perspective allows to initialize all
D-MLP network parameters starting from some one of standard clusterization procedures
and thus using information that may be easily obtained from the data. A simple procedure
to change D-MLP models into associative memories and to use them in pattern completion
problems is described in the fourth section. As a result missing values are handled in an
efficient way. Finally to avoid writing computer programs for the backpropagation method
for each type of distance function a simple transformation of the input data is proposed,
allowing for distance-based interpretation. An illustration of this method on the Iris data is
presented in the sixth section. The paper is finished with a short discussion.

ผลลัพธ์ (ไทย) 1:

ในสภาพสถาปัตยกรรม อัลกอริทึมทางพันธุกรรมที่ใช้สถาปัตยกรรมจะทำไม่รับประกันดีโซลูชั่น และเป็น computationally มากเรียกร้อง [7] ปัจจัยการผลิตที่ขาดหายไปโดยเฉพาะอย่างยิ่งยากที่จะจัดการตั้งแต่บรรจุไม่ทราบลักษณะการทำงานด้วยบ่อยที่สุดปรากฏ ค่าอาจทำให้ผลลัพธ์ที่ดีMLPs ใช้สำหรับการจัดประเภทและประมาณปัญหา ในขณะที่หลายคนสนใจปัญหาเกี่ยวข้องกับความสมบูรณ์แบบและความสัมพันธ์ รูปแบบหน่วยความจำที่เกี่ยวข้องมักจะขึ้นอยู่กับเครือข่ายที่เกิดซ้ำ มันจะน่าสนใจมากที่จะทำงานคล้ายกันใช้เครือข่าย feedforward MLP MLPs, SVMs [2] และวิธีการอื่น ๆ ตาม discriminantการวิเคราะห์ การแม็ปที่ค่อนข้างยากที่จะตีความ Proponents rulebased ตรรกะเครื่องเรียนรู้วิธีพิจารณาให้ คืนเงินที่ใหญ่ที่สุดของเครือข่ายประสาทการจำกัดโปรแกรมประยุกต์ในฟิลด์ความปลอดภัยสำคัญเช่นยา ตามความคล้ายคลึงกันวิธีการ (SBMs), ตัวอย่างวิธี k ใกล้บ้าน (k-NN) ดึงข้อมูลเกี่ยวข้องบริบทสำหรับแต่ละแบบสอบถามที่แสดงการจัดประเภทระบบ ให้ความบางและประเมินความน่าเป็นของการกำหนดคลา การตีความดังกล่าวก็สามารถทำได้สำหรับรัศมีพื้นฐานฟังก์ชัน (RBF) เครือข่ายการใช้ Gaussian หรือฟังก์ชันอื่น ๆ ถิ่น หรือวิธีการเรียนเวกเตอร์ Quantization (LVQ) ที่ใช้เพิ่มประสิทธิภาพของเวกเตอร์อ้างอิงมันอาจดูเหมือนว่า ความดังกล่าวไม่สามารถ MLPs เนื่องจากพวกเขาอยู่discriminant ไม่ ใช่เทคนิคที่ใช้หน่วยความจำ วิธีหนึ่งที่ได้รับความMLP ตัดสินใจคือการ ศึกษาการเปลี่ยนแปลงจาก MLPs ไปยังเครือข่ายที่ดำเนินการทางตรรกะการดำเนินงาน [8] แม้ว่าวิธี discriminant และวิธีสร้างที่ดูเหมือนจะค่อนข้างแตกต่างกันในความเป็นจริงสองวิธีลึกเชื่อมต่อ การเหยียดพวกผิว hyperplane เดียวเวกเตอร์ของชั้นสองอาจถูกแทนที่ ด้วยต้นแบบที่สอง หนึ่งสำหรับแต่ละคลาส สำหรับแบบตัวอย่าง N หนึ่งสามารถสร้าง N(N −1)/2 pair-wise เหยียดพวกผิวให้ hyperplanespiece-wise ประมาณเชิงเส้นขอบการตัดสินใจทั้งหมดเหล่านี้แสดงเครือข่าย MLP จะเอาชนะที่นี่ เมื่อเร็ว ๆ นี้ทั่วไปกรอบงานสำหรับวิธีใช้คล้ายคลึง (SBMs) ที่ใช้สำหรับจัดประเภทได้ถูกนำเสนอ[9] การสั้น ๆ มีการนำเสนอในส่วนถัดไป และตัวอย่างต่าง ๆ ที่รู้จัก และใหม่มีแสดงวิธีประสาทมาใช้กรอบนี้ โดยเฉพาะอย่างยิ่งในระยะตามหลายชั้น Perceptrons (D-MLPs) มีการแนะนำ การปรับปรุงตามวิธีแบบดั้งเดิมโดยให้เส้นขอบตัดสินใจยืดหยุ่นมากขึ้น ใช้ข้อมูลเกี่ยวกับโครงสร้างของข้อมูลได้มาจากกระบวนการ clusterization และทำการตีความตามต้นแบบของการผลลัพธ์ที่ ให้ค่าสัญลักษณ์ที่ใช้กับฟังก์ชัน probabilistic ห่างเพื่อหลีกเลี่ยงการกิจขั้นตอนการแทนค่าตัวเลข มุมมองของ SBM ช่วยให้การเริ่มต้นทั้งหมดพารามิเตอร์เครือข่าย D MLP ที่เริ่มต้นจากบางขั้นตอนมาตรฐาน clusterizationและใช้ข้อมูลที่อาจได้รับจากข้อมูลดังนั้น ขั้นตอนง่าย ๆการเปลี่ยนรูปแบบ D MLP เป็นความทรงจำที่เกี่ยวข้อง และ การใช้ในรูปแบบสมบูรณ์ปัญหาอธิบายไว้ในส่วนสี่ ดังนั้น จัดการค่าที่ขาดหายไปในการวิธีที่มีประสิทธิภาพ ในที่สุด เพื่อหลีกเลี่ยงการเขียนคอมพิวเตอร์โปรแกรมสำหรับวิธี backpropagationสำหรับแต่ละชนิดจาก ฟังก์ชันการแปลงอย่างง่ายของข้อมูลที่ป้อนเข้ามีการนำเสนอช่วยให้การตีความตามระยะทาง เป็นภาพประกอบของวิธีการนี้ข้อมูล Irisนำเสนอในส่วนหก กระดาษจะเสร็จสิ้น ด้วยการสนทนาสั้น ๆ

ผลลัพธ์ (ไทย) 2:

ในสถาปัตยกรรมที่ก่อให้เกิดผลลัพธ์ ขั้นตอนวิธีพันธุกรรมนำไปใช้กับการเลือกของสถาปัตยกรรมที่ไม่ได้รับประกันการแก้ปัญหาที่ดีและมีการเรียกร้องมากคอมพิวเตอร์ [7] ปัจจัยการผลิตที่หายไปโดยเฉพาะอย่างยิ่งยากที่จะจัดการตั้งแต่การกรอกคุณสมบัติที่ไม่รู้จักกับบ่อยที่สุดปรากฏค่าอาจนำไปสู่ผลลัพธ์ที่น่าสงสาร. MLPs ใช้กันอย่างแพร่หลายสำหรับปัญหาการจัดหมวดหมู่และการประมาณในขณะที่ที่น่าสนใจมากมายปัญหาที่เกี่ยวข้องกับการดำเนินการเสร็จสมบูรณ์แบบและความสัมพันธ์ หน่วยความจำแบบเชื่อมโยงจะมักจะขึ้นอยู่กับเครือข่ายที่เกิดขึ้นอีก มันจะเป็นที่น่าสนใจมากในการทํางานที่คล้ายกันโดยใช้เครือข่ายคราท MLP MLPs, SVMs [2] และวิธีการอื่น ๆ ตามจำแนกวิเคราะห์ดำเนินการแมปที่ค่อนข้างยากที่จะตีความ ผู้เสนอของ rulebased ตรรกะเครื่องวิธีการเรียนรู้คิดว่ามันเป็นอุปสรรคที่ใหญ่ที่สุดของเครือข่ายประสาทการ จำกัด การใช้งานของพวกเขาในด้านความปลอดภัยที่สำคัญเช่นยา ความคล้ายคลึงกันตามวิธีการ (SBMs) เช่นเพื่อนบ้านที่ใกล้ที่สุด k (k-NN) วิธีการดึงข้อมูลที่เกี่ยวข้องบริบทสำหรับแต่ละแบบสอบถามนำเสนอให้กับระบบการจำแนกให้ตีความบางและการประเมินความน่าจะเป็นของการกำหนดระดับที่แตกต่างกัน การตีความดังกล่าวยังเป็นไปได้สำหรับฟังก์ชั่นพื้นฐาน Radial (RBF) เครือข่ายโดยใช้ฟังก์ชั่นที่มีการแปลเสียนหรืออื่น ๆ หรือการเรียนรู้แบบเวกเตอร์วอน(LVQ) วิธีการที่ใช้ในการเพิ่มประสิทธิภาพของเวกเตอร์อ้างอิง. มันอาจจะดูเหมือนว่าเช่นการตีความเป็นไปไม่ได้สำหรับ MLPs ตั้งแต่ พวกเขาอยู่ในจำแนกมากกว่าเทคนิคหน่วยความจำที่ใช้ วิธีการหนึ่งที่จะได้รับการตีความของการตัดสินใจ MLP เพื่อศึกษาการเปลี่ยนแปลงจาก MLPs ไปยังเครือข่ายที่มีประสิทธิภาพตรรกะการดำเนินงาน[8] แม้ว่าวิธีการจำแนกและวิธีการต้นแบบดูเหมือนจะค่อนข้างแตกต่างกันในความเป็นจริงทั้งสองวิธีมีการเชื่อมต่ออย่างล้ำลึก ไฮเปอร์เพลเดียวแบ่งแยกเวกเตอร์ที่เป็นสองชั้นอาจถูกแทนที่ด้วยสองต้นแบบหนึ่งสำหรับแต่ละชั้น สำหรับต้นแบบยังไม่มีใครสามารถสร้าง N (เอ็น -1) / 2 hyperplanes แบ่งแยกคู่ที่ชาญฉลาดให้การประมาณเชิงเส้นชิ้นพรมแดนฉลาดที่จะตัดสินใจ. ข้อบกพร่องเหล่านี้ทั้งหมดในเครือข่าย MLP จะเอาชนะที่นี่ เมื่อเร็ว ๆ นี้นายพลกรอบสำหรับวิธีการคล้ายคลึงกันตาม(SBMs) ที่ใช้ในการจัดหมวดหมู่ได้รับการเสนอ[9] จะนำเสนอในเวลาสั้น ๆ ในหัวข้อถัดไปและอีกหลายตัวอย่างที่รู้จักกันดีและใหม่วิธีการได้มาของระบบประสาทโดยใช้กรอบนี้จะถูกนำเสนอ โดยเฉพาะอย่างยิ่งระยะทางตามPerceptrons Multilayer (D-MLPs) จะถูกนำมาใช้ในการปรับปรุงอยู่กับวิธีการแบบดั้งเดิมโดยการให้พรมแดนการตัดสินใจที่มีความยืดหยุ่นมากขึ้นโดยใช้ข้อมูลที่เกี่ยวกับโครงสร้างของข้อมูลที่ได้รับมาจากขั้นตอนการclusterization และช่วยให้การตีความต้นแบบตามของผล. ค่าใช้สัญลักษณ์ที่มีฟังก์ชั่นน่าจะเป็นระยะทางที่อนุญาตให้มีการหลีกเลี่ยงการเฉพาะกิจการตามขั้นตอนที่จะแทนที่ด้วยค่าตัวเลข มุมมอง SBM ช่วยให้การเริ่มต้นทั้งหมดD-MLP ค่าเครือข่ายเริ่มต้นจากหนึ่งในขั้นตอน clusterization มาตรฐานและทำให้การใช้ข้อมูลที่อาจรับได้อย่างง่ายดายจากข้อมูลที่ ขั้นตอนง่ายๆที่จะเปลี่ยนรุ่น D-MLP เป็นความทรงจำที่จะเชื่อมโยงและใช้พวกเขาในรูปแบบที่เสร็จสิ้นปัญหาอธิบายไว้ในส่วนที่สี่ ในฐานะที่เป็นค่าที่ขาดหายไปผลได้รับการจัดการในวิธีที่มีประสิทธิภาพ ในที่สุดที่จะหลีกเลี่ยงการเขียนโปรแกรมคอมพิวเตอร์สำหรับวิธีการแพร่กระจายย้อนกลับสำหรับแต่ละประเภทของการทำงานระยะไกลที่เรียบง่ายของการเปลี่ยนแปลงข้อมูลของท่านจะถูกนำเสนอเพื่อให้สามารถตีความตามระยะทาง ภาพประกอบของวิธีการนี้กับข้อมูลไอริสจะถูกนำเสนอในส่วนที่หก กระดาษจะเสร็จสิ้นด้วยการอภิปรายสั้น

ผลลัพธ์ (ไทย) 3:

ใน suboptimal สถาปัตยกรรม . ขั้นตอนวิธีเชิงพันธุกรรมที่ใช้กับการเลือกสถาปัตยกรรมทำ
ไม่รับประกันดีโซลูชั่น และ computationally เรียกร้องมาก [ 7 ] ขาดปัจจัย
โดยเฉพาะอย่างยิ่งยากที่จะจัดการ เพราะบรรจุคุณสมบัติที่ไม่รู้จักด้วยบ่อยที่สุด
ปรากฏคุณค่าอาจนำไปสู่ผลลัพธ์ที่ไม่ดี .
MLPs มีใช้กันอย่างแพร่หลาย สำหรับปัญหาการจำแนกประเภทและการประมาณในขณะที่ปัญหาที่น่าสนใจ
หลายพันสมาคมเสร็จสิ้นและรูปแบบ หน่วยความจำแบบเชื่อมโยงเป็น
มักจะบนพื้นฐานของเครือข่ายร่วมกัน มันจะน่าสนใจมากที่จะบรรลุ
งานที่คล้ายกันโดยใช้เครือข่าย MLP ไปข้างหน้า . MLPs แบบ , [ 2 ] และวิธีการอื่น ๆบนพื้นฐานของการวิเคราะห์
, ทำการแมปที่ค่อนข้างยากที่จะตีความ ผู้เสนอของ
rulebased ตรรกะการเรียนรู้ของเครื่องวิธีการพิจารณามันเป็นข้อเสียเปรียบที่ใหญ่ที่สุดของเครือข่ายระบบประสาท , การประยุกต์ใช้ในด้านความปลอดภัยที่สำคัญ
จำกัดสาขาเช่นยา ความเหมือนอยู่
วิธี ( sbms ) ตัวอย่างเช่น เพื่อนบ้านละ ( k-nn ) วิธีดึงบริบทที่เกี่ยวข้อง
สำหรับแต่ละแบบสอบถามเสนอระบบการจัดหมวดหมู่ ให้มีการตีความ
และการประมาณความน่าจะเป็นของการเรียนที่แตกต่างกัน เช่นการตีความเป็นไปได้
สำหรับฟังก์ชันพื้นฐานแนวรัศมี ( RBF ) เครือข่ายการใช้ Gaussian หรืออื่น ๆถิ่นที่ฟังก์ชันหรือ
quantization เวกเตอร์การเรียนรู้ ( lvq ) โดยวิธีการเพิ่มประสิทธิภาพของเวกเตอร์อ้างอิง .
มันอาจดูเหมือนเช่นการตีความไม่ได้ MLPs ตั้งแต่พวกเขาเป็นของ
จำแนกมากกว่าหน่วยความจำตามเทคนิค วิธีหนึ่งที่จะได้รับการตีความ
ใจ MLP เพื่อศึกษาการเปลี่ยนจาก MLPs เครือข่ายปฏิบัติงานตรรกะ
[ 8 ] ถึงแม้ว่าวิธีการจำแนกวิธีการต้นแบบที่ดูเหมือนจะค่อนข้างแตกต่างกันในความเป็นจริง
2 วิธีมีเกี่ยวข้อง ระนาบเกินเดียวแบ่งแยก
เวกเตอร์ของสองชั้นอาจถูกแทนที่ด้วยสองต้นแบบหนึ่งสำหรับแต่ละชั้นเรียน หนึ่งสามารถสร้างต้นแบบสำหรับ
n n ( n − 1 ) 2 คู่ปัญญาจำแนกให้
hyperplanes ชิ้นปัญญาเชิงประมาณเพื่อการตัดสินพรมแดน .
เหล่านี้ข้อบกพร่องของ MLP เครือข่าย เอาชนะมา ทั่วไป
เมื่อเร็ว ๆ นี้กรอบสำหรับความเหมือนตามวิธี ( sbms ) ที่ใช้สำหรับการได้รับการเสนอ
[ 9 ] มันเป็นเรื่องสั้นที่นำเสนอในส่วนถัดไป และหลาย ๆ ตัวอย่างที่รู้จักกันดีและวิธีประสาทใหม่
ได้มาใช้กรอบนี้จะถูกนำเสนอ โดยเฉพาะระยะตาม
Multilayer เพอร์เซปตร ( d-mlps ) แนะนำการปรับปรุงบน
วิธีการแบบดั้งเดิมโดยให้มีความยืดหยุ่นมากขึ้นในการตัดสินใจ จำกัด การใช้ข้อมูลเกี่ยวกับโครงสร้างของข้อมูลที่ได้จากขั้นตอน clusterization
ใช้ต้นแบบจากการตีความของ
ผลลัพธ์ สัญลักษณ์ที่ใช้กับค่าความน่าจะเป็นฟังก์ชันระยะทางให้หลีกเลี่ยงเฉพาะกิจ
ขั้นตอนที่จะแทนที่ด้วยค่าเชิงตัวเลข มุมมองที่เป็นฐานให้เริ่มทั้งหมด
d-mlp เครือข่ายพารามิเตอร์เริ่มต้นจากบางหนึ่งของมาตรฐานและขั้นตอน clusterization
จึงใช้ข้อมูลที่อาจได้อย่างง่ายดายได้จากข้อมูล ขั้นตอนง่ายๆ เพื่อเปลี่ยนเป็นรุ่น d-mlp
เชื่อมโยงความทรงจำและใช้พวกเขาในรูปแบบปัญหาเสร็จ
อธิบายไว้ในมาตรา 4 ผลค่าหายไปจะจัดการใน
วิธีที่มีประสิทธิภาพในที่สุดเพื่อหลีกเลี่ยงการเขียนโปรแกรมคอมพิวเตอร์
วิธี Backpropagation สำหรับแต่ละชนิดของฟังก์ชันการแปลงระยะทางที่ง่ายของข้อมูลที่ป้อนเข้า คือ เสนอให้ตีความ
ระยะทางจาก ภาพประกอบของวิธีนี้ข้อมูล IRIS
นำเสนอในส่วนที่หก กระดาษที่เสร็จสิ้นกับการสนทนาสั้น ๆ