2. HISTORYComputers are extremely f

2. HISTORY
Computers are extremely fast at numerical computations, far exceeding human capabilities. However, the human brain has many abilities that would be desirable in a computer. These include: the ability to quickly identify features, even in the presence of noise; to understand, interpret, and act on probabilistic or fuzzy notions (such as "Maybe it will rain tomorrow"); to make inferences and judgments based on past experiences and relate them to situations that have never been encountered before; and to suffer localized damage without losing complete functionality (fault tolerance). So even though the computer is faster than the human brain in numeric computations, the brain far outperforms the computer in other tasks. This is the underlying motivation for trying .to understand and model the human brain.
The neuron is the basic computational unit of the brain (see Fig. 1). A human brain has approximately 1011 neurons acting in parallel. The neurons are highly interconnected, with a typical neuron being connected to several thousand other neurons. [For more details of the biology of neurons see Thompson (1985).] Early work on modeling the brain started with models of the neuron. The McCulloch-Fitts model (McCulloch and Pitts 1943) of the neuron was one of the first attempts in this area. The McCulloch-Fitts model is a simple binary threshold unit (Fig. 2). The neuron receives a weighted sum of inputs from connected units, and outputs a value of one (fires) if this sum is greater than a thresh­ old. If the sum is less than the threshold, the model neuron outputs a zero value. Mathematically we can represent this
model as
where Yi is the output of neuron i, wi.i is the weight from neuron j to neuron i, x.i is the output of neuron j, f..Li is the
threshold for neuron i, and e is the activation function,
defined as

8(netinput) = { if netinput 0 otherwise.

Although this model is simple, it has been demonstrated that computationally it is equivalent to a digital computer. This means that any of the computations carried out on con­ventional digital computers can be accomplished with a set of interconnected McCulloch-Fitts neurons (Abu-Mostafa 1986).

In the early 1960s Rosenblatt developed a learning algo­rithm for a model he called the simple perceptron (Rosen­ blatt 1962). The simple perceptron consists of McCulloch­ Fitts model neurons that form two layers, input and output. The input neurons receive data from the external world, and the output neurons send information from the network to the outside world. Each input neuron is unidirectionally connected to all the output neurons. The model uses binary (-1 or 1) input and output units. Rosenblatt was able to demonstrate that if a solution to a classification problem "existed," his model would converge, or learn, the solution in a finite number of steps. For the problems in which he was interested a solution existed if the problem was lin­ early separable. (Linear separability means that a hyper­ plane, which is simply a line in two dimensions, exists that can completely delineate the classes that the classifier at­ tempts to identify. Problems that are linearly separable are only a special case of all possible classification problems.) A major blow to the early development of neural networks occurred when Minsky and Papert picked up on the linear separability limitation of the simple perceptron and published results demonstrating this limitation (Minsky and Papert 1969). Although Rosenblatt knew of these limita­ tions, he had not yet found a way to train other models to overcome this problem. As a result, interest and fund­ ing in neural networks waned. [It is interesting to note that while Rosenblatt, a psychologist, was interested in model­ ing the brain, Widrow, an engineer, was developing a similar model for signal processing applications called the Adaline (Widrow 1962).]
In the 1970s there was still a limited amount of research activity in the area of neural networks. Modeling the mem­ ory was the common thread of most of this work. (Ander­ son (1970) and Willshaw, Buneman, and Longuet-Higgins (1969) discuss some of this work.) Grossberg (1976) and von der Malsburg (1973) were developing ideas on competi­ tive learning, while Kohonen (1982) was developing feature maps. Grossberg (1983) was also developing his Adapiive Resonance Theory. Obviously, there was a great deal of work done during this period, with many important papers and ideas that are not presented in this paper. [For a more detailed description of the history see Cowen and Sharp (1988).]
Interest in neural networks renewed with the Hopfield model (Hopfield 1982) of a content-addressable memory. In contrast to the human brain a computer stores data as a look-up table. Access to this memory is made using ad­ dresses. The human brain does not go through this look­ up process; it "settles" to the closest match based on the

ผลลัพธ์ (ไทย) 1:

2. ประวัติศาสตร์คอมพิวเตอร์จะเร็วมากที่ประมวลผลเชิงตัวเลข ไกลเกินความสามารถมนุษย์ อย่างไรก็ตาม สมองของมนุษย์มีความสามารถมากมายที่จะถูกต้องในเครื่องคอมพิวเตอร์ เหล่านี้รวมถึง: ความสามารถในการตรวจหาคุณสมบัติ แม้ในที่ที่มีเสียง การเข้าใจ ตีความ และทำหน้าที่บนความเข้าใจน่าจะ หรือคลุมเครือ (เช่น "อาจจะฝนจะตกวันพรุ่งนี้"); inferences และดุลยพินิจที่อิงประสบการณ์ในอดีต และพวกเขาเกี่ยวข้องกับสถานการณ์ที่ไม่เคยพบได้ก่อน และ จะประสบความเสียหายที่แปลโดยไม่สูญเสียฟังก์ชันการทำงานสมบูรณ์ (ค่าเผื่อความบกพร่อง) ดังนั้น แม้ว่าคอมพิวเตอร์จะเร็วกว่าสมองมนุษย์ในการประมวลผลตัวเลข สมองไกลมีประสิทธิภาพสูงกว่าคอมพิวเตอร์ในงานอื่น ๆ นี่คือแรงจูงใจพื้นฐานสำหรับ.to พยายามเข้าใจ และรูปแบบสมองมนุษย์เซลล์ประสาทเป็นหน่วยคำนวณพื้นฐานของสมอง (ดูรูปที่ 1) สมองมนุษย์มีเซลล์ประสาทประมาณ 1011 ทำหน้าที่พร้อมกัน เซลล์ประสาทเชื่อมต่อกันสูง กับเซลล์ประสาททั่วไปได้เชื่อมต่อกับหลายพันเซลล์ประสาทอื่น ๆ [ดูทอมป์สัน (1985) สำหรับรายละเอียดของชีววิทยาของเซลล์ประสาท] ช่วงงานการสร้างโมเดลสมองเริ่มต้นกับรูปแบบของเซลล์ประสาท รุ่น McCulloch Fitts (McCulloch และ Pitts 1943) ของเซลล์ประสาทเป็นครั้งแรกในพื้นที่นี้อย่างใดอย่างหนึ่ง รุ่น McCulloch Fitts เป็นหน่วยเกณฑ์ง่ายไบนารี (2 รูป) เซลล์ประสาทได้รับผลรวมถ่วงน้ำหนักของปัจจัยการผลิตจากหน่วยเชื่อมต่อ และแสดงผลค่าหนึ่ง (ไฟ) ถ้าผลบวกนี้มากกว่า thresh ที่เก่า ถ้าผลรวมน้อยกว่าเกณฑ์ เซลล์ประสาทแบบจำลองแสดงผลค่าเป็นศูนย์ ทางคณิตศาสตร์เราสามารถเป็นตัวแทนนี้รูปแบบเป็นที่ยี่เป็นผลลัพธ์ของเซลล์ประสาท wi.i เป็นน้ำหนักจาก j เซลล์ประสาทกับเซลล์ประสาท x.i คือ ผลลัพธ์ของเซลล์ประสาท j, f ... หลี่เป็นการเกณฑ์สำหรับเซลล์ประสาท i และ e เป็นฟังก์ชันเปิดใช้งานกำหนดเป็น8(netinput) = {ถ้า netinput 0 อื่นแม้ว่ารูปแบบนี้เป็นธรรมดา มันได้ถูกแสดงให้เห็นว่า computationally ได้เทียบเท่ากับคอมพิวเตอร์ดิจิตอล ซึ่งหมายความว่าการประมวลผลดำเนินการบนคอมพิวเตอร์ดิจิตอลทั่วไป สามารถทำได้กับชุดของการเชื่อมต่อเซลล์ประสาท McCulloch Fitts (อบูอะทอ 1986)ในช่วงต้นทศวรรษ 1960 Rosenblatt พัฒนาอัลกอริทึมการเรียนรู้สำหรับรูปแบบ ที่เขาเรียกว่าเพอร์เซปตรอนอย่างง่าย (blatt โร 1962) เพอร์เซปตรอนอย่างง่ายประกอบด้วยเซลล์ประสาทรุ่น McCulloch Fitts แบบสองชั้น อินพุตและเอาต์พุต เซลล์ประสาทอินพุตรับข้อมูลจากโลกภายนอก และเซลล์ประสาทส่งออกส่งข้อมูลจากเครือข่ายโลกภายนอก เซลล์ประสาทแต่ละอินพุต unidirectionally เชื่อมต่อเซลล์ประสาทออกทั้งหมด ใช้รูปแบบไบนารี (-1 หรือ 1) อินพุต และแสดงผลหน่วย Rosenblatt ก็สามารถที่จะแสดงให้เห็นว่า ถ้าการแก้ไขปัญหาการจัดประเภท "อยู่ แบบจำลองของเขาจะมาบรรจบกัน หรือเรียน รู้ การแก้ปัญหาในขั้นตอนจำนวนจำกัด สำหรับปัญหาที่เขามีความสนใจ การแก้ไขปัญหาอยู่ถ้าปัญหา หลินก่อน separable (Linear separability หมายความ ว่า เครื่องไฮเปอร์บิน ซึ่งเป็นเพียงแค่ในสองมิติ อยู่ ที่สมบูรณ์สามารถ delineate สที่ใช้ลักษณนามที่ล่อลวงเพื่อระบุ เป็นปัญหาที่ separable เชิงเส้นเท่านั้นเป็นกรณีพิเศษของปัญหาจำแนกได้ทั้งหมด) การเป่าสำคัญของเครือข่ายประสาทเกิดเมื่อ Papert และ Minsky รับกับข้อจำกัดเชิงเส้น separability เพอร์เซปตรอนอย่างง่ายและเผยแพร่ผลงานแสดงให้เห็นถึงข้อจำกัดนี้ (Minsky และ Papert 1969) แม้ว่า Rosenblatt รู้ทุกระดับ limita เหล่านี้ เขาไม่เคยได้พบทางรถไฟรุ่นอื่นเพื่อเอาชนะปัญหานี้ เป็นผล ดอกเบี้ยและกองทุน ing ในเครือข่ายประสาทประเทศ [มันน่าสนใจที่จะทราบว่า ในขณะที่ Rosenblatt นักจิตวิทยา สนใจรุ่น ing สมอง Widrow วิศวกร ถูกพัฒนาแบบจำลองที่คล้ายกันสำหรับการใช้งานการประมวลผลสัญญาณที่เรียกว่า Adaline (Widrow 1962)]ในปี 1970 ยังคงมีกิจกรรมการวิจัยในพื้นที่ของเครือข่ายประสาทในจำนวนที่จำกัด โมเดล mem ory ถูกด้ายทั่วไปส่วนใหญ่ของงานนี้ (เวบลิ้งค์บุตร (1970) และ Willshaw, Buneman และ Longuet-ฮิกกินส์ (1969) กล่าวถึงบางส่วนของงานนี้) Grossberg (1976) และ von der Malsburg (1973) ได้พัฒนาความคิดในการเรียนรู้ ในขณะที่ Kohonen (1982) ได้พัฒนาคุณลักษณะแผนที่ tive ระดับปริญญา Grossberg (1983) ก็ยังพัฒนาทฤษฎีของเขาสะท้อน Adapiive อย่างชัดเจน ถูกมากของงานที่ทำในช่วงนี้ เอกสารสำคัญและแนวคิดที่จะไม่แสดงอยู่ในเอกสารนี้ [ดูรายละเอียดเพิ่มเติมของประวัติโคเวน และคม (1988) .]สนใจในเครือข่ายประสาทจำลอง Hopfield (Hopfield 1982) ของหน่วยความจำที่สามารถเข้าถึงเนื้อหาได้รับการ คอมพิวเตอร์เก็บข้อมูลเป็นตารางค้นหาตรงกันข้ามกับสมองมนุษย์ การเข้าถึงหน่วยความจำนี้ได้ใช้ชุดโฆษณา สมองของมนุษย์ไม่ได้ไปผ่านลักษณะนี้กระบวนการ มัน "ชำระ" การจับคู่ที่ใกล้ที่สุดตาม

ผลลัพธ์ (ไทย) 2:

2. ประวัติศาสตร์
คอมพิวเตอร์เป็นอย่างรวดเร็วมากในการคำนวณตัวเลขไกลเกินความสามารถของมนุษย์ แต่สมองของมนุษย์มีความสามารถหลายอย่างที่จะเป็นที่น่าพอใจในคอมพิวเตอร์ เหล่านี้รวมถึงความสามารถในการได้อย่างรวดเร็วระบุคุณสมบัติที่แม้ในการปรากฏตัวของเสียง; ที่จะเข้าใจตีความและทำหน้าที่เกี่ยวกับความน่าจะเป็นความคิดหรือเลือน (เช่น "บางทีมันอาจจะมีฝนตกในวันพรุ่งนี้"); ที่จะทำให้การหาข้อสรุปและคำตัดสินบนพื้นฐานของประสบการณ์ในอดีตและเกี่ยวข้องกับพวกเขาไปสู่สถานการณ์ที่ไม่เคยพบมาก่อน และเพื่อให้ได้รับความเสียหายที่มีการแปลโดยไม่สูญเสียการทำงานที่สมบูรณ์ (ความอดทนความผิด) ดังนั้นแม้ว่าคอมพิวเตอร์จะเร็วกว่าสมองของมนุษย์ในการคำนวณตัวเลขสมองไกลมีประสิทธิภาพดีกว่าเครื่องคอมพิวเตอร์ในงานอื่น ๆ นี้เป็นแรงจูงใจพื้นฐานสำหรับการพยายาม .to เข้าใจและรูปแบบสมองของมนุษย์.
เซลล์ประสาทเป็นหน่วยคำนวณพื้นฐานของสมอง (ดูรูปที่ 1). สมองของมนุษย์มีประมาณ 1,011 เซลล์ประสาทที่ทำหน้าที่ในแบบคู่ขนาน เซลล์ประสาทจะเชื่อมโยงอย่างมากกับเซลล์ประสาททั่วไปการเชื่อมต่อกับหลายพันเซลล์ประสาทอื่น ๆ [สำหรับรายละเอียดเพิ่มเติมของชีววิทยาของเซลล์ประสาทเห็น ธ อมป์สัน (1985).] การทำงานในช่วงต้นของการสร้างแบบจำลองสมองเริ่มต้นด้วยรูปแบบของเซลล์ประสาท รุ่น McCulloch-Fitts (McCulloch และพิตส์ 1943) ของเซลล์ประสาทเป็นหนึ่งในความพยายามครั้งแรกในพื้นที่นี้ รุ่น McCulloch-Fitts เป็นง่ายหน่วยเกณฑ์ไบนารี (รูปที่. 2) เซลล์ประสาทรับน้ำหนักรวมของปัจจัยการผลิตจากหน่วยงานที่เกี่ยวโยงกันและผลค่าหนึ่ง (ไฟ) ถ้าจำนวนนี้เป็นมากกว่านวดข้าวเก่า ถ้าผลรวมน้อยกว่าเกณฑ์ที่เซลล์ประสาทรุ่นจะแสดงค่าเป็นศูนย์ ศาสตร์ที่เราสามารถเป็นตัวแทนของนี้
เป็นรุ่น
ที่ยี่คือการส่งออกของเซลล์ประสาท I, wi.i มีน้ำหนักจากเซลล์ประสาทเซลล์ประสาท J เพื่อฉันจินคือการส่งออกของเซลล์ประสาท J ที่ f..Li เป็น
เกณฑ์สำหรับเซลล์ประสาท i และ E เป็นฟังก์ชั่นการเปิดใช้งาน
กำหนดเป็น

8 (netinput) = {ถ้า netinput 0 มิฉะนั้น.

แม้ว่ารุ่นนี้เป็นเรื่องง่ายที่จะได้รับการแสดงให้เห็นว่าคอมพิวเตอร์มันจะเทียบเท่ากับคอมพิวเตอร์ดิจิตอล ซึ่งหมายความว่าการใด ๆ ของการคำนวณดำเนินการเกี่ยวกับดิจิตอลคอมพิวเตอร์ทั่วไปสามารถทำได้ด้วยชุดของที่เชื่อมต่อเซลล์ประสาท McCulloch-Fitts (อาบู Mostafa 1986) ได้.

ในต้นปี 1960 Rosenblatt พัฒนาอัลกอริทึมการเรียนรู้สำหรับรูปแบบที่เขาเรียกว่า Perceptron ง่าย ( Rosen Blatt 1962) Perceptron ง่ายประกอบด้วยเซลล์ประสาท McCulloch Fitts รูปแบบที่รูปแบบสองชั้นเข้าและส่งออก เซลล์ประสาทการป้อนข้อมูลรับข้อมูลจากโลกภายนอกและเซลล์ประสาทที่ส่งออกส่งข้อมูลจากเครือข่ายไปสู่โลกภายนอก แต่ละเซลล์ประสาทการป้อนข้อมูลการเชื่อมต่อ unidirectionally ทุกเซลล์ประสาทที่ส่งออก รูปแบบการใช้ไบนารี (-1 หรือ 1) เข้าและส่งออกหน่วย Rosenblatt ก็สามารถที่จะแสดงให้เห็นว่าถ้าแก้ปัญหาการจัดหมวดหมู่เป็น "ตัวตน" รูปแบบของเขาจะมาบรรจบกันหรือเรียนรู้การแก้ปัญหาในจำนวน จำกัด ของขั้นตอน สำหรับปัญหาในการที่เขาเป็นที่สนใจวิธีการแก้ปัญหาที่มีอยู่ถ้าปัญหาคือหลินต้นแยกกันไม่ออก (เชิงเส้นแยกได้หมายความว่าเครื่องบินมากเกินไปซึ่งเป็นเพียงเส้นในสองมิติที่มีข้อมูลที่สมบูรณ์สามารถวิเคราะห์ระดับชั้นที่ลักษณนามที่ล่อลวงเพื่อระบุ. ปัญหาที่เป็นเส้นตรงแยกเป็นเพียงกรณีพิเศษของปัญหาการจัดหมวดหมู่เป็นไปได้ทั้งหมด.) ระเบิดที่สำคัญในการพัฒนาเริ่มต้นของเครือข่ายประสาทที่เกิดขึ้นเมื่อ Minsky และ Papert หยิบขึ้นมาบนข้อ จำกัด แยกเชิงเส้นของ Perceptron ง่ายและตีพิมพ์ผลแสดงให้เห็นถึงข้อ จำกัด นี้ (Minsky และ Papert 1969) แม้ว่า Rosenblatt รู้ tions ข้อจําเหล่านี้เขายังไม่พบวิธีการฝึกอบรมรุ่นอื่น ๆ ที่จะเอาชนะปัญหานี้ เป็นผลให้ความสนใจและไอเอ็นจีกองทุนในเครือข่ายประสาทจางหายไป [มันน่าสนใจที่จะทราบว่าในขณะ Rosenblatt นักจิตวิทยาเป็นสนใจในรูปแบบไอเอ็นจีสมอง Widrow วิศวกรได้รับการพัฒนารูปแบบที่คล้ายกันสำหรับการใช้งานการประมวลผลสัญญาณที่เรียกว่า Adaline (Widrow 1962).]
ในปี 1970 ที่ยังคงมี จำนวน จำกัด ของกิจกรรมการวิจัยในพื้นที่ของเครือข่ายประสาท การสร้างแบบจำลอง ORY Mem เป็นหัวข้อทั่วไปของที่สุดของงานนี้ (อันเดลูกชาย (1970) และ Willshaw, Buneman และ Longuet ฮิกกินส์ (1969) หารือเกี่ยวกับบางส่วนของงานนี้.) Grossberg (1976) และฟอนเด Malsburg (1973) ได้รับการพัฒนาความคิดเกี่ยวกับการเรียนรู้เชิง competi ขณะ Kohonen (1982) เป็น การพัฒนาคุณลักษณะแผนที่ Grossberg (1983) นอกจากนี้ยังได้รับการพัฒนา Adapiive Resonance ทฤษฎีของเขา เห็นได้ชัดว่ามีการจัดการที่ดีของงานที่ทำในช่วงเวลานี้กับเอกสารที่สำคัญมากและความคิดที่ยังไม่ได้นำเสนอในบทความนี้ [สำหรับรายละเอียดเพิ่มเติมของประวัติศาสตร์ดูเว่นและชาร์ป (1988).]
ที่น่าสนใจในเครือข่ายประสาทต่ออายุกับรูปแบบ Hopfield (Hopfield 1982) ของหน่วยความจำเนื้อหาแอดเดรส ในทางตรงกันข้ามกับสมองของมนุษย์ข้อมูลร้านคอมพิวเตอร์เป็นตารางมองขึ้น การเข้าถึงหน่วยความจำนี้จะทำโดยใช้ชุดโฆษณา สมองของมนุษย์ไม่ผ่านขึ้นไปดูขั้นตอนนี้; มันว่า "การตัดสิน" จะมีการแข่งขันที่ใกล้เคียงที่สุดขึ้นอยู่กับ