The world is experiencing a data re

The world is experiencing a data revolution to discover knowledge in big data. Large scale neural networks are one of the mainstream tools of big data analytics. Processing big data with large scale neural networks includes two phases: the training phase and the operation phase. Huge computing power is required to support the training phase. And the energy efficiency (power efficiency) is one of the major considerations of the operation phase. We first explore the computing power of GPUs for big data analytics and demonstrate an efficient GPU implementation of the training phase of large scale recurrent neural networks (RNNs). We then introduce a promising ultra- high energy efficient implementation of neural networks’ operation phase by taking advantage of the emerging memristor technique. Experiment results show that the proposed GPU implementation of RNNs is able to achieve 2 ∼ 11×speed-upcomparedwiththebasicCPUimplementation. And the scaled-up recurrent neural network trained with GPUs realizes an accuracy of 47% on the Microsoft Research Sentence Completion Challenge, the best result achieved by a single RNN on the same dataset. In addition, the proposed memristor-based implementation of neural networks demonstrates power efficiency of > 400 GFLOPS/W and achieves energy savings of 22× on the HMAX model compared with its pure digital implementation counterpart.

ผลลัพธ์ (ไทย) 1:

โลกจะประสบกับการปฏิวัติข้อมูลได้ความรู้ในข้อมูลขนาดใหญ่ เครือข่ายประสาทขนาดใหญ่เป็นหนึ่งในเครื่องมือสำคัญของการวิเคราะห์ข้อมูลขนาดใหญ่ ประมวลผลข้อมูลขนาดใหญ่ที่ มีเครือข่ายประสาทขนาดใหญ่ประกอบด้วย 2 ขั้นตอน: ขั้นตอนการฝึกอบรมและขั้นตอนการดำเนินงาน ไฟฟ้าขนาดใหญ่คอมพิวเตอร์จะต้องสนับสนุนขั้นตอนการฝึกอบรม และ efficiency พลังงาน (พลังงาน efficiency) เป็นการพิจารณาที่สำคัญของขั้นตอนการดำเนินการอย่างใดอย่างหนึ่ง เรา first ได้พลังคอมพิวเตอร์ของ GPUs สำหรับวิเคราะห์ข้อมูลขนาดใหญ่ และแสดงให้เห็นถึงการนำไปใช้ GPU efficient ระยะการฝึกอบรมของข่ายประสาทขนาดใหญ่เกิดซ้ำ (RNNs) ของการ เราแล้วแนะนำใช้ efficient พลังงานสูงเป็นพิเศษที่สัญญาของขั้นตอนการดำเนินงานของเครือข่ายประสาท โดยใช้ประโยชน์จากเทคนิค memristor เกิดใหม่ ผลการทดลองแสดงว่าใช้ GPU เสนอของ RNNs สามารถบรรลุ 2 ∼ 11 ×ความเร็ว-upcomparedwiththebasicCPUimplementation และค่าปรับเกิดซ้ำประสาทเครือข่ายฝึกอบรมกับ GPUs ตระหนักถึงความถูกต้องของ 47% บน Microsoft วิจัยประโยคสมบูรณ์ท้าทาย ว่าโดย RNN เดียวในชุดข้อมูลเดียวกัน นอกจากนี้ เสนอตาม memristor ดำเนินงานของเครือข่ายประสาทสำแดงพลัง efficiency ของ > 400 GFLOPS/W และได้รับการประหยัดพลังงานของ× 22 การ HMAX เปรียบเทียบกับสำเนาของงานดิจิทัลบริสุทธิ์

ผลลัพธ์ (ไทย) 2:

โลกก​​ำลังประสบกับการปฏิวัติข้อมูลที่จะค้นพบความรู้ในข้อมูลขนาดใหญ่ ขนาดใหญ่เครือข่ายประสาทเป็นหนึ่งในเครื่องมือที่สำคัญของการวิเคราะห์ข้อมูลขนาดใหญ่ การประมวลผลข้อมูลขนาดใหญ่ที่มีขนาดใหญ่เครือข่ายประสาทประกอบด้วยสองขั้นตอนคือขั้นตอนการฝึกอบรมและขั้นตอนการดำเนินงาน พลังในการคำนวณขนาดใหญ่จะต้องให้การสนับสนุนขั้นตอนการฝึกอบรม และ ciency EF พลังงานไฟ (อำนาจ EF ไฟ ciency) เป็นหนึ่งในข้อพิจารณาที่สำคัญของขั้นตอนการดำเนินงาน เรา fi แรกสำรวจพลังในการคำนวณของ GPUs สำหรับการวิเคราะห์ข้อมูลขนาดใหญ่และแสดงให้เห็นถึงการดำเนินงาน EF ไฟเพียงพอ GPU ของขั้นตอนการฝึกอบรมขนาดใหญ่เครือข่ายประสาทกำเริบ (RNNs) จากนั้นเราจะแนะนำการใช้พลังงานสูง EF ไฟเพียงพอสัญญา ULTRA- ของเฟสการดำเนินงานเครือข่ายประสาทโดยการใช้ประโยชน์จากเทคนิค memristor ที่เกิดขึ้นใหม่ ผลการทดลองแสดงให้เห็นว่าการดำเนินงานของ GPU เสนอ RNNs สามารถบรรลุ 2 ~ 11 ×ความเร็ว upcomparedwiththebasicCPUimplementation และปรับขึ้นเครือข่ายประสาทกำเริบฝึกกับ GPUs ตระหนักถึงความถูกต้อง 47% ในประโยคที่ Microsoft Research เสร็จท้าทายผลที่ดีที่สุดทำได้โดยการเดียว RNN ในชุดเดียวกัน นอกจากนี้การดำเนินการ memristor ตามที่เสนอของเครือข่ายประสาทแสดงให้เห็นถึงอำนาจ EF ciency ของไฟ> 400 GFLOPS / W และประสบความสำเร็จในการประหยัดพลังงานจาก 22 ×กับรุ่น hmax เมื่อเทียบกับคู่ของการดำเนินการที่บริสุทธิ์ดิจิตอล

ผลลัพธ์ (ไทย) 3:

โลกกำลังเผชิญกับการปฏิวัติข้อมูลการค้นพบความรู้ในฐานข้อมูลขนาดใหญ่ . ขนาดใหญ่ระบบเครือข่ายประสาทเทียมเป็นหนึ่งในเครื่องมือหลักของการวิเคราะห์ข้อมูลใหญ่ ประมวลผลข้อมูลขนาดใหญ่ที่มีขนาดใหญ่เครือข่ายประสาทประกอบด้วยสองขั้นตอน : ขั้นตอนการฝึกอบรมและขั้นตอนการดำเนินงาน คอมพิวเตอร์ขนาดใหญ่เป็นสิ่งจำเป็นเพื่อสนับสนุนการฝึกอบรมระยะและประสิทธิภาพพลังงาน ( พลังงาน EF EF จึงถ่ายทอดประสิทธิภาพ ) เป็นหนึ่งในข้อพิจารณาที่สำคัญของขั้นตอนการดำเนินงาน เราจึงตัดสินใจเดินทางไปสำรวจพลังคอมพิวเตอร์ของ GPUs สำหรับการวิเคราะห์ข้อมูลและแสดงตัวจึง cient GPU การนำขั้นตอนการฝึกอบรมของขนาดใหญ่ดำเนินการเครือข่ายประสาท ( rnns )เราก็แนะนำว่า Ultra - พลังงานสูง จึง cient EF ใช้เครือข่ายประสาทงานเฟส โดยใช้ประโยชน์จากใหม่เมมริ ตอร์ ) ผลการทดลองแสดงให้เห็นว่าการนำเสนอ rnns GPU สามารถบรรลุ 2 ∼ 11 ×ความเร็ว upcomparedwiththebasiccpuimplementation .และขยายขนาดเครือข่ายประสาทกำเริบฝึกกับ GPUs ตระหนักความถูกต้องจาก 47% ใน Microsoft วิจัยเสร็จสิ้นประโยคท้าทาย ผลที่ดีที่สุดได้โดย rnn เดียวบนชุดข้อมูลเดียวกัน นอกจากนี้เสนอการใช้โครงข่ายประสาทเทียมในเมมริ ตอร์จากการแสดงพลังถ่ายทอดประสิทธิภาพของ EF > 400 gflops / W และบรรลุการประหยัดพลังงาน 22 ×ในรูปแบบ hmax เมื่อเทียบกับคู่ใช้งานเพียวดิจิตอล