Graphics Processing Units (GPUs) ha

Graphics Processing Units (GPUs) have numerous configuration and design options, including core frequency, number of parallel compute units (CUs), and available memory bandwidth. At many stages of the design process, it is important to estimate how application performance and power are impacted by these options. This paper describes a GPU performance and power estimation model that uses machine learning techniques on measurements from real GPU hardware. The model is trained on a collection of applications that are run at numerous different hardware configurations. From the measured performance and power data, the model learns how applications scale as the GPU’s configuration is changed. Hardware performance counter values are then gathered when running a new application on a single GPU configuration. These dynamic counter values are fed into a neural network that predicts which scaling curve from the training data best represents this kernel. This scaling curve is then used to estimate the performance and power of the new application at different GPU configurations. Over an 8x range of the number of CUs, a 3.3x range of core frequencies, and a 2.9x range of memory bandwidth, our model’s performance and power estimates are accurate to within 15% and 10% of real hardware, respectively. This is comparable to the accuracy of cycle-level simulators. However, after an initial training phase, our model runs as fast as, or faster than the program running natively on real hardware.

ผลลัพธ์ (ไทย) 1:

หน่วยประมวลผลกราฟิก (GPUs) มีการออกแบบและการกำหนดค่าตัวเลือกหลาย รวมทั้งความถี่หลัก หมายเลขแบบขนานคำนวณหน่วย (CUs), และแบนด์วิธหน่วยความจำ ในขั้นตอนต่าง ๆ ของกระบวนการออกแบบ มันเป็นสิ่งสำคัญที่จะประเมินว่าประสิทธิภาพของโปรแกรมประยุกต์และการใช้พลังงานมีผลกระทบจากตัวเลือกเหล่านี้ เอกสารนี้อธิบาย GPU ประสิทธิภาพการประเมินแบบที่ใช้เทคนิคการเรียนรู้ของเครื่องในวัดจากฮาร์ดแวร์ GPU จริง มีการฝึกอบรมแบบในคอลเลกชันของโปรแกรมประยุกต์ที่เรียกใช้ในการกำหนดค่าฮาร์ดแวร์ต่าง ๆ มากมาย จากการวัดประสิทธิภาพและข้อมูลพลังงาน แบบเรียนรู้วิธีการเปลี่ยนแปลงขนาดการใช้งานเป็นการกำหนดค่าของ GPU ค่าตัวนับประสิทธิภาพการทำงานของฮาร์ดแวร์มีการรวบรวมจากนั้นเมื่อเรียกใช้โปรแกรมประยุกต์ใหม่บนการกำหนดค่า GPU เดียว นับแบบไดนามิกค่าเหล่านี้จะถูกป้อนเข้าข่ายประสาทที่ทำนายเคอร์เนลนี้แสดงเส้นโค้งซึ่งมาตราส่วนจากข้อมูลการฝึกอบรมที่ดีที่สุด จากนั้นมีใช้เส้นโค้งนี้มาตราส่วนในการประเมินประสิทธิภาพและพลังของแอพลิเคชันใหม่ที่ตั้งค่าคอนฟิก GPU แตกต่างกัน ช่วงเป็น 8 เท่าของจำนวน CUs, 3.3 x ช่วงความถี่หลัก และ 2.9 x ช่วงแบนด์วิธหน่วยความจำ การประเมินประสิทธิภาพของรูปแบบของเราอยู่ในฮาร์ดแวร์จริง 10% และ 15% ตามลำดับ เทียบได้กับความถูกต้องของการจำลองวงจรระดับอยู่ อย่างไรก็ตาม หลังจากขั้นตอนการฝึกอบรมเบื้องต้น รูปแบบของเราทำงานเป็นเร็วเป็น หรือเร็วกว่าโปรแกรมที่ทำงานได้บนฮาร์ดแวร์จริง

ผลลัพธ์ (ไทย) 2:

หน่วยประมวลผลกราฟิก (GPUs) มีการกำหนดค่าและการออกแบบตัวเลือกมากมายรวมทั้งความถี่หลักจำนวนหน่วยประมวลผลแบบขนาน (CUs) และแบนด์วิดธ์หน่วยความจำ หลายขั้นตอนของกระบวนการออกแบบมันเป็นสิ่งสำคัญที่จะประเมินว่าผลการดำเนินงานและการประยุกต์ใช้พลังงานได้รับผลกระทบจากตัวเลือกเหล่านี้ กระดาษนี้จะอธิบายประสิทธิภาพของ GPU และพลังงานรูปแบบการประมาณค่าที่ใช้เทคนิคการเรียนรู้เครื่องวัดจากฮาร์ดแวร์ GPU จริง รูปแบบการฝึกอบรมเกี่ยวกับคอลเลกชันของการใช้งานที่มีการทำงานในการกำหนดค่าฮาร์ดแวร์ที่แตกต่างกันจำนวนมาก จากผลการดำเนินงานและการใช้พลังงานที่วัดข้อมูลรูปแบบการเรียนรู้วิธีการใช้งานขนาดการกำหนดค่า GPU ที่มีการเปลี่ยนแปลง ค่าตัวนับประสิทธิภาพของฮาร์ดแวร์จะรวมตัวกันแล้วเมื่อใช้แอพลิเคชันใหม่ในการกำหนดค่า GPU เดี่ยว เหล่านี้ค่าตัวนับแบบไดนามิกที่จะป้อนเข้าเครือข่ายประสาทที่คาดการณ์ว่าการปรับเส้นโค้งจากข้อมูลการฝึกอบรมที่ดีที่สุดที่แสดงให้เห็นถึงเคอร์เนลนี้ เส้นโค้งการปรับนี้จะนำมาใช้เพื่อประเมินผลการปฏิบัติงานและพลังของแอพลิเคชันใหม่ที่กำหนดค่า GPU ที่แตกต่างกัน กว่าช่วง 8 เท่าของจำนวนของ CUs ช่วง 3.3x ของความถี่หลักและช่วงที่ 2.9 เท่าของแบนด์วิดธ์หน่วยความจำรูปแบบของเราผลการดำเนินงานและการใช้พลังงานประมาณการมีความถูกต้องภายใน 15% และ 10% ของฮาร์ดแวร์จริงตามลำดับ นี้เทียบได้กับความถูกต้องของการจำลองวงจรระดับ อย่างไรก็ตามหลังจากขั้นตอนการฝึกอบรมครั้งแรก, รูปแบบของเราจะทำงานให้เร็วที่สุดเท่าหรือเร็วกว่าโปรแกรมที่ทำงานบนฮาร์ดแวร์กำเนิดที่แท้จริง

ผลลัพธ์ (ไทย) 3:

หน่วยประมวลผลกราฟิก ( GPUs ) มีการตั้งค่าจำนวนมากและตัวเลือกการออกแบบ รวมถึงความถี่หลัก จำนวนขนานคำนวณหน่วย ( ยูเอส ) และแบนด์วิดธ์หน่วยความจำที่ใช้ได้ หลายขั้นตอนของกระบวนการออกแบบ มันเป็นสิ่งสำคัญที่จะประเมินว่าประสิทธิภาพของโปรแกรมประยุกต์และพลังงานได้รับผลกระทบจากตัวเลือกเหล่านี้ กระดาษนี้จะอธิบายถึง GPU ประสิทธิภาพและแบบจำลองการประมาณค่าพลังงานที่ใช้เครื่องเรียนรู้เทคนิคในการวัดจากฮาร์ดแวร์ GPU จริง รูปแบบการฝึกอบรมในคอลเลกชันของโปรแกรมประยุกต์ที่ใช้ในการกำหนดค่าฮาร์ดแวร์ที่แตกต่างกันมากมาย จากวัดประสิทธิภาพและข้อมูลพลังงาน , รูปแบบเรียนรู้วิธีการใช้งานขนาดเป็นองค์ประกอบของ GPU ที่มีการเปลี่ยนแปลง ค่าประสิทธิภาพเคาน์เตอร์ฮาร์ดแวร์แล้วรวบรวมเมื่อรันโปรแกรมใหม่ในการปรับแต่ง GPU เดี่ยว ค่า counter แบบไดนามิกเหล่านี้จะถูกป้อนเข้าโครงข่ายประสาทเทียมที่คาดการณ์ ซึ่งการปรับเส้นโค้งจากการฝึกอบรมข้อมูลที่ดีที่สุดเป็นเคอร์เนลนี้ นี้การปรับเส้นโค้งที่ใช้แล้วเพื่อประเมินประสิทธิภาพ และพลังงานของการตั้งค่าใหม่ที่ความเร็วที่แตกต่างกัน ผ่านช่วงการใช้งานของหมายเลขของยูเอส , เพิ่มช่วงของความถี่หลัก และคาดว่าช่วงของแบนด์วิดธ์หน่วยความจำประสิทธิภาพของรูปแบบของเราและพลังงานประมาณการถูกต้องภายใน 15 % และ 10 % จริง อุปกรณ์ ตามลำดับ นี้จะเทียบเท่ากับระดับความถูกต้องของการจำลองวงจร อย่างไรก็ตาม หลังจากขั้นตอนการฝึกขั้นต้น รุ่นของเราวิ่งเร็ว หรือ เร็วกว่าโปรแกรมทำงาน natively บนจริงของฮาร์ดแวร์