Abstract:Programmer-managed GPU mem

Abstract:
Programmer-managed GPU memory is a major challenge in writing GPU applications. Programmers must rewrite and optimize an existing code for a different GPU memory size for both portability and performance. Alternatively, they can achieve only portability by disabling GPU memory at the cost of significant performance degradation. In this paper, we propose ScaleGPU, a novel GPU architecture to enable high-performance memory-unaware GPU programming. ScaleGPU uses GPU memory as a cache of CPU memory to provide programmers a view of CPU memory-sized programming space. ScaleGPU also achieves high performance by minimizing the amount of CPU-GPU data transfers and by utilizing the GPU memory's high bandwidth. Our experiments show that ScaleGPU can run a GPU application on any GPU memory size and also improves performance significantly. For example, ScaleGPU improves the performance of the hotspot application by ~48% using the same size of GPU memory and reduces its memory size requirement by ~75% maintaining the target performance.

ผลลัพธ์ (ไทย) 1:

บทคัดย่อ:โปรแกรมเมอร์จัดการหน่วยความจำของ GPU เป็นความท้าทายสำคัญในการเขียนใช้งาน GPU โปรแกรมเมอร์ต้องเขียน และปรับปรุงรหัสที่มีอยู่สำหรับขนาดหน่วยความจำในตัว GPU แตกต่างกันสำหรับพกพาและประสิทธิภาพการทำงาน อีกวิธีหนึ่งคือ พวกเขาสามารถบรรลุเพียงพกพา โดยการปิดใช้งานหน่วยความจำของ GPU ค่าใช้จ่ายการลดประสิทธิภาพที่สำคัญ ในกระดาษนี้ เราเสนอ ScaleGPU สถาปัตยกรรม GPU แบบนวนิยายเพื่อเปิดใช้งานโปรแกรม GPU ไม่ทราบหน่วยความจำประสิทธิภาพสูง ScaleGPU ใช้ GPU หน่วยความจำเป็นแค CPU หน่วยความจำเพื่อให้โปรแกรมเมอร์ดู CPU หน่วยความจำขนาดพื้นที่เขียนโปรแกรม ScaleGPU ยังให้ประสิทธิภาพสูง โดยการลดปริมาณของการส่งข้อมูลของ CPU-GPU และ โดยใช้แบนด์วิดท์ของหน่วยความจำ GPU สูงกัน การทดลองของเราแสดงว่า ScaleGPU ที่สามารถเรียกใช้โปรแกรมประยุกต์ที่ GPU บนใด ๆ ขนาดหน่วยความจำของ GPU และยัง ช่วยเพิ่มประสิทธิภาพการทำงานอย่างมีนัยสำคัญ ตัวอย่างเช่น ScaleGPU เพิ่มประสิทธิภาพของโปรแกรม hotspot ~ 48% ใช้ GPU หน่วยความจำมีขนาด และลดความต้องการของขนาดหน่วยความจำ โดย ~ 75% รักษาประสิทธิภาพการทำงานเป้าหมาย

ผลลัพธ์ (ไทย) 2:

บทคัดย่อ:
โปรแกรมเมอร์ที่มีการจัดการหน่วยความจำ GPU เป็นความท้าทายที่สำคัญในการเขียนการใช้งาน GPU โปรแกรมเมอร์ต้องเขียนและเพิ่มประสิทธิภาพของรหัสที่มีอยู่ขนาดหน่วยความจำ GPU ที่แตกต่างกันสำหรับทั้งการพกพาและประสิทธิภาพการทำงาน อีกวิธีหนึ่งคือพวกเขาสามารถบรรลุเพียงพกพาโดยการปิดหน่วยความจำ GPU ที่ค่าใช้จ่ายของการเสื่อมประสิทธิภาพอย่างมีนัยสำคัญ ในบทความนี้เรานำเสนอ ScaleGPU, สถาปัตยกรรม GPU ใหม่ในการช่วยให้การเขียนโปรแกรม GPU ประสิทธิภาพสูงหน่วยความจำไม่รู้ ScaleGPU ใช้หน่วยความจำ GPU เป็นแคชหน่วยความจำของ CPU เพื่อให้โปรแกรมเมอร์มุมมองของพื้นที่การเขียนโปรแกรม CPU หน่วยความจำขนาด ScaleGPU ยังประสบความสำเร็จที่มีประสิทธิภาพสูงโดยการลดปริมาณของการถ่ายโอนข้อมูล CPU-GPU และโดยการใช้แบนด์วิดธ์หน่วยความจำสูง GPU ของ การทดลองของเราแสดงให้เห็นว่า ScaleGPU สามารถเรียกใช้โปรแกรมประยุกต์บน GPU ขนาดหน่วยความจำ GPU ใด ๆ และยังช่วยเพิ่มประสิทธิภาพการทำงานอย่างมีนัยสำคัญ ยกตัวอย่างเช่น ScaleGPU ช่วยเพิ่มประสิทธิภาพของแอพลิเคชันฮอตสปอตโดย ~ 48% การใช้ขนาดเดียวกันของหน่วยความจำของ GPU และลดขนาดของหน่วยความจำโดย ~ 75% การดูแลประสิทธิภาพของเป้าหมาย