To this point in our study of syste

To this point in our study of systems, we have relied on a simple model of a computer system as a CPU that executes instructions and a memory system that holds instructions and data for the CPU. In our simple model, the memory system is a linear array of bytes, and the CPU can access each memory location in a constant amount of time. While this is an effective model as far as it goes, it does not reflect the way that modern systems really work.
In practice, a memory system is a hierarchy of storage devices with different capacities, costs, and access times. CPU registers hold the most frequently used data. Small, fast cache memories nearby the CPU act as staging areas for a subset of the data and instructions stored in the relatively slow main memory. The main memory stages data stored on large, slow disks, which in turn often serve as staging areas for data stored on the disks or tapes of other machines connected by networks.
Memory hierarchies work because well-written programs tend to access the storage at any particular level more frequently than they access the storage at the next lower level. So the storage at the next level can be slower, and thus larger and cheaper per bit. The overall effect is a large pool of memory that costs as much as the cheap storage near the bottom of the hierarchy, but that serves data to programs at the rate of the fast storage near the top of the hierarchy.
As a programmer, you need to understand the memory hierarchy because it has a big impact on the performance of your applications. If the data your program needs are stored in a CPU register, then they can be accessed in zero cycles during the execution of the instruction. If stored in a cache, 1 to 30 cycles. If stored in main memory, 50 to 200 cycles. And if stored in disk tens of millions of cycles!
Here, then, is a fundamental and enduring idea in computer systems: If you understand how the system moves data up and down the memory hierarchy, then you can write your application programs so that their data items are stored higher in the hierarchy, where the CPU can access them more quickly.
This idea centers around a fundamental property of computer programs known as locality. Programs with good locality tend to access the same set of data items over and over again, or they tend to access sets of nearby data items. Programs with good locality tend to access more data items from the upper levels of the memory hierarchy than programs with poor locality, and thus run faster. For example, the running times of different matrix multiplication kernels that perform the same number of arithmetic operations, but have different degrees of locality, can vary by a factor of 20! In this chapter, we will look at the basic storage technologies — SRAM memory, DRAM memory, ROM memory, and rotating and solid state disks — and describe how they are organized into hierarchies. In particular, we focus on the cache memories that act as staging areas between the CPU and main memory, because they have the most impact on application program performance. We show you how to analyze your C programs for locality and we introduce techniques for improving the locality in your programs. You will also learn an interesting way to characterize the performance of the memory hierarchy on a particular machine as a “memory mountain” that shows read access times as a function of locality.

ผลลัพธ์ (ไทย) 1:

ถึงจุดนี้ในระบบการศึกษาของเรา เรามีอาศัยในรูปแบบที่เรียบง่ายของระบบคอมพิวเตอร์เป็น CPU ที่ดำเนินการคำแนะนำและระบบหน่วยความจำที่เก็บคำสั่งและข้อมูลสำหรับ CPU ในรูปแบบง่าย ๆ ของเรา หน่วยความจำระบบเป็นเรย์ไบต์เชิงเส้น และ CPU สามารถเข้าถึงตำแหน่งหน่วยความจำแต่ละในปริมาณคงที่ของเวลา ขณะนี้เป็นรุ่นที่มีประสิทธิภาพ ตามที่มันไป มันไม่ไม่สะท้อนวิธีการที่ทันสมัยระบบจริง ๆ ทำงานในทางปฏิบัติ มีระบบหน่วยความจำจะเป็นลำดับชั้นของอุปกรณ์เก็บข้อมูลมีความจุที่แตกต่าง ต้นทุน และถึง CPU ทะเบียนเก็บข้อมูลที่ใช้บ่อยสุด ความทรงจำแคขนาดเล็ก รวดเร็วใกล้เคียงกับ CPU ทำหน้าที่เป็นการแบ่งระยะพื้นที่สำหรับชุดย่อยของข้อมูลและคำสั่งที่เก็บไว้ในหน่วยความจำหลักค่อนข้างช้า หน่วยความจำหลักขั้นข้อมูลที่เก็บไว้ในขนาดใหญ่ ช้าดิสก์ ซึ่งมักจะเป็นการจัดเตรียมพื้นที่สำหรับข้อมูลที่เก็บไว้ในดิสก์หรือเทปของเครื่องอื่น ๆ ที่เชื่อมต่อ โดยเครือข่ายลำดับชั้นของหน่วยความจำทำงานเนื่องจากมีแนวโน้มที่ดีเขียนโปรแกรมเพื่อ เข้าถึงการจัดเก็บข้อมูลที่ระดับใด ๆ เฉพาะเพิ่มเติมบ่อยกว่าจะเข้าถึงการจัดเก็บที่ต่ำกว่าระดับถัดไป ดังนั้น การจัดเก็บข้อมูลในระดับถัดไปได้ช้า ลง และดังนั้นใหญ่กว่า และถูกกว่าต่อบิต ผลโดยรวมคือ สระน้ำขนาดใหญ่ของหน่วยความจำที่ค่าใช้จ่ายมากที่สุดเท่าที่เก็บข้อมูลราคาถูกที่ด้านล่างของลำดับชั้น แต่ที่ให้บริการข้อมูลกับโปรแกรมในอัตราการจัดเก็บข้อมูลอย่างรวดเร็วใกล้ด้านบนของลำดับชั้นเป็นโปรแกรมเมอร์ คุณต้องเข้าใจลำดับชั้นหน่วยความจำเนื่องจากมีผลกระทบใหญ่ประสิทธิภาพการทำงานของโปรแกรมประยุกต์ของคุณ ถ้าข้อมูลที่เก็บอยู่ใน CPU ของโปรแกรมลงทะเบียน แล้วพวกเขาจะนำเข้าศูนย์รอบในระหว่างการดำเนินการเรียนการสอน ถ้าเก็บไว้ในแคช 1 ถึง 30 รอบ ถ้าเก็บไว้ในหน่วยความจำหลัก 50 ไปยัง 200 รอบ และถ้าเก็บไว้ใน ดิสก์หลายสิบล้านรอบที่นี่ จากนั้น เป็นความคิดพื้นฐาน และยั่งยืนในระบบคอมพิวเตอร์: ถ้าคุณเข้าใจวิธีการย้ายข้อมูลขึ้นและลงลำดับชั้นหน่วยความจำ แล้วคุณสามารถเขียนโปรแกรมประยุกต์ของคุณเพื่อให้ข้อมูลสินค้าที่เก็บสูงกว่าในลำดับชั้น ที่ CPU สามารถเข้าถึงได้อย่างรวดเร็วความคิดนี้แห่งทั่วคุณสมบัติพื้นฐานของโปรแกรมคอมพิวเตอร์ที่เรียกว่าท้อง โปรแกรมติดถนนใหญ่มีแนวโน้มในการ เข้าถึงรายการข้อมูลชุดเดียวกันซ้ำแล้วซ้ำอีก หรือพวกเขามักจะเข้าถึงชุดของรายการข้อมูลที่ใกล้เคียง โปรแกรมติดถนนใหญ่มักจะ เข้าถึงข้อมูลสินค้าเพิ่มเติมจากระดับบนของลำดับชั้นหน่วยความจำกว่าโปรแกรมกับท้องไม่ดี แล้วจึง ทำงานได้เร็ว ตัวอย่างเช่น เวลาทำงานของเมล็ดคูณเมตริกซ์ต่าง ๆ ที่ทำคณิตจำนวนเท่ากัน แต่มีแตกต่างกันของท้องถิ่น สามารถแตกต่างกัน โดยปัจจัยที่ 20 ในบทนี้ เราจะมาดูเทคโนโลยีพื้นฐาน — พาร์หน่วยความจำ หน่วยความจำ DRAM หน่วยความจำ ROM และดิสก์สถานะแข็ง และหมุน — และอธิบายว่า พวกเขาถูกจัดระเบียบเป็นลำดับชั้น โดยเฉพาะอย่างยิ่ง เราเน้นความทรงจำของแคที่ทำหน้าที่เป็นการแบ่งระยะพื้นที่ระหว่าง CPU และหน่วยความจำหลัก เพราะพวกเขามีผลกระทบมากที่สุดประสิทธิภาพของโปรแกรมประยุกต์ เราแสดงวิธีการวิเคราะห์โปรแกรม C สำหรับท้องถิ่น และเราแนะนำเทคนิคสำหรับการพัฒนาท้องถิ่นในโปรแกรมของคุณ นอกจากนี้คุณยังจะเรียนรู้วิธีน่าสนใจในการลักษณะการทำงานของลำดับชั้นของหน่วยความจำบนเครื่องจักรเฉพาะเป็น "ภูเขาหน่วยความจำ" ที่แสดงอ่านถึงเป็นฟังก์ชันของท้องถิ่น

ผลลัพธ์ (ไทย) 2:

มาถึงจุดนี้ในการศึกษาระบบของเราเราได้อาศัยอยู่กับรูปแบบที่เรียบง่ายของระบบคอมพิวเตอร์ที่เป็น CPU ที่รันคำสั่งและระบบหน่วยความจำที่เก็บคำแนะนำและข้อมูลสำหรับซีพียู ในรูปแบบที่เรียบง่ายของเราระบบหน่วยความจำจะอาร์เรย์เชิงเส้นของไบต์และซีพียูสามารถเข้าถึงสถานที่แต่ละหน่วยความจำในปริมาณคงที่ของเวลา ขณะนี้เป็นรุ่นที่มีประสิทธิภาพเท่าที่มันจะไปก็ไม่ได้สะท้อนวิธีการที่ระบบที่ทันสมัยทำงานจริงๆ.
ในทางปฏิบัติระบบหน่วยความจำเป็นลำดับขั้นของอุปกรณ์จัดเก็บข้อมูลที่มีความจุที่แตกต่างกันค่าใช้จ่ายและเวลาในการเข้าถึง ลงทะเบียน CPU ถือข้อมูลที่ใช้บ่อยที่สุด ขนาดเล็กทรงจำแคชอย่างรวดเร็วในบริเวณใกล้เคียงพระราชบัญญัติ CPU เป็นพื้นที่สำหรับจัดชุดย่อยของข้อมูลและคำแนะนำที่เก็บไว้ในหน่วยความจำหลักที่ค่อนข้างช้า ข้อมูลขั้นตอนหน่วยความจำหลักที่เก็บไว้ในที่มีขนาดใหญ่, ดิสก์ช้าซึ่งมักจะทำหน้าที่เป็นพื้นที่สำหรับจัดเก็บข้อมูลที่เก็บไว้ในดิสก์หรือเทปของเครื่องอื่น ๆ ที่เชื่อมต่อด้วยเครือข่าย.
วรรณะหน่วยความจำทำงานเพราะโปรแกรมที่เขียนดีมีแนวโน้มที่จะเข้าถึงการจัดเก็บที่ใด ๆ โดยเฉพาะอย่างยิ่งในระดับบ่อยครั้งมากขึ้นกว่าที่พวกเขาเข้าถึงที่จัดเก็บอยู่ในระดับต่ำต่อไป ดังนั้นการจัดเก็บข้อมูลในระดับต่อไปอาจจะช้าลงและทำให้มีขนาดใหญ่และราคาถูกต่อบิต ผลกระทบโดยรวมเป็นสระว่ายน้ำขนาดใหญ่ของหน่วยความจำที่มีค่าใช้จ่ายมากที่สุดเท่าที่จัดเก็บราคาถูกอยู่ด้านล่างของลำดับชั้น แต่ที่ให้บริการข้อมูลไปยังโปรแกรมในอัตราการจัดเก็บอย่างรวดเร็วใกล้ด้านบนของลำดับชั้นได้.
เป็นโปรแกรมที่คุณจะต้อง เพื่อทำความเข้าใจลำดับชั้นของหน่วยความจำเพราะมันมีผลกระทบอย่างมากต่อประสิทธิภาพการทำงานของการใช้งานของคุณ ถ้าข้อมูลความต้องการโปรแกรมของคุณจะถูกเก็บไว้ในการลงทะเบียนของ CPU แล้วพวกเขาก็สามารถเข้าถึงได้ในศูนย์รอบในระหว่างการดำเนินการเรียนการสอนที่ หากเก็บไว้ในแคชที่ 1 ถึง 30 รอบ หากเก็บไว้ในหน่วยความจำหลัก 50-200 รอบ ! และถ้าเก็บไว้ในหลายสิบดิสก์ล้านของรอบ
ที่นี่แล้วเป็นความคิดพื้นฐานและยั่งยืนในระบบคอมพิวเตอร์: ถ้าคุณเข้าใจวิธีการที่ระบบย้ายข้อมูลขึ้นและลงลำดับชั้นของหน่วยความจำแล้วคุณสามารถเขียนโปรแกรมประยุกต์ใช้งานของคุณเพื่อให้พวกเขา รายการข้อมูลจะถูกเก็บไว้ที่สูงขึ้นในลำดับชั้นที่ซีพียูสามารถเข้าถึงได้อย่างรวดเร็วยิ่งขึ้น.
นี้ศูนย์ความคิดที่รอบคุณสมบัติพื้นฐานของโปรแกรมคอมพิวเตอร์ที่รู้จักกันในท้องที่ โปรแกรมที่มีท้องที่ดีมีแนวโน้มที่จะเข้าถึงชุดเดียวกันของรายการข้อมูลซ้ำแล้วซ้ำอีกหรือพวกเขามีแนวโน้มที่จะเข้าถึงชุดรายการข้อมูลอยู่บริเวณใกล้เคียง โปรแกรมที่มีท้องที่ดีมีแนวโน้มที่จะเข้าถึงรายการข้อมูลเพิ่มเติมจากระดับบนของลำดับชั้นหน่วยความจำกว่าโปรแกรมกับท้องที่ที่ไม่ดีและทำให้ทำงานได้เร็วขึ้น ยกตัวอย่างเช่นเวลาการทำงานของเมล็ดคูณเมทริกซ์ที่แตกต่างกันที่มีประสิทธิภาพจำนวนเดียวกันของดำเนินการทางคณิตศาสตร์ แต่มีองศาที่แตกต่างกันของท้องถิ่นสามารถแตกต่างกันโดยปัจจัยที่ 20! ในบทนี้เราจะมองไปที่เทคโนโลยีการจัดเก็บพื้นฐาน - หน่วยความจำ SRAM หน่วยความจำ DRAM หน่วยความจำ ROM และหมุนและดิสก์สถานะของแข็ง - และอธิบายว่าพวกเขาถูกจัดเป็นลำดับชั้น โดยเฉพาะอย่างยิ่งที่เรามุ่งเน้นไปที่ความทรงจำแคชที่ทำหน้าที่เป็นพื้นที่การแสดงละครระหว่าง CPU และหน่วยความจำหลักเพราะพวกเขามีผลกระทบมากที่สุดต่อประสิทธิภาพของโปรแกรม เราจะแสดงวิธีการวิเคราะห์โปรแกรม C ของคุณสำหรับท้องที่และเราแนะนำเทคนิคในการปรับปรุงท้องที่ในโปรแกรมของคุณ นอกจากนี้คุณยังจะได้เรียนรู้วิธีที่น่าสนใจที่จะอธิบายลักษณะการทำงานของลำดับชั้นของหน่วยความจำในเครื่องโดยเฉพาะอย่างยิ่งในฐานะที่เป็นหน่วยความจำ "ภูเขา" ที่แสดงให้เห็นเวลาในการเข้าถึงการอ่านเป็นหน้าที่ของท้องถิ่น

ผลลัพธ์ (ไทย) 3:

ถึงจุดนี้ในระบบการศึกษาของเรา เราได้อาศัยแบบจำลองอย่างง่ายของระบบคอมพิวเตอร์ เช่น CPU รันคำสั่งและระบบหน่วยที่ถือ คำแนะนำและข้อมูลสำหรับซีพียู ในรูปแบบง่าย ระบบความจำเป็นอาร์เรย์เชิงเส้นของไบต์และ CPU สามารถเข้าถึงความทรงจำแต่ละสถานที่ในยอดเงินคงที่ของเวลา ส่วนนี้เป็นรุ่นที่มีประสิทธิภาพเท่าที่มันจะไป มันไม่ได้เป็นfl ect ที่ระบบที่ทันสมัยใช้งานได้จริงๆในทางปฏิบัติ ระบบความจำ เป็นลำดับชั้นของอุปกรณ์จัดเก็บข้อมูลที่มีความจุที่แตกต่างกัน ต้นทุน และเวลาในการเข้าถึง . ลงทะเบียน CPU เก็บข้อมูลที่ใช้บ่อยที่สุด ขนาดเล็กรวดเร็วความทรงจำที่แคช CPU ทำหน้าที่จัดเตรียมพื้นที่สำหรับชุดย่อยของข้อมูลและคำแนะนำที่ถูกเก็บไว้ในหน่วยความจำหลัก ค่อนข้างช้า หน่วยความจําหลักขั้นตอนการจัดเก็บข้อมูลบนดิสก์ช้าขนาดใหญ่ ซึ่งจะมักจะใช้เป็นพื้นที่แสดงข้อมูลที่เก็บไว้ในดิสก์หรือเทป ของเครื่องอื่นที่เชื่อมต่อกับเครือข่ายลำดับชั้นหน่วยความจำทำงานเพราะดีเขียนโปรแกรมมักจะใช้กระเป๋าในระดับที่เฉพาะเจาะจงใด ๆบ่อยกว่าที่พวกเขาเข้ากระเป๋าต่อไปที่ลดระดับ ดังนั้นการจัดเก็บในระดับถัดไปได้ช้าลง และดังนั้นจึงมีขนาดใหญ่และราคาถูก ต่ออีกหน่อย ผลโดยรวมคือพูขนาดใหญ่ของหน่วยความจำที่ค่าใช้จ่ายมากที่สุดเท่าที่ราคาถูกกระเป๋าใกล้ด้านล่างของลำดับชั้น แต่ที่ให้บริการข้อมูลโครงการในอัตราที่รวดเร็ว กระเป๋าใกล้ด้านบนของลำดับขั้นเป็นโปรแกรมเมอร์ คุณจำเป็นต้องเข้าใจลำดับขั้นของหน่วยความจำ เพราะจะมีผลกระทบใหญ่ในการปฏิบัติงานของคุณ ถ้าโปรแกรมของคุณต้องการข้อมูลจะถูกเก็บไว้ใน CPU ลงทะเบียน ก็สามารถเข้าถึงได้ในศูนย์รอบในระหว่างการดําเนินการสอน ถ้าเก็บไว้ในแคช 1 ถึง 30 รอบ ถ้าเก็บไว้ในหน่วยความจําหลัก 50 ถึง 200 รอบ และถ้าเก็บไว้ในดิสก์หลายสิบล้านรอบ !นี่ก็เป็นแนวคิดพื้นฐานและเจาะระบบคอมพิวเตอร์ : ถ้าคุณเข้าใจวิธีการที่ระบบการย้ายข้อมูลและลงลำดับขั้นของหน่วยความจำ จากนั้นคุณสามารถเขียนโปรแกรมประยุกต์ของคุณเพื่อให้รายการของข้อมูลจะถูกเก็บไว้สูงในลำดับชั้นที่ CPU สามารถเข้าถึงได้รวดเร็วยิ่งขึ้นความคิดนี้ศูนย์รอบคุณสมบัติพื้นฐานของคอมพิวเตอร์โปรแกรมที่รู้จักกันเป็นท้องถิ่น โปรแกรมดีที่มักจะเข้าถึงข้อมูลชุดเดียวกันกว่าและมากกว่าอีกครั้งหรือพวกเขามีแนวโน้มที่จะใช้ชุดของรายการข้อมูลที่ใกล้เคียง โปรแกรมดีที่มักจะเข้าถึงข้อมูลเพิ่มเติมรายการจากระดับบนของลำดับขั้นของหน่วยความจำกว่าโปรแกรมกับท้องถิ่นไม่ดี จึงวิ่งได้เร็วขึ้น ตัวอย่างเช่น รอบๆ เมล็ดที่การคูณเมทริกซ์แสดงหมายเลขเดียวกันของการดำเนินการเลขคณิต แต่มีองศาที่แตกต่างของท้องถิ่น จะแตกต่างกันไปตามปัจจัยของ 20 ในบทนี้ เราจะดูที่เทคโนโลยี - กระเป๋าพื้นฐาน SRAM หน่วยความจำ , หน่วยความจำ ROM หน่วยความจำ DRAM , หมุนและดิสก์สถานะของแข็งและอธิบายวิธีที่พวกเขาจะจัดเป็นลำดับชั้น . โดยเรามุ่งเน้นแคชความทรงจำที่ทำหน้าที่จัดเตรียมพื้นที่ระหว่างซีพียูและหน่วยความจำหลักเพราะพวกเขามีมากส่งผลกระทบต่อประสิทธิภาพของโปรแกรมประยุกต์ เราจะแสดงวิธีการวิเคราะห์โปรแกรม C ท้องถิ่นและเราแนะนำเทคนิคการปรับปรุงสถานที่ในโปรแกรมของคุณ นอกจากนี้คุณยังจะได้เรียนรู้วิธีที่น่าสนใจที่จะศึกษาประสิทธิภาพของลำดับขั้นของหน่วยความจำในเครื่องโดยเฉพาะเป็น " หน่วยความจำเข้าถึงแบบอ่านภูเขา " ที่แสดงเวลาเป็นหน้าที่ของท้องถิ่น