Contemporary network stacks are mas

Contemporary network stacks are masterpieces of generality, supporting a range of edge-node and middle-node functions. This generality comes at significant performance cost: current APIs, memory models, and implementations drastically limit the effectiveness of increasingly powerful hardware. Generality has historically been required to allow individual systems to perform many functions. However, as providers have scaled up services to support hundreds of millions of users, they have transitioned toward many thousands (or even millions) of dedicated servers performing narrow ranges of functions. We argue that the overhead of generality is now a key obstacle to effective scaling, making specialization not only viable, but necessary.

This paper presents Sandstorm, a clean-slate userspace network stack that exploits knowledge of web server semantics, improving throughput over current off-the-shelf designs while retaining use of conventional operating-system and programming frameworks. Based on Netmap, our novel approach merges application and network-stack memory models, aggressively amortizes stack-internal TCP costs based on application-layer knowledge, tightly couples with the NIC event model, and exploits low-latency hardware access. We compare our approach to the FreeBSD and Linux network stacks with nginx as the web server, demonstrating ~3.5x throughput improvement, while experiencing low CPU utilization, linear scaling on multicore systems, and saturating current NIC hardware.

ผลลัพธ์ (ไทย) 1:

กองซ้อนของเครือข่ายร่วมสมัยเป็นผลงานชิ้นเอกของ generality สนับสนุนช่วงของขอบโหนดและโหนกลาง Generality นี้มาต้นทุนประสิทธิภาพสำคัญ: ปัจจุบัน APIs รุ่นหน่วยความจำ และใช้งานอย่างรวดเร็วจำกัดประสิทธิภาพของฮาร์ดแวร์ที่มีประสิทธิภาพมากขึ้น Generality มีประวัติถูกต้องให้แต่ละระบบการทำงานหลาย ๆ ฟังก์ชัน อย่างไรก็ตาม เป็นผู้ให้บริการมีปรับค่าเพื่อสนับสนุนหลายร้อยล้านของผู้ใช้ พวกเขามี transitioned ไปหลายพันคน (หรือแม้แต่ล้าน) ของเซิร์ฟเวอร์ทำช่วงแคบของฟังก์ชัน เราโต้แย้งว่า ค่าโสหุ้ยของ generality เป็นอุปสรรคสำคัญการปรับประสิทธิภาพ ทำให้ความเชี่ยวชาญไม่เพียงแต่ทำงานได้ แต่จำเป็นเอกสารนี้แสดง Sandstorm นวลสะอาด userspace กองซ้อนเครือข่ายที่นำความรู้ความหมายของเซิร์ฟเวอร์เว็บ ปรับปรุงอัตราความเร็วผ่านรูปแบบปัจจุบันในขณะรักษาใช้ทั่วไประบบปฏิบัติ และกรอบการเขียนโปรแกรม ตาม Netmap วิธีของนวนิยายผสานโปรแกรมประยุกต์ และเครือข่ายหน่วยความจำรุ่น อุกอาจ amortizes ภายในกองซ้อน TCP ทุนตามรู้ชั้น คู่กับแบบจำลองเหตุการณ์ NIC แน่น และนำฮาร์ดแวร์ต่ำแอบแฝงเข้า เราเปรียบเทียบกองเครือข่าย FreeBSD และ Linux กับ nginx วิธีของเราเป็นเว็บเซิร์ฟเวอร์ เห็น ~3.5x ประมวลปรับปรุง ในขณะที่ประสบปัญหาการใช้งาน CPU ต่ำ เส้นมาตราส่วนระบบ multicore และ saturating ปัจจุบัน NIC ฮาร์ดแวร์

ผลลัพธ์ (ไทย) 2:

กองเครือข่ายร่วมสมัยเป็นผลงานชิ้นเอกของทั่วไปที่สนับสนุนช่วงของขอบโหนดและฟังก์ชั่นกลางโหนด ทั่วไปนี้มาในค่าใช้จ่ายอย่างมีนัยสำคัญประสิทธิภาพ: API ที่ปัจจุบันรุ่นหน่วยความจำและการใช้งานอย่างมาก จำกัด ประสิทธิภาพของฮาร์ดแวร์ที่มีประสิทธิภาพมากขึ้น ทั่วไปได้รับในอดีตที่จำเป็นในการช่วยให้ระบบของแต่ละบุคคลในการปฏิบัติหน้าที่จำนวนมาก อย่างไรก็ตามในขณะที่ผู้ให้บริการมีการปรับขึ้นบริการเพื่อสนับสนุนหลายร้อยล้านของผู้ใช้ที่พวกเขาได้เปลี่ยนไปยังหลายพันคน (หรือแม้กระทั่งล้านบาท) ของเซิร์ฟเวอร์ทุ่มเทการแสดงช่วงแคบ ๆ ของฟังก์ชั่น เรายืนยันว่าค่าใช้จ่ายของทั่วไปอยู่ในขณะนี้เป็นอุปสรรคสำคัญในการปรับที่มีประสิทธิภาพทำให้ความเชี่ยวชาญไม่เพียง แต่ทำงานได้ แต่จำเป็น. บทความนี้นำเสนอพายุทราย, กระดานชนวนสะอาดเครือข่ายกอง userspace ที่ใช้ประโยชน์จากความรู้ความหมายของเว็บเซิร์ฟเวอร์ผ่านการปรับปรุงมากกว่าปัจจุบันออก การออกแบบ -the-shelf ขณะที่การรักษาการใช้งานของระบบปฏิบัติการและกรอบการเขียนโปรแกรมแบบเดิม ขึ้นอยู่กับ Netmap, แนวทางใหม่ของเรารวมตัวแอพลิเคชันและหน่วยความจำรูปแบบเครือข่ายกองอุกอาจตัดจำหน่ายค่าใช้จ่าย TCP กองภายในอยู่บนพื้นฐานของความรู้การประยุกต์ใช้ชั้นแน่นคู่กับรูปแบบการจัดงาน NIC และใช้ประโยชน์จากการเข้าถึงฮาร์ดแวร์ latency ต่ำ เราเปรียบเทียบวิธีการของเราที่จะ FreeBSD และเครือข่ายกอง Linux กับ Nginx เป็นเว็บเซิร์ฟเวอร์แสดงให้เห็นถึงการปรับปรุง ~ 3.5x ผ่าน, ในขณะที่พบการใช้งาน CPU ต่ำปรับเชิงเส้นในระบบมัลติคอร์และฮาร์ดแวร์ saturating NIC ปัจจุบัน

ผลลัพธ์ (ไทย) 3:

กองเครือข่ายในปัจจุบันเป็นชิ้นเอกของสภาพทั่วไป สนับสนุนช่วงของโหนดและโหนดกลางขอบฟังก์ชัน . โดยทั่วไปนี้มาพร้อมกับประสิทธิภาพค่าใช้จ่ายอย่างมีนัยสำคัญ : หน่วยความจำแบบปัจจุบัน และการใช้งานในตลาด จำกัด ประสิทธิภาพของฮาร์ดแวร์ที่มีประสิทธิภาพมากขึ้น . สภาพทั่วไปมีในอดีตถูกต้องเพื่อให้ระบบบุคคลเพื่อปฏิบัติหน้าที่หลาย อย่างไรก็ตามเป็นผู้ให้บริการได้ปรับบริการเพื่อสนับสนุนหลายล้านของผู้ใช้ พวกเขาได้เปลี่ยนไปหลายพัน ( หรือแม้กระทั่งล้าน ) ของเซิร์ฟเวอร์ทุ่มเทการแสดงช่วงแคบของฟังก์ชัน เรายืนยันว่าค่าใช้จ่ายของสภาพทั่วไปตอนนี้อุปสรรคที่มีประสิทธิภาพปรับคีย์ให้ความเชี่ยวชาญไม่เพียง แต่ใช้การได้ แต่จำเป็น กระดาษนี้นำเสนอพายุทราย

,กระดานชนวนสะอาดพื้นที่ของผู้ใช้เครือข่ายสแต็คที่ใช้ประโยชน์จากความรู้ของความหมายเว็บเซิร์ฟเวอร์ , การปรับปรุง throughput กว่าปัจจุบันปิดชั้นการออกแบบในขณะที่การรักษาแบบใช้ของระบบปฏิบัติการและโปรแกรมต่างๆ . ตาม netmap , วิธีการใหม่ของเราผสานโปรแกรมและรุ่นหน่วยความจำสแต็คสแต็ค TCP เครือข่ายอย่างจริงจัง amortizes ภายในค่าใช้จ่ายขึ้นอยู่กับโปรแกรมชั้นความรู้แน่นคู่กับแบบจำลองเหตุการณ์ นิค และสามารถเข้าถึงฮาร์ดแวร์แฝงต่ำ เปรียบเทียบวิธีการของเราไปยัง FreeBSD และ Linux เครือข่ายกองกับ Nginx เป็นเว็บเซิร์ฟเวอร์ แสดงให้เห็นถึงการปรับปรุง throughput ~ 3.5x ในขณะที่ประสบการใช้ CPU ต่ำ , ปรับเส้นในระบบ multicore และ saturating ฮาร์ดแวร์ตัวปัจจุบัน