For example, human skin color varies slightly with blood circulation.
This variation, while invisible to the naked eye, can be exploited
to extract pulse rate [Verkruysse et al. 2008; Poh et al. 2010;
Philips 2011]. Similarly, motion with low spatial amplitude, while
hard or impossible for humans to see, can be magnified to reveal
interesting mechanical behavior [Liu et al. 2005]. The success of
these tools motivates the development of new techniques to reveal
invisible signals in videos. In this paper, we show that a combination
of spatial and temporal processing of videos can amplify subtle
variations that reveal important aspects of the world around us.
Our basic approach is to consider the time series of color values at
any spatial location (pixel) and amplify variation in a given temporal
frequency band of interest. For example, in Figure 1 we automatically
select, and then amplify, a band of temporal frequencies
that includes plausible human heart rates. The amplification reveals
the variation of redness as blood flows through the face. For this
application, temporal filtering needs to be applied to lower spatial
frequencies (spatial pooling) to allow such a subtle input signal to
rise above the camera sensor and quantization noise.
Our temporal filtering approach not only amplifies color variation,
but can also reveal low-amplitude motion. For example, in the supplemental
video, we show that we can enhance the subtle motions
around the chest of a breathing baby. We provide a mathematical
analysis that explains how temporal filtering interplays with spatial
motion in videos. Our analysis relies on a linear approximation related
to the brightness constancy assumption used in optical flow
formulations. We also derive the conditions under which this approximation
holds. This leads to a multiscale approach to magnify
motion without feature tracking or motion estimation.
Previous attempts have been made to unveil imperceptible motions
in videos. [Liu et al. 2005] analyze and amplify subtle motions and
visualize deformations that would otherwise be invisible. [Wang
et al. 2006] propose using the Cartoon Animation Filter to create
perceptually appealing motion exaggeration. These approaches follow
a Lagrangian perspective, in reference to fluid dynamics where
the trajectory of particles is tracked over time. As such, they rely
ยกตัวอย่างเช่นสีผิวของมนุษย์แตกต่างกันเล็กน้อยกับการไหลเวียนโลหิต.
รูปแบบนี้ในขณะที่มองไม่เห็นด้วยตาเปล่าสามารถใช้ประโยชน์
เพื่อดึงอัตราชีพจร [Verkruysse et al, 2008 Poh et al, 2010
ฟิลิปส์ 2011] ในทำนองเดียวกันการเคลื่อนไหวที่มีความกว้างเชิงพื้นที่ต่ำในขณะที่
ยากหรือเป็นไปไม่ได้สำหรับมนุษย์ที่จะเห็นสามารถขยายที่จะเปิดเผย
พฤติกรรมทางกลที่น่าสนใจ [Liu et al, 2005] ความสำเร็จของ
เครื่องมือเหล่านี้กระตุ้นการพัฒนาเทคนิคใหม่ที่จะแสดง
สัญญาณที่มองไม่เห็นในวิดีโอ ในบทความนี้เราจะแสดงให้เห็นว่าการรวมกัน
ของการประมวลผลเชิงพื้นที่และเวลาของวิดีโอที่สามารถขยายบอบบาง
รูปแบบที่เปิดเผยแง่มุมที่สำคัญของโลกรอบตัวเรา.
วิธีการขั้นพื้นฐานของเราคือการพิจารณาอนุกรมเวลาของค่าสีที่
ตำแหน่งพื้นที่ใด ๆ (พิกเซล) และ ขยายการเปลี่ยนแปลงในชั่วขณะที่กำหนด
คลื่นความถี่ที่น่าสนใจ ยกตัวอย่างเช่นในรูปที่ 1 เราจะ
เลือกและจากนั้นขยายเป็นวงดนตรีของความถี่ชั่วคราว
ที่มีอัตราที่น่าเชื่อถือหัวใจมนุษย์ ขยายเผยให้เห็น
การเปลี่ยนแปลงของสีแดงเลือดไหลผ่านใบหน้า สำหรับเรื่องนี้
แอพลิเคชันการกรองชั่วความต้องการที่จะนำไปใช้ในเชิงพื้นที่ที่ต่ำกว่า
ความถี่ (รวมกำไรเชิงพื้นที่) เพื่อให้การดังกล่าวเป็นสัญญาณอินพุตที่ลึกซึ้งที่จะ
ขึ้นเหนือเซ็นเซอร์กล้องและเสียง quantization.
กรองวิธีการชั่วคราวของเราไม่เพียง แต่ขยายรูปแบบสี,
แต่ยังสามารถที่จะเปิดเผยต่ำ การเคลื่อนไหว -amplitude ยกตัวอย่างเช่นในเสริม
วิดีโอที่เราแสดงให้เห็นว่าเราสามารถเพิ่มการเคลื่อนไหวที่บอบบาง
รอบหน้าอกของทารกหายใจ เราให้บริการทางคณิตศาสตร์
การวิเคราะห์ที่อธิบายถึงวิธีการต่างก็กรองขมับกับเชิงพื้นที่
การเคลื่อนไหวในวิดีโอ การวิเคราะห์ของเราต้องอาศัยการประมาณเชิงเส้นที่เกี่ยวข้องกับ
สมมติฐานความสว่างความมั่นคงที่ใช้ในการไหลเวียนของออปติคอล
สูตร นอกจากนี้เรายังได้รับมาภายใต้เงื่อนไขที่ประมาณนี้
ถือ นี้นำไปสู่วิธีการ Multiscale เพื่อขยาย
การเคลื่อนไหวโดยไม่ต้องติดตามคุณสมบัติหรือการประมาณค่าการเคลื่อนไหว.
พยายามก่อนหน้านี้ได้รับการเปิดเผยการเคลื่อนไหวที่มองไม่เห็น
ในวิดีโอ [Liu et al, 2005] วิเคราะห์และขยายการเคลื่อนไหวละเอียดและ
เห็นภาพรูปร่างที่มิฉะนั้นจะมองไม่เห็น [วัง
et al, 2006] เสนอโดยใช้ตัวกรองการ์ตูนแอนิเมชั่เพื่อสร้าง
การพูดเกินจริงการเคลื่อนไหวที่น่าสนใจ perceptually วิธีการเหล่านี้เป็นไปตาม
มุมมองของลากรองจ์ในการอ้างอิงถึงพลศาสตร์ของไหลที่
เส้นทางการเคลื่อนที่ของอนุภาคมีการติดตามอยู่ตลอดเวลา เช่นนี้พวกเขาต้องพึ่งพา
การแปล กรุณารอสักครู่..
