當前位置: 首頁 > 科研成果 > 正文

科研成果

科技冬奧:陳寶權牽頭開發的交互式多維度賽事轉播技術讓觀衆體驗“看得真”

時間:2022-06-29    點擊數:

2022年3月5日是北京2022年冬殘奧會首個比賽日,殘奧冰球項目在國家體育館拉開戰幕。在中國對戰斯洛伐克的首秀中,電視機前的觀衆看到了不同以往的轉播畫面——比賽精彩瞬間的自由視點(也叫“子彈時間”)回放。這一電影特效鏡頭在比賽直播中得以實時實現,并且出現在了随後的每場比賽轉播中,讓全球觀衆大開眼界。而這正是beat365beat365陳寶權教授帶領國家重點研發計劃“科技冬奧”重點專項“冰雪項目交互式多維度觀賽體驗技術與系統”項目團隊完成的研發成果,該項目團隊集合了相關領域地優勢力量,成員來自高校(北大、北航、清華)、國家實驗室(鵬城實驗室)和企業(優酷、聯通、歌華、創維)。

北京冬殘奧冰球比賽轉播“子彈時間”視頻制作

作為首次在我國舉辦的冬季奧運會,舉世矚目的2022年北京冬奧會也成為了新視頻技術的絕佳展示機遇。針對冰雪運動的特點,陳寶權教授領導重點專項團隊突破自由視角視頻和虛拟現實(VR)視頻節目拍攝、内容生成、高效編解碼、自适應傳輸和交互式呈現等關鍵技術,研制節目采集系統、内容生成系統、實時編解碼器、自适應傳輸系統和交互式終端,最終實現一套端到端交互式多維度觀賽轉播與體驗系統,改變了以往觀衆隻能被動觀看電視導播畫面的局限,使終端用戶可以選擇任意位置和角度觀看比賽,革命性提升了用戶的觀賽體驗,讓視頻技術從“看得見”、“看得清”進入“看得真”的交互觀賽時代。

項目負責人陳寶權教授

項目成果在北京冬奧會測試賽中先後應用于國家體育館冰球項目、國家速滑館速滑項目、首都體育館花樣滑冰項目和五棵松體育館冰球項目。該系統将精彩回放視頻的生成與傳輸所需要的時間開銷從當前國際主流系統的幾分鐘降低到僅僅幾秒,從而極大地提高了奧運轉播的時效性和觀賞性。

測試活動——國家體育館冰球比賽項目(2021年4月)

測試活動——首都體育館花樣滑冰項目(2021年10月)

陳寶權教授接受央視采訪

該項新技術從冬奧測試賽開始便受到了廣泛關注。“自由視點”觀賽的驚豔效果受到了包括央視、人民網、新華網、科技日報、北京2022年冬奧會官方頻道、鳳凰網等國内外數十家媒體的采訪報道,被稱為“科技冬奧”的黑科技。

在測試賽期間,這些技術突破獲得了國際奧林匹克廣播服務公司(OBS)工程技術總監的關注和高度認可。在冬殘奧會期間,項目團隊受到OBS的特别邀請入駐國家體育館,全程參與冬殘奧冰球項目正賽的轉播。到冬殘奧會結束,項目組共計服務16場比賽,累計提供了200餘段精彩瞬間的回放。而其中17段被OBS公共轉播信号采用,通過廣播電視和網絡直播傳播至全世界。

OBS工程技術總監Isidoro Moreno接受央視采訪對該項技術高度評價

北京冬奧會期間,“冰雪項目交互式多維度觀賽體驗技術與系統”項目成果作為科技冬奧項目代表性成果之一,在北京冬奧村“北京小屋”展出,獲得近千人次國内外運動員、教練及賽事組織官員的參觀與體驗。交互式多維度觀賽系統作為科技冬奧的代表性成果入選國家“十三五”科技創新成就展。

冬奧村“北京小屋”(冬奧期間)

陳寶權教授積極參與該項技術的科普工作。他受北大團委邀請,給北大600多名冬奧學生志願者講述科技助力冬奧,他還受北京冬奧組委的委托,制作科技教程,給來自全國各地的冬奧志願者做培訓。2021年12月31日,陳寶權教授受邀參加北京廣播電視台科教頻道“2022科學跨年之夜”節目,向觀衆介紹該項技術的曆史背景和研發過程,講述如何将需要數千台計算機花費一年時間才能制作出幾十秒鐘視頻的電影特效變成實時技術,給觀衆展現了交互式自由視點視頻技術如何讓觀賽身臨其境,讓觀衆體會從“看得清”到“看得真”的視頻轉播技術革命。

左:2022科學跨年之夜;右:北京2022年冬奧會冬殘奧會beat365總結表彰大會

基于項目團隊在北京冬奧中的突出貢獻,北京冬奧組委和科技部分别給項目團隊發來成果應用證明和感謝信。2022年4月,“北京2022年冬奧會冬殘奧會beat365總結表彰大會”中,陳寶權教授作為北大科技助力冬奧的代表在大會上做了分享演講。而在2022年12月“beat3652023年新年聯歡晚會”中,陳寶權教授将作為《這十年》beat365為國家發展作出貢獻的三個方面代表之一,為同學們講述科技冬奧的故事。

科技部和北京冬奧組委發來感謝信和成果應用證明

陳寶權教授簡介:

陳寶權教授長期從事計算機圖形學、計算機視覺與可視化方向的研究,特别是在大規模三維場景的獲取與重建方面開創了一系列前沿研究并取得了具國際影響力的重要研究成果。此前,相關成果“基于中層幾何結構的三維重建理論與方法”獲得2020年度中國計算機學會自然科學一等獎, “複雜三維形狀的高效生成、分析與制造”獲得2020年度山東省自然科學一等獎。因為在可視化領域的貢獻,他于2020年當選 IEEE Fellow,2021年入選IEEE Visualization Academy(可視化名人堂),他同時也是中國計算機學會會士和中國圖像圖形學會會士。

項目主要技術創新:

端到端自由視角視頻系統。形成了完全自主知産權的端到端技術,實現了完善的現場拍攝-雲端處理-客戶端交互的端到端技術鍊路;在雲端重建方面,實現了基于三維重建技術的自由視角視頻,以及基于相機陣列采集圖像進行高精度大範圍的場景三維深度重建;在自由視角視頻表達和壓縮方面,提出了基于稀疏紋理和深度的自由視角表達和壓縮算法,極大地降低自由視角視頻的壓縮碼率,使用戶可以在普通網絡帶寬下也可以體驗自由視角;而在用戶交互方面,經過深度優化的終端視點重建算法支持實時重建虛拟視點,并且在主流手機上即可進行流暢的自由視角互動體驗。

五棵松體育中心競賽館内環廊吊裝和國家體育館鋪軌架設的相機

比賽場館相機拍攝畫面

冬奧賽事孿生推演與VR視聽語言創意設計針對冬奧熱點賽事項目,項目團隊設計VR直播方案并構建了冬奧場館的三維數字孿生環境。在VR直播方面,使用更清晰、更全面、更多感官體驗的VR全景直播系統,以“新視角”、“鏡頭智能跟蹤”、冰球的重點鏡頭和氛圍鏡頭為側重,營造冰球賽事獨特的魅力。在冬奧賽事的三維數字孿生方面,基于該數字孿生實現動态對象個性化部署、多相機高真實感模拟、多相機快速拼接、創意VR内容生成等功能,完成創意設計的修正反饋和逼真推演。

以“新視角”“鏡頭智能跟蹤”、冰球的重點鏡頭和氛圍鏡頭為側重,營造冰球賽事獨特的魅力

AVS3 8K實時視頻編碼器與自适應傳輸系統基于我國主導制定的面向8K視頻應用的新一代視頻編碼标準AVS3,項目團隊發明一系列快速編碼模式決策技術和并行編碼技術,研發成功8K視頻實時編碼器,編碼效率國際領跑,可以被廣泛應用在5G 8K電視廣播、8K VR直播和自由視角視頻直播等領域。面向VR視頻的高效表達和動态傳輸,項目團隊提出等角金字塔等非均勻映射模型,并基于人工智能技術提出用戶感興趣區域預測,大幅度提升了VR視頻的清晰度,并可以節約70%以上的傳輸帶寬。

首套基于AVS3标準的8K編解碼器與端到端系統、比H.265節約30%碼率

8K機頂盒針對大家對運動賽事的極高清觀看需求,項目團隊開發了支持8K/60幀視頻解碼的極高清8K機頂盒,機頂盒支持國産AVS3 8K解碼标準,支持 8K VR/360全景節目的超高清直播和點播能力,突破了傳統電視的應用範圍和需求的局限性,為用戶傳達具有完整性、沉浸感、現場感、時空感及互動交互性等多維度體驗感的視頻信息,全面升級用戶體驗可以最大限度的還原運動賽事畫面的清晰度和流暢看。

VR與自由視角視頻表示、編碼與傳輸标準基于上述成果,項目團隊整合核心技術形成自主VR與自由視角視頻标準,目前已經被立項為 20192086-T-469,《信息技術 虛拟現實内容表達 第 2 部分:視 頻》國家标準,并在國際IEEE标準立項:IEEE 1857.9:Immersive Visual Content Coding。引領建立我國自主VR與自由視角視頻生态,并輻射國際。

關閉

地址:北京市海澱區頤和園路5号(62755617)   反饋意見:its@pku.edu.cn

Copyright 版權所有©beat·365(中国)唯一官方网站 All Rrights Reserved.