chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Shopee視頻技術(shù)落地產(chǎn)品

LiveVideoStack ? 來(lái)源:Shopee技術(shù)團(tuán)隊(duì) ? 作者:Shopee技術(shù)團(tuán)隊(duì) ? 2022-11-17 10:40 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

東南亞各市場(chǎng)的網(wǎng)絡(luò)環(huán)境復(fù)雜多變、差異極大,如何在有限網(wǎng)絡(luò)條件下提供穩(wěn)定、高清的視頻體驗(yàn)是我們面臨的一大挑戰(zhàn)?;诖?,本次分享將介紹 Shopee 在東南亞視頻業(yè)務(wù)落地上的方案,在畫質(zhì)提升上做出的努力,以及一些性能提升成本控制方面的優(yōu)化。

在 8 月 6 日舉辦的 LiveVideoStackCon 2022 上海站大會(huì)中,Shopee 視頻技術(shù)團(tuán)隊(duì)負(fù)責(zé)人 Zhixing 分享了 Shopee 視頻處理技術(shù)的后臺(tái)應(yīng)用,本文根據(jù)演講內(nèi)容整理而成。

1. 背景

隨著 Shopee 電商業(yè)務(wù)在東南亞等市場(chǎng)展開,視頻和電商結(jié)合的應(yīng)用迅速落地。然而,當(dāng)?shù)卦S多用戶使用的手機(jī)配置有限,這些手機(jī)在視頻編解碼、圖像處理方面存在不小的性能瓶頸。

并且,當(dāng)?shù)鼐W(wǎng)絡(luò)基礎(chǔ)設(shè)施建設(shè)還不太完善,在這樣的網(wǎng)絡(luò)條件下,如何穩(wěn)定且高質(zhì)量地傳輸媒體數(shù)據(jù)成為一大挑戰(zhàn)。

另外,海量的視頻文件和直播視頻處理也給 Shopee 后臺(tái)帶來(lái)了巨大的壓力。那么 Shopee 是如何通過(guò)技術(shù)手段來(lái)解決這一系列問(wèn)題的呢?

本次分享的內(nèi)容大致分為四個(gè)部分:第一部分是 Shopee 視頻相關(guān)的產(chǎn)品介紹;第二部分是 Shopee 視頻業(yè)務(wù)后臺(tái)的技術(shù)方案;第三部分是 Shopee 高清低碼轉(zhuǎn)碼技術(shù),以及 RTC 場(chǎng)景視頻編碼技術(shù);第四部分是我們?cè)谛阅芴嵘凸?jié)省算力成本上做的一些優(yōu)化。

2. Shopee 視頻技術(shù)落地產(chǎn)品

先來(lái)看看 Shopee 有哪些與視頻相關(guān)的產(chǎn)品。

作為電商平臺(tái),Shopee App 是我們的主要業(yè)務(wù),涵蓋了 feeds 流、直播帶貨、點(diǎn)播等視頻類服務(wù)。其中,短視頻服務(wù) Shopee Video 目前也已經(jīng)在東南亞個(gè)別市場(chǎng)上線。

Shopee 的數(shù)字銀行業(yè)務(wù) SeaBank 在部分場(chǎng)景下也用到了視頻服務(wù),例如在線開戶環(huán)節(jié)。用戶發(fā)起開戶請(qǐng)求,客服接聽,通過(guò)視頻畫面在線認(rèn)證身份信息。

此外,公司內(nèi)部的通訊工具 SeaTalk 也計(jì)劃在語(yǔ)音通信功能的基礎(chǔ)上,新增視頻會(huì)議能力。

3. Shopee 視頻相關(guān)后臺(tái)服務(wù)

針對(duì)上述應(yīng)用,我們開發(fā)了哪些視頻相關(guān)的后臺(tái)服務(wù)呢?

3.1 直播/點(diǎn)播轉(zhuǎn)碼

首先是 Shopee App 的轉(zhuǎn)碼服務(wù),涉及點(diǎn)播和直播轉(zhuǎn)碼兩個(gè)轉(zhuǎn)碼平臺(tái)。有一些 AI 增強(qiáng)類的前置處理,一幀耗時(shí)比較長(zhǎng),對(duì)于點(diǎn)播業(yè)務(wù)來(lái)說(shuō),這不是什么問(wèn)題,只是轉(zhuǎn)碼耗時(shí)增長(zhǎng)。而對(duì)于直播業(yè)務(wù)來(lái)說(shuō),就需要考慮效率問(wèn)題了,比如幀率 30,最多一幀只能耗時(shí) 33ms,如果串行進(jìn)行所有前置處理,就會(huì)使得出幀幀率小于輸入幀率,導(dǎo)致視頻幀堆積的問(wèn)題。

于是,我們?cè)O(shè)計(jì)了流水線的視頻處理架構(gòu),將耗時(shí)較短、不影響主流程的處理節(jié)點(diǎn)放在同一個(gè) region 中,串行處理,耗時(shí)長(zhǎng)的節(jié)點(diǎn)單獨(dú)一個(gè) region,region 與 region 之間并行執(zhí)行,中間通過(guò)隊(duì)列通信。這樣,只需要任意一個(gè)處理節(jié)點(diǎn)耗時(shí)保證在幀 duration 范圍內(nèi),就能滿足業(yè)務(wù)要求。

76cbf9c0-660d-11ed-8abf-dac502259ad0.png

我們可以看到中間這張彩色的示意圖,如果是串行處理,每一幀的耗時(shí)就等于每一個(gè)節(jié)點(diǎn)耗時(shí)相加。然而流水線處理的話,每一幀的耗時(shí)取決于耗時(shí)最大的處理節(jié)點(diǎn)。

778eb2ee-660d-11ed-8abf-dac502259ad0.png

上圖為 Shopee 的直播/點(diǎn)播轉(zhuǎn)碼服務(wù)架構(gòu)圖。點(diǎn)播轉(zhuǎn)碼集群分為內(nèi)部 Prado 容器集群和云主機(jī)集群,MMS 點(diǎn)播平臺(tái)是我們的上游服務(wù),該平臺(tái)可以根據(jù)負(fù)載自由調(diào)度,選擇使用 Prado 轉(zhuǎn)碼或是云主機(jī)轉(zhuǎn)碼。

說(shuō)個(gè)題外話,為什么這里會(huì)有兩種集群?近兩年因?yàn)橐咔?,服?wù)器采購(gòu)比較困難,于是公司的 SRE 建議我們,這類對(duì)數(shù)據(jù)安全性要求沒(méi)有特別高的服務(wù)可以切到云主機(jī),以加快業(yè)務(wù)落地。

對(duì)于轉(zhuǎn)碼后的視頻畫面質(zhì)量,我們也有內(nèi)部的畫質(zhì)數(shù)據(jù)平臺(tái) AWCY,提供編碼畫質(zhì)監(jiān)控能力。

3.2 直播連麥

77b1ab0a-660d-11ed-8abf-dac502259ad0.png

上圖是 Shopee App 的直播連麥服務(wù)架構(gòu)。連麥雙方通過(guò) RTC-SFU 服務(wù)通信,觀眾通過(guò) HTTP-FLV 觀看直播。

這里值得注意的是,通常云廠商為了后臺(tái)的穩(wěn)定性,將連麥服務(wù)的邏輯簡(jiǎn)單化了,不管房間是否有連麥主播,都采用轉(zhuǎn)碼的方式處理視頻流。而既然有轉(zhuǎn)碼,就涉及到視頻編碼環(huán)節(jié),若只有一路主播的時(shí)候也轉(zhuǎn)碼,會(huì)浪費(fèi)大量算力資源。

為了節(jié)省計(jì)算資源,Shopee 主播視頻采用了 H.264 編碼。在單個(gè)主播的時(shí)候,我們采用直接轉(zhuǎn)封裝的方式處理主播的視頻;當(dāng)有連麥者接入的時(shí)候,采用混流轉(zhuǎn)碼的方式處理視頻;連麥者離開后,再次返回到轉(zhuǎn)封模式。

MCU 后臺(tái)處理了這種模式之間交替切換的問(wèn)題,通過(guò)緩存 GOP 的方式解決從單主播切換到連麥模式的場(chǎng)景,通過(guò)等待新的 GOP 的方式解決從連麥模式切換到單人模式的場(chǎng)景。

線上大部分時(shí)候,在房間只有單個(gè)主播的場(chǎng)景下,CPU 的平均負(fù)載較低,大大提高了集群的并發(fā)能力。單臺(tái)機(jī)器如果進(jìn)行轉(zhuǎn)碼,最多支持 20 路主播;如果不進(jìn)行轉(zhuǎn)碼,目前通過(guò)壓測(cè)數(shù)據(jù)來(lái)看,至少支持 200 路主播轉(zhuǎn)發(fā)。

77fa5bb6-660d-11ed-8abf-dac502259ad0.png

這一套方案也用于 SeaBank 在線開戶系統(tǒng),對(duì)開戶通話過(guò)程進(jìn)行錄制。區(qū)別在于 SeaBank 系統(tǒng)只有混流模式。

3.3 多人會(huì)議混流

7808b044-660d-11ed-8abf-dac502259ad0.png

對(duì)于 Shopee 內(nèi)部通訊軟件 SeaTalk,我們提供了多人會(huì)議混流服務(wù)作為技術(shù)能力儲(chǔ)備(目前該功能還未上線),混流模塊中嵌入了開源軟件 OWT 和 mediasoupclient 的核心模塊,并且在 OWT 模塊上增加了 3 幀的緩存隊(duì)列,以平滑混流視頻幀。會(huì)議混流系統(tǒng)支持 RTMP 和 WebRTC 接入。

3.4 視頻后臺(tái)編輯

782c85c8-660d-11ed-8abf-dac502259ad0.png

針對(duì) Shopee 的短視頻產(chǎn)品 Shopee Video,我們開發(fā)了一套后臺(tái)編輯服務(wù),用于完成一些 2D 特效,例如圖片序列轉(zhuǎn)視頻、添加背景音樂(lè)、畫面切割、文字動(dòng)畫、視頻轉(zhuǎn)場(chǎng)、背景模糊等。目前通過(guò) CPU 執(zhí)行 Xvfb 虛擬顯存的方式完成 gltransition 的轉(zhuǎn)場(chǎng)效果。

4. 高清低碼

隨著 Shopee App 中帶貨直播業(yè)務(wù)量逐漸增長(zhǎng),提升直播用戶畫質(zhì)體驗(yàn)的需求也日益強(qiáng)烈。另一方面,在東南亞的網(wǎng)絡(luò)條件下,直播分辨率很多還是 360p 或 270p,碼率 300-500k。

起初,大部分 Shopee 帶貨主播流沒(méi)有轉(zhuǎn)碼,為了適配直播觀眾下行參差不同的網(wǎng)絡(luò)情況,主播甚至用更低的分辨率和碼率開播,來(lái)提高觀眾側(cè)的流暢度,當(dāng)然這種做法以犧牲清晰度為代價(jià)。

在考慮用戶觀看體驗(yàn),并綜合視頻轉(zhuǎn)碼成本等多種因素后,Shopee 決定投入自研視頻轉(zhuǎn)碼業(yè)務(wù)。與業(yè)界常見(jiàn)做法類似,Shopee 的直播轉(zhuǎn)碼也分為普通轉(zhuǎn)碼和高清低碼轉(zhuǎn)碼。

普通直播轉(zhuǎn)碼集群用 NVIDIA T4 顯卡硬編碼,來(lái)支持更多直播轉(zhuǎn)碼。測(cè)試數(shù)據(jù)顯示,直播帶貨場(chǎng)景下,一張 NVIDIA T4 顯卡能編碼 30 路,相較于 CPU 成本有一定優(yōu)勢(shì)。另外一部分是高清低碼轉(zhuǎn)碼,使用 CPU 轉(zhuǎn)碼,編碼器是基于 x264 優(yōu)化后的版本。

784091ee-660d-11ed-8abf-dac502259ad0.png

上圖是 Shopee 直播高清低碼和云廠商高清低碼的畫質(zhì)對(duì)比,左邊可以看出來(lái) Shopee 轉(zhuǎn)碼畫質(zhì)明顯優(yōu)于云廠商 A,和右邊的云廠商 B 相比,在塊效應(yīng)的處理上也有細(xì)微優(yōu)勢(shì)。那么 Shopee 的高清低碼轉(zhuǎn)碼是如何做到的呢?

4.1 視頻處理的一般流程

788ecc38-660d-11ed-8abf-dac502259ad0.png

先來(lái)大概了解一下視頻轉(zhuǎn)碼需要經(jīng)過(guò)哪些環(huán)節(jié):

第一步解碼得到 YUV 畫面數(shù)據(jù);

然后經(jīng)過(guò)前置處理,包含了 ROI 背景 gblur 濾波、銳化、AI 增強(qiáng);

接著將 YUV 數(shù)據(jù)送進(jìn)編碼器,進(jìn)入預(yù)編碼環(huán)節(jié),主要步驟是下采樣、Scenecut 關(guān)鍵幀判斷,幀類型決策、AC 能量值計(jì)算、MBTree 等;

下一步進(jìn)入編碼環(huán)節(jié),包括幀內(nèi)/幀間預(yù)測(cè)編碼、RDO、Deblocking、參考幀管理等步驟;

最后就是進(jìn)入量化和熵編碼環(huán)節(jié),最終輸出 NALU 單元。

上面步驟中藍(lán)色部分是 Shopee 在 x264 基礎(chǔ)上做過(guò)優(yōu)化的節(jié)點(diǎn),接下來(lái)會(huì)一一講解。

4.2 Shopee 高清低碼優(yōu)化方案

4.2.1 前置處理

1)CDEF 算法

78de9830-660d-11ed-8abf-dac502259ad0.png

在前置處理時(shí),參考 AV1 中實(shí)現(xiàn)的 CDEF 算法,抽出來(lái)作為一個(gè) FFmpeg 濾鏡,該算法主要用于解決由于過(guò)度壓縮導(dǎo)致的物體邊緣振鈴效應(yīng)。通過(guò)該濾波算法之后,畫面中的物體邊緣會(huì)更加平滑。

CDEF 大致可以理解為首先計(jì)算當(dāng)前 8x8 的塊在預(yù)設(shè)的八個(gè)方向塊上的殘差,選擇殘差最小的作為確定的角度方向,然后找到對(duì)應(yīng)的角度方向矩陣進(jìn)行濾波。圖中最右邊是濾波后的效果,可以看到樹枝的邊緣更加平滑了。

2)3D 降噪

7912076a-660d-11ed-8abf-dac502259ad0.png

常見(jiàn)的傳統(tǒng)降噪算法 FFmpeg 中也有一些濾鏡實(shí)現(xiàn),比如 hqdn3d、bm3d 等。hqdn3d 參考的點(diǎn)較少,運(yùn)動(dòng)劇烈時(shí)效果不佳。bm3d 需要額外計(jì)算運(yùn)動(dòng)向量,速度極慢。

我們?cè)诰幋a器內(nèi)置的 3D 降噪算法通過(guò)復(fù)用運(yùn)動(dòng)向量的方法規(guī)避了效果差和速度慢的缺點(diǎn)。利用前后幀的預(yù)測(cè)信息,在預(yù)編碼中得到的運(yùn)動(dòng)向量作為依據(jù),找到被參考幀對(duì)應(yīng)的塊,作為濾波的參考?jí)K,然后通過(guò)雙邊濾波算法,對(duì)當(dāng)前塊進(jìn)行濾波。

這樣一來(lái),因?yàn)閺?fù)用了運(yùn)動(dòng)向量,從而能夠較好地對(duì)當(dāng)前的塊進(jìn)行降噪濾波,也減少了計(jì)算復(fù)雜度。我們?cè)?x265 也實(shí)現(xiàn)了同樣的算法。

4.2.2 分類參數(shù)

795eefc6-660d-11ed-8abf-dac502259ad0.png

常見(jiàn)的分類編碼參數(shù)往往通過(guò)人為主觀分類,例如游戲、UGC 視頻、影視劇等。而考慮到主觀分類對(duì)于編碼器提高 BD-rate 不一定是最佳的,Shopee 采用了一種逆向的思維方法,先抽出來(lái)幾個(gè)不增加編碼復(fù)雜度,主要影響畫質(zhì)的參數(shù):B 幀個(gè)數(shù)、B 幀決策算法、B-pyramid、B 幀層次結(jié)構(gòu)、QComp 等。

首先將這些參數(shù)分成性價(jià)比最高的八組(當(dāng)然這八組是通過(guò)我們線上的視頻跑出來(lái)的結(jié)論),然后分別得出圖中幾組參數(shù)的最佳 SSIM BD-rate 收益——這里的收益是相對(duì)于我們線上統(tǒng)一的編碼參數(shù)而言,把最佳 BD-rate 視頻,相同參數(shù)的作為一組,然后針對(duì)這一組視頻提取特征,進(jìn)行訓(xùn)練,使用訓(xùn)練完的模型對(duì)線上視頻進(jìn)行分類。

手動(dòng)參數(shù)分類測(cè)試 BD-rate 收益最大 2.6%,模型分類 BD-rate 提升取決于模型分類的準(zhǔn)確性,目前通過(guò)模型分類收益 1.4% 左右,模型還在進(jìn)一步改進(jìn)中,預(yù)期是接近手動(dòng)分類 BD-rate 收益最大 2.6% 的目標(biāo)。

4.2.3 編碼器優(yōu)化

1)VBV - Adapt CRF

7986cdb6-660d-11ed-8abf-dac502259ad0.png

在編碼器碼控方面,我們也做出了一些優(yōu)化。如圖,這是 VBV + CRF 碼控模型示意圖,一邊注水,注水速度為 maxrate*幀duration;一邊放水,放水速度為實(shí)際編碼碼率。

當(dāng)水位過(guò)低時(shí),發(fā)生下溢,增大 QP 值,降低編碼碼率。當(dāng)水位過(guò)高,發(fā)生上溢,減小 QP 值,增大編碼碼率。實(shí)際編碼檔位的 maxrate、bufsize 參數(shù)限制了水池的大小,使得復(fù)雜視頻畫面為了達(dá)到目標(biāo) CRF 畫質(zhì),經(jīng)常發(fā)生下溢,當(dāng)碼率不足時(shí),大幅度降低了高復(fù)雜度畫面的畫質(zhì),比如出現(xiàn)嚴(yán)重塊效應(yīng)。

我們通過(guò)動(dòng)態(tài)調(diào)整 CRF 值的方式,讓平均畫質(zhì)始終處于 VBV 限制范圍內(nèi)。當(dāng)發(fā)生下溢時(shí),增大 CRF 值,降低目標(biāo)畫質(zhì);當(dāng)發(fā)生上溢時(shí),減小 CRF 值,提高目標(biāo)畫質(zhì),以此達(dá)到提升視頻平均質(zhì)量的目的。通過(guò)線上大量視頻測(cè)試,BD-rate 提升了 1.2%。

2)Hierarchy B + 時(shí)域?yàn)V波

Shopee 編碼器對(duì) BD-rate 提升最多的優(yōu)化是分層 B 幀結(jié)構(gòu)。

79947d76-660d-11ed-8abf-dac502259ad0.png

如圖所示,左邊是社區(qū)版本 x264 編碼出來(lái)的 B 幀結(jié)構(gòu),右邊是優(yōu)化后的 B 幀結(jié)構(gòu)。由于右邊的 B 幀分了更多層,從圖上可以很直觀地看出來(lái),參考幀和被參考幀的距離更近,參考關(guān)系更優(yōu)。

另外,分層 B 幀使用先確定 miniGOP,然后二分的方式?jīng)Q策參考關(guān)系和層次,相較于社區(qū)版的 Adapt B 和 Viterbi B 幀決策,速度更快。以下是我們測(cè)試的 BD-rate 提升和幀率提升收益。

79b0ab7c-660d-11ed-8abf-dac502259ad0.png

另外,決策完參考關(guān)系之后,還可以通過(guò)對(duì)編碼幀進(jìn)行時(shí)域?yàn)V波,讓編碼幀更接近參考幀,減小殘差,以提高 BD-rate,收益大概在 2% 左右。

3)ROI(GBlur 背景)

為了適配東南亞的網(wǎng)絡(luò)質(zhì)量,Shopee 轉(zhuǎn)碼服務(wù)提出了一種 ROI 轉(zhuǎn)碼檔位。以往常見(jiàn)的 ROI 編碼,單純通過(guò)增大非 ROI 區(qū)域的 QP 值來(lái)降低非 ROI 區(qū)域的畫質(zhì),然后把 bits 節(jié)省下來(lái),減小 ROI 區(qū)域 QP 值來(lái)提高畫質(zhì)。

但是這樣帶來(lái)一個(gè)問(wèn)題,非 ROI 區(qū)域看起來(lái)塊效應(yīng)非常明顯,和 ROI 區(qū)域有明顯割裂感。于是,我們對(duì)非 ROI 區(qū)域進(jìn)行高斯模糊濾波之后再 ROI 編碼,效果看起來(lái)比原來(lái)的 ROI 編碼好很多。

79d53b5e-660d-11ed-8abf-dac502259ad0.png

如圖所示,左邊是原圖,中間是扣下來(lái)的 ROI 區(qū)域,右圖是高斯模糊之后 ROI 編碼的效果。

4)長(zhǎng)期參考幀

為了支持后臺(tái)視頻編輯的服務(wù),我們?cè)诰庉嫹?wù)編碼器中增加了長(zhǎng)期參考幀。

在剪輯視頻的時(shí)候,可能會(huì)出現(xiàn)一段節(jié)目中間要植入廣告的場(chǎng)景,如果按照原生的 x264 幀類型決策策略,會(huì)發(fā)生 scenecut,決策為 IDR 幀,然而我們可以看到,這里中間植入的廣告的前后畫面很有關(guān)聯(lián)性。

7a3a85c2-660d-11ed-8abf-dac502259ad0.png

于是我們把發(fā)生 scenecut 前額視頻幀緩存在編碼器參考幀隊(duì)列中,并標(biāo)記為長(zhǎng)期參考幀,當(dāng)后面的視頻幀出現(xiàn) scenecut 的時(shí)候,再和隊(duì)列中的長(zhǎng)期參考幀 scenecut 決策一次,如果決策結(jié)果均為發(fā)生 scenecut,則標(biāo)記為 IDR,反之編碼為 P 幀。如此優(yōu)化后,BD-rate 提升 6% 左右,不過(guò)該策略僅適用于視頻剪輯的場(chǎng)景。

5)分級(jí) RDO

另外,我們還在 RDO 方面做了一些優(yōu)化。

RDO 是編碼器進(jìn)行二次編碼,把重建塊和原畫之間的殘差作為失真,為了盡量減小失真,對(duì)幀內(nèi)/幀間預(yù)測(cè)模式、運(yùn)動(dòng)向量、QP 值重新決策的過(guò)程。它們的決策強(qiáng)度都是依次遞增的,意思是如果要打開 QP RD,就一定要開運(yùn)動(dòng)向量,模式?jīng)Q策 refine。

/*mbrd==1->RDmodedecision*/ /*mbrd==2->RDrefinementsatdcost*/ /*mbrd==3->QPRD*/

7a5e4a48-660d-11ed-8abf-dac502259ad0.png

于是我們把 QP RD 單獨(dú)拿出來(lái),通過(guò)新增的參數(shù)控制開關(guān),在犧牲了一定速度的條件下,達(dá)到了 BD-rate 3% 的收益。

6)時(shí)域 SVC

針對(duì) RTC 場(chǎng)景,我們也做了一些編碼側(cè)的優(yōu)化。

7a772f54-660d-11ed-8abf-dac502259ad0.png

RTC 一般是沒(méi)有 B 幀的,為了解決群組會(huì)議用戶網(wǎng)絡(luò)質(zhì)量參差不齊的問(wèn)題。我們將 P 幀也進(jìn)行了分層。層級(jí)之間的參考關(guān)系如圖所示,上層的 P 幀永遠(yuǎn)參考下層的幀。

這樣一來(lái),我們?cè)趥鬏斶^(guò)程中可以任意丟棄上一層的 P 幀,而不影響解碼播放。下行帶寬不足的時(shí)候, 在一個(gè) miniGOP 內(nèi)部,上層的 P 幀可以根據(jù)實(shí)際網(wǎng)絡(luò)情況丟棄,以降低帶寬,從而保證視頻的流暢性。

5. 性能優(yōu)化

5.1 編碼器端上優(yōu)化

在線上視頻業(yè)務(wù)中,我們?cè)龅竭^(guò)一些問(wèn)題。有一些配置較低的手機(jī),在光線不是很好的情況下,拍出來(lái)的畫面無(wú)法看清畫面中必要的的文字信息。于是我們對(duì)手機(jī)上采集到的畫面進(jìn)行了銳化,讓文字看起來(lái)更清晰一些。

然而測(cè)試發(fā)現(xiàn),對(duì)于東南亞的手機(jī)配置,這樣的算法發(fā)熱太嚴(yán)重,即便銳化算法是參考了 FFmpeg 的 USM,已經(jīng)是通過(guò)橫縱向狀態(tài)機(jī)復(fù)用和多線程優(yōu)化過(guò)的版本,銳化一幀 720p 普遍耗時(shí)還是有 15-20ms,而且手機(jī)發(fā)熱嚴(yán)重。

7a937aa6-660d-11ed-8abf-dac502259ad0.png

于是我們針對(duì) 3x3 的 USM 模版,用 NEON 匯編指令優(yōu)化了銳化函數(shù),把一些點(diǎn)積、累加運(yùn)算通過(guò) SIMD 指令并行處理,銳化處理的幀率提高了 7 倍,手機(jī)也不再發(fā)熱。

5.2 一入多出編碼

東南亞的機(jī)房機(jī)器成本同樣很高,為了節(jié)省服務(wù)器機(jī)器資源,在點(diǎn)播后臺(tái)轉(zhuǎn)碼服務(wù)中,我們也做了一些成本優(yōu)化。

Shopee App 需要將一個(gè)點(diǎn)播視頻轉(zhuǎn)碼 6 個(gè)檔位,不同的分辨率和碼率。我們通過(guò)對(duì)一些轉(zhuǎn)碼中間數(shù)據(jù)復(fù)用的方式很大程度上降低了轉(zhuǎn)碼服務(wù)集群的成本,首先我們復(fù)用了前置處理,包括 AI 增強(qiáng),把同一個(gè)視頻文件轉(zhuǎn)碼多個(gè)檔位的請(qǐng)求調(diào)度到同一臺(tái)主機(jī)上,以復(fù)用前置處理結(jié)果。

其次,我們通過(guò)復(fù)用編碼器 lookahead 幀決策、MBTree 等信息。針對(duì)同一個(gè)視頻文件的轉(zhuǎn)碼,我們通常只需要對(duì)其中一個(gè)檔位的視頻做幀決策,其他的檔位直接復(fù)用幀類型信息。在編碼環(huán)節(jié)中復(fù)用運(yùn)動(dòng)向量,skip 塊等信息來(lái)減少運(yùn)算量。

經(jīng)過(guò)測(cè)試,有參考信息的轉(zhuǎn)碼檔位能節(jié)省 50% 的運(yùn)算量。復(fù)用的轉(zhuǎn)碼檔位越多,節(jié)省的 CPU 算力也越多。

以上就是本次分享的主要內(nèi)容。接下來(lái)我們還會(huì)發(fā)布在 x265 編碼器上的一些優(yōu)化,在一些視頻業(yè)務(wù)上支持 H.265 編碼能力,進(jìn)一步提高視頻用戶體驗(yàn)。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 編碼器
    +關(guān)注

    關(guān)注

    45

    文章

    3808

    瀏覽量

    138100
  • 視頻處理
    +關(guān)注

    關(guān)注

    2

    文章

    99

    瀏覽量

    19134

原文標(biāo)題:5. 性能優(yōu)化

文章出處:【微信號(hào):livevideostack,微信公眾號(hào):LiveVideoStack】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    雷曼光電COB超高清顯示屏落地馬欄山音視頻實(shí)驗(yàn)室

    雷曼光電憑借在Micro LED領(lǐng)域的深厚技術(shù)積累和雷曼COB超高清顯示產(chǎn)品的卓越性能,為湖南長(zhǎng)沙馬欄山音視頻實(shí)驗(yàn)室打造了核心顯示方案。
    的頭像 發(fā)表于 07-09 17:05 ?357次閱讀

    NVIDIA AI如何助力藝術(shù)創(chuàng)意落地

    本次 GTC 將在歐洲著名藝術(shù)之都巴黎舉辦,特別策劃的藝術(shù)畫廊將展示 AI 如何助力創(chuàng)意落地,實(shí)現(xiàn)技術(shù)與靈感碰撞的愿景。
    的頭像 發(fā)表于 06-12 15:26 ?412次閱讀

    RK3588核心板在邊緣AI計(jì)算中的顛覆性優(yōu)勢(shì)與場(chǎng)景落地

    <50ms,漏檢率降低至0.1%。 效率提升:產(chǎn)線檢測(cè)速度從120件/分鐘提升至300件/分鐘。 開發(fā)者價(jià)值 明遠(yuǎn)智睿提供完善的軟件代碼,一對(duì)一的技術(shù)指導(dǎo),開發(fā)者可快速二次開發(fā)落地產(chǎn)品!
    發(fā)表于 04-15 10:48

    太盟投資集團(tuán)完成40億美元房地產(chǎn)基金募集

    近日,太盟投資集團(tuán)(PAG)宣布其不動(dòng)產(chǎn)業(yè)務(wù)旗艦機(jī)會(huì)型房地產(chǎn)基金系列中的第十只基金——SCREP VIII,已成功完成募集,募集金額高達(dá)40億美元。該基金專注于投資亞太地區(qū)發(fā)達(dá)國(guó)家的房地產(chǎn)及債務(wù)市場(chǎng)
    的頭像 發(fā)表于 02-18 09:40 ?384次閱讀

    中星微成功打造新一代智能視頻安全解決方案

    近日,中星微技術(shù)宣布基于公共安全SVAC國(guó)家標(biāo)準(zhǔn),通過(guò)深度融合DeepSeek大模型,成功打造新一代智能視頻安全解決方案落地樣本案例,實(shí)現(xiàn)“城市安全視圖智能體”落地多場(chǎng)景,以智能化運(yùn)維
    的頭像 發(fā)表于 02-13 16:47 ?667次閱讀

    國(guó)產(chǎn)主板——助力科技用品從技術(shù)創(chuàng)新到應(yīng)用落地

    隨著物聯(lián)網(wǎng)、5G等技術(shù)的飛速發(fā)展以及科技用品的廣泛應(yīng)用,我們迎來(lái)了科技化的全新時(shí)代。而在這發(fā)展的背景中,國(guó)產(chǎn)主板成為了推動(dòng)各行各業(yè)發(fā)展的新動(dòng)力,真正實(shí)現(xiàn)了科技產(chǎn)品技術(shù)創(chuàng)新到應(yīng)用落地
    的頭像 發(fā)表于 02-07 08:44 ?414次閱讀
    國(guó)產(chǎn)主板——助力科技用品從<b class='flag-5'>技術(shù)</b>創(chuàng)新到應(yīng)用<b class='flag-5'>落地</b>

    杰和一體機(jī)主板助力某連鎖地產(chǎn)公司實(shí)現(xiàn)地產(chǎn)3.0時(shí)代轉(zhuǎn)型

    地產(chǎn)行業(yè)一體機(jī)解決方案地產(chǎn)行業(yè)正在經(jīng)歷一場(chǎng)數(shù)字革命,從房源信息搜索到在線VR看房選房、線上簽章等新型看房簽約手段,全產(chǎn)業(yè)鏈的房產(chǎn)服務(wù)都在向數(shù)字化方向轉(zhuǎn)型。在這個(gè)過(guò)程中,高性能工作辦公工具成為提升
    的頭像 發(fā)表于 02-05 18:00 ?225次閱讀
    杰和一體機(jī)主板助力某連鎖<b class='flag-5'>地產(chǎn)</b>公司實(shí)現(xiàn)<b class='flag-5'>地產(chǎn)</b>3.0時(shí)代轉(zhuǎn)型

    成都微光集電發(fā)布全新MIS20S1視頻產(chǎn)品

    近日,成都微光集電推出了一款全新的2MP視頻產(chǎn)品——MIS20S1,該產(chǎn)品專為安防監(jiān)控和消費(fèi)類視頻應(yīng)用而設(shè)計(jì),支持1080P60視頻分辨率。 MIS20S1基于成都微光集電的“BSI+
    的頭像 發(fā)表于 12-24 11:06 ?818次閱讀

    德力西電氣榮獲2024中國(guó)房地產(chǎn)產(chǎn)業(yè)鏈戰(zhàn)略誠(chéng)信供應(yīng)商

    近日,2024 房地產(chǎn)創(chuàng)新發(fā)展大會(huì)暨年度盛典在北京盛大舉行,德力西電氣建筑行業(yè)銷售總經(jīng)理閆守毅等一行人代表公司出席現(xiàn)場(chǎng)。同時(shí),旗下多款明星產(chǎn)品及前沿技術(shù)成果亮相展區(qū),備受矚目。
    的頭像 發(fā)表于 12-17 17:04 ?770次閱讀

    多領(lǐng)域應(yīng)用落地驅(qū)動(dòng)UWB技術(shù)革新,Qorvo 將推出新一代UWB產(chǎn)品

    無(wú)線電發(fā)射設(shè)備的射頻技術(shù)要求。11月,深圳通UWB無(wú)感支付過(guò)閘方案正式試點(diǎn)上線,打造了全國(guó)首例將UWB技術(shù)融入公共交通支付場(chǎng)景的方案。 ? 可以看到,不管是在標(biāo)準(zhǔn)化,還是應(yīng)用落地,UWB技術(shù)
    的頭像 發(fā)表于 12-09 01:10 ?2959次閱讀
    多領(lǐng)域應(yīng)用<b class='flag-5'>落地</b>驅(qū)動(dòng)UWB<b class='flag-5'>技術(shù)</b>革新,Qorvo 將推出新一代UWB<b class='flag-5'>產(chǎn)品</b>

    產(chǎn)品合二為一,傳統(tǒng)LED視頻處理器廠家何去何從

    "最近,許多LED控制系統(tǒng)制造商推出了新產(chǎn)品,引起了行業(yè)內(nèi)的軒然大波。一款三合一視頻處理器的推出,將發(fā)送卡、視頻處理器和異步播放功能融合于一臺(tái)設(shè)備中,讓許多企業(yè)感到不安。除了Linsn,觀察到一些
    的頭像 發(fā)表于 11-07 09:18 ?757次閱讀

    慧視高效壓縮技術(shù) 解決多路視頻傳輸難點(diǎn)

    。因此如多個(gè)采集端傳向同一接收端這種模式下,就需要采用視頻壓縮的方式來(lái)減少接收端的帶寬壓力?;垡旼S弱網(wǎng)高清視頻壓縮傳輸系統(tǒng),基于G-share深度壓縮技術(shù),能通過(guò)有
    的頭像 發(fā)表于 11-05 08:04 ?1005次閱讀
    慧視高效壓縮<b class='flag-5'>技術(shù)</b>    解決多路<b class='flag-5'>視頻</b>傳輸難點(diǎn)

    NFC支付全面落地,智能物聯(lián)模組助力金融支付場(chǎng)景再拓展

    廣泛落地,目前已服務(wù)上海、成都、武漢、長(zhǎng)沙、杭州、青島等50多個(gè)城市,其終端落地產(chǎn)品便是收銀臺(tái)和售貨機(jī)上的“碰一下”收款設(shè)備。該設(shè)備依托于近場(chǎng)通信技術(shù)(NFC),用
    的頭像 發(fā)表于 10-18 08:01 ?1274次閱讀
    NFC支付全面<b class='flag-5'>落地</b>,智能物聯(lián)模組助力金融支付場(chǎng)景再拓展

    視頻超分技術(shù)是指什么?

    ??超分辨率技術(shù)(SuperResolution),是通過(guò)硬件或軟件的方法提高圖像或視頻幀的分辨率,通過(guò)一系列低分辨率圖像獲取到高分辨率圖像的過(guò)程。目前超分辨率技術(shù)主要可以分為兩類,單圖像超分辨率
    的頭像 發(fā)表于 09-04 08:05 ?956次閱讀
    <b class='flag-5'>視頻</b>超分<b class='flag-5'>技術(shù)</b>是指什么?

    RISC-V Summit China 2024 | 青稞RISC-V+接口PHY,賦能RISC-V高效落地

    RISC-V內(nèi)核+接口底層根技術(shù)”的自研體系,深度剖析了全棧研發(fā)模式在推動(dòng)RISC-V應(yīng)用落地上的原生優(yōu)勢(shì)。 青稞RISC-V將芯片技術(shù)自主進(jìn)一步深入到內(nèi)核自主,憑借由核到芯、由內(nèi)而外、軟硬結(jié)合的創(chuàng)新
    發(fā)表于 08-30 17:37