編者注:本文屬于《解碼 AI》系列欄目,該系列的目的是讓技術(shù)更加簡(jiǎn)單易懂,從而解密 AI,同時(shí)向 NVIDIA RTX PC 和工作站用戶展示全新硬件、軟件、工具和加速特性。

AI 為計(jì)算領(lǐng)域帶來了深遠(yuǎn)的改變。雖然最近的焦點(diǎn)是生成式 AI,但多年來,由 NVIDIA RTX 提供支持的 AI 加速工具也在改善游戲、內(nèi)容創(chuàng)作和工作效率方面起到了關(guān)鍵作用。

NVIDIA Broadcast 應(yīng)用程序就是一個(gè)例子,它可使用本地 RTX GPU 上的 Tensor Core 不間斷地提升音頻和視頻質(zhì)量。通過將這款應(yīng)用與 GeForce RTX 和 NVIDIA RTX GPU 內(nèi)置的 NVIDIA 編碼器 (NVENC) 搭配使用,您可輕松上手直播,或在視頻會(huì)議通話中盡展專業(yè)風(fēng)范。

助力實(shí)現(xiàn)“直播夢(mèng)”

https://images.nvidia.cn/cn/youtube-replicates/viWuC4MMXWc.mp4

一直以來,要實(shí)現(xiàn)高質(zhì)量的直播,就離不開昂貴硬件的支持。許多主播常用 x264 軟件庫的軟件 CPU 編碼,而這通常會(huì)影響游戲質(zhì)量。這便導(dǎo)致許多主播使用雙 PC 設(shè)置:一臺(tái) PC 專注于游戲和內(nèi)容,另一臺(tái)負(fù)責(zé)串流編碼。這種設(shè)置組裝起來很復(fù)雜,還很難進(jìn)行故障排除,而且其價(jià)格對(duì)于新人主播來說通常過于高昂。

NVENC 可應(yīng)對(duì)上述問題。它是 NVIDIA GPU 上的專用硬件編碼器,負(fù)責(zé)處理音視頻編碼,以便釋放系統(tǒng)的其余部分來專注于游戲和內(nèi)容的性能。Open Broadcaster Software (OBS) 等行業(yè)領(lǐng)先的直播應(yīng)用正在添加對(duì) NVENC 的支持,為 Twitch 和 YouTube 等熱門平臺(tái)上的新一代主播鋪平道路。

同時(shí),NVIDIA Maxine 還可幫助解決設(shè)備昂貴的問題。它包含免費(fèi)的 AI 賦能功能,例如虛擬綠幕和基于網(wǎng)絡(luò)攝像頭的增強(qiáng)現(xiàn)實(shí)追蹤。有了這些功能,用戶便無需使用物理綠幕或動(dòng)作捕捉套件等特殊設(shè)備。主播們?cè)?2019 年的 TwitchCon 大會(huì)上首次體驗(yàn)到了上述綠幕技術(shù),他們使用 GeForce RTX 2080 GPU 上的 AI 加速綠幕,在展廳中現(xiàn)場(chǎng)測(cè)試了該綠幕在 OBS 上的效果。

Maxine 的 AI 賦能效果最初在 RTX Voice 測(cè)試版中向 RTX 用戶開放,隨后又在名為 NVIDIA Broadcast 的獨(dú)立應(yīng)用中提供。

探索 NVIDIA Broadcast

https://images.nvidia.cn/cn/youtube-replicates/_kHFTeL1RVU.mp4

NVIDIA Broadcast 提供各類 AI 賦能功能,可提升各種用例中的音頻和視頻質(zhì)量。它易于使用,適用于任何其他應(yīng)用,而且設(shè)置起來非常簡(jiǎn)單。

這款應(yīng)用包含:

● ?噪音和回聲移除:只需點(diǎn)擊一個(gè)按鈕,即可讓 AI 消除麥克風(fēng)和輸入音頻中多余的背景噪聲。

● ?虛擬背景:通過背景去除、替換和模糊處理等功能,用戶無需使用價(jià)格不菲的設(shè)備或復(fù)雜的照明布置即可自定義背景。

● ?目光接觸:AI 可讓主播看起來像是在直視攝像頭,即使他們正在看向別處或記筆記。

● ?自動(dòng)聚焦:實(shí)時(shí)動(dòng)態(tài)追蹤對(duì)象的移動(dòng),無論移動(dòng)對(duì)象位于何處,均可自動(dòng)裁剪和縮放畫面,以跟拍對(duì)象。

● ?虛光效果:AI 可對(duì)攝像頭圖像的角落應(yīng)用暗化效果,以提供鮮明的視覺對(duì)比,從而將觀眾的注意力吸引到視頻中央,同時(shí)增添風(fēng)格特色。

● ?視頻降噪:消除弱光環(huán)境下的視頻噪點(diǎn),使畫面更清晰。

NVIDIA Broadcast 技術(shù)的工作原理是在 Windows 中創(chuàng)建虛擬攝像頭、麥克風(fēng)或揚(yáng)聲器,這樣用戶只需設(shè)置一次設(shè)備即可在任何直播、視頻會(huì)議或語音聊天應(yīng)用(包括 Discord、Google Meet、Microsoft Teams、OBS Studio、Slack、Webex 和 Zoom)中使用這些設(shè)備。

NVIDIA GeForce RTX、TITAN RTX、NVIDIA RTX 或 Quadro RTX GPU 用戶可使用其 GPU 專用的 Tensor Core 協(xié)助 NVIDIA Broadcast 的 AI 網(wǎng)絡(luò)實(shí)時(shí)運(yùn)行。

NVIDIA Broadcast 技術(shù)中的所有 AI 賦能技術(shù)也能以軟件開發(fā)套件的形式提供給應(yīng)用開發(fā)者。視聽技術(shù)公司 Elgato 在其 Wave Link 軟件中添加了 Maxine 的 AI 音頻噪聲移除技術(shù),而 VTube Studio (一款熱門應(yīng)用,用于將 3D 模型連接到網(wǎng)絡(luò)攝像頭,以便使用動(dòng)畫角色進(jìn)行直播) 則提供了可以免費(fèi)下載的經(jīng) RTX 加速的模型追蹤器插件。獨(dú)立開發(fā)者 Xaymar 在其 VoiceFX 插件中使用了 NVIDIA Maxine。

在使用 Adobe Premiere Pro 等視頻編輯套件或 Ableton Live 及 Adobe Audition 等數(shù)字音頻工作站進(jìn)行后期處理時(shí),內(nèi)容創(chuàng)作者可以使用 VoiceFX 插件或 Elgato 的虛擬工作室技術(shù) (VST) 過濾器消除錄制內(nèi)容中的噪聲和回聲。

耳聽?(未必)?為實(shí)

自 NVIDIA Broadcast 發(fā)布以來,已有數(shù)百萬人使用了這款應(yīng)用。

Twitch 知名主播 Mr_Vudoo 表示:“我最常使用的是視頻降噪和背景替換功能。目光接觸功能非常有趣,老實(shí)說,這項(xiàng)功能的效果讓我感到驚喜?！?/p>

YouTube 頻道 PiXimperfect 的主持人 Unmesh Dinda 在極端情境下演示了 NVIDIA Broadcast 的噪聲消除和回聲移除 AI 功能。他將一臺(tái)呼呼作響的電風(fēng)扇正對(duì)麥克風(fēng),還戴上頭盔并讓人持續(xù)敲擊頭盔。即便背景中充斥著很大的噪聲,在打開 NVIDIA Broadcast 應(yīng)用的噪音消除功能后,Dinda 的聲音依然清晰可聞。這段視頻的觀看次數(shù)已超過 1200 萬次。

https://images.nvidia.cn/cn/youtube-replicates/bEurXLfzXfw.mp4

對(duì)于日益增多的遠(yuǎn)程工作人員來說,NVIDIA Broadcast 應(yīng)用也是一款實(shí)用的工具。Tom’s Hardware 網(wǎng)站的總編 Avram Piltch 在一篇文章中詳細(xì)介紹了他對(duì)這款應(yīng)用的降噪功能的測(cè)試,測(cè)試對(duì)象包括呼呼作響的空調(diào)、修剪草坪的鄰居,乃至一個(gè)發(fā)脾氣揮舞著機(jī)器人的孩子。NVIDIA Broadcast 的 AI 音頻效果每次都能大顯神通:

Piltch 表示:“我讓我八歲的孩子在我身后假裝發(fā)脾氣,當(dāng)我啟用噪聲移除功能后,每一聲‘我不去睡覺’的抱怨都消失了(至少在錄制內(nèi)容中是這樣)。為了增加挑戰(zhàn)性,我們讓他一邊發(fā)脾氣,一邊拿著一輛嗡嗡作響的機(jī)器人汽車走來走去。這一次,NVIDIA Broadcast 依然移除了所有多余的聲音?！?/p>

NVIDIA Broadcast 的 AI 賦能背景去除功能也可以在日常情境中發(fā)揮作用,例如與醫(yī)療專業(yè)人員進(jìn)行視頻通話。

歡迎在任何搭載 RTX 的臺(tái)式電腦或筆記本電腦上免費(fèi)下載 NVIDIA Broadcast。

請(qǐng)訂閱《解碼 AI》時(shí)事通訊,我們每周都會(huì)將新鮮資訊直接投遞到您的收件箱。

###