京東數(shù)科AI主播上崗,僅需幾小時就可以合成新角色智能

大家好,我是小妮,誕生于京東數(shù)字科技集團AI實驗室。
“大家好,我是小妮,誕生于京東數(shù)字科技集團AI實驗室。用你們?nèi)祟惖脑捳f,我是AI主播。沒錯,來自虛擬世界的我喊你上課啦!”字正腔圓、細膩逼真的AI主播近日亮相于京東數(shù)科產(chǎn)業(yè)AI公開課。這是京東數(shù)科自主研發(fā)的AI虛擬數(shù)字人產(chǎn)品首次出現(xiàn)在公眾面前。據(jù)介紹,京東數(shù)科融合了2D和3D技術(shù),將傳統(tǒng)方法與深度學習結(jié)合,僅需使用一段幾分鐘的人物視頻數(shù)據(jù),經(jīng)過幾小時訓練就可以合成出寫實風格的AI虛擬數(shù)字人。
京東數(shù)科自主研發(fā)的AI主播
為了研發(fā)出寫實逼真的AI虛擬數(shù)字人,京東數(shù)科AI實驗室在文字轉(zhuǎn)語音、3D人臉建模、語音轉(zhuǎn)視頻等方面進行了一系列技術(shù)創(chuàng)新。
為了順利實現(xiàn)文字到語音的轉(zhuǎn)化,京東數(shù)科自研了輕量級對抗語音合成技術(shù),通過結(jié)合深度神經(jīng)網(wǎng)絡(luò)在多人數(shù)據(jù)上進行個性化建模,達到音色豐富、特色鮮明的語音合成效果,甚至可以模擬人的呼吸和停頓,聽感酷似真人。高效輕量的對抗神經(jīng)網(wǎng)絡(luò)大幅提升了合成速度,合成1秒音頻只需0.07秒,合成時延僅為業(yè)界水平的1/3,充分支持多場景實時語音合成。
在語音生成視頻的階段,為了使AI主播形象更加逼真,京東數(shù)科AI實驗室利用對抗生成網(wǎng)絡(luò)來還原更真實的表情,通過3D模型運動追蹤技術(shù)來確保AI主播在說話時口型準確、表情細膩、頭部運動自然。一般來說,2D類的模型往往能生成更細膩的畫質(zhì),而3D方向的模型操控能力更佳;京東數(shù)科的技術(shù)人員打通了這種模式上的壁壘,在2D和3D模型之上各取所長,將最新的深度學習技術(shù)與傳統(tǒng)的優(yōu)化技術(shù)和特征提取技術(shù)相結(jié)合,使語音、圖像、視頻這些模態(tài)間的語義打通成為可能。從實際效果來看,AI虛擬數(shù)字人能夠模仿不同人的說話習慣,學到如何用點頭、眨眼這些細微動作對發(fā)言中的重要內(nèi)容加以強調(diào)。為了在口型匹配方面達到完美效果,京東數(shù)科AI實驗室利用大量語音數(shù)據(jù),并特意設(shè)計了魯棒的語音特征,使其可以被不同音色、語言和語速的合成語音所驅(qū)動,且都能保持準確、連貫的口型。
最終,京東數(shù)科開發(fā)出了高度還原真人形象的AI虛擬數(shù)字人,在AI算法的驅(qū)動下,只需輸入文本內(nèi)容,“小妮”就能根據(jù)語義實時進行主持,且表情、動作和語音表達非常自然逼真。
除了AI主播,AI虛擬數(shù)字人還可以在多場景中落地生根。比如,在重復性很高的智能客服場景中,人工客服具有人工成本高、質(zhì)量參差不齊等缺點,用AI虛擬數(shù)字人代替人工客服,可大幅提升整體客服效率和服務(wù)體驗。再比如,在招聘場景中,對于公司介紹、薪資福利、入職流程介紹、招聘者基礎(chǔ)信息確認等環(huán)節(jié)信息重復度高,這時就可使用AI虛擬數(shù)字人替代HR進行交互回答,有效節(jié)省人力,提升公司的科技感。
京東數(shù)科AI實驗室首席科學家薄列峰表示:“AI主播小妮的推出,是京東數(shù)科在多模態(tài)AI技術(shù)領(lǐng)域一次成功的落地應(yīng)用。除了在客服、招聘等領(lǐng)域的應(yīng)用之外,我們還將服務(wù)內(nèi)容創(chuàng)造者,通過AI虛擬數(shù)字人技術(shù),把靜態(tài)圖文內(nèi)容轉(zhuǎn)化為由‘真人’講解的短視頻,滿足用戶對多樣化呈現(xiàn)形式的需求,增強用戶黏性和社區(qū)活躍度。”
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會明確標注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請轉(zhuǎn)載時務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控熑危?br>
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。