近日,字節跳動推出一款最新肖像動畫技術X-Portrait2,旨在以超低成本和高效的方式創造富有表現力和逼真的角色動畫。用戶只需提供靜態肖像圖像和表現驅動視頻,X-Portrait2即可通過將視頻中的表情轉移至肖像中生成動畫視頻,從而簡化了傳統動作捕捉和角色動畫的複雜流程。

該技術的核心在於其先進的表情編碼器模型,該模型經過大規模數據集的訓練,能夠隱式編碼輸入中的微小表情。結合強大的生成擴散模型,X-Portrait2可以生成流暢且極具表現力的視頻,傳輸演員細微的面部表情,甚至包括撅嘴、吐舌頭、鼓起臉頰和皺眉等挑戰性表情。同時,生成的視頻在情感表現上也保持高保真度。

在訓練表情編碼器時,開發團隊確保外觀和動作的強分離,使編碼器專注於視頻中與表情相關的信息。這種設計使得模型能夠實現跨風格和跨領域的表情遷移,適用於現實故事講述、角色動畫、虛擬代理和視覺效果等多種場景。

與現有的最先進方法如 X-Portrait 和 Runway Act-One 相比,X-Portrait2在快速頭部動作、微小表情變化和個人情感傳遞方面展現出更高的準確性,這些方面對於高質量的動畫內容創作至關重要,例如動畫和電影製作中的動畫內容。

地址:https://byteaigc.github.io/X-Portrait2/