近日,一項名爲 MangaNinja 的線稿上色方法引起了廣泛關注,只需輸入線稿和參考圖,就能依據參考圖給目標線稿上色。這項技術基於擴散模型,專注於參考圖像引導的線稿上色,極大地提升了上色的精準度和互動控制能力。
研究團隊通過兩項創新設計,確保了角色細節的精確傳遞。首先,他們引入了一個補丁重排模塊,以促進參考彩色圖像與目標線稿之間的對應學習。其次,採用了點驅動的控制方案,使得用戶可以對顏色進行精細匹配。

在他們的實驗中,研究人員構建了一個自收集的基準數據集,並與現有的上色方法進行了比較,結果表明 MangaNinja 在上色準確性和生成圖像質量上顯著優於其他方法。這種方法的一個重要特點是,它能夠在生成結果中不依賴於點的引導,依然實現高質量的上色效果。

MangaNinja 在處理一些具有挑戰性的場景時顯示了其獨特的優勢。比如,在面對角色姿勢變化大或細節缺失的情況下,點引導能幫助解決這些問題。當涉及多個對象時,點引導還能夠有效防止顏色混淆。此外,用戶可以通過選擇多個參考圖像的特定區域來進行多參考圖像的上色,從而爲線稿的各個元素提供指導,並有效解決相似視覺元素之間的衝突。
該技術還支持在使用不同參考圖像時,實現語義上的顏色匹配和精細控制。研究人員相信,這種互動式的上色方式能夠幫助用戶在上色過程中找到靈感,並提供更多的創作可能性。
項目:https://johanan528.github.io/MangaNinjia/
github:https://github.com/ali-vilab/MangaNinjia
劃重點:
🌟 MangaNinja 是一種基於參考圖像的線稿上色方法,具備精準匹配和細緻控制的能力。
🎨 通過創新的補丁重排模塊和點驅動控制方案,MangaNinja 顯著提升了上色的準確性與圖像質量。
🖌️ 該技術能夠應對多樣化的上色挑戰,包括極端姿勢和多參考圖像的協調,實現高質量的互動上色體驗。
