最高增強至1440p,阿里雲釋出端側實時超分工具,低成本實現高畫質

語言: CN / TW / HK

近日,阿里雲機器學習PAI團隊釋出一鍵端側超分工具,可實現在裝置和網路頻寬不變的情況下,將移動端影片解析度提升1倍,最高可增強至1440p,將大幅提升終端使用者的觀看體驗,該技術目前已在優酷、夸克、UC瀏覽器等多個APP中廣泛應用。

 

點選檢視影片

觀看以上影片不難發現,左側畫面和右側畫面的清晰度有極大差別。事實上,兩側畫面的影片播放源完全相同,區別在於右側畫面使用了特殊的“一鍵超分”工具,從而實現清晰度從540p到1080p的華麗轉身。

超分,即“超解析度”,是指通過深度學習方式將低解析度圖片或影片的清晰度提高,獲得更高解析度,進而達到更好的觀看體驗和識別準確率。通過特殊的卷積神經網路(CNN)對已知的高解析度資源進行學習,即可實現對任意低解析度影象和影片資源進行超分處理的模型。

在移動網際網路普及併成為主流的今天,使用者對“上網衝浪”的體驗愈加關注,更快速、更高清也成為APP開發者們不懈的追求。在“更高清”這個方向,純軟體化的優化方案——端側超分進入開發者的視野:通過在手機、平板電腦等移動裝置上執行超分演算法,彌補裝置硬體、網路頻寬、原始素材等客觀條件限制,進而獲得高畫質的影象和影片。但是,受制於端側算力、裝置相容等問題,端側超分方案規模化落地並不像想象中簡單。

阿里雲機器學習 PAI 團隊近日釋出搭載 PAI-AISR 模型的一鍵端側超分工具,通過對模型進行量化剪枝等加速優化、以及對端側多裝置(CPU/GPU/NPU)進行異構計算和記憶體I/O優化等,具備以下優勢:

  • 超高畫質體驗:在移動端可將影片解析度增強至最高1440p,同時進行鋸齒和底噪抑制、色彩增強等提升,極大改善觀看體驗。
  • 體積小,易適配:PAI-AISR 演算法最低只需要 50KB,不佔空間;功耗低至每小時50-100ma。

低延遲,高幀率:低至 20ms 以內的處理延遲,以及高達 30 fps 的幀率,適用於直播、短影片、影片通話、實時監控等各種場景。

  • 多平臺多機型相容:支援跨平臺使用,在 iOS 系統和安卓系統環境下均無縫連線,甚至在 IoT 裝置(如攝像頭、電視機、影片會議裝置等)均可平穩支援。
  • 資料格式相容:支援所有主流圖片和影片格式。

對移動APP開發者來說,PAI端側一鍵超分工具主要具備以下兩點價值。首先,使用端側超分可以減少資料下發過程中CDN的消耗,實現降本提效。其次,當客戶端網路不穩定或者頻寬受限(例如處於3G狀態下,或者處於地鐵、電梯等訊號不穩定的環境中),導致影片播放卡頓時,端側超分技術可以讓終端使用者的瀏覽體驗更順滑。同時由於整個推理過程在端側進行,避免了雲端推理成本高、時延長等問題的出現。

目前,PAI一鍵端側超分方案已經在優酷、夸克、UC瀏覽器等多個移動應用成功落地,在不斷提升終端使用者體驗的同時,帶來應用研發效率的提升。