48天打造你的專屬 Twilio——淺談運營商通訊中臺
導讀:
隨著全球移動流量的持續高漲以及通訊雲在垂直行業不斷地延伸,網際網路通訊雲逐漸成為主流通訊服務形式。新冠疫情更是激發了使用者的線上需求,無論是個人生活還是企業辦公,溝通交流活動從線下轉移到線上已經成為一種趨勢,進而衍生出了新的消費習慣。在此背景下,我國網際網路通訊雲行業迎來新的機遇和挑戰,除了要滿足使用者更嚴格的互動體驗需求、挖掘創新場景,還要快速為企業客戶提供“薄而全”的解決方案,讓通訊能力與應用場景深度融合。
文|楊先君 網易雲信架構師、技術經理
前言
在引人注目的視訊會議、人工智慧和機器人自動化不斷髮展的背景下,出現了一個沉默的、新興的顛覆者:不起眼的電話和 SMS 簡訊。2022 年是通訊業務迅速增長的一年,通話和簡訊量已經大幅增加。訊息是最基礎的通訊業務,也是很多行業服務和營銷的入口。5G 時代,簡訊升級為 5G 訊息,給各行業帶來新的機遇,其中金融行業場景將是 5G 訊息最典型的應用領域之一。 通過運營商通訊基建中臺化,實現語音呼叫、智慧呼叫、文字簡訊、視訊簡訊、智慧簡訊、5G 訊息以及與 RTC 和 IM 的整合。以開放敏捷的架構,提升企業服務效率,實現一體化精準營銷。結合線路/媒體管理平臺、智慧營銷系統、全媒體智慧客服系統等,拓展服務應用,構建完整通訊生態系統及通訊鏈閉環。實現運營商通訊綜合治理、運營商通訊成本降低、運營商通訊生態系統搭建。
一、霧裡看花:揭開運營商通訊中臺的面紗
對於網際網路通訊領域來講,中臺更多的是 2B 產品建設中涉及的課題,因為軟體系統的抽象複用,更多的是做複雜 B 端系統建設中面臨的問題。因此,中臺設計是所有B端系統架構師理應該深度關注的課題。運營商通訊中臺到底該如何設計?有何特點?設計的本質是什麼?有何挑戰? 本文將從全新的視角,重新審視通訊中臺建設,讓您更加深刻地理解通訊中臺精要。
在軟體開發領域流傳著這樣一句話:“軟體設計與開發過程中出現的任何問題,都可以通過增加一層來解決”。 在這裡我們不去探討它的對錯和適用範圍,但可以確定的是,中臺的出現,就是為了解決前後臺運轉效率不同的矛盾,通過中臺這個變速齒輪銜接前臺和後臺,消除兩者在效率上的差異性,以此達到系統整體的平衡。
筆者非常認同網易副總裁汪源的理念: “所有的中臺都是業務中臺” 。從廣義上講,所謂中臺,都是為業務服務的,是為了企業可以以更低的成本、更高的效率,快速響應業務需求並推出新產品。運營商通訊中臺也不例外,隸屬於通訊中臺的一個子集,主要針對運營商通訊,如:語音通話、VoLTE 視訊通話、短訊息、視訊訊息、5G 訊息等運營商基礎業務進行二次加工,並將輸出的結果再次服務於業務。本質上講,運營商通訊能力是業務的源泉,運營商通訊中臺發崛的各 SKU 是業務的載體,可以讓企業快速高效的進行解決方案的複製,以便案例重複利用,原理相同但表現形式各有千秋,進而實現生產效率的提高,達到降本增效的目的。
(一)運營商通訊中臺到底是什麼?
來自 ThoughtWorks 的王健作出了一個簡潔明晰的定義:中臺是「企業級能力複用平臺」。 筆者在找尋各類資料時發現「中臺」相關概念繁多,而這個定義反而具備更高的包容性、並清晰劃分了範圍和關鍵價值。「企業級平臺」代表了中臺是多面覆蓋、統籌全域性的頂層機制,而不是單一系統或服務體系;「能力」是將不同的技術描述做了高度抽象,業務、技術、演算法、資料、AI 等各式各樣的能力組合成企業多維能力網;「複用」則是中臺核心價值所在,企業更敏捷更低成本運轉的核心精髓。
運營商通訊中臺,我想它是史無前例的,在這裡筆者也為它的誕生做一個定義:源於基礎運營商提供的語音、視訊等媒體號線資源,簡訊、RCS 等文字及富媒體訊息資源,結合 RTC 實時音視訊通訊、IM 即時訊息通訊,再加上基礎設施和服務的整合與排程,以及多租戶體系與分散式叢集的管理,遵循領域驅動模型的設計理念,提供各種商業解決方案的整合與沉澱,最終服務於企業各種具象需求,進而形成可複用的能力集合的統一平臺。
(二)運營商通訊中臺的特點
1、 複用性
\ 中臺提供的必然是企業中不同產品,或不同企業都可以用得上的通用功能。如果是某個產品特有的功能,作為功能複用是沒有意義的。而在複用上,也會通過功能複用性、資料複用性、行業複用性等方面進行綜合評估。運營商通訊中臺目前已有的解決方案如:結合 RTC 推出的高接通融合方案,可適用於娛樂社交場景。雲呼叫中心 SKU 可提供給各種客服類 SaaS 平臺做為呼叫中心核心場景。智慧語音機器人能力集成了各大廠商的 ASR、TTS、NLP 等通用智慧化技術,可提供給各類營銷呼入型及撥出型語音機器人 SaaS 平臺以能力支撐。語音通知、語音驗證碼、5G 訊息、視訊文字簡訊可以為企業提供各種觸達服務及資訊互動滿意度評價等服務 。普通外呼/呼入可以整合到 SCRM、ERP、HIS、IT 系統等做為政企辦公的一種通用增值服務助力傳統企業網際網路+升級改造。所有的案例都可以批量複製應用在各大場景中去。
2、 平臺化
\ 中臺要想發揮效果,需要對多個產品線實現賦能,因此更強調平臺化,服務於整個產品生態。因此,中臺產品在設計上要儘量考慮面向一個產品生態中,你的產品能滿足多少共性需求,以及面向不同行業生態,你的產品能夠滿足哪些共性的場景應用。運營商通訊中臺目前主要洽談三大運營商核心交換網與創新業務結合的能力開放平臺場景;與醫療企業一起探索尋醫問診、慢性病跟蹤、患者回訪、醫患交流等場景;為金融行業提供客戶服務系統能力、辦公系統升級改造;為娛樂社交行業提供高觸達率,完成最後一公里的交流;為電商行業提供商家與消費者的溝通交流、營銷推廣、客情關係管理等場景。針對政企,醫療,金融,電商等行業做了一系列的共性應用場景的抽取以及標準化和平臺化。
3、 業務性
\ 過去一段時間就中臺產品是否要突出業務被廣泛討論,但事實上,中臺概念本身就是為了降低業務成本、業務產品資源共享、資料互通所提出的。因此,為業務服務的中臺產品必然需要具備自身的業務性,即業務功能可以實現不同業務場景的賦能,同時資料可以基於不同業務維度進行分析。運營商通訊中臺不僅僅是一種通訊能力,它會結合上述的四大行業,根據實際的客戶需求進行一層抽象,帶有一定的共性業務能力。通過分層模型進行分離,在基礎能力之上可以互無干擾的封裝出各類行業相關的應用場景聚合能力,這樣在企業接入時會大大簡化邏輯的複雜性,對於共性的能力可以直接使用,進而實現企業只需關注業務需求,而無需掌握具體技術細節,減少業務耦合及理解成本,達到提高生產力、降本增效的目標。
4、 標準化
\ 中臺需要提供標準化的功能,如果你的通訊模組功能只能服務於單一行業,那作為中颱功能,複用的場景就會很少。這裡並不是說你的中臺業務模組只能一成不變,而是可以具備自定義的拓展功能,滿足多個前臺對該類功能不同場景下的支援。運營商通訊中臺在抽取了一套標準化的能力的同時提煉了一套標準化方法。
- 接入/接出介面標準: 對於運營商或二級代理商的接入提供了一套標準的 E1 線、NGN 核心網、IMS 核心網等運營商骨幹網、SIP、H323、CMPP、SMGP、SGIP 等標準協議的接入標準和非標熱插拔元件標準。支援 OPUS、G711、iLBC、G729、H264、VP8、VP9 等標準編解碼。支援 RTMP、HLS、FLV 等標準推拉流協議,對於 ASR、TTS 等元件的接入支援標準自定義可插拔元件模組,也支援標準的 MRCP 協議對接。對於前向的開放介面也參考網易雲信能力開放通用規範進行了標準 RESTFUL 風格網路的能力開放介面輸出,針對標準系統同樣提供了 SIP 與 CMPP 等通用運營商介面標準可以無縫對接。定義了一套對接的流程規範標準,實施人員共同遵守,降低了前後向的對接成本,提高了對接效率。
- 業務領域劃分標準: 遵循微服務生態與 DDD 領域驅動設計對能力服務模組縱橫劃分,制定了架構分層的模型與原則,定義了功能模組的角色與職責、依賴的層次關係及深度、反向依賴的解偶策略以及微服務治理的規範、基礎設施的建設、技術元件的應用與擴充套件等。
- 研發流程上的標準: 同樣針對開發協作規範、部署規範、日誌規範和已有的標準進行對齊,同時進行進一步的探索嘗試。主要目的是解決系統穩定性和靈活性的矛盾、中臺與前向業務的模糊業務邊界、距離、研發生命週期的差速矛盾等諸多問題。作為衝突與矛盾點的的一種調和劑來化解問題,進而提高生產力。
(三)運營商通訊中臺的本質
企業級、抽象、下沉、複用, 這些關鍵詞代表了運營商通訊中臺建設的本質 。 同時也是在企業應用架構設計中需要深層次思考的問題。(所謂企業應用架構,是指企業內部的各個軟體系統,應該以什麼樣的形式建設、組合,從而高效的支援企業的經營運作)因此,如果要深層次的思考軟體產品的企業級抽象、下沉、複用問題,可以從以下三個角度進行全新的審視,分別是:基於抽象複用的視角、 基於架構合理性的視角、基於業務統一管理的視角。 這裡就不多贅述了,例項中我們再討論。
二、魂牽夢繞:解讀運營商通訊中臺設計方案
(一)系統技術特點
1. 遵循微服務生態體系結構,提供開放的、標準的網路應用程式設計介面
- 它的特點是能夠使第三方使用者不用瞭解基礎網路所採用的具體技術和協議,只要知道基礎網路能夠提供什麼樣的能力並利用這些能力,就可以開發出多種多樣的業務,從而利用運營商的基礎網路提供豐富多彩的業務。例如基於位置的業務、呼叫中心業務、總機服務等,這些業務的業務邏輯都位於應用伺服器上。
- 提供開放的 API 介面,便於業務的二次開發以及引入第三方應用開發商提供業務。
- 裝置供應商和運營商可以根據市場需求,合作開發市場需要的新業務。
- 可由運營商根據市場需求,獨立快速地開發新業務。
- 可由運營商和第三方合作開發具有市場前景的新業務。
2. 跨越 PSTN、GSM、NGN、IMS、IP 網路的統一通訊平臺
- 運營商通訊中臺為了滿足傳統業務和資料業務的融合,提供了 SIP、SMPP 等多種協議介面卡,支援多種網路裝置接入,可以構建跨越 PSTN、GSM、NGN、IMS、IP 網路的統一業務平臺,為這些網路的使用者統一提供業務。
- 運營商通訊中臺遮蔽了底層承載網路細節,提供靈活的組網方式,可以保持原有的接入方式不變,降低運營建設成本,可以方便地開展綜合業務。
- 運營商通訊中臺是在網際網路應用和 IP 網路的基礎上發展起來的,設計初期就考慮到了與網際網路應用的無縫融合,又能完美的和運營商基礎網路對接的統一業務平臺。
3. 更豐富的業務
- 運營商通訊中臺充分利用 NGN 網路中 IP 到使用者的特點,提供語音與資料相結合的增值業務,比 PSTN 網路中單純的語音業務具有更強的競爭力,更加全面地支援語音、資料、多媒體業務。
- 對客戶進行了細分, 不僅為企業使用者提供點對點的語音、簡訊業務,還能提供呼叫中心、聯絡中心、語音機器人、多方通話、電話會議、企業總機等與網際網路融合的新型業務、語音驗證碼、訊息通知。成為運營商吸引客戶和贏取利潤的重要保證。
4. 靈活強大的計費功能
- 具有靈活強大的計費功能, 可以提供各種計費套餐,滿足各個消費群體的需求,完成計費資料的產生、儲存和傳送的功能。可按會話時長計費、按條計費,能夠把費用記到主叫號碼,被叫號碼上。
- 能夠根據具體業務的計費資訊和計費規則,完成相應的計費功能,並按業務要求生成固定內容的計費記錄。
- 也可以產生計費事件或者計費對帳檔案,第三方可以直接採集對帳或進行實時計費。
5. 高可靠、高效能
- 運營商通訊中臺採用先進的微服務生態體系,做到服務發現和故障自動轉移、熔斷、降級、治癒等。
- 可無限橫向擴充套件效能無衰減, 比起熱備和冷備方案,資源能得到充分的利用,對硬體主機的要求較低,保證了系統的高可靠性和高效能。
- 按照業務功能域進行劃分, 分散式執行在不同的應用伺服器上,降低系統間的故障耦合,當一個業務出現故障或呼叫量過大時,不會影響其它業務。
6. 產品成熟可靠,滿足運營的需要
- 運營商通訊中臺現階段提供的能力全部是自主研發,執行穩定,在維護、修改、定製、響應時間上具有明顯的優勢,能充分保障業務的順利運營。
- 自 2017 年 7 月本系統已在線上執行,承載了線上數百億條短訊息傳送,數十億次通話,數百萬使用者線上,數萬通會話併發,數千家企業正常運轉。
(二)總體結構解讀
這張框圖涵蓋了運營商通訊中臺臺全貌,模向共分為五個層次,縱向共分兩個緯度進行服務治理。橫向的五個層次分別為接入層、閘道器層、應用層、能力層、基礎層。進行了三層遞進式的聚合。
第一層是 運營商基礎資源,雲信 RTC 基礎通訊能力,AI 相關提供商及自研能力等的接入整合,通過線路商平臺進行對資源進行排列分佈形成一個資源集合解決單一資源穩定性、併發能力、盲區、最優路徑選擇、資源隔離等做一個統一的管理分配與排程。
\ 第二層是 將這些資源封裝成離散的標準能力,粒度最小,可組合性最高,關聯關係也最弱的基本能力集合,不體現上層業務和應用表現,目的是隱藏運營商,RTC、AI 等的技術細節,同時提供原子性的基本能力。
\ 第三層是依賴第二層原子效能力,根據業務需求進行聚合包裝,這一層重點是靈活多變、緊貼產品需求走。它重度參與業務應用的設計、抽取、封裝。產生一個個的應用能力集,可以互不干擾,也可相互聯絡,支援產品快速試錯及敏捷迭代。
-
接入層
-
主要指各平臺 SDK,目前主要是基於 WebRTC 開發的適用於終端的 SDK。
-
另一個是 aPaaS 化的呼叫工具條,可以方便的內嵌使用減少開發量。
3. 三大直連運營商資源也是通過接入層轉換成 SIP 標準進行統一接入。
4. 企業前後端也可接入閘道器直接接入,來接收抄送事件或發起呼叫或短訊息流程。
-
-
閘道器層
OpenAPI 主要是對外的能力開放介面,有降級熔斷頻控等策略,OpenAPI 可以按照雲信開放規範和標準進行封裝。
*-GatewayRestApi 這是一系列的應用閘道器, 主要是對內部 Dubbo 微服務介面的封裝,對外呈現 rest 介面,有認證鑑權的功能,有介面聚合的功能。
WssLink 是一個 WebSocket 的長連線,主要功能對 SDK 推送租戶相關通知或信令,通過推拉結合的方式提高服務端效能。
Zuul 和 Eureka 是閘道器服務的門戶管理者,管理各類 Gateway 的路由分發,做到視覺化配置,減少 nginx 上的配置,將子域路由進行動態分發,重點是在其上做熔斷限流頻控等動作,也可在其上做統一鑑權。
還有一塊是 SIP 到運營商的接入層,這一層一部分是 SIP 信令的代理轉發,另一部分是媒體的代理(視網路架構實際情況進行選擇)。
-
應用層
- 主要是各類 應用領域按域劃分,使其相互之間進行邏輯隔離,目前共擴充套件五個域:雲呼叫能力域、通用語音服務域、AI 相關的智慧呼叫域、簡訊服務、5G 訊息。
2. 雲呼叫服務域提供普通呼入、撥出、呼叫控制、互動式語音應答、自動呼叫分配、呼叫佇列管理、呼叫路由等相關能力,可根據雲信業務平臺特點作重點擴充套件。
- 通用語音服務域: 這一領域主要實現簡單的 IVR 播報,VoIP 點到點呼叫將電信網和網際網路打通,雙向回拔由服務端傳送指令控制運營商到運營商的回呼模式,通過號碼池等相關功能進行隱號邏輯的封裝,通過驗證碼的下發上報驗證等流程對語音驗證進行業務邏輯封裝、其它各類簡單點到點的業務能力封裝等。
4. 智慧呼叫服務域: 通知機器人、單輪、多輪,主要依賴 NLP、 通訊能力域的 ASR、TTS 能力,ASR 目前接入了阿里雲 ASR、網易杭研 ASR;TTS 接入了阿里雲 TTS、網易杭研 TTS、自研本地 TTS,業務上實現了人機輔助,智慧質檢等業務功能。
5. 其它業務能力域: 平行領域之間互相獨立解耦,對下的通訊能力共用,可根據業務能力的發展動態的擴充套件新興的能力,可以想象的還有 IoT 相關、電話會議相關、視訊電話或三方能力融合等相關功能。
-
能力層
主要是提供一整套的運營商通訊能力,內部從應用的角度可以分兩層,一層是基礎能力,一層是線路商資源整合平臺, 線路商平臺後邊的設計中再詳細的討論,這裡主要講一下基礎能力。
從功能模組的角度來劃分可以分為:租戶相關的帳號體系及許可權管理、排程中心的各類媒體排程負載均衡、多區域排程等,媒體中心主要是邊緣媒體鏈路、信令路由、中繼代理分發,基礎能力主要包括各類系統級中間元件及媒體服務上的外掛或模組。
- 租戶管理: 這個主要是 SIP 帳號體系建設,SIP 做呼入或有聯動的操作就必須有可登入註冊的帳號且能有心跳保活鏈路才能暢通,所以會建立一套自己的通訊使用的帳號體系,對於雙向回呼或點到點的簡單呼叫無需進帳號體系,這裡的租戶管理帳號分配是邏輯租戶的概念,媒體分配時支援邏輯隔離和媒體服務物理位置隔離。還包括中繼號碼的管理及黑白名單的管理用來做部分的風控處理,線上計費系統主要是針對和線路商或運營商進行結算對賬使用,也用到租戶企業預付費模式。
- 排程中心: 主要包含媒體服務的資源排程,分兩種情況,其一:將不同的業務領域所使用到的媒體群之間的排程,按照租戶和應用叢集的關聯關係進行應用叢集間的排程。其二:同種業務能力接照叢集的存活狀態或健康狀態來進行負載均衡。能力信令代理層是能力域和應用域之間的銜接層,主要負責信令的包裝轉換傳遞或回撥;媒體信令管控服務主要是翻譯能力信令到軟交換信令對軟交換服務的事件通知的組裝及到軟交換服務的信令生成和聚合。
- 媒體中心: 媒體中心目前的架構是網易七魚一直在使用的,分租戶、應用功能、叢集,可以支撐到租戶應用級別。媒體、路由和中繼服務需要開發視覺化的叢集管理功能介面來管理各類本地配置檔案,主體設計保持不變。
- 基礎能力: 包括配置中心、分散式任務、分散式定時器、軟交換各類自研 AI 能力相關模組等元件或基礎能力服務,對基礎能力層或各能力域各應用域提供支撐。
- 線路管理: 主要是號線資源的排程管理層,下面會專門講解。
-
基礎層
主要包含資料訪問層、關係型資料儲存、K-V 型資料儲存、物件儲存、資料檢索等。基礎層其實還包含了一些線路資源,混合雲的硬體閘道器裝置,共同組成了一個基礎資源網,供線路商平臺進行資源排程及能力層的資料儲存。
-
運營域
這個區域從巨集觀上對應用功能和能力進行治理。主要是各類給到前向部門同事做支撐的運營支撐系統,如:運營商管理平臺、計費結算平臺、能力開放管理平臺。資料分析平臺給前向做相關業務資料的分析統計,為決策參考資料。
-
運維域
這個區域從微觀上對服務叢集可用性和運維便利性進行治理。主要方便研發、技術支援、測試等同學進行視覺化系統管理,線上問題排查,效能優化提供監控或效能指標資料,服務質量監測等功能監測管理運維工作,也內建了一套微服務治理的管理工具,包括服務治理、配置管理、資料查詢、告警管理、鏈路追蹤、指標中心等。
(三)網路結構解讀
下圖主要展示了運營商通訊中臺在一個私有化專案中的網路層次分佈,三種網路的結合,如下:
- 運營商通訊骨幹網: 指運營商核心網接入點,這一層網路基本上是屬於有別於網際網路的運營商內部專用網路,一般指 GSM、NGN、IMS 三種,端局基本不對外,通過 DC1、DC2 對外都要經過 SBC 邊緣控制節點進行嚴格的網路安全把控後將資源對外開放。比較小型的客戶通過模擬線路,數字 E1、IMS 線路,VoIP 線路的方式對外開放資源。
- 企業內網通訊區域: 一般指企業內部網路,主要存放應用層、能力層、閘道器層等相關的服務叢集,如果有網路要求媒體層也會放於此層,通過 SBC 做媒體代理出公網。
- 企業 DMZ 混合區域: 一般放接入層相關應用叢集,如企業無要求,效能考慮媒體層也可直接放於此層,省略 SBC 的媒體代理過程。
通過多機房多活,可做到機房整體故障轉移。 通過 WE-CAN 全球通訊網可做到媒體端點全球分佈。通過雲信 RTC 的弱網對抗能力可做到各應用場景比傳統的架構模型高出 40% 的語音通話質量,網路越弱體現越明顯。
通過將應用分層,制定應用等級來給產品、研發、測試界定應用的重要性、重要等級,由此來制定應用的呼叫依賴關係及併發效能要求。
具體三種網路是如何打通的進行媒體交換的,可以繼續往下看。
(四)媒體交換層解讀
基於抽象複用的視角建設媒體層、信令、媒體的排程管理是本中臺的核心。依賴重複的功能和模組進行抽象並下沉一層。什麼叫抽象?什麼叫下沉?可以參照下圖。
有多個子系統,多個子系統都會對媒體的接入、接出、編輯。交換有依賴操作,經過分析發現,媒體的處理功能高度類似重複,完全可以抽象合併,避免重複建設,所以就有了核心的信令和媒體的處理高可用叢集,然後根據不同的業務劃分子集,有統一的路由排程策略,這樣即達到了合併統一抽象,又可以做適度業務隔離。
-
在通訊能力平臺建設的媒體層分五個層次來進行傳遞,接入終端、WE-CAN 通訊網、融合通訊閘道器、音視訊媒體交換能力域、線路商平臺。
-
接入終端對外提供的主要是一個運營商通訊能力 SDK,本 SDK 在現有的雲信 RTC-SDK 之上進行一層業務封裝,媒體傳輸採用現有的方式,基於現有的介面包裝出傳輸能力,業務信令採用獨立的 link 連線在其上來封裝呼叫中心的登入、線上狀態管理、會話管理、呼叫發起管理、被叫事件管理、狀態事件管理、傳送 DTMF、通話保持、靜音、通話前轉、多方會議等相關基礎模組,這些模組直接連線後端呼叫能力域的相關應用服務,用以驅動應用層和媒體層的整體運作。
-
WE-CAN 通訊網主要負責 RTC 音視訊的網路質量優化。包括弱網對抗相關、丟包重傳機制、QoS 動態檢測及優化調整、支援點到點的媒體協商及傳輸。對媒體質量做重點管控,同時和融合閘道器層通過 wss+jsonrpc 做信令橋接。
-
融合通訊閘道器這一層是能融合的關鍵。 它主要起到承接和相容的作用,它是連線 WE-CAN 通訊網和呼叫能力域的橋樑。它只負責點到點的信令協商,後邊的詳細設計裡會講到一些具體的互動流程。為了穩定性和容量考慮,融合通訊閘道器不會做媒體處理和媒體代理,它只做信令協商和轉換然後將雙邊協商好的 RTP 埠交換給對方,開始進行媒體傳輸,本閘道器的另一個做用是對 WE-CAN 通訊網進行定址和路由,用以發現可用 MediaServer。
-
音視訊媒體交換能力域是運營商通訊中臺的主體,本套架構是分散式,高可用,高併發的媒體叢集+可擴充套件的業務層組建而成。
- 媒體叢集中包括了接入層、路由層、媒體處理層三層結構,它通過 Sip-Proxy 做 SIP 信令代理,主要接收融合通訊閘道器送過來的 Register、Invite 等相關事件或訊息,通過策略服發現路由叢集可用節點並進行註冊,通過策略服進行定址發現可用媒體節點,進行 WE-CAN 通訊網的 RTP 埠和媒體節點的 RTP 埠交換,然後雙邊進行點到點的音視訊通話。
- 整個接入的過程和通話的中間控制過程所有產生的事件都會通過事件控制服務轉換後傳輸到上層應用業務域,業務域會處理自己的狀態,記錄自己關心的資料,變更自身的狀態,或發起平臺側的控制。
- 通過 SIP-TRUNK 服務的信令對接將媒體層的具體可用節點和線路商平臺對接,進行外呼的媒體落地,同時接收線路商平臺 400 等的呼入請求並和媒體節點接通通過應用業務域的控制進行坐席定址,最終聯絡上一個 RTC 終端進行被叫通話。
-
線路商平臺的主要職責是: 進行中繼線路及運營商直連骨幹網以及企業自拉線路的對接,號碼風控的管理,線路側的計費,和呼入撥出的流程橋接協商,線路商平臺會管理和控制線路的併發及最優路徑選擇,以及接通率的探測和異常線路及盲區的規避。資源池的維護管理,通過各種排程策略來解決單點故障、線路瓶頸,達到單一接入運營商的一個性能和穩定性的需求。
(五)終端接入層解讀
如下圖,NECCC SDK 構架也是比較好的分層模型設計,它主要是與運營商通訊中臺的信令服務以及媒體服務直接對接,封裝減化了細節流程,對外提供閉包的功能介面。共分為六個層次:基礎層、引擎層、跨平臺封裝層、SDK 介面層、平臺終端層、易用體系。通過這些層次的組裝最終形成一個輕量的、可擴充套件的、應用終端 SDK 庫。主要負責音視訊的採集、編輯、優化、傳輸以及信令的協商互動和部分核心業務邏輯的處理。
- 基礎層主要是基礎網路庫、加解密演算法庫、執行緒併發處理、日誌等管理模組、和業務無關的資源層。
- 跨平臺封裝主要包含 Uniapp、Ajax、WebSocket、Signalling 等一些框架和元件層,增強不同平臺的相容性。
- SDK 介面層主要包含了運營商通訊中臺的端側能力介面和信令介面封裝,使用者代理層相關的建立及銷燬,RTC 的會話管理,以及一些非同步事件的處理器等,為上層的平臺終端提供了標準介面。
- 平臺終端主要適配了 Web、小程式等相關表現層的應用,未來可擴充套件更多其它終端。
- 易用體系包含了樣例程式碼、通用的元件、解決方案 Demo,給到企業開發者參考,實現更簡單的接入,以及功能演示。
- 引擎層如下圖,SDK 的核心,主要包含了音訊引擎、視訊引擎、QoS 引擎。其中集成了多種音視訊演算法來進行網路丟包、延時、抖動等弱網對抗。也擴充套件了一些 AI 技術來從 SDK 採集樣本資料構建學習模型,達到網路波動自我調節的最佳效果。
(六)線路資源層解讀
基於業務統一管理的視角,線路商平臺在這裡主要起到一個資源集中管理,排程,來規避單一線路的物理故障來提高穩定性,提高併發能力來打破單一運營商的併發限制和區域限制。對後向接入儘可能多的線路資源。前向提供給內部業務線,對外提供給代理商及企業個體提供最優線路資源,更重要的一點是對前向運營商能力應用開放平臺提供線路資源來構造與企業需求相貼合的應用和解決方案,那麼它是怎麼做到的呢?我們繼續往下看。
- 本平臺的輸入、輸出都以 UDP/SIP/RTP 協議做為標準協議,和運營商之間不論是 IMS,還是 VoIP 線路基本都是 SIP 標準了,在機房到機房網之間表現算是不錯。對於模擬線和 E1 數字線目前通過硬體中繼閘道器在遠端機房轉換成標準 SIP 後再對接到雲上的線路商平臺,達到統一。
- 本平臺主要包含管理配置視覺化平臺,軟交換自研模組來實現管理配置的同步應用,代理服務來做負載均衡和高可用叢集的管理。
- 負載均衡支援 SIP302 跳轉的方式轉發話務,支援按實際負載來分配話務,支援單臺軟交換主機定量加權隨機分配,支援隨機分配、順序分配,具體實現細節參考微服務發現的模式。
- 軟交換服務自研模組來同步和應用拔號計劃、號碼變換、接入閘道器和落地閘道器的建立及使用。支援配置變動後主動推送同步,支援配置熱載入,支援帶媒體和媒體透傳兩種模式,支援 SIP 頭部定製化引數可配置。
- 配置管理服務主要是視覺化展示,各項配置的編輯,計費邏輯,租戶管理,號碼池管理及智慧路由規則的管理。如下圖,抓包分析,資料統計等功能後續完善中。
業內這樣的線路集中的管理平臺比較少見,可能專業性比較強,而關注這一塊的人群命令列就夠用,所以一直未有發展。目前瞭解到的只有 VOS 系統有比較全面的視覺化線路管理對接平臺,以後雲信也算一家,歡迎大家諮詢共建。
(七)應用能力層解讀
基於架構合理性的視角,應用能力層前面理論的部分已經提及,主要分為原子性的基礎功能封裝、通用的基礎應用能力、部分貼合業務的解決方案。上面花了大量篇幅都在講音視訊媒體交換的部分,線路資源管理的部分,在這兩部分之上就是應用能力層,應用能力層都遵循微服務生態體系,微服務的相關內部構造這裡就不展開講了,這裡重點拿 5G 訊息平臺的相關應用來做一個解讀,如下圖:
網易智企在 2021 年取得了三大運營商的 5G 訊息 CSP 資質。並迅速進行了實施落地,5G 訊息系統架構主要包括 5G 訊息中心、MaaP 平臺和 5G 訊息互通閘道器,並與使用者資料管理(HSS/UDM)、簡訊中心、安全管控系統、業務支撐系統等對接。
5G 訊息中心負責處理 5G 訊息,與 MaaP 平臺對接提供行業訊息功能。MaaP 平臺與 5G 訊息中心對接,提供行業訊息功能,負責行業客戶 Chatbot(聊天機器人)和訊息的接入管理、鑑權、行業訊息中多媒體內容上傳與儲存等功能。5G 訊息互通閘道器提供跨運營商的 5G 訊息網間互通業務功能。
核心功能點如下功能導圖,主要兩大塊:CSP 和 RCS,簽約客戶管理相關、富媒體訊息模板編輯、素材管理、訊息傳送。更多詳細的資訊這裡不多展開。
5G 訊息平臺的難點主要是其中的各種稽核機制、 代理商運營機制、終端裝置支援及訊息降級策略,在前期都做了複雜的定義,其中的狀態流轉控制需要按標準處理。根據使用者對非直客和 Chatbot 的操作,我們在同步到運營商處的同時,更改我們平臺內部對應實體的狀態,幫助使用者更為直觀的瞭解目前的資訊。使用者在進行操作後,需要等待平臺稽核,根據稽核的結果判斷之後可以進行的操作。詳細過程就不多贅述了,這樣做的主要目的是將一切可能的騷擾亂象攔截在訊息傳送前期階段。如下圖,展示了內部狀態流轉方式。
5G 訊息有非常強大的應用優勢,一是兼具 OTT 類應用的聊天、群聊、小程式,以及各類服務類 APP 的眾多功能;二是流量入口,5G 訊息直接佔據手機簡訊這一強入口;三是原生應用,無需下載、註冊、登入等前置操作,無需繫結手機號、收取驗證碼等動作,即開即用;四是安全可信,基於手機號、實名認證的強關聯,讓個人資料在不同應用間互通互聯,保障資料安全可靠;五是跨平臺連線,使用者無需切換多個 APP,同一介面,實現跨應用互動,應用間互聯互通。
三、浮世清歡:淺嘗運營商通訊中臺實踐案例
篇幅關係,這裡的例項只列舉幾個融合通訊相關的創新點,案例的具體實現細節這裡不展開了,如果有興趣可持續關注網易智企技術+ 公眾號,後續將分享各個案例從源頭到思考,再到設計細節,最後是實踐的全過程解讀。
雲呼叫中心應用
實現效果: 智慧路由分配,精準服務;服務過程監控,高效管理;洞察客戶需求,主動營銷;系統輔助人工,提升效率;銷售過程監控,一手掌握。
應用場景: 主要應用在客戶服務場景,電話營銷場景。
參考網易七魚:
http://qi.163.com/callcenter
外呼機器人應用
實現效果: 應對海量場景,代替人工自主呼叫多輪互動,賦能企業精準識別目標使用者,實現新客增長,提升留存,流失挽回。
\ 應用場景: 鞋服、母嬰、電商、醫療、政務、公共安全。\ 參考網易七魚:
http://qi.163.com/excallrobot
融合呼叫高接通應用
\ 實現效果: 使用者進行呼叫,可以選擇應用內的 RTC 語音呼叫,可以選擇直呼手機號,可以選擇 RTC 呼叫無法接聽時轉手機號。
\ 應用場景: 主要應用於娛樂行業線,做為最後一公路通話,提高觸達率。
\ 參考 Demo:
融合呼叫語音通知應用
\ 實現效果: 使用者可以收到語音通知,可以接聽電話後收聽語音短訊息。
\ 應用場景: 可以用做醫療,金融,企政,電銷等行業,做為單點一次性通知類應用,接入簡單使用方便。
\ 參考 Demo:
融合呼叫 VoLTE 應用
\ 實現效果: 使用者發起視訊呼叫,可以選擇應用內的 RTC 視訊呼叫,可以選擇 VoLTE 視訊呼叫手機,被叫手機支援 VoLTE 的情況下就可以直接使用視訊接聽。
\ 應用場景: 可作為 G2 音視訊通話觸達端點提供一種新的可能性,目前處在實驗階段。
\ 參考 Demo:
VoLTE + 虛擬人應用
\ 實現效果: RTC 到手機使用者視訊接通後可直接將 RTC 使用者的動作捕獲通過虛擬形象對手機使用者進行展示。
應用場景: 可用做虛擬客服等主播無法現身螢幕時的虛擬接待或訪談場景。
\ 參考 Demo:
四、大道浮屠:暢想運營商通訊中臺應用發展
運營商通訊中臺即作為雲端 PaaS 通訊能力對外開放,同時也會作為運營商長期的戰略合作伙伴,致力於新技術研發,旨在幫助 全球運營商迎接新的挑戰和機遇。
運營商通訊中臺既是能力的建設也是生態的建設。 我們將以開放、合作、共贏為宗旨,與運營商及合作伙伴攜手努力,積極參與到企業網際網路+ 轉型建設中。中臺的發展不是一蹴而就的,是一個循序漸進的過程,是一個價值體現的過程。正如雲信業務總經理陳麗的那句話:我們所做的任何一個系統、一個解決方案,都是從企業中提取出需求、翻譯、整理、抽象出來,再進行功能具象包裝融合,並最終落地到企業中去體現其價值。隨著系統的發展和對企業應用的深入瞭解,未來會進一步探討如下:
-
精細化通訊能力: 風險控制、VoLTE 視訊、IVVR、回鈴檢測等精細化能力的擴充及應用,在資訊化的今天,資訊保安將成為最重要的一個環節,我們會繼續探索風控系統,在文字的風控體系已經建設的相對成熟了,音視訊領域的風控探索我們有了不錯的方向,但在運營商的語音通話風控建設上還會不斷嘗試降低成本提高識別效率。 IVVR 等自助式互動是從傳統呼叫中心 IVR 引進並應用到視訊領域,達到對流媒體線上編輯的能力。等等還有很多其它的功能點,都能使能力變得更精細,和企業的業務形態也就更接近。
-
全渠道聯絡中心: 當然我們不是去做一個聯絡中心的 SaaS 應用,我們主要提供全渠道聯絡中心所需要的端點資源和應用解決方案,未來的應用場景會將簡訊、郵件、傳真、電話、APP、微博、微信、視訊、IM 訊息、5G 訊息全域性聯通,一觸即達,全渠道融合。
-
認知智慧、人機協作: 客服輔助、ASR、TTS、NLP 接入標準化,流程引擎等 AI 相關的基礎能力融合,為人工智慧的應用場景提供平臺化通用能力集合。
-
輔助 G2 能力擴充套件: 為音視訊通話或會議功能提供觸達能力等。未來 IVVR、ACD、ROUTER 等功能可以直接複用在 G2 音視訊媒體編輯上,來擴充套件 G2 應用能力。
-
應用元件化,減少企業接入成本: 最近低程式碼的發展有了一些實質性的進展,拿官網來說,簡單的資訊管理系統等都已經可以做到數十分鐘即可建設,但是否可以快速方便的構建出中型複雜度的應用系統?還存在挑戰。下圖為網易輕舟低程式碼平臺的一個設想,可以基於元件和模組化程式設計,所有的功能點都可以抽象成一個個的元件,使用者可選擇性隨意拼裝,完成後即形成一個可用的通訊能力平臺,可直接操作使用也可以二次抽象出介面以 PaaS 能力的方式呼叫。可以非常方便的按需選擇,減少了企業購買成本。又可以以較低的編碼量接入應用能力,提高了接入效率。以後的一個個解決方案可以直接在低程式碼平臺進行構建。
-
- 融合通訊中臺: 運營商通訊中臺是通訊中臺的一個子集,前期我們會通過它來實踐,可以像積木一樣產生多種互不相干的元件庫,可以隨意組裝,成為可大可小的可控平臺。企業客戶可以按需組裝使用公有云能力,也可以選購所需模組形成一個訂製化的私有化平臺部署到企業內部。後期會以同樣的模式整合更多的模組,最終整合為融合通訊中臺。
參考文獻
- 《決勝 B 端》
- 《企業 IT 架構轉型之道》
- 《2021 年全球網際網路通訊雲行業研究報告》
- 《鳳凰架構-構建可靠的大型分散式系統》
- 《5G 訊息白皮書》
相關閱讀推薦
- 網易會議開源之桌面端篇
- 解密數字時代 AI 加持之道,網易智企聯合機器之心釋出 AI 應用實踐白皮書
- WWDC22 多媒體特性彙總
- C 靜態反射在網易雲信 SDK 中的實踐
- 技術乾貨 | C 靜態反射在網易雲信 SDK 中的實踐
- “易 ”開源 | 網易會議開源之移動端篇
- 沉浸式體驗網易雲信線上 KTV
- 網易雲信 QUIC 應用優化實踐
- 技術乾貨 | 網易雲信 QUIC 應用優化實踐
- 基於 Prometheus 精準監控 & 報警實踐
- 48天打造你的專屬 Twilio——淺談運營商通訊中臺
- JDK、Spring、Dubbo SPI 原理介紹
- 深度剖析「圈組」訊息系統設計 | 「圈組」技術系列文章
- SQLite簡介
- 弱監督語義分割:從影象級標註快進到畫素級預測
- 技術乾貨 | 網易雲信 G2 Web SDK 瀏覽器相容性測試
- 技術乾貨 | 網易雲信本地服務端叢集錄製探索與實踐
- 社交重構、遊戲革新,萬物皆可元宇宙?這場大會給你講清楚了|活動預告
- 網易雲信攜手“瑤臺”,打造元宇宙商業化實踐標杆案例
- 網易雲音樂網路庫跨平臺化實踐