如何對音視頻內容進行審核⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ？
我們之前講過關于視頻網站的搭建ⓣⓤⓥⓦⓧⓨⓩ、視頻的云存儲✺ϟ☇♤♧♡♢♠♣♥、視頻的加速播放等❣❦❧♡۵，今天的主要話題是視頻內容的審核✤✥❋✦✧✩✰✪✫✬✭✮✯❂✡★✱✲✳✴，為了滿足視頻業務對音視頻的審核需求⒜⒝⒞⒟⒠⒡⒢⒣⒤，審核要支持對上傳的音視頻進行涉黃ⓊⓋⓌⓍⓎⓏⓐⓑⓒⓓⓔⓕⓖⓗⓘⓙ、涉恐✵✶✷✸✹✺✻✼❄❅、涉政審查㈠㈡㈢㈣㈤㈥㈦，一旦發現①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯，可以及時下線違規的音視頻❻❼❽❾❿⓫⓬⓭⓮⓯⓰，避免或減少對外發布后造成的不良影響⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ。
特別是在UGC場景⒃⒄⒅⒆⒇⒈⒉⒊⒋⒌⒍⒎⒏⒐⒑⒒⒓，若視頻平臺未對用戶自由上傳的視頻內容進行違規審核①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯，則將會給平臺帶來多方面的傷害⒥⒦⒧⒨⒩⒪⒫⒬⒭⒮⒯⒰⒱⒲⒳⒴⒵❆❇❈❉❊†☨✞✝☥☦☓☩☯。
CMS的審核機制✤✥❋✦✧✩✰✪✫✬✭✮✯❂✡★✱✲✳✴，一般是多版本的⓱⓲⓳⓴⓵⓶⓷⓸⓹⓺⓻⓼⓽⓾，也就是說線上的版本是發布的✵✶✷✸✹✺✻✼❄❅，可以訪問的⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ，后臺審核的是另一個版本❣❦❧♡۵，只有審核的通過了☈⊙☉℃℉❅，才會替換線上的發布版本㈧㈨㈩⑴⑵⑶⑷⑸⑹⑺⑻⑼⑽⑾⑿⒀⒁⒂，審核不通過❻❼❽❾❿⓫⓬⓭⓮⓯⓰，線上的版本是不會變化的☾☽❄☃，具體可以參考我們之前《CMS版本和審核管理的介紹》✵✶✷✸✹✺✻✼❄❅。
人工審核和AI智能審核
視頻點播服務一般有兩種審核模式：
- 先發后審模式：音視頻上傳后先發布❋❀⚘☑✓✔√☐☒✗✘ㄨ✕✖✖⋆✢✣，其“媒資狀態”為“已發布”㈧㈨㈩⑴⑵⑶⑷⑸⑹⑺⑻⑼⑽⑾⑿⒀⒁⒂，音視頻可以正常播放或預覽❻❼❽❾❿⓫⓬⓭⓮⓯⓰，審核發現違規內容后再屏蔽ⒺⒻⒼⒽⒾⒿⓀⓁⓂⓃⓄⓅⓆⓇⓈⓉ。
- 先審后發模式：音視頻上傳后不發布㈧㈨㈩⑴⑵⑶⑷⑸⑹⑺⑻⑼⑽⑾⑿⒀⒁⒂，其“媒資狀態”為“未發布”❋❀⚘☑✓✔√☐☒✗✘ㄨ✕✖✖⋆✢✣，音視頻必須經過審核并通過后⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ，才可以在控制臺以外的播放器被播放ⓊⓋⓌⓍⓎⓏⓐⓑⓒⓓⓔⓕⓖⓗⓘⓙ。
不管那種審核ⒺⒻⒼⒽⒾⒿⓀⓁⓂⓃⓄⓅⓆⓇⓈⓉ，一般在審核中♦☜☞☝✍☚☛☟✌✽✾✿❁❃，都分為人工審核♦☜☞☝✍☚☛☟✌✽✾✿❁❃、AI智能審核ⓚⓛⓜⓝⓞⓟⓠⓡⓢ，因為視頻審核比內容審核更耗時耗力⑰⑱⑲⑳⓪⓿❶❷❸❹❺，所以AI審核可以大量的節約人力成本⓱⓲⓳⓴⓵⓶⓷⓸⓹⓺⓻⓼⓽⓾，所以⓱⓲⓳⓴⓵⓶⓷⓸⓹⓺⓻⓼⓽⓾，可以通過AI的智能審核✤✥❋✦✧✩✰✪✫✬✭✮✯❂✡★✱✲✳✴，配合先發后審的模式☾☽❄☃，可以通過AI審核通過先發布視頻⓱⓲⓳⓴⓵⓶⓷⓸⓹⓺⓻⓼⓽⓾，然后再通過人工審核❻❼❽❾❿⓫⓬⓭⓮⓯⓰，發現違規的視頻⒜⒝⒞⒟⒠⒡⒢⒣⒤，理解下架即可☈⊙☉℃℉❅。
所以♦☜☞☝✍☚☛☟✌✽✾✿❁❃，最終的業務流程如下圖所示
AI智能審核一般通過第三方平臺實現㊀㊁㊂㊃㊄㊅㊆㊇㊈㊉，主流的幾個達成❣❦❧♡۵，菊花鵝廠阿里百度都支持✤✥❋✦✧✩✰✪✫✬✭✮✯❂✡★✱✲✳✴，比如百度的審核平臺共介紹：
https://ai.baidu.com/solution/censoring
| 應用場景 | 描述 |
|---|---|
| 圖像審核 | 百度違禁圖庫：基于百度海量歷史數據挖掘♦☜☞☝✍☚☛☟✌✽✾✿❁❃，提供對封禁圖片的識別能力 色情識別：檢測圖中是否包含各類色情違禁㊀㊁㊂㊃㊄㊅㊆㊇㊈㊉、兒童裸露❋❀⚘☑✓✔√☐☒✗✘ㄨ✕✖✖⋆✢✣、女性性感等內容 公眾人物識別：檢測圖中是否包含明星①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯、球星等公眾人物的人臉 用戶頭像審核：對圖片中人臉的角度⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ、遮擋♀☿☼☀☁☂☄、占比⑰⑱⑲⑳⓪⓿❶❷❸❹❺、清晰度等進行審核웃유ღ♋♂，篩選合適作為頭像的照片 圖文審核：檢測圖片的文字是否包含色情⒃⒄⒅⒆⒇⒈⒉⒊⒋⒌⒍⒎⒏⒐⒑⒒⒓、廣告等違禁內容 廣告檢測：檢測圖片中是否包含水印❣❦❧♡۵、二維碼✤✥❋✦✧✩✰✪✫✬✭✮✯❂✡★✱✲✳✴、條形碼 違禁識別：檢測圖中是否包含吸煙✤✥❋✦✧✩✰✪✫✬✭✮✯❂✡★✱✲✳✴、飲酒㈧㈨㈩⑴⑵⑶⑷⑸⑹⑺⑻⑼⑽⑾⑿⒀⒁⒂、賭博⒥⒦⒧⒨⒩⒪⒫⒬⒭⒮⒯⒰⒱⒲⒳⒴⒵❆❇❈❉❊†☨✞✝☥☦☓☩☯、吸毒等違禁行為和紋身等違禁品 惡心圖像識別：檢測圖片中是否包含病變組織♀☿☼☀☁☂☄、流血恐怖等惡心內容 圖像質量檢測：對圖像的清晰度和美觀度進行打分 自定義圖像黑名單：對用戶黑名單中的圖片進行攔截 自定義圖像白名單：對用戶白名單中的圖片直接放過 自定義圖片審核-EasyDL：支持用戶通過EasyDL自助定制圖像分類ⓊⓋⓌⓍⓎⓏⓐⓑⓒⓓⓔⓕⓖⓗⓘⓙ、物體檢測模型⒜⒝⒞⒟⒠⒡⒢⒣⒤，滿足個性化審核需求 |
| 文本審核 | 百度違禁詞庫：包含百度海量歷史數據挖掘⒜⒝⒞⒟⒠⒡⒢⒣⒤，提供對封禁詞語的識別審核能力 文本色情：對文本中的色情行為描述☈⊙☉℃℉❅、色情資源鏈接ⅲⅳⅴⅵⅶⅷⅸⅹⒶⒷⒸⒹ、低俗交友❻❼❽❾❿⓫⓬⓭⓮⓯⓰、污穢文愛等內容進行識別 惡意推廣：對文本中帶有售賣意向的軟文廣告♀☿☼☀☁☂☄，微信ⓣⓤⓥⓦⓧⓨⓩ、QQ等個人聯系方式等違規內容及變體進行識別 低俗辱罵：對文本中的侮辱謾罵☈⊙☉℃℉❅、人身攻擊⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ、消極宣泄等內容進行識別 低質灌水：對網絡社區常見的亂碼❣❦❧♡۵、水帖☾☽❄☃、刷屏等無意義的灌水信息進行識別 廣告法審核：對廣告法中要求的不能出現的違規詞進行檢測 |
| 短視頻審核 | 采用同步方案☧☬☸✡♁✙♆。，、＇：∶；，接口返回速度快♦☜☞☝✍☚☛☟✌✽✾✿❁❃，適合對響應時延要求高的場景✺ϟ☇♤♧♡♢♠♣♥，審核項目與圖片審核一致 |
| 長審核審核 | 采用異步方案웃유ღ♋♂，適合長視頻文件批量審核場景♀☿☼☀☁☂☄，審核項目與圖片審核一致 |
| 短音頻同步審核 | 采用同步方案⑰⑱⑲⑳⓪⓿❶❷❸❹❺，接口返回速度快❻❼❽❾❿⓫⓬⓭⓮⓯⓰，適合對響應時延要求高的場景✵✶✷✸✹✺✻✼❄❅。音頻審核能力包含嬌喘聲檢測和語音內容審核ⒺⒻⒼⒽⒾⒿⓀⓁⓂⓃⓄⓅⓆⓇⓈⓉ，語音內容審核是先通過語音識別將語音轉換為文字①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯，再過文本審核①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯，審核項目與文本審核一致 |
| 音頻文件異步審核 | 采用異步方案웃유ღ♋♂，適合長音頻文件批量審核的場景☈⊙☉℃℉❅。音頻審核能力包含嬌喘聲檢測和語音內容審核ⓊⓋⓌⓍⓎⓏⓐⓑⓒⓓⓔⓕⓖⓗⓘⓙ，語音內容審核是先通過語音識別將語音轉換為文字ⓊⓋⓌⓍⓎⓏⓐⓑⓒⓓⓔⓕⓖⓗⓘⓙ，再過文本審核ⒺⒻⒼⒽⒾⒿⓀⓁⓂⓃⓄⓅⓆⓇⓈⓉ，審核項目與文本審核一致 |
| 直播審核 | 分為視頻流審核及音頻流審核❻❼❽❾❿⓫⓬⓭⓮⓯⓰，支持直接提交直播流鏈接✺ϟ☇♤♧♡♢♠♣♥，即可完成自動解析☧☬☸✡♁✙♆。，、＇：∶；，對視頻流進行抽幀審核㊀㊁㊂㊃㊄㊅㊆㊇㊈㊉；對音頻流按照VAD方式進行語音識別及審核㊀㊁㊂㊃㊄㊅㊆㊇㊈㊉。并支持通過輪詢或回調的方式實時獲取審核結果 |
要使用百度的AI審核功能✵✶✷✸✹✺✻✼❄❅，就要調用AI的審核接口☾☽❄☃，具體可以參考百度的AI審核接口說明♦☜☞☝✍☚☛☟✌✽✾✿❁❃。
與CMS的審核集成
CMS做為內容管理平臺✵✶✷✸✹✺✻✼❄❅，審核要保留歷史記錄①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯、以及草稿的編輯等❋❀⚘☑✓✔√☐☒✗✘ㄨ✕✖✖⋆✢✣，因此審核發布本身并不僅僅是一個狀態的管理ⓚⓛⓜⓝⓞⓟⓠⓡⓢ，比如發布☈⊙☉℃℉❅、未發布⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ，真正審核機制其實多版本的☾☽❄☃，就是每次都生成一個新的版本ⅲⅳⅴⅵⅶⅷⅸⅹⒶⒷⒸⒹ，并且要跟舊版本進行比較⒃⒄⒅⒆⒇⒈⒉⒊⒋⒌⒍⒎⒏⒐⒑⒒⒓，看看這個版本改動了什么☧☬☸✡♁✙♆。，、＇：∶；，這個可以參考頭條的內容發布流程⑰⑱⑲⑳⓪⓿❶❷❸❹❺，來理解審核發布的工作流ⓚⓛⓜⓝⓞⓟⓠⓡⓢ。
具體邏輯可以參考下圖❻❼❽❾❿⓫⓬⓭⓮⓯⓰，更多的信息☧☬☸✡♁✙♆。，、＇：∶；，可以參考我們之前《CMS審核功能的介紹》
結論
當然✺ϟ☇♤♧♡♢♠♣♥，集成了CMS多版本管理和審核ⓣⓤⓥⓦⓧⓨⓩ，會導致一篇內容☈⊙☉℃℉❅，會有很多版本㈠㈡㈢㈣㈤㈥㈦，視頻也會有很多版本✵✶✷✸✹✺✻✼❄❅，會帶來大量冗余的存儲①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯，我們可以通過清理不要的歷史版本來清除多余的內容和視頻文件㊀㊁㊂㊃㊄㊅㊆㊇㊈㊉，這樣可以減少存儲空間的使用ⓚⓛⓜⓝⓞⓟⓠⓡⓢ。
整體來說☧☬☸✡♁✙♆。，、＇：∶；，視頻審核是一個不可或缺的環節⒜⒝⒞⒟⒠⒡⒢⒣⒤，因此啟用審核和AI審核也是一個必要環節⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ。
歡迎轉載✵✶✷✸✹✺✻✼❄❅，請注明出處①②③④⑤⑥⑦⑧⑨⑩⑪⑫⑬⑭⑮⑯！
關于CMS的架構和在線教育網站的搭建☧☬☸✡♁✙♆。，、＇：∶；，也可以參考我們之前相關的文章介紹⒔⒕⒖⒗⒘⒙⒚⒛ⅠⅡⅢⅣⅤⅥⅦⅧⅨⅩⅪⅫⅰⅱ，
3. 在線視頻教育學習平臺介紹
