(網(wǎng)經(jīng)社訊)12月22日晚間，快手平臺突發(fā)大規(guī)模內(nèi)容安全事件，多個直播間短時間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時，引發(fā)廣泛關(guān)注（詳見網(wǎng)經(jīng)社專題：http://m.99poke.cn/zt/kszhhcgj/ ）。
快手事件并非孤例，而是直播行業(yè)面臨的共性問題的一個極端體現(xiàn)。隨著直播行業(yè)的繁榮，內(nèi)容安全已成為全行業(yè)的共同挑戰(zhàn)。從小紅書、B站到抖音，幾乎所有主流平臺都曾陷入類似爭議。據(jù)網(wǎng)經(jīng)社不完全統(tǒng)計，近幾年來涉黃的平臺還包括美柚、寶寶樹、東郊到家、蜻蜓FM、餓了么、美術(shù)寶、新氧醫(yī)美、閑魚、小猿搜題、百度作業(yè)、百度地圖、花椒直播、貼吧、嘿秀、斗魚、大眾點評、新浪、貓撲開心網(wǎng)、百度搜圖、盛大、搜狐、土豆、移動、泡泡網(wǎng)、360、時光網(wǎng)、籬笆網(wǎng)、谷歌等。
對此， 網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、浙江墾?。ū本┞蓭熓聞?wù)所律師程念接受數(shù)字經(jīng)濟(jì)新媒體&智庫——#網(wǎng)經(jīng)社 獨家專訪。
（浙江墾?。ū本┞蓭熓聞?wù)所律師程念）
程念提到，《網(wǎng)絡(luò)安全法》第二十五條規(guī)定，網(wǎng)絡(luò)運營者應(yīng)當(dāng)制定網(wǎng)絡(luò)安全事件應(yīng)急預(yù)案，及時處置系統(tǒng)漏洞、計算機(jī)病毒、網(wǎng)絡(luò)攻擊、網(wǎng)絡(luò)侵入等安全風(fēng)險；在發(fā)生危害網(wǎng)絡(luò)安全的事件時，立即啟動應(yīng)急預(yù)案，采取相應(yīng)的補(bǔ)救措施，并按照規(guī)定向有關(guān)主管部門報告?！毒W(wǎng)絡(luò)安全法》第五十九條規(guī)定，網(wǎng)絡(luò)運營者不履行本法第二十一條、第二十五條規(guī)定的網(wǎng)絡(luò)安全保護(hù)義務(wù)的，由有關(guān)主管部門責(zé)令改正，給予警告；拒不改正或者導(dǎo)致危害網(wǎng)絡(luò)安全等后果的，處一萬元以上十萬元以下罰款，對直接負(fù)責(zé)的主管人員處五千元以上五萬元以下罰款。
第一，快手事件中，一些公開報道中提到根據(jù)技術(shù)專家分析，攻擊者很可能利用了直播推流接口的底層漏洞，從而繞過了平臺正常的實名認(rèn)證和內(nèi)容審核鏈路。這使得預(yù)設(shè)的違規(guī)內(nèi)容能夠直接突破安全防線?？焓置鎸π滦偷摹⒔M合方式出現(xiàn)的攻擊，顯然沒有很好地應(yīng)對和處置，大量新注冊的“小白號”或僵尸賬號自動化播放預(yù)制視頻的涌入也很可能超出了快手平常審核方面的算力支持。
第二，同時需要指出的是，《國家網(wǎng)絡(luò)安全事件報告管理辦法》附件“網(wǎng)絡(luò)安全事件分級指南”中對于“重大網(wǎng)絡(luò)安全事件”的界定中包含“...大型以上網(wǎng)絡(luò)平臺等被攻擊篡改，導(dǎo)致違法有害信息大范圍傳播。 以下情況之一，可認(rèn)定為“大范圍”：（3）瀏覽或點擊次數(shù)10萬以上”；對于“較大網(wǎng)絡(luò)安全事件”的界定中包含“...網(wǎng)絡(luò)平臺等被攻擊篡改，導(dǎo)致違法有害信息較大范圍傳播。以下情況之一，可認(rèn)定為“較大范圍”：（3）瀏覽或點擊次數(shù)1萬以上”?？焓质录壳暗那闆r已經(jīng)構(gòu)成較大網(wǎng)絡(luò)安全事件，公開渠道看到的情況是違法信息傳播持續(xù)了一個小時，部分直播間單場觀看人數(shù)甚至逼近10萬人。如果經(jīng)調(diào)查發(fā)現(xiàn)達(dá)到10萬人則很可能被認(rèn)定為重大網(wǎng)絡(luò)安全事件，而根據(jù)《國家網(wǎng)絡(luò)安全事件報告管理辦法》第四條，快手應(yīng)當(dāng)及時向?qū)俚厥〖壘W(wǎng)信部門報告，最遲不得超過4小時。如果因為未能及時報告導(dǎo)致危害擴(kuò)大的，該行為也屬于違反《網(wǎng)絡(luò)安全法》第二十五條的情形。
因此，本身存在漏洞加上沒有提供和平臺體量相當(dāng)?shù)膽?yīng)急措施和方案，以及未能即使向主管部門報告的，快手很可能因未能處置系統(tǒng)漏洞、網(wǎng)絡(luò)攻擊等風(fēng)險以及未能及時按照規(guī)定報告從而因違反《網(wǎng)絡(luò)安全法》第二十五條的規(guī)定，從而導(dǎo)致《網(wǎng)絡(luò)安全法》第五十九條規(guī)定的責(zé)令整改、警告等處罰措施。
程念還表示，從事件發(fā)生到平臺響應(yīng)超過1小時，暴露出快手在應(yīng)急響應(yīng)方面存在兩個問題。
第一是事前預(yù)警與事中熔斷機(jī)制缺失。攻擊持續(xù)1小時后平臺才全面關(guān)停直播，反映出異常流量監(jiān)測和自動熔斷機(jī)制薄弱。理想情況下，快收的審核系統(tǒng)應(yīng)在檢測到“大量新賬號同步開播”“內(nèi)容高度相似”等異常時就能即使觸發(fā)警報并對異常情況進(jìn)行觀測，當(dāng)發(fā)現(xiàn)違法內(nèi)容出現(xiàn)時及時觸發(fā)限流或關(guān)停。
第二是平臺沒有及時對可能升級迭代的攻擊情況進(jìn)行研究和預(yù)判，未能針對極端攻擊場景進(jìn)行充分的研究分析，也缺少將自身核心的算法推薦機(jī)制可能被惡意利用的風(fēng)險充分納入考量，缺乏算法反操縱的設(shè)計。
在平臺抵御黑灰產(chǎn)問題上，程念建立從“局部限流”到“全局關(guān)?！钡淖詣踊憫?yīng)預(yù)案，確保攻擊發(fā)生時快速降級影響；優(yōu)化圖像識別、語音檢測模型，提升違規(guī)內(nèi)容攔截時效。
專家介紹：程念律師，中國政法大學(xué)法學(xué)碩士（網(wǎng)絡(luò)法學(xué)專業(yè)），墾丁律所人工智能法律研究部負(fù)責(zé)人，專注于人工智能、游戲合規(guī)、直播短視頻法律服務(wù)、電商合規(guī)、平臺治理、數(shù)據(jù)合規(guī)、個人信息保護(hù)、元宇宙相關(guān)法律服務(wù)及知識產(chǎn)權(quán)、不正當(dāng)競爭、服務(wù)合同相關(guān)的涉網(wǎng)訴訟等互聯(lián)網(wǎng)法律實務(wù)工作，為多家知名網(wǎng)絡(luò)公司提供常年法律顧問服務(wù)，包括平臺協(xié)議起草與調(diào)整、電商平臺價格與廣告合規(guī)法律方案、資質(zhì)準(zhǔn)入、平臺協(xié)議審核、廣告合規(guī)咨詢、新業(yè)務(wù)風(fēng)險評估等合規(guī)咨詢服務(wù)等； 參與首例 5G 云游戲第一案、小米手機(jī)風(fēng)險APP治理第一案等典型案件，代理游戲道具低價代充不正當(dāng)競爭糾紛、直播帶貨預(yù)期可得收益追回案等； 參與撰寫《直播與短視頻產(chǎn)業(yè)合規(guī)藍(lán)皮書》《元宇宙與元規(guī)則——元宇宙產(chǎn)業(yè)及元規(guī)則體系建構(gòu)藍(lán)皮書》等報告； 參與編寫著作《<中華人民共和國數(shù)據(jù)安全法>理解與實施》。
【小貼士】
國內(nèi)知名網(wǎng)絡(luò)消費糾紛調(diào)解平臺“電訴寶”（315.100EC.CN）運行10余年來，與全國近千家網(wǎng)絡(luò)消費平臺建立對接，影響1億+網(wǎng)絡(luò)消費用戶，新系統(tǒng)實現(xiàn)一鍵投訴、24h在線、自助維權(quán)、同步直達(dá)、實時處理、進(jìn)度查詢、評價體系、法律求助、大數(shù)據(jù)分析等諸多功能。
目前，平臺“綠色通道”服務(wù)向廣大網(wǎng)絡(luò)消費平臺開放，平臺可自主申請入駐，實時受理、反饋和查詢用戶滿意度評價。為了更好地營造公開、透明、健康的網(wǎng)絡(luò)消費投訴環(huán)境，“電訴寶”公開版已正式上線，新增用戶投訴實時受理動態(tài)、月度平臺投訴量TOP10、熱點投訴地區(qū)、投訴榜（依據(jù)投訴量排行）等模塊，讓投訴過程透明化，一手掌握信息動態(tài)。
