(網(wǎng)經(jīng)社訊)12月22日晚間，快手平臺(tái)突發(fā)大規(guī)模內(nèi)容安全事件，多個(gè)直播間短時(shí)間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時(shí)，引發(fā)廣泛關(guān)注（詳見(jiàn)網(wǎng)經(jīng)社專(zhuān)題：http://m.99poke.cn/zt/kszhhcgj/ ）。對(duì)此，網(wǎng)經(jīng)社電子商務(wù)研究中心發(fā)布電商快評(píng)供記者朋友參考。
【觀(guān)點(diǎn)一：快手響應(yīng)“超時(shí)” 安全機(jī)制暴露“多重缺陷”】
中國(guó)商業(yè)聯(lián)合會(huì)直播電商委副會(huì)長(zhǎng)、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊表示，公開(kāi)報(bào)道顯示，從快手直播間出現(xiàn)大量露骨色情內(nèi)容到響應(yīng)超過(guò)一小時(shí)，暴露出快手在安全機(jī)制上的多重缺陷。首先，平臺(tái)的實(shí)時(shí)監(jiān)測(cè)系統(tǒng)未能及時(shí)捕捉到異常內(nèi)容大規(guī)模涌現(xiàn)的信號(hào)；其次，內(nèi)容審核體系在面對(duì)規(guī)?；魰r(shí)顯得不堪一擊；第三，決策鏈條冗長(zhǎng)，緊急情況下缺乏快速響應(yīng)機(jī)制；最后，針對(duì)大規(guī)模協(xié)同攻擊缺乏有效預(yù)案，反映出危機(jī)管理能力不足。
此外，知名天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤認(rèn)為，快手在應(yīng)急響應(yīng)方面暴露的核心問(wèn)題：
一是預(yù)警機(jī)制存在盲區(qū)，對(duì)“業(yè)務(wù)合法掩護(hù)下的批量違規(guī)”缺乏精準(zhǔn)識(shí)別能力，AI模型未及時(shí)捕捉短時(shí)間內(nèi)多直播間集中涌現(xiàn)的違規(guī)特征，依賴(lài)用戶(hù)舉報(bào)導(dǎo)致預(yù)警滯后；
二是應(yīng)急流程銜接低效，未建立針對(duì)規(guī)?；舻娜蹟鄼C(jī)制，人工審核與賬號(hào)封禁、內(nèi)容下架等環(huán)節(jié)協(xié)同不暢，出現(xiàn)“封禁不及新增”的被動(dòng)局面；
三是資源調(diào)度缺乏彈性，面對(duì)黑灰產(chǎn)的飽和式攻擊，后臺(tái)系統(tǒng)未觸發(fā)自動(dòng)擴(kuò)容或限流預(yù)案，審核人力與技術(shù)資源無(wú)法快速響應(yīng)峰值需求；
四是預(yù)案針對(duì)性不足，現(xiàn)有應(yīng)急方案更適配單點(diǎn)違規(guī)，對(duì)多賬號(hào)協(xié)同、接口漏洞利用等新型攻擊缺乏預(yù)設(shè)處置流程，導(dǎo)致決策與執(zhí)行耗時(shí)過(guò)長(zhǎng)。
郭濤進(jìn)而表示，從行業(yè)層面看，此次事件折射出短視頻平臺(tái)“安全防護(hù)”與“規(guī)模擴(kuò)張”的失衡，隨著黑灰產(chǎn)攻擊技術(shù)迭代，傳統(tǒng)“AI+人工”模式需向“智能預(yù)判+主動(dòng)防御”升級(jí)，單純依賴(lài)事后處置已難應(yīng)對(duì)新型風(fēng)險(xiǎn)；從用戶(hù)權(quán)益角度，違規(guī)內(nèi)容持續(xù)1小時(shí)傳播，暴露平臺(tái)對(duì)用戶(hù)體驗(yàn)與信息安全的重視不足，需完善舉報(bào)反饋機(jī)制與用戶(hù)告知流程，降低不良內(nèi)容帶來(lái)的負(fù)面影響；從監(jiān)管趨勢(shì)而言，監(jiān)管部門(mén)對(duì)平臺(tái)主體責(zé)任的要求持續(xù)收緊，此類(lèi)事件可能推動(dòng)行業(yè)建立更嚴(yán)格的安全評(píng)估與應(yīng)急響應(yīng)標(biāo)準(zhǔn)；此外，平臺(tái)需平衡防御強(qiáng)度與用戶(hù)體驗(yàn)，避免過(guò)度限流影響正常直播，通過(guò)技術(shù)優(yōu)化實(shí)現(xiàn)“精準(zhǔn)防控”與“生態(tài)友好”的雙贏(yíng)。
國(guó)內(nèi)網(wǎng)絡(luò)安全領(lǐng)域?qū)＜?、杭州漠坦尼科技有限公司副總?jīng)理、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員徐均波表示，快手此次事件凸顯了互聯(lián)網(wǎng)平臺(tái)在黑灰產(chǎn)對(duì)抗中的系統(tǒng)性風(fēng)險(xiǎn)。法律責(zé)任認(rèn)定核心在于平臺(tái)是否盡到“合理注意義務(wù)”，1小時(shí)響應(yīng)延遲可能成為認(rèn)定過(guò)失的關(guān)鍵。
【觀(guān)點(diǎn)二：未履行安全保護(hù)義務(wù) 最高處100萬(wàn)罰款】
北京市京師(深圳)律師事務(wù)所律師王曉彤認(rèn)為，即便本次事件系黑灰產(chǎn)組織實(shí)施的惡意攻擊行為，平臺(tái)亦不當(dāng)然免責(zé)。根據(jù)《網(wǎng)絡(luò)安全法》《民法典》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》等法律法規(guī)，平臺(tái)對(duì)其運(yùn)營(yíng)空間內(nèi)的信息內(nèi)容依法負(fù)有內(nèi)容管理主體責(zé)任和安全保障義務(wù)。
王曉彤律師進(jìn)而表示，從責(zé)任限制規(guī)則看，我國(guó)法律雖未直接使用“避風(fēng)港原則”這一表述，但其制度內(nèi)涵已明確體現(xiàn)在《民法典》第1195條、第1197條之中。依據(jù)該兩條規(guī)定，網(wǎng)絡(luò)服務(wù)提供者僅在不存在“知道或應(yīng)當(dāng)知道”情形，且在發(fā)現(xiàn)或被通知后已及時(shí)采取必要措施的前提下，方可不就損害后果承擔(dān)相應(yīng)責(zé)任。反之，如存在應(yīng)知未知、知而不處置或處置明顯遲延的情形，則不適用責(zé)任豁免規(guī)則。
王曉彤律師認(rèn)為，《網(wǎng)絡(luò)安全法》第47條明確要求，網(wǎng)絡(luò)運(yùn)營(yíng)者發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌模瑧?yīng)當(dāng)立即停止傳輸、采取處置措施、防止信息擴(kuò)散，并保存記錄、向主管部門(mén)報(bào)告。因此，是否承擔(dān)法律責(zé)任，關(guān)鍵并不在于違法內(nèi)容是否源于“外部攻擊”，而在于平臺(tái)是否已依法建立并有效運(yùn)行與其業(yè)務(wù)規(guī)模相匹配的內(nèi)容治理和應(yīng)急處置機(jī)制。
徐均波補(bǔ)充到，網(wǎng)絡(luò)運(yùn)營(yíng)者需履行安全保護(hù)義務(wù)，包括內(nèi)容審核、應(yīng)急處置、用戶(hù)實(shí)名制等。若因安全漏洞導(dǎo)致違規(guī)內(nèi)容傳播，可能被認(rèn)定為“未履行網(wǎng)絡(luò)安全保護(hù)義務(wù)”。根據(jù)情節(jié)輕重，罰款金額可達(dá)最高100萬(wàn)元（對(duì)平臺(tái)）或年?duì)I業(yè)額5%以下（對(duì)直接責(zé)任人）。
徐均波進(jìn)而表示，若平臺(tái)存在明知黑灰產(chǎn)風(fēng)險(xiǎn)卻未采取必要措施，導(dǎo)致恐怖主義、兒童色情等違法內(nèi)容傳播，可能涉嫌“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”（《刑法》第286條之一）。直接責(zé)任人員（如安全負(fù)責(zé)人）可能面臨最高三年有期徒刑。
【觀(guān)點(diǎn)三：構(gòu)建全鏈條體系 從"事后處置"轉(zhuǎn)為"事前預(yù)防"】
針對(duì)平臺(tái)抵御黑灰產(chǎn)攻擊，郭濤給出以下建議：
第一，技術(shù)層面，需構(gòu)建“事前防御-事中攔截-事后溯源”全鏈條體系，升級(jí)AI審核模型并專(zhuān)項(xiàng)訓(xùn)練批量違規(guī)、接口漏洞攻擊等場(chǎng)景識(shí)別能力，同時(shí)強(qiáng)化直播推流接口的權(quán)限校驗(yàn)與異常監(jiān)測(cè)，封堵業(yè)務(wù)邏輯漏洞。
第二，機(jī)制層面，應(yīng)建立跨部門(mén)應(yīng)急專(zhuān)班，明確違規(guī)閾值觸發(fā)后的自動(dòng)熔斷流程，如暫停高風(fēng)險(xiǎn)賬號(hào)段開(kāi)播、限制異常推流行為，實(shí)現(xiàn)“秒級(jí)響應(yīng)、分鐘級(jí)處置”。
第三，協(xié)同層面，聯(lián)合產(chǎn)業(yè)鏈共建黑灰產(chǎn)數(shù)據(jù)庫(kù)，共享違規(guī)賬號(hào)、設(shè)備指紋等特征信息，推動(dòng)跨平臺(tái)聯(lián)防聯(lián)控。第四，合規(guī)層面細(xì)化內(nèi)容分級(jí)標(biāo)準(zhǔn)與審核權(quán)責(zé)，定期開(kāi)展攻防演練，模擬新型攻擊場(chǎng)景優(yōu)化防御策略，擺脫過(guò)度依賴(lài)人工復(fù)核的效率短板。
平臺(tái)抵御黑灰產(chǎn)的法律與治理方面，王曉彤律師給出以下建議：
第一，平臺(tái)應(yīng)嚴(yán)格落實(shí)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第6條、第8條、第21條的要求，切實(shí)履行信息內(nèi)容管理主體責(zé)任，完善內(nèi)容審核、賬號(hào)管理和應(yīng)急處置制度。
第二，依據(jù)《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》第11條、第20條，建立針對(duì)涉黃涉暴內(nèi)容的秒級(jí)下線(xiàn)、自動(dòng)封禁和功能熔斷機(jī)制。
第三，按照《網(wǎng)絡(luò)安全法》第47條要求，加強(qiáng)證據(jù)留存和內(nèi)部處置記錄管理，為接受監(jiān)管檢查和主張已履責(zé)提供依據(jù)。
第四，結(jié)合《未成年人保護(hù)法》第74條、第80條，強(qiáng)化對(duì)涉黃內(nèi)容的特別防控措施，避免平臺(tái)注意義務(wù)標(biāo)準(zhǔn)被進(jìn)一步抬高。
第五，在行政責(zé)任層面，可結(jié)合《行政處罰法》第32條、第33條，通過(guò)及時(shí)整改、主動(dòng)消除危害后果，爭(zhēng)取從輕、減輕或不予處罰的裁量空間。
王曉彤總結(jié)道，總體而言，避風(fēng)港原則并非平臺(tái)的免責(zé)“安全墊”，而是對(duì)其是否依法、及時(shí)、有效履行法定義務(wù)的綜合評(píng)價(jià)結(jié)果。本次事件對(duì)抖音、淘寶、京東、小紅書(shū)等直播與內(nèi)容平臺(tái)均具有明確而現(xiàn)實(shí)的合規(guī)警示意義。
徐均波認(rèn)為，平臺(tái)抵御黑灰產(chǎn)可從技術(shù)防御升級(jí)、應(yīng)急響應(yīng)優(yōu)化、合規(guī)與生態(tài)治理、組織與問(wèn)責(zé)等方面入手。
曹磊指出，互聯(lián)網(wǎng)平臺(tái)必須認(rèn)識(shí)到，內(nèi)容安全是生存之本，安全投入不應(yīng)被視為成本而是必要投資，只有將防御策略從"事后處置"轉(zhuǎn)變?yōu)?quot;事前預(yù)防"，才能真正構(gòu)建清朗網(wǎng)絡(luò)空間。
