01

從互聯(lián)網(wǎng)成為全球最重要的內(nèi)容傳輸工具的那一天起，對互聯(lián)網(wǎng)上的傳播內(nèi)容進(jìn)行識別和甄選就成為行業(yè)的共識。

在互聯(lián)網(wǎng)技術(shù)和應(yīng)用不斷發(fā)展的今天，維護(hù)網(wǎng)絡(luò)空間的安全穩(wěn)定已成為國家重大戰(zhàn)略需求。然而，隨著網(wǎng)絡(luò)環(huán)境的復(fù)雜度越來越高以及受網(wǎng)絡(luò)空間內(nèi)容自身特性影響，面向多場景的互聯(lián)網(wǎng)內(nèi)容風(fēng)控是提升內(nèi)容風(fēng)控水平迫在眉睫的關(guān)鍵任務(wù)。

作為互聯(lián)網(wǎng)安全領(lǐng)域的“領(lǐng)頭羊”，近日阿里安全在內(nèi)容風(fēng)控方面再獲殊榮：由其牽頭并聯(lián)合中國科學(xué)院計算技術(shù)研究所和浙江大學(xué)共同完成的“面向多場景的互聯(lián)網(wǎng)內(nèi)容風(fēng)控關(guān)鍵技術(shù)與應(yīng)用”，由于“在人工智能和網(wǎng)絡(luò)空間安全應(yīng)用領(lǐng)域的重大技術(shù)突破”被浙江省人民政府評為2022年度浙江省技術(shù)發(fā)明二等獎。

這項發(fā)明針對內(nèi)容風(fēng)控方面的若干關(guān)鍵性技術(shù)難題開展了基礎(chǔ)理論、關(guān)鍵技術(shù)和實(shí)踐應(yīng)用等方面的研究并取得了一系列達(dá)到國際領(lǐng)先水平的創(chuàng)新成果，這其中既包括發(fā)明專利和高水平學(xué)術(shù)論文，也包括對于國際/國內(nèi)/行業(yè)的各類標(biāo)準(zhǔn)建立的主導(dǎo)和推動。研究成果已經(jīng)在國家安全中心、重慶市公安局、百度公司、阿里云、優(yōu)酷等二十余個應(yīng)用場景得到推廣應(yīng)用。

02

內(nèi)容安全是國家網(wǎng)絡(luò)空間安全的重要環(huán)節(jié)。從互聯(lián)網(wǎng)誕生伊始，內(nèi)容安全就是監(jiān)管者和平臺企業(yè)重點(diǎn)關(guān)注的問題。從最開始的人工審核到算法智能風(fēng)控，雖然技術(shù)手段不斷進(jìn)步，但互聯(lián)網(wǎng)環(huán)境和監(jiān)管要求也在日益變化，因此，提升智能風(fēng)控水平是近年來整個行業(yè)都在關(guān)注和研究的重點(diǎn)課題。

內(nèi)容風(fēng)控是指通過技術(shù)手段對網(wǎng)站上的信息進(jìn)行篩選、識別和處理，以防止不符合規(guī)范要求的信息對公眾造成不利影響和損失。內(nèi)容風(fēng)控工作主要包括信息識別、風(fēng)險評估和信息過濾等環(huán)節(jié)。內(nèi)容風(fēng)控主要使用的技術(shù)手段包括文本分析、圖像識別、語音識別、機(jī)器學(xué)習(xí)、人工智能等。

在當(dāng)前互聯(lián)網(wǎng)復(fù)雜背景下，智能風(fēng)控技術(shù)需要面臨數(shù)據(jù)形態(tài)復(fù)雜、對抗攻防激烈、資源消耗巨大等一系列挑戰(zhàn)，難以適應(yīng)實(shí)際場景的嚴(yán)苛需求。在此背景下，阿里安全抓住“面向多場景的互聯(lián)網(wǎng)內(nèi)容風(fēng)控”這一關(guān)鍵任務(wù)展開研究并取得了重大成果。

在具體的研究成果上，阿里安全通過對“面向復(fù)雜數(shù)據(jù)形態(tài)的風(fēng)控技術(shù)、面向?qū)构シ拉h(huán)境的風(fēng)控技術(shù)、面向資源受限環(huán)境的風(fēng)控技術(shù)”三個技術(shù)方向的研發(fā)取得積極的進(jìn)展和突破。

03

除了在理論和技術(shù)上的突破外，阿里安全還將此研究應(yīng)用了實(shí)際應(yīng)用。

阿里安全始終堅持打造創(chuàng)新的安全技術(shù)能力和世界一流的安全風(fēng)險防御體系，其官網(wǎng)“綠網(wǎng)”就是在此研究的基礎(chǔ)上構(gòu)建的復(fù)雜互聯(lián)網(wǎng)環(huán)境下內(nèi)容風(fēng)控應(yīng)用。

綠網(wǎng)深耕深度學(xué)習(xí)、自然語言理解、圖像OCR、語音識別（ASR）等業(yè)界前沿人工智能技術(shù)，提供針對圖片、視頻、文字、音頻等多媒體內(nèi)容風(fēng)險智能識別服務(wù)，不僅能幫助用戶降低色情、暴恐、廣告、垃圾信息等違規(guī)風(fēng)險，而且能大幅度降低人工審核成本。

目前，阿里安全的這項研究成果已在阿里巴巴集團(tuán)內(nèi)、外部多個場景得到推廣應(yīng)用，取得了顯著的經(jīng)濟(jì)和社會效益。日均調(diào)用頻率數(shù)十億次，累計產(chǎn)生直接經(jīng)濟(jì)效益11.44億元，間接經(jīng)濟(jì)效益105.18億元，社會效益顯著，項目成果有力發(fā)展了人工智能安全技術(shù)，促進(jìn)了網(wǎng)絡(luò)空間安全應(yīng)用領(lǐng)域的技術(shù)進(jìn)步。

另外，隨著大模型技術(shù)突飛猛進(jìn)的發(fā)展，阿里安全團(tuán)隊也針對大模型技術(shù)的應(yīng)用和安全開展研發(fā)，致力于通過對大模型的不斷升級來建設(shè)更為完善的風(fēng)控技術(shù)體系，同時也通過技術(shù)手段防范治理大模型可能引發(fā)的風(fēng)險。