應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

降低80%的圖像對(duì)抗風(fēng)險(xiǎn) 螞蟻集團(tuán)升級(jí)基于可信AI技術(shù)的內(nèi)容安全解決方案

2021-12-16 14:21 TechWeb.com.cn

導(dǎo)讀:本次比賽共有1635支參賽隊(duì)伍參加,來(lái)自螞蟻集團(tuán)的TitanShield Team(titanshield2)斬獲圖像表征賽道冠軍。

12月16日消息,日前,由國(guó)際人工智能頂會(huì)NeurIPS 與 Facebook AI聯(lián)合舉辦的圖像相似匹配競(jìng)賽ISC2021落下帷幕。本次比賽共有1635支參賽隊(duì)伍參加,來(lái)自螞蟻集團(tuán)的TitanShield Team(titanshield2)斬獲圖像表征賽道冠軍。

據(jù)悉,此次奪冠團(tuán)隊(duì)采用的技術(shù)方案是由螞蟻集團(tuán)獨(dú)立自研的、“基于特征兼容自監(jiān)督學(xué)習(xí)框架”的預(yù)訓(xùn)練模型,能夠針對(duì)性地解決內(nèi)容安全風(fēng)控領(lǐng)域常見(jiàn)的敏感信息更迭速度快、風(fēng)控模型訓(xùn)練不及時(shí)等問(wèn)題。作為可信AI技術(shù)研究及應(yīng)用中的一環(huán),該技術(shù)上線后可降低80%的圖像對(duì)抗風(fēng)險(xiǎn),將有助于極大地提升在內(nèi)容安全等相關(guān)應(yīng)用領(lǐng)域中的AI魯棒性(Robustness)。

作為人工智能下一階段快速發(fā)展的瓶頸所在,安全和可信性決定了人工智能未來(lái)三十年的發(fā)展速度和應(yīng)用深度;而AI的魯棒性,即抗打擊能力及穩(wěn)定性,則成為了人工智能的第一場(chǎng)大考?!叭绻謸醪蛔」?,識(shí)別結(jié)果不可信,那么AI模型不僅失去了它存在的意義,還會(huì)成為另一個(gè)風(fēng)險(xiǎn)敞口”,螞蟻集團(tuán)資深技術(shù)專家博山表示。

據(jù)悉,此次比賽中,奪冠團(tuán)隊(duì)所采用的“基于特征兼容自監(jiān)督學(xué)習(xí)框架”的預(yù)訓(xùn)練模型,在圖像識(shí)別領(lǐng)域,極大地緩解和應(yīng)對(duì)了上述問(wèn)題。首先,該技術(shù)能夠基于公開(kāi)數(shù)據(jù)集進(jìn)行預(yù)訓(xùn)練,幫助AI提前完成同類風(fēng)險(xiǎn)預(yù)演。其次,在傳統(tǒng)的AI識(shí)別中,模型識(shí)別依賴人工投喂標(biāo)注了“特征”的樣本;例如,模型在識(shí)別熊貓圖片前,需要先“學(xué)習(xí)”熊貓的特征——“眼部有黑色毛發(fā)”、“常與竹子一同出現(xiàn)”等等。而借助“自監(jiān)督學(xué)習(xí)”技術(shù),該模型可以通過(guò)自主學(xué)習(xí)抓取“特征”,降低70%標(biāo)注量,訓(xùn)練時(shí)間也從原本的一周縮短至3天。同時(shí),創(chuàng)新的“特征兼容”方案,能夠?qū)崿F(xiàn)在兩個(gè)業(yè)務(wù)場(chǎng)景或兩家企業(yè)間,借助“特征”信息的兼容共享,實(shí)現(xiàn)風(fēng)險(xiǎn)聯(lián)防。

據(jù)悉,該模型及相關(guān)技術(shù)作為螞蟻集團(tuán)內(nèi)容安全風(fēng)控決策引擎的重要組成部分,目前已在支付寶內(nèi)容安全場(chǎng)景中全面上線,可整體降低80%的圖像對(duì)抗風(fēng)險(xiǎn)。