應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

隱私換便捷?大數(shù)據(jù)挖掘究竟是怎樣的技術(shù)?

2018-04-10 14:10 人民網(wǎng)科技

導(dǎo)讀:大數(shù)據(jù)殺熟?隱私換便捷?一度被熱捧的大數(shù)據(jù)挖掘,近日站在了輿論的風(fēng)口浪尖:一些商家利用大數(shù)據(jù)挖掘技術(shù)“殺熟”被網(wǎng)友親測(cè)證實(shí);百度董事長(zhǎng)兼CEO李彥宏一句“中國(guó)人對(duì)隱私問(wèn)題沒(méi)有那么敏感”,更是讓它的處境雪上加霜。大數(shù)據(jù)挖掘技術(shù)就像一位有了負(fù)面新聞的明星,霎時(shí)間光彩暗淡,似乎變成了偷人隱私的小賊。

  大數(shù)據(jù)殺熟?隱私換便捷?一度被熱捧的大數(shù)據(jù)挖掘,近日站在了輿論的風(fēng)口浪尖:一些商家利用大數(shù)據(jù)挖掘技術(shù)“殺熟”被網(wǎng)友親測(cè)證實(shí);百度董事長(zhǎng)兼CEO李彥宏一句“中國(guó)人對(duì)隱私問(wèn)題沒(méi)有那么敏感”,更是讓它的處境雪上加霜。大數(shù)據(jù)挖掘技術(shù)就像一位有了負(fù)面新聞的明星,霎時(shí)間光彩暗淡,似乎變成了偷人隱私的小賊。

  《大數(shù)據(jù)時(shí)代》一書(shū)暢銷之后的幾年,大數(shù)據(jù)雖不再那么當(dāng)紅,但并未隱退,它的持續(xù)發(fā)展已成為人工智能得以實(shí)現(xiàn)的基礎(chǔ)之一。

  那么,大數(shù)據(jù)挖掘究竟是怎樣的技術(shù)?從誕生發(fā)展至今,那些埋頭苦干的技術(shù)人員又讓它長(zhǎng)了哪些本領(lǐng)?面對(duì)大數(shù)據(jù)難以管理的問(wèn)題,有沒(méi)有技術(shù)手段加以控制?

  用戶畫像:機(jī)器給人類貼標(biāo)簽

  “通過(guò)打標(biāo)簽的方式建立用戶畫像,是數(shù)據(jù)挖掘常用的一種技術(shù)?!北本┐髮W(xué)計(jì)算機(jī)科學(xué)技術(shù)研究所多媒體信息處理研究室主任彭宇新教授解釋,建立用戶畫像就是利用社交網(wǎng)絡(luò)的信息,根據(jù)用戶社會(huì)屬性、生活習(xí)慣和消費(fèi)行為等信息,抽象出一個(gè)標(biāo)簽化的用戶模型,目標(biāo)是使機(jī)器實(shí)現(xiàn)類似于人的“見(jiàn)信如面”的能力。社交網(wǎng)絡(luò)數(shù)據(jù)是實(shí)現(xiàn)這一目標(biāo)的基礎(chǔ),機(jī)器對(duì)人的“初相見(jiàn)”多是源自于對(duì)社交網(wǎng)絡(luò)數(shù)據(jù)的挖掘。

  標(biāo)簽,通常是通過(guò)對(duì)用戶信息進(jìn)行分析得到的高度精煉的特征標(biāo)識(shí),使得機(jī)器方便做信息提取、聚合分析等處理。標(biāo)簽本身無(wú)需再做過(guò)多文本分析等處理工作,這為利用機(jī)器提取標(biāo)準(zhǔn)化信息提供了便利。

  “有了標(biāo)簽,計(jì)算機(jī)就能夠自動(dòng)處理與人相關(guān)的信息,能夠通過(guò)算法、模型逐步‘理解’ 人?!迸碛钚陆榻B,多個(gè)標(biāo)簽共同完成畫像,整個(gè)過(guò)程可分三步走:一是采集數(shù)據(jù),即基于文本的信息抓取,口語(yǔ)稱為“爬數(shù)據(jù)”;二是用戶行為建模,通過(guò)機(jī)器學(xué)習(xí)技術(shù),形成算法模型,判斷用戶可能的一些行為;三是可視化展現(xiàn),把機(jī)器運(yùn)算出來(lái)的結(jié)果,通過(guò)能讓人類理解的方式展現(xiàn)出來(lái)。這三步是多輪調(diào)整的,在實(shí)際應(yīng)用中,根據(jù)結(jié)果的反饋,以及業(yè)務(wù)需求,可能進(jìn)行二次建模等調(diào)整。

  整個(gè)過(guò)程的影響參數(shù)是相對(duì)多元的,不同的行為類型,對(duì)于標(biāo)簽信息的權(quán)重影響也不同。以應(yīng)用最廣的商品營(yíng)銷為例,比如網(wǎng)售紅酒,如果“購(gòu)買”權(quán)重計(jì)為5,僅“瀏覽”計(jì)為1,加上瀏覽間隔、駐留時(shí)長(zhǎng)、生活習(xí)慣等,通過(guò)復(fù)雜的算法最終呈現(xiàn)出一個(gè)標(biāo)簽的權(quán)重,再形成畫像。

  基于用戶畫像技術(shù),大數(shù)據(jù)挖掘進(jìn)行分類和關(guān)聯(lián)規(guī)則計(jì)算等分析:例如喜歡紅酒的用戶有多少,喜歡紅酒的人群中,男、女比例是多少,喜歡紅酒的人通常喜歡什么運(yùn)動(dòng)品牌等等。

  跨媒體智能識(shí)別:為計(jì)算機(jī)裝上慧眼

  “以前文本信息占主流,現(xiàn)在圖像、視頻等多媒體數(shù)據(jù)鋪天蓋地而來(lái)?!迸碛钚抡f(shuō),后者目前占據(jù)大數(shù)據(jù)的80%以上。

  數(shù)據(jù)類型發(fā)生的巨大變化,使得智能識(shí)別的任務(wù)更加艱巨?!肮懿蛔 焙汀坝貌缓谩钡膯?wèn)題日益凸顯?!皺C(jī)器只能讀懂自己的語(yǔ)言?!迸碛钚抡f(shuō),人類世界的所有語(yǔ)言都要轉(zhuǎn)化為機(jī)器理解的語(yǔ)言才能被識(shí)別,以前只處理文本相對(duì)簡(jiǎn)單,而現(xiàn)在要加上復(fù)雜的圖像、視頻等數(shù)據(jù)。

  “例如,世界上有數(shù)千種鳥(niǎo)類,很多種的差異非常細(xì)微,即使是有專業(yè)知識(shí)的人類也很難準(zhǔn)確辨認(rèn),計(jì)算機(jī)自動(dòng)識(shí)別的難度就更大了?!迸碛钚抡f(shuō),圖像、視頻內(nèi)容理解的難點(diǎn)在于如何進(jìn)行語(yǔ)義自動(dòng)識(shí)別,這也是他們團(tuán)隊(duì)多年攻關(guān)的課題之一,為此團(tuán)隊(duì)發(fā)明了基于注意力模型和深度增量學(xué)習(xí)的識(shí)別方法。

  注意力模型,顧名思義是讓計(jì)算機(jī)自動(dòng)定位圖像的顯著性區(qū)域,以此提高檢測(cè)精度;深度增量學(xué)習(xí),是指計(jì)算機(jī)能夠利用已經(jīng)學(xué)到的知識(shí)加速對(duì)新知識(shí)的學(xué)習(xí),同時(shí)通過(guò)動(dòng)態(tài)擴(kuò)容以支持新概念的檢測(cè)。

  新模型新算法的發(fā)力,幫助機(jī)器快速識(shí)別圖像、視頻的語(yǔ)義信息。彭宇新團(tuán)隊(duì)近年來(lái)六次參加國(guó)際權(quán)威評(píng)測(cè)TRECVID的視頻樣例搜索比賽均獲第一名,并在與卡內(nèi)基梅隆大學(xué)、牛津大學(xué)、IBM Watson研究中心等參賽隊(duì)伍的較量中勝出。其中一個(gè)題目就是在464個(gè)小時(shí)的視頻中快速準(zhǔn)確地找出所有的倫敦地鐵標(biāo)志,彭宇新團(tuán)隊(duì)僅用了不到1秒就成功勝出,獲得第一名。

  單媒體信息的分析與識(shí)別之上,如何進(jìn)一步讓機(jī)器像人類一樣能看、能理解呢?

  為達(dá)到跨媒體信息融合與一體化分析識(shí)別的目的,項(xiàng)目團(tuán)隊(duì)首先把數(shù)據(jù)按照不同媒體類型自動(dòng)分發(fā)到對(duì)應(yīng)的分析與識(shí)別模塊。例如,對(duì)視頻鏡頭進(jìn)行分割、對(duì)關(guān)鍵幀進(jìn)行提取,然后分發(fā)到鏡頭檢索、片斷檢索、視頻字幕識(shí)別等模塊中,對(duì)單媒體分析結(jié)果進(jìn)行跨媒體語(yǔ)義關(guān)聯(lián)分析,實(shí)現(xiàn)跨媒體信息的語(yǔ)義協(xié)同。“一種常用的方法是構(gòu)建第三方空間進(jìn)行跨媒體關(guān)聯(lián)。”彭宇新說(shuō),“計(jì)算機(jī)根據(jù)我們教它的模型分別為圖像、視頻、文本、音頻抽取表征,再共同投射到一個(gè)第三方空間中,這樣不同媒體的信息就可以對(duì)話了?!?/p>

  技術(shù)的“抽絲剝繭”,讓圖像、視頻中的信息可以如文本一般透明?!拔覀兪敲橹鴳?yīng)用去的,準(zhǔn)確率、處理速度都經(jīng)過(guò)多年的優(yōu)化,已經(jīng)可以進(jìn)行實(shí)際應(yīng)用了?!迸碛钚陆榻B,這項(xiàng)技術(shù)不僅幫助新聞媒體等行業(yè)進(jìn)行數(shù)據(jù)管理和檢索,還在助力互聯(lián)網(wǎng)管理部門對(duì)大數(shù)據(jù)進(jìn)行分析與監(jiān)測(cè)。