人工智能本來并不存在偏見，它不會(huì)因?yàn)闊o法通過邏輯來解釋的理由而“想”某些東西是真的或假的。不幸的是，從創(chuàng)建算法到解釋數(shù)據(jù)，機(jī)器學(xué)習(xí)中存在著人類的偏見，并且直到現(xiàn)在，幾乎沒有人試圖解決這個(gè)嚴(yán)重的問題。

　　來自捷克和德國的科學(xué)家團(tuán)隊(duì)最近進(jìn)行了一項(xiàng)研究，以確定人類認(rèn)知偏見對(duì)解釋用于創(chuàng)建機(jī)器學(xué)習(xí)輸出規(guī)則的影響。

　　該團(tuán)隊(duì)的白皮書解釋了20種不同的認(rèn)知偏見如何潛在地改變機(jī)器學(xué)習(xí)規(guī)則的開發(fā)，并提出了給它們“去偏”(debiasing)的方法。

　　偏見，諸如“確認(rèn)偏見”(confirmation bias)(當(dāng)一個(gè)人接受一個(gè)結(jié)果是因?yàn)樗_認(rèn)了一個(gè)先前的信念)或“可用性偏見”(availability bias)(比較重視與個(gè)體有關(guān)的信息，而不是同樣有價(jià)值的不太熟悉的信息)會(huì)使機(jī)器學(xué)習(xí)數(shù)據(jù)的解釋變得豪無意義。

　　當(dāng)這些類型的人為錯(cuò)誤成為人工智能的一部分時(shí)——這意味著我們的偏見負(fù)責(zé)選擇一種訓(xùn)練規(guī)則，這種訓(xùn)練規(guī)則塑造了機(jī)器學(xué)習(xí)模型的創(chuàng)造——我們不是在創(chuàng)造人工智能：我們只是混淆我們自己在黑盒子里面有缺陷的觀察。

　　根據(jù)白皮書所述，這是全新的領(lǐng)域：

　　由于缺乏先前的研究，我們的研究將認(rèn)知心理學(xué)中的一般結(jié)果轉(zhuǎn)移到機(jī)器學(xué)習(xí)領(lǐng)域。它需要通過專門針對(duì)機(jī)器學(xué)習(xí)領(lǐng)域的實(shí)證研究來取得成功。

　　隨著越來越多的人工智能系統(tǒng)上線，個(gè)人責(zé)任感也在發(fā)生變化。很快，大多數(shù)車輛將由機(jī)器操作，大量的手術(shù)和醫(yī)療程序?qū)⒂蓹C(jī)器人進(jìn)行。當(dāng)悲劇發(fā)生時(shí)，人們會(huì)指責(zé)AI開發(fā)人員，甚至?xí)涯承┤水?dāng)作替罪羊。

　　研究人員針對(duì)他們所研究的每種認(rèn)知偏見提出了一種去偏旁解決方案。對(duì)于許多問題，解決方案與改變數(shù)據(jù)表示方式一樣簡單。例如，該團(tuán)隊(duì)假設(shè)，將算法的輸出更改為使用比自然數(shù)更多的比率可以大大減少誤解某些結(jié)果的可能性。

　　不幸的是，總的問題并沒有簡單的解決方法。大多數(shù)時(shí)候，我們不知道自己有偏見。我們相信自己非常聰明或直覺 ，或者我們只是不去想。機(jī)器學(xué)習(xí)程序員需要關(guān)注的不僅僅是20種不同的認(rèn)知偏見。

　　即使算法是完美的，輸出是不變的，我們的認(rèn)知偏見也使得我們對(duì)數(shù)據(jù)的解釋不怎么可靠。每個(gè)人都有這樣或那樣的偏見，這使得它關(guān)于如何影響數(shù)據(jù)解釋的研究很少。

　　該團(tuán)隊(duì)介紹：

　　據(jù)我們所知，認(rèn)知偏見尚未涉及機(jī)器學(xué)習(xí)結(jié)果的可解釋性討論。因此，我們發(fā)起了這項(xiàng)研究，研究結(jié)果發(fā)表在認(rèn)知科學(xué)上，目的是為歸納規(guī)則學(xué)習(xí)算法的變化以及結(jié)果傳播的方式提供心理基礎(chǔ)。我們的審查確定了20種認(rèn)知偏見，啟發(fā)式和效應(yīng)，當(dāng)解釋歸納學(xué)習(xí)規(guī)則時(shí)可能引起系統(tǒng)性錯(cuò)誤。

　　重要的是，全世界的研究人員都要依靠這項(xiàng)工作并發(fā)現(xiàn)避免機(jī)器學(xué)習(xí)中的認(rèn)知偏見的方法。 否則AI只不過是人類偏見的放大器而已。糟糕的科學(xué)勢(shì)必造就更糟糕的機(jī)器人。