人工智能(neng)的(de)三(san)大(da)風險以(yi)及(ji)如何(he)避免

人工(gong)智能系(xi)統和(he)人工(gong)智(zhi)能項目(mu)如今(jin)變(bian)得(de)越(yue)來(lai)越(yue)普遍(bian)，因(yin)為(wei)企業可(ke)以利用(yong)這(zhe)種(zhong)新(xin)興(xing)技術(shu)的(de)力量(liang)來(lai)自動化(hua)決(jue)策(ce)和提(ti)高(gao)效(xiao)率(lv)。

如果(guo)企業(ye)正(zheng)在實(shi)施(shi)一個大規模的人(ren)工(gong)智(zhi)能(neng)項(xiang)目(mu)，那么(me)應(ying)該如何(he)準(zhun)備(bei)?以下是(shi)與(yu)人(ren)工智能相(xiang)關的(de)三(san)個(ge)最重(zhong)要的(de)風險，以(yi)及如(ru)何(he)預防(fang)和(he)減輕(qing)它(ta)們。

1.從(cong)隱(yin)私(si)到安(an)全(quan)

人(ren)們都很(hen)關注(zhu)自(zi)己(ji)的隱私，而面(mian)部(bu)識(shi)別(bie)人(ren)工(gong)智(zhi)能(neng)在(zai)某(mou)些(xie)方面(mian)正在迅(xun)速(su)發(fa)展，引(yin)發了(le)關(guan)于隱私(si)和監(jian)控(kong)的倫(lun)理擔憂。例(li)如，這(zhe)項技術(shu)可以(yi)讓企業在未(wei)經(jing)用戶(hu)同(tong)意(yi)的(de)情況下跟蹤用(yong)戶的行為(wei)，甚(shen)至(zhi)是情(qing)緒(xu)。美國(guo)政府(fu)最(zui)近(jin)提(ti)出了(le)一(yi)項(xiang)“人工智(zhi)能權利(li)法(fa)案”，以防(fang)止人工(gong)智(zhi)能(neng)技術造成(cheng)與核(he)心(xin)價(jia)值(zhi)觀相(xiang)悖的真(zhen)正傷(shang)害(hai)，包(bao)括(kuo)基本(ben)的隱私(si)權。

IT領導者需(xu)要讓(rang)用(yong)戶知(zhi)道(dao)正在(zai)收(shou)集(ji)什么數(shu)據(ju)，并獲得用戶(hu)的同意(yi)。除(chu)此之(zhi)外，關(guan)于(yu)數(shu)據(ju)集(ji)的適(shi)當培訓(xun)和實施對(dui)于(yu)防(fang)止數(shu)據(ju)泄露(lu)和潛在的安(an)全(quan)漏洞至(zhi)關重(zhong)要(yao)。

測(ce)試(shi)人工智(zhi)能(neng)系(xi)統以(yi)確保(bao)它(ta)實現目標(biao)，而(er)不會(hui)產生(sheng)意(yi)想(xiang)不到的影響(xiang)，例如允(yun)許(xu)黑客(ke)使(shi)用虛(xu)假(jia)的生(sheng)物識(shi)別(bie)數據訪問(wen)敏感信息。實(shi)施(shi)人(ren)工智能(neng)系統的監督，可(ke)以使企業(ye)在必(bi)要(yao)時(shi)停止或撤銷它(ta)的行動(dong)。

2.從不透明(ming)到(dao)透明

許多(duo)使用機器(qi)學(xue)習(xi)的(de)人(ren)工(gong)智能(neng)系統(tong)是(shi)不透(tou)明(ming)的，這意(yi)味(wei)著(zhe)不(bu)清楚(chu)它們是(shi)如(ru)何(he)做(zuo)出決定的。例(li)如，對抵(di)押(ya)貸(dai)款數(shu)據廣泛的研究(jiu)表明(ming)，用于(yu)批(pi)準或拒(ju)絕貸款(kuan)的(de)預測性人(ren)工智(zhi)能(neng)工具對少數(shu)族(zu)裔申(shen)請(qing)者的(de)準確(que)性(xing)較低。技術的不透(tou)明(ming)性(xing)侵犯了(le)貸(dai)款(kuan)被(bei)拒(ju)絕(jue)的(de)申請(qing)者的“解釋(shi)權(quan)”。

當企(qi)業(ye)的人(ren)工(gong)智(zhi)能/機(ji)器(qi)學(xue)習(xi)工(gong)具對其(qi)用(yong)戶做出(chu)了重要(yao)的決(jue)定(ding)時(shi)，需要確(que)保(bao)他們得到通知，并(bing)能(neng)得(de)到(dao)關(guan)于為什(shen)么做出(chu)這(zhe)個決定的完(wan)整(zheng)解釋(shi)。

企業(ye)的(de)人(ren)工智(zhi)能團隊還(hai)應(ying)該能(neng)夠(gou)追(zhui)蹤(zong)導致(zhi)每個(ge)決(jue)策的(de)關(guan)鍵因(yin)素(su)，并在(zai)這(zhe)一過程(cheng)中診(zhen)斷(duan)出任(ren)何錯誤。內部(bu)面(mian)向(xiang)員工的(de)文(wen)檔(dang)和外部面向(xiang)客(ke)戶的文檔(dang)應該解(jie)釋人工(gong)智能系(xi)統(tong)是如(ru)何(he)以及(ji)為什么(me)這樣運(yun)作(zuo)的(de)。

3.從偏(pian)見到(dao)公(gong)平(ping)

最(zui)近的(de)一項(xiang)研(yan)究表明(ming)，根(gen)據具(ju)有偏見(jian)的(de)數(shu)據(ju)訓練的(de)人(ren)工智能系(xi)統強化(hua)了(le)歧(qi)視(shi)模式，從(cong)醫學(xue)研究(jiu)招募不(bu)足(zu)到(dao)科學家參與度(du)降(jiang)低(di)，甚至少數族(zu)裔患(huan)者(zhe)不(bu)太(tai)愿(yuan)意(yi)參(can)與(yu)研(yan)究。

人們(men)需要(yao)問問自(zi)己(ji)：如果(guo)意(yi)想(xiang)不到(dao)的結果發(fa)生了(le)，它(ta)會影響(xiang)誰或哪(na)個群體(ti)?它(ta)是(shi)否(fou)平等地影響(xiang)所有用戶(hu)，還是(shi)只影響特定(ding)群(qun)體？

仔(zai)細查看(kan)歷史(shi)數(shu)據(ju)，評(ping)估(gu)是否引(yin)入(ru)了(le)任(ren)何(he)潛(qian)在的(de)偏見(jian)或減輕(qing)了(le)偏見(jian)。一(yi)個經常被(bei)忽(hu)視(shi)的因素是(shi)企(qi)業(ye)的開(kai)發(fa)團隊(dui)的(de)多(duo)樣性，而(er)更(geng)加(jia)多(duo)樣化(hua)的團(tuan)隊通(tong)常(chang)會(hui)引入更(geng)公(gong)平的過程(cheng)和結果(guo)。

為(wei)了(le)避(bi)免意(yi)外(wai)的傷(shang)害(hai)，企業(ye)需要(yao)確保(bao)來(lai)自(zi)人(ren)工智(zhi)能(neng)/機(ji)器學習(xi)開(kai)發、產品、審計和(he)治理(li)團隊(dui)的所(suo)有(you)涉(she)眾完全理(li)解(jie)指(zhi)導企業的(de)人工智能項(xiang)目(mu)的高(gao)級原(yuan)則(ze)、價值(zhi)和控(kong)制(zhi)計劃。獲(huo)得(de)獨立(li)的評(ping)估，以(yi)確(que)認(ren)所(suo)有(you)項(xiang)目都(dou)符合這些原則和價(jia)值觀(guan)。