隨著越來越多的企業(yè)使用人工智能(AI)為其做出決策，這使得治理工作變得至關(guān)重要，并且人工智能推理路徑的可追溯性成為建立客戶、員工、監(jiān)管機(jī)構(gòu)和其他關(guān)鍵利益相關(guān)方信任的關(guān)鍵。

人工智能(AI)將計(jì)算范式從基于規(guī)則的編程轉(zhuǎn)變?yōu)榛诮Y(jié)果的方法。它允許流程進(jìn)行大規(guī)模運(yùn)行，減少了人為處理錯(cuò)誤的數(shù)量，并創(chuàng)造了解決問題的一些新方法。在圍棋高手已使用相同的開局策略3000年后，阿爾法狗(AlphaGo)啟發(fā)了圍棋選手去嘗試新的策略。隨著人工智能采用率的增加，它將幫助組織解決傳統(tǒng)自動(dòng)化技術(shù)無法解決的“最后一公里”問題。但隨著越來越多的企業(yè)讓人工智能來為其作出決策，治理工作將變得非常關(guān)鍵。

最近，在簡(jiǎn)柏特公司(Genpact)針對(duì)最高管理層和其他高管人員的一項(xiàng)調(diào)查中，有63%的人表示，能夠追蹤一臺(tái)使用人工智能設(shè)備的推理路徑，這是非常重要或關(guān)鍵的，而在人工智能領(lǐng)域處于領(lǐng)先地位的公司中，持這一觀點(diǎn)的人數(shù)比例達(dá)到88%。簡(jiǎn)柏特公司還與受管制市場(chǎng)中的財(cái)富500強(qiáng)企業(yè)合作，這些客戶認(rèn)為，在考慮使用人工智能之前，其推理的可追溯性將是一項(xiàng)關(guān)鍵要求。

|| 為加強(qiáng)監(jiān)管審查工作做好準(zhǔn)備

最近，英國劍橋分析公司(Cambridge Analytica)對(duì)社交媒體數(shù)據(jù)的濫用，引起了公眾的關(guān)注，該事件喚醒了企業(yè)對(duì)監(jiān)管治理工作的更高要求。此外，歐盟的一般數(shù)據(jù)保護(hù)條例(GDPR)在5月25日已生效，這將解決數(shù)據(jù)和人工智能治理問題的諸多新要求。如該條例第22條所述，在其他領(lǐng)域中，“數(shù)據(jù)主體有權(quán)不受限于自動(dòng)流程所做出的決定，包括對(duì)其產(chǎn)生法律效力或?qū)ζ洚a(chǎn)生嚴(yán)重影響的分析?！痹谝粋€(gè)人被拒絕發(fā)放貸款或工作機(jī)會(huì)的情況下，這可能變得至關(guān)重要。同樣，紐約市最近的算法決策透明度立法表明，美國的監(jiān)管審查工作也在加強(qiáng)。在這種形式下，企業(yè)會(huì)很難接受“黑匣子人工智能”。

|| 期待可追蹤的人工智能技術(shù)

目前，一些技術(shù)已經(jīng)足夠成熟，可以提供可追溯性。在處理文本或數(shù)字時(shí)，企業(yè)可以考慮使用計(jì)算語言學(xué)，用戶可以輕松地追蹤推理路徑并精確定位導(dǎo)致機(jī)器決定的單詞或數(shù)據(jù)點(diǎn)。例如，如果第三方物流供應(yīng)商同意每英里收取15美分，但其發(fā)票顯示為每英里收取18美分，則機(jī)器可以利用上下文語境來提取發(fā)票中的價(jià)格和合同所約定的價(jià)格，并指出其差異。用戶可以對(duì)比查看這些文件以確定機(jī)器是否判斷正確。關(guān)鍵在于可跟蹤某一決定的定義屬性來自哪里，并以易于可視化的方式提供底層信息。

|| 提供推理路徑

實(shí)現(xiàn)可追溯性的另一種方式是解釋在算法中的一些驅(qū)動(dòng)因素和推理路徑。Salesforce公司銷售云愛因斯坦(Sales Cloud Einstein)產(chǎn)品中的主要評(píng)分功能可以讓你直接了解其如何給出銷售機(jī)會(huì)的分?jǐn)?shù)，因此，一個(gè)公司的銷售團(tuán)隊(duì)可以了解Einstein產(chǎn)品是如何預(yù)測(cè)某個(gè)銷售機(jī)會(huì)轉(zhuǎn)化為商機(jī)的。

計(jì)算語言學(xué)也有一個(gè)嵌入的推理路徑邏輯，可以為使用技術(shù)的最終用戶進(jìn)行外化。例如，在貸款審批流程中，系統(tǒng)需要采取多個(gè)步驟來處理一個(gè)申請(qǐng)。如果某個(gè)申請(qǐng)?jiān)诨谌斯ぶ悄艿淖詣?dòng)化貸款申請(qǐng)過程中被拒絕，信貸員應(yīng)該能夠追溯到導(dǎo)致發(fā)生拒絕申請(qǐng)的特定步驟，更重要的是，可以解釋為何人工智能在該步驟做出這樣的決定。

因此，企業(yè)可以通過向消費(fèi)者解釋推理路徑為什么會(huì)做出一個(gè)決定，而不只是簡(jiǎn)單地拒絕發(fā)放貸款，從而可能導(dǎo)致不良客戶的體驗(yàn)和引發(fā)合規(guī)問題。因?yàn)榫邆淇勺匪菪?，?dāng)審計(jì)人員要求查看文檔，或者客戶提出詢問，或者出現(xiàn)了其他潛在問題，那么企業(yè)就可以準(zhǔn)確知道系統(tǒng)在何處以及如何做出該決定，而不是因?yàn)樵摏Q定和推理被鎖在黑匣子里，導(dǎo)致一無所知。

|| 為充分利用人工智能而設(shè)計(jì)數(shù)據(jù)

關(guān)鍵是要充分了解數(shù)據(jù)的行為。這不僅僅是為了實(shí)現(xiàn)人工智能算法，首先要建立起有效的數(shù)據(jù)工程。最佳實(shí)踐包括記錄關(guān)于數(shù)據(jù)完整性的假設(shè)，解決數(shù)據(jù)偏差，以及在實(shí)施前審查機(jī)器所確定的新規(guī)則。如果企業(yè)正在使用機(jī)器學(xué)習(xí)技術(shù)來識(shí)別異常情況，那么它可以通過檢查和權(quán)衡來手動(dòng)測(cè)試并確定這些結(jié)果是否合理。在設(shè)計(jì)和測(cè)試人工智能時(shí)，讓熟知這些流程和行業(yè)領(lǐng)域問題的人來參與，這也很重要。

|| 可解釋的人工智能會(huì)加速人們對(duì)人工智能的使用

可追溯性還解決了人工智能技術(shù)實(shí)施中的幾項(xiàng)難題。首先，它側(cè)重于這種先進(jìn)技術(shù)的新興應(yīng)用的質(zhì)量問題。其次，在人與機(jī)器交互的發(fā)展過程中，可追溯性使結(jié)果更易于被人理解，并有助于推動(dòng)人工智能的使用和促進(jìn)成功實(shí)施所需的相關(guān)變更管理。第三，它有助于推動(dòng)生命科學(xué)、醫(yī)療保健和金融服務(wù)等受監(jiān)管行業(yè)的合規(guī)性。

可追溯性存在于一些更成熟的人工智能應(yīng)用中，例如計(jì)算語言學(xué)。在其他不太成熟的新興技術(shù)中，所謂的黑盒問題仍然存在。這一問題主要存在于深度神經(jīng)網(wǎng)絡(luò)，用于圖像識(shí)別的機(jī)器學(xué)習(xí)算法或涉及海量數(shù)據(jù)集的自然語言處理的情況下。因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)是通過這些海量數(shù)據(jù)集的多重關(guān)聯(lián)建立起來的，所以目前很難知道為什么會(huì)得出一個(gè)特定的結(jié)論。企業(yè)需要更全面的治理結(jié)構(gòu)，尤其是借助像神經(jīng)網(wǎng)絡(luò)這樣不具備可追溯性的先進(jìn)技術(shù)。

總而言之，可追溯性使企業(yè)能夠更好地理解整個(gè)推理過程，并通過人工智能的實(shí)施建立信任關(guān)系，這可以幫助企業(yè)、員工和客戶更好地接受人工智能。隨著人工智能領(lǐng)域的其他方面逐漸成熟，我們希望在其他人工智能技術(shù)中也可看到類似的推理路徑。