10月13日，為期兩天的中國(guó)國(guó)際半導(dǎo)體高管峰會(huì)（China International Semiconductor Executive Summit）在上海成功舉行，并邀請(qǐng)到了清華大學(xué)魏少軍教授（IEEE Fellow， CIE Fellow）等演講嘉賓。

作為全球規(guī)模最大的半導(dǎo)體制造產(chǎn)業(yè)高管的年度盛會(huì)，今年的大會(huì)結(jié)合人工智能技術(shù)應(yīng)用探討了半導(dǎo)體行業(yè)的發(fā)展趨勢(shì)。深蘭科技首席數(shù)據(jù)科學(xué)家、戰(zhàn)略委員會(huì)戰(zhàn)略技術(shù)專(zhuān)家、深蘭科學(xué)院智能社會(huì)研究院院長(zhǎng)沙文灝受邀參加，作為國(guó)內(nèi)人工智能企業(yè)率先公開(kāi)發(fā)表了《深蘭科技可解釋人工智能（XAI）技術(shù)》并作主題演講。

未來(lái)2-3年內(nèi)，約50%以上的信息系統(tǒng)直接或間接地與機(jī)器學(xué)習(xí)相關(guān)，在企業(yè)數(shù)字化轉(zhuǎn)型（DX）與人工智能的主要應(yīng)用（自然語(yǔ)言處理、自動(dòng)駕駛與智能工廠(chǎng)等）中起到了決定性的作用。可解釋人工智能（XAI）技術(shù)應(yīng)用正在形成閉環(huán)，也是實(shí)現(xiàn)安全可信人工智能重要的基礎(chǔ)。

XAI架起數(shù)據(jù)特征和人類(lèi)概念（語(yǔ)義）空間的橋梁

中國(guó)的基礎(chǔ)研究在全球占有一定的優(yōu)勢(shì)，提出決策幫助推進(jìn)業(yè)務(wù)是人工智能的首要任務(wù)。傳統(tǒng)人工智能的核心是通過(guò)機(jī)器學(xué)習(xí)盡可能地把觀(guān)測(cè)樣本（訓(xùn)練數(shù)據(jù)）映射到特征空間中， 而后在特征空間進(jìn)行分析， 并發(fā)現(xiàn)樣本在特征空間不同區(qū)域內(nèi)的規(guī)律， 從而達(dá)到算法要實(shí)現(xiàn)的任務(wù)目標(biāo)（如聚類(lèi)、解析等）。但是人類(lèi)的分析和決策是利用自身的背景知識(shí)，在概念（語(yǔ)義）空間（非定理性）當(dāng)中完成的。

數(shù)據(jù)特征空間和人類(lèi)概念（語(yǔ)義）空間（非定理性）在內(nèi)涵（結(jié)構(gòu)）與外延（影響）上存在顯著的區(qū)別，而可解釋人工智能就是要填補(bǔ)這二者之間的鴻溝（GAP）。

人工智能模型越來(lái)越多地被用于輔助與代替人類(lèi)決策，這些情況下，企業(yè)更需要了解這些模型是如何做出決策的。為了與用戶(hù)及權(quán)益方建立信任，人工智能的應(yīng)用必須讓所有的模型變得更加透明與更易理解。

XAI正形成閉環(huán) 人類(lèi)或?qū)⒆x懂AI推理

人工智能推動(dòng)企業(yè)加速創(chuàng)新，它已經(jīng)從執(zhí)行簡(jiǎn)單任務(wù)的自動(dòng)化操作升級(jí)成為與人類(lèi)互動(dòng)的強(qiáng)大協(xié)作工具。企業(yè)已不再將人工智能視為簡(jiǎn)單的技術(shù)工具，而是成為整個(gè)組織的變革引擎。未來(lái)，企業(yè)需要以人機(jī)協(xié)作為核心，有效地運(yùn)用工具和改進(jìn)方法，幫助人與機(jī)器更好地相互理解及互動(dòng)。

自然語(yǔ)言處理技術(shù)提高了機(jī)器理解書(shū)面和口頭文字的能力；擴(kuò)展現(xiàn)實(shí)和計(jì)算機(jī)視覺(jué)的進(jìn)步，可幫助機(jī)器準(zhǔn)確識(shí)別人們周邊的實(shí)體環(huán)境；而可解釋人工智能（XAI）正在形成閉環(huán)，使人們明確系統(tǒng)做出決策的推理。在人機(jī)協(xié)作模式下，從部門(mén)架構(gòu)、產(chǎn)品設(shè)計(jì)、一直到員工的雇用和培訓(xùn)，企業(yè)將對(duì)業(yè)務(wù)進(jìn)行徹底的重構(gòu)。

使用“提示決策依據(jù)的人工智能”，以實(shí)現(xiàn)決策的可視化、高度化：

可理解：基于提出預(yù)測(cè)結(jié)果的依據(jù)取得業(yè)務(wù)人員的理解，促進(jìn)AI的使用；

可確認(rèn)：可以確認(rèn)AI正確學(xué)習(xí)了業(yè)務(wù)知識(shí)，提高業(yè)務(wù)人員使用AI的愿意；

可改善：在與PoC有較大差別時(shí)能迅速確定原因，使AI的預(yù)測(cè)得到改善。

XAI作為核心的數(shù)字化架構(gòu)

在基于IoT、API管理、網(wǎng)絡(luò)安全、DevOps、云計(jì)算、RPA、容器化的數(shù)字化能力的基礎(chǔ)上，使用可解釋人工智能（XA）作為核心的數(shù)字化架構(gòu)為工業(yè)4.0、生態(tài)整合、個(gè)性化營(yíng)銷(xiāo)、供應(yīng)鏈、生產(chǎn)管理等提供人工智能技術(shù)的賦能。

比如：當(dāng)XAI使得AI內(nèi)部工作透明化時(shí)，將有助于建立企業(yè)和其他行業(yè)監(jiān)管的信心；當(dāng)XAI將通過(guò)自然語(yǔ)言（語(yǔ)音或文本）來(lái)解釋它的決定，而不是通過(guò)復(fù)雜的模型時(shí)，使用者會(huì)更容易理解，也將推動(dòng)自然語(yǔ)言解釋與XAI的結(jié)合使用；當(dāng)與XAI將建立起信任的橋梁，人們就能夠在方方面面中適應(yīng)并習(xí)慣與智能機(jī)器一起工作與生活，從而真正享受人工智能技術(shù)帶來(lái)的社會(huì)進(jìn)步。

XAI領(lǐng)域有很好的發(fā)展前景，可以幫助企業(yè)解決傳統(tǒng)AI的不足，在可理解的基礎(chǔ)上，全方位推動(dòng)企業(yè)成長(zhǎng)與社會(huì)發(fā)展。

責(zé)任編輯：gt