關(guān)于人工智能 (AI) 偏見(jiàn)的討論繼續(xù)將注意力主要集中在其社會(huì)影響上，這是正確的。然而，導(dǎo)致機(jī)器學(xué)習(xí)模型強(qiáng)化社會(huì)刻板印象的過(guò)程可能會(huì)影響在工業(yè)環(huán)境、醫(yī)療保健等領(lǐng)域的人工智能物聯(lián)網(wǎng) (AIoT) 應(yīng)用中使用這些技術(shù)的努力。如果不仔細(xì)注意用于構(gòu)建這些模型的數(shù)據(jù)，即使公司和個(gè)人更加依賴其結(jié)果，這些應(yīng)用程序也無(wú)法達(dá)到預(yù)期。

受用于構(gòu)建基于 AI 的應(yīng)用程序的現(xiàn)成可用工具和硬件的鼓舞，幾乎每個(gè)細(xì)分市場(chǎng)的組織都急于充分利用工業(yè)、醫(yī)療和消費(fèi)領(lǐng)域智能傳感器迅速出現(xiàn)所帶來(lái)的不斷增長(zhǎng)的數(shù)據(jù)源池設(shè)備等。事實(shí)上，市場(chǎng)研究人員預(yù)測(cè)，到 2023 年，全球人工智能市場(chǎng)的復(fù)合年增長(zhǎng)率 (CAGR) 將達(dá)到近 35%。研究人員預(yù)測(cè)，僅制造業(yè)領(lǐng)域的人工智能，到 2025 年的復(fù)合年增長(zhǎng)率將超過(guò) 55%。下面是如何在這些模型中管理人工智能。

人工智能的引人注目的本質(zhì)

使用 AI 方法快速部署智能應(yīng)用程序的潛力令人信服。能夠預(yù)測(cè)工業(yè)機(jī)械故障的 AIoT 應(yīng)用程序可以在設(shè)備出現(xiàn)故障時(shí)提供急需的意外停機(jī)緩解措施。加速度計(jì)、麥克風(fēng)和溫度等傳感器無(wú)需定期手動(dòng)檢查機(jī)器健康狀況，而是可以將連續(xù)數(shù)據(jù)流提供給預(yù)測(cè)性維護(hù)應(yīng)用程序，這些應(yīng)用程序使用機(jī)器學(xué)習(xí)模型構(gòu)建，這些模型經(jīng)過(guò)訓(xùn)練可以在即將發(fā)生的故障模式發(fā)生之前就識(shí)別出來(lái)。

對(duì)于工業(yè)電機(jī)的預(yù)測(cè)性維護(hù)，開發(fā)人員將收集與特定故障模式相關(guān)的振動(dòng)、音頻和溫度測(cè)量值的組合，例如電機(jī)不平衡、未對(duì)準(zhǔn)、耦合松動(dòng)、軸承退化等。然后，他們將使用這些數(shù)據(jù)集，使用決策樹或神經(jīng)網(wǎng)絡(luò)模型等監(jiān)督學(xué)習(xí)算法，根據(jù)從電機(jī)收集的新傳感器數(shù)據(jù)預(yù)測(cè)這些故障模式。

這種方法既是優(yōu)點(diǎn)也是限制。它允許部署復(fù)雜的應(yīng)用程序來(lái)檢測(cè)這些狀態(tài)，而無(wú)需編寫復(fù)雜的模式識(shí)別軟件。不幸的是，它還允許部署對(duì)不受相應(yīng)訓(xùn)練數(shù)據(jù)支持的狀態(tài)視而不見(jiàn)的應(yīng)用程序，并且可能有利于主導(dǎo)訓(xùn)練數(shù)據(jù)的狀態(tài)。例如，如果訓(xùn)練數(shù)據(jù)集對(duì)與高頻振動(dòng)和聲音相關(guān)的狀態(tài)有很大的權(quán)重，則相應(yīng)的模型預(yù)測(cè)將對(duì)與傳感器測(cè)量組合相關(guān)的軸承相關(guān)故障類型進(jìn)行加權(quán)。理想情況下，

管理人工智能中的偏見(jiàn)

當(dāng)模型更有可能預(yù)測(cè)一種結(jié)果而不是另一種時(shí)，就會(huì)出現(xiàn)模型偏差。它可能源于上述那種采樣偏差，或者源于試圖通過(guò)刪除在人類觀察者看來(lái)是離群值的數(shù)據(jù)來(lái)清理數(shù)據(jù)。一種更微妙的形式來(lái)自人類觀察者固有的認(rèn)知偏差，他們自然會(huì)根據(jù)自己對(duì)世界的看法和理解來(lái)確定什么是相關(guān)的，什么是不相關(guān)的——所有這些都會(huì)微妙地影響機(jī)器學(xué)習(xí)模型的功效。

機(jī)器學(xué)習(xí)研究人員和經(jīng)驗(yàn)豐富的開發(fā)人員使用各種方法來(lái)對(duì)抗偏見(jiàn)的影響。隨機(jī)森林算法或神經(jīng)網(wǎng)絡(luò)集合等方法使用旨在幫助避免這些限制的集成方法。其他方法側(cè)重于訓(xùn)練方法，使用生成對(duì)抗網(wǎng)絡(luò) (GAN) 生成新數(shù)據(jù)集以增強(qiáng)目標(biāo)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。盡管如此，其他方法仍然關(guān)注數(shù)據(jù)本身，其方法是對(duì)表示不佳的狀態(tài)的數(shù)據(jù)進(jìn)行過(guò)采樣以提供平衡的訓(xùn)練數(shù)據(jù)。管理人工智能偏見(jiàn)的方法仍然是一個(gè)非?；钴S的研究課題。

結(jié)論

即使沒(méi)有這些更先進(jìn)的方法，AIoT 應(yīng)用程序開發(fā)人員也可以邁出管理模型偏差的第一步，只需提醒自己收集真正代表其應(yīng)用程序的訓(xùn)練數(shù)據(jù)的重要性。盡管開發(fā)平臺(tái)和監(jiān)督學(xué)習(xí)算法軟件工具大大簡(jiǎn)化了機(jī)器學(xué)習(xí)模型的部署，但基于機(jī)器學(xué)習(xí)的應(yīng)用程序開發(fā)最關(guān)鍵的組成部分是無(wú)偏訓(xùn)練數(shù)據(jù)。

審核編輯：湯梓紅