無(wú)論是在傳統(tǒng)機(jī)器學(xué)習(xí)領(lǐng)域還是現(xiàn)今炙手可熱的深度學(xué)習(xí)領(lǐng)域，基于訓(xùn)練樣本有明確標(biāo)簽或結(jié)果的監(jiān)督學(xué)習(xí)仍然是一種主要的模型訓(xùn)練方式。尤其是深度學(xué)習(xí)領(lǐng)域，需要更多數(shù)據(jù)以提升模型效果。目前，已經(jīng)有一些規(guī)模較大的公開(kāi)數(shù)據(jù)集，如ImageNet，COCO等。對(duì)于深度學(xué)習(xí)入門者，這些公開(kāi)數(shù)據(jù)集可以提供非常大的幫助；但是對(duì)于大部分企業(yè)開(kāi)發(fā)者，特別在醫(yī)學(xué)成像、自動(dòng)駕駛、工業(yè)質(zhì)檢等領(lǐng)域中，他們更需要利用專業(yè)領(lǐng)域的實(shí)際業(yè)務(wù)數(shù)據(jù)定制AI模型應(yīng)用，以保證其能夠更好地應(yīng)用在業(yè)務(wù)中。因此，業(yè)務(wù)場(chǎng)景數(shù)據(jù)的采集和標(biāo)注也是在實(shí)際AI模型開(kāi)發(fā)過(guò)程中必不可少的重要環(huán)節(jié)。

數(shù)據(jù)標(biāo)注的質(zhì)量和規(guī)模通常是提升AI模型應(yīng)用效果的重要因素，然而完全通過(guò)人力手動(dòng)標(biāo)注數(shù)據(jù)建立一個(gè)高質(zhì)量、大規(guī)模專業(yè)領(lǐng)域數(shù)據(jù)集卻并不容易：標(biāo)注人員的培訓(xùn)與手工標(biāo)注成本高、耗時(shí)長(zhǎng)。為解決此問(wèn)題，我們可以利用主動(dòng)學(xué)習(xí)的方法，采用“Human-in-the-loop”的交互式框架（圖1）進(jìn)行數(shù)據(jù)標(biāo)注，以有效減少人工數(shù)據(jù)標(biāo)注量。

圖1 基于主動(dòng)學(xué)習(xí)的“Human-in-the-loop”交互式數(shù)據(jù)標(biāo)注框架

主動(dòng)學(xué)習(xí)(ActiveLearning, AL)是一種挑選具有高信息度數(shù)據(jù)的有效方式，它將數(shù)據(jù)標(biāo)注過(guò)程呈現(xiàn)為學(xué)習(xí)算法和用戶之間的交互。其中，算法負(fù)責(zé)挑選對(duì)訓(xùn)練AI模型價(jià)值更高的樣本，而用戶則標(biāo)注那些挑選出來(lái)的樣本。如“Human-in-the-loop”交互式數(shù)據(jù)標(biāo)注框架，通過(guò)用戶已標(biāo)注的一部分?jǐn)?shù)據(jù)來(lái)訓(xùn)練AI模型，通過(guò)此模型來(lái)標(biāo)注剩余數(shù)據(jù)，再?gòu)闹泻Y選出AI模型標(biāo)注較為困難的數(shù)據(jù)進(jìn)行人工標(biāo)注，再將這些數(shù)據(jù)用于模型的優(yōu)化。幾輪過(guò)后，用于數(shù)據(jù)標(biāo)注的AI模型將會(huì)具備較高的精度，更好地進(jìn)行數(shù)據(jù)標(biāo)注。以圖像分類問(wèn)題舉例，首先，人工挑選并標(biāo)注一部分圖像數(shù)據(jù)，訓(xùn)練初始模型，然后利用訓(xùn)練的模型預(yù)測(cè)其余未標(biāo)注的數(shù)據(jù)，再通過(guò)“主動(dòng)學(xué)習(xí)”中的“查詢方法”挑選出模型比較難分辨類別的數(shù)據(jù)，再人為修正這些“難”數(shù)據(jù)的標(biāo)簽并加入訓(xùn)練集中再次微調(diào)(Fine-tuning)訓(xùn)練模型。“查詢方法”是主動(dòng)學(xué)習(xí)的核心之一，最常見(jiàn)的“查詢方法”有基于不確定性的樣本查詢策略和基于多樣性的樣本查詢策略。

基于不確定性的樣本查詢策略可查詢出深度學(xué)習(xí)模型預(yù)測(cè)時(shí)，靠近決策邊界的樣本。以二分類問(wèn)題舉例，當(dāng)一個(gè)未標(biāo)注樣本被預(yù)測(cè)為任一標(biāo)簽的概率都是50%時(shí)，則該樣本對(duì)于預(yù)測(cè)模型而言是“不確定”的，極有可能被錯(cuò)誤分類。要注意的是，主動(dòng)學(xué)習(xí)是一個(gè)迭代過(guò)程，每次迭代，模型都會(huì)接收認(rèn)為修正后的標(biāo)注數(shù)據(jù)微調(diào)模型，通過(guò)這個(gè)過(guò)程直接改變模型決策的邊界，提高分類的正確率。

基于多樣性的查詢策略，可實(shí)現(xiàn)對(duì)當(dāng)前深度學(xué)習(xí)模型下?tīng)顟B(tài)未知樣本的查詢。將通過(guò)多樣性查詢挑選出的數(shù)據(jù)加入訓(xùn)練集，可豐富訓(xùn)練集的特征組合，提升模型的泛化能力。模型學(xué)習(xí)過(guò)的數(shù)據(jù)特征越豐富，泛化能力越強(qiáng)，預(yù)測(cè)模型適用的場(chǎng)景也越廣。

為解決大數(shù)據(jù)量標(biāo)注的痛點(diǎn)，基于主動(dòng)學(xué)習(xí)且融合多樣查詢策略的智能標(biāo)注AI解決方案應(yīng)運(yùn)而生。通過(guò)EasyDL平臺(tái)使用智能標(biāo)注后，開(kāi)發(fā)者們只需標(biāo)注數(shù)據(jù)集中30%左右的數(shù)據(jù)，即可啟動(dòng)智能標(biāo)注在EasyDL后臺(tái)自動(dòng)標(biāo)注剩余數(shù)據(jù)，再返回少量后臺(tái)難以確定的數(shù)據(jù)再次進(jìn)行人工標(biāo)注，同時(shí)提升自動(dòng)標(biāo)注的準(zhǔn)確性，經(jīng)過(guò)幾輪之后，在實(shí)際項(xiàng)目測(cè)試中，智能標(biāo)注功能可以幫助用戶節(jié)省70%的數(shù)據(jù)標(biāo)注量，極大地減少數(shù)據(jù)標(biāo)注中的人力成本和時(shí)間成本。

EasyDL零門檻AI開(kāi)發(fā)平臺(tái)，面向企業(yè)開(kāi)發(fā)者提供智能標(biāo)注、模型訓(xùn)練、服務(wù)部署等全流程功能，針對(duì)AI模型開(kāi)發(fā)過(guò)程中繁雜的工作，提供便捷高效的平臺(tái)化解決方案。目前，EasyDL的智能標(biāo)注功能已支持計(jì)算機(jī)視覺(jué)CV方向的物體檢測(cè)模型、圖像分割、自然語(yǔ)言處理NLP方向的文本分類模型的數(shù)據(jù)標(biāo)注。

智能標(biāo)注解決了模型開(kāi)發(fā)過(guò)程中龐大的數(shù)據(jù)準(zhǔn)備難題，那么在模型訓(xùn)練與部署階段，EasyDL是否還有其他“武功秘籍”幫助開(kāi)發(fā)者高效開(kāi)發(fā)？

本周六，AI快車道EasyDL零門檻模型訓(xùn)練營(yíng)來(lái)到六朝古都南京，依托槳聲燈影里的秦淮河，為這座歷史悠久的城市帶來(lái)AI科技的新氣息！

各行業(yè)如何做到技術(shù)與場(chǎng)景結(jié)合，高效用AI？

視覺(jué)模型背后的核心技術(shù)點(diǎn)如何理解？

從云到端，端側(cè)模型的技術(shù)原理與部署如何操作？

模型精度難以提升，有沒(méi)有關(guān)鍵效果提升技巧尚未掌握？

責(zé)任編輯：xj

原文標(biāo)題：百度工程師帶來(lái)干貨分享，助你轉(zhuǎn)型AI應(yīng)用工程師！

文章出處：【微信公眾號(hào)：深度學(xué)習(xí)自然語(yǔ)言處理】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。