端到端的AutoML在Kaggle Days上處理表格數(shù)據(jù)

谷歌研究人員最近將一種基于學(xué)習(xí)的方法應(yīng)用于表格數(shù)據(jù)，創(chuàng)建了一種可擴(kuò)展的端到端AutoML技術(shù)。AutoML符合三個(gè)關(guān)鍵標(biāo)準(zhǔn)，包括：

完全自動(dòng)化：不需要人工干預(yù)。輸入包括數(shù)據(jù)和計(jì)算資源，輸出是一個(gè)可服務(wù)的TensorFlow模型

廣泛的覆蓋范圍：適用于許多表格數(shù)據(jù)域的任意任務(wù)

高質(zhì)量：模型由AutoML生成，質(zhì)量堪比由ML專(zhuān)家創(chuàng)建的人工模型

AutoML首次參與由74個(gè)團(tuán)隊(duì)組成的KaggleDays SF Hackathon。該挑戰(zhàn)主要關(guān)于預(yù)測(cè)制造缺陷，目標(biāo)是提供有關(guān)材料性能的信息和批量汽車(chē)零部件的測(cè)試結(jié)果。盡管他們必須與Kaggle master級(jí)別的參與者競(jìng)爭(zhēng)，但谷歌AutoML團(tuán)隊(duì)最后仍名列第二。

AutoML在表格數(shù)據(jù)問(wèn)題中的應(yīng)用是非常令人興奮的。AutoML可以實(shí)現(xiàn)能夠解決表格數(shù)據(jù)問(wèn)題的最先進(jìn)模型。它可以幫助ML社區(qū)解決大量的問(wèn)題——欺詐檢測(cè)、庫(kù)存預(yù)測(cè)，在商業(yè)零售、供應(yīng)鏈管理、金融、制造、鉛轉(zhuǎn)換等等等。谷歌的目標(biāo)是使ML更具可伸縮性，并加快研究和行業(yè)應(yīng)用程序。

實(shí)現(xiàn)魯棒的Winograd模式挑戰(zhàn)結(jié)果的訣竅

研究人員最近證明，對(duì)WSCR上現(xiàn)有的LMs進(jìn)行調(diào)參有助于提高LM處理WSC273和WNLI的能力。他們介紹了一種生成大規(guī)模WSC樣本的方法，并用它從英文維基百科創(chuàng)建了一個(gè)1100萬(wàn)的數(shù)據(jù)集。該方法還與WSCR一起用于對(duì)預(yù)先訓(xùn)練的BERT LM進(jìn)行調(diào)參。對(duì)WSC273和WNLI的準(zhǔn)確率分別達(dá)到72.2%和71.9%，較之前的最優(yōu)水平分別提高了8.5%和6.8%。

由于WSC示例是為了展現(xiàn)像人一樣的常識(shí)和推理而開(kāi)發(fā)的，因此該任務(wù)非常具有挑戰(zhàn)性。在WSC比賽中，兩輪取得90%準(zhǔn)確率的參賽者可獲25,000元大獎(jiǎng)。此前最著名的解決方案使用了深度學(xué)習(xí)，準(zhǔn)確率為63.7%。

本研究工作是第一個(gè)突破WNLI多數(shù)基線(xiàn)的模型。通過(guò)對(duì)WSCR數(shù)據(jù)集上的BERT語(yǔ)言模型進(jìn)行微調(diào)，實(shí)現(xiàn)了對(duì)WSC和WNLI數(shù)據(jù)集的改進(jìn)。它具有幫助未來(lái)Winograd模式挑戰(zhàn)參與者提高WSC和WNLI準(zhǔn)確性的潛力。

通過(guò)仿真，探索和總結(jié)建立自動(dòng)方程式SAE賽車(chē)的經(jīng)驗(yàn)教訓(xùn)

上周晚些時(shí)候，一組研究人員公布了他們?cè)陂_(kāi)發(fā)模擬自動(dòng)駕駛算法時(shí)的所有探索和經(jīng)驗(yàn)教訓(xùn)，然后將其部署到一輛真實(shí)的汽車(chē)上。他們的工作特別集中在方程式賽車(chē)的學(xué)生無(wú)人駕駛競(jìng)賽上。在這項(xiàng)比賽中，方程式賽車(chē)是由學(xué)生設(shè)計(jì)并制造的，然后它們要穿過(guò)由交通標(biāo)記的看不見(jiàn)的賽道。

論文主要貢獻(xiàn):

端到端設(shè)計(jì)和部署一個(gè)自治堆棧，可以基于AirSim駕駛一個(gè)自定義方程式SAE。

獨(dú)特的擴(kuò)增，顯著改善記錄過(guò)程和訓(xùn)練模型

模擬訓(xùn)練系統(tǒng)如何在真實(shí)的環(huán)境中部署的詳細(xì)介紹。

對(duì)真實(shí)應(yīng)用中的人工智能，仿真是一項(xiàng)關(guān)鍵技術(shù)。在自動(dòng)駕駛汽車(chē)上路之前，對(duì)其進(jìn)行虛擬驗(yàn)證尤為必要。對(duì)于該領(lǐng)域的研究人員來(lái)說(shuō)，安全性非常重要。本文在各種模擬場(chǎng)景中發(fā)揮了巨大的作用，以幫助未來(lái)的自動(dòng)化軟件達(dá)到更高的標(biāo)準(zhǔn)。

微軟推出開(kāi)源跨平臺(tái)的機(jī)器學(xué)習(xí)框架

微軟最近推出了ML.NET，這是一個(gè)用于構(gòu)建自定義機(jī)器學(xué)習(xí)庫(kù)解決方案的框架。開(kāi)發(fā)ML.NET是為了讓開(kāi)發(fā)人員能夠使用ML框架編寫(xiě)、測(cè)試和部署ML。它當(dāng)前的實(shí)現(xiàn)包括2773K行c#代碼和大約74K行c++代碼，這些代碼能夠支持高性能的機(jī)器學(xué)習(xí)應(yīng)用。ML.NET還支持80多個(gè)特征設(shè)定器和40個(gè)機(jī)器學(xué)習(xí)模型。

開(kāi)發(fā)人員可以訓(xùn)練ML模型或使用第三方現(xiàn)有模型，并在任何脫機(jī)環(huán)境中運(yùn)行，這意味著他們不需要有數(shù)據(jù)科學(xué)背景（知識(shí)）就可以使用該框架。

ML.NET是為了響應(yīng)微軟數(shù)據(jù)科學(xué)家的眾多需求和見(jiàn)解而開(kāi)發(fā)的，這些數(shù)據(jù)科學(xué)家將使用它來(lái)開(kāi)發(fā)全球數(shù)百萬(wàn)人使用的服務(wù)和產(chǎn)品。

作為一個(gè)免費(fèi)的庫(kù)，ML.NET將大型軟件應(yīng)用程序中的ML模型應(yīng)用變得更加容易。該框架以一種易于使用的方式實(shí)現(xiàn)，即在大型數(shù)據(jù)集上提供可拓展性的同時(shí)，還有較高的性能和在單個(gè)API數(shù)據(jù)轉(zhuǎn)換下進(jìn)行統(tǒng)一的能力。

隨著ML快速發(fā)展成為現(xiàn)代應(yīng)用程序開(kāi)發(fā)的核心元素，ML.NET將幫助開(kāi)發(fā)人員將ML引入相同的技術(shù)堆棧，以便更有效地編寫(xiě)和共享ML機(jī)制。

利用主動(dòng)不確定性降低(AUR)增強(qiáng)機(jī)器人和控制RL

對(duì)于機(jī)器人與控制，控制器的性能和穩(wěn)定性與模擬器的仿真度有關(guān)。在此背景下，一組研究人員介紹了一種利用系統(tǒng)動(dòng)力學(xué)的仿真和不確定性量化的方法，能夠以一種有效的方式來(lái)學(xué)習(xí)控制器。

他們的方法是從一個(gè)在線(xiàn)階段開(kāi)始的，該階段會(huì)評(píng)估一些用數(shù)據(jù)生成的仿真。利用訓(xùn)練數(shù)據(jù)和高斯過(guò)程(GPs)估計(jì)了系統(tǒng)的轉(zhuǎn)變動(dòng)力學(xué)和獎(jiǎng)勵(lì)函數(shù)。

然后，通過(guò)自適應(yīng)采樣，該方法使用一種有原則的方式對(duì)低保真度模型進(jìn)行增強(qiáng)。在離線(xiàn)模式下，該方法則利用強(qiáng)化學(xué)習(xí)、近端策略?xún)?yōu)化（PPO）等無(wú)模型方法，提高了模型保真度以及優(yōu)化了控制器策略。

本文結(jié)合了基于模型和無(wú)模型方法的優(yōu)點(diǎn)，實(shí)現(xiàn)了穩(wěn)定控制器的開(kāi)發(fā)，提高了機(jī)器人以及控制器的有效數(shù)據(jù)?，F(xiàn)實(shí)世界中的機(jī)器人制造成本高昂。這種研究工作有助于簡(jiǎn)化過(guò)程，并為復(fù)雜的系統(tǒng)動(dòng)力學(xué)提供了更好的建模能力。