Facebook 的工程師們開(kāi)發(fā)了一種新方法，幫助他們識(shí)別和防止有害行為，比如用戶(hù)傳播垃圾郵件、詐騙他人或買(mǎi)賣(mài)武器和毒品。他們現(xiàn)在可以使用人工智能驅(qū)動(dòng)的機(jī)器人來(lái)模擬不良行為者的行為，讓它們?cè)谄叫邪姹镜?Facebook 上自由活動(dòng)。然后，研究人員可以在模擬中研究機(jī)器人的行為，并試驗(yàn)阻止它們的新方法。

這個(gè)模擬器被稱(chēng)為 WW，發(fā)音為 “Dub Dub”，是基于 Facebook 的真實(shí)代碼庫(kù)。該公司在今年早些時(shí)候發(fā)表了一篇關(guān)于 WW 的論文（之所以這么叫，是因?yàn)檫@個(gè)模擬器是 WWW（萬(wàn)維網(wǎng)）的刪減版），但在最近的一次圓桌會(huì)議上分享了更多關(guān)于這項(xiàng)工作的信息。

這項(xiàng)研究由 Facebook 工程師 Mark Harman 和該公司位于倫敦的人工智能部門(mén)研究人員領(lǐng)導(dǎo)。Harman 對(duì)記者說(shuō)，WW 是一個(gè)非常靈活的工具，可以用來(lái)限制網(wǎng)站上的各種有害行為，他還舉了一個(gè)例子，即利用模擬開(kāi)發(fā)新的防御措施來(lái)對(duì)付騙子。

在現(xiàn)實(shí)生活中，騙子通常會(huì)從徘徊在用戶(hù)的好友群中尋找潛在的目標(biāo)開(kāi)始工作。為了在 WW 中模擬這種行為，F(xiàn)acebook 的工程師們創(chuàng)建了一組 “ 無(wú)辜 ” 的機(jī)器人作為目標(biāo)，并訓(xùn)練了一些 “ 壞 ” 機(jī)器人，這些機(jī)器人在網(wǎng)絡(luò)中探索，試圖找到他們。然后，工程師們嘗試了不同的方法來(lái)阻止 “ 壞 ” 機(jī)器人，引入了各種限制條件，比如限制機(jī)器人每分鐘可以發(fā)送的私信和帖子數(shù)量，看看這對(duì)它們的行為有什么影響。

Harman 將這項(xiàng)工作與城市規(guī)劃者試圖減少繁忙道路上超速行駛的工作進(jìn)行了比較。在這種情況下，工程師在模擬器中模擬交通流量，然后試驗(yàn)在某些街道上引入減速帶等東西，看看它們有什么效果。WW 模擬讓 Facebook 可以做同樣的事情，但對(duì)象是 Facebook 用戶(hù)。

“ 我們將‘減速帶’應(yīng)用于我們的機(jī)器人所能執(zhí)行的動(dòng)作和觀察，并如此快速地探索我們可能對(duì)產(chǎn)品做出的改變，以抑制有害行為，而不傷害正常行為，”Harman 說(shuō)?！?我們可以將這個(gè)規(guī)模擴(kuò)大到數(shù)萬(wàn)或數(shù)十萬(wàn)個(gè)機(jī)器人，因此，并行地搜索許多許多不同的可能 。.. 約束向量?！?/p>

模擬想要研究的行為是機(jī)器學(xué)習(xí)中足夠常見(jiàn)的做法，但 WW 項(xiàng)目之所以引人注目，是因?yàn)樵撃M是基于真實(shí)版本的 Facebook。Facebook 將其方法稱(chēng)為 “ 基于網(wǎng)絡(luò)的模擬 ”?！?與傳統(tǒng)的模擬中所有的東西都是模擬出來(lái)的不同，在基于網(wǎng)絡(luò)的模擬中，行動(dòng)和觀察實(shí)際上是通過(guò)真實(shí)的基礎(chǔ)設(shè)施發(fā)生的，因此它們更加真實(shí)?！盚arman 說(shuō)。

不過(guò)他強(qiáng)調(diào)，盡管使用了這種真實(shí)的基礎(chǔ)設(shè)施，但機(jī)器人無(wú)法與用戶(hù)進(jìn)行任何方式的互動(dòng)。他說(shuō)：“ 它們實(shí)際上無(wú)法通過(guò)結(jié)構(gòu)，與其他機(jī)器人以外的任何東西進(jìn)行互動(dòng)?！?/p>

值得注意的是，這個(gè)模擬并不是 Facebook 的視覺(jué)拷貝。不要想象科學(xué)家們研究機(jī)器人的行為，就像你在 Facebook 群里看人與人之間的互動(dòng)一樣。WW 并沒(méi)有通過(guò) Facebook 的 GUI 產(chǎn)生結(jié)果，而是將所有的互動(dòng)記錄為數(shù)字?jǐn)?shù)據(jù)。

現(xiàn)在，WWW 還處于研究階段，該公司用機(jī)器人進(jìn)行的模擬試驗(yàn)都沒(méi)有給 Facebook 帶來(lái)現(xiàn)實(shí)生活中的變化。Harman 表示，他的小組仍在進(jìn)行測(cè)試，以檢查模擬與現(xiàn)實(shí)生活中的行為是否有足夠高的保真度來(lái)證明現(xiàn)實(shí)生活中的變化。但他認(rèn)為這項(xiàng)工作將在今年年底前對(duì) Facebook 的代碼進(jìn)行修改。

當(dāng)然，模擬器也有局限性。例如，WW 無(wú)法模擬用戶(hù)意圖，也無(wú)法模擬復(fù)雜的行為。Facebook 表示，機(jī)器人會(huì)搜索、提出好友請(qǐng)求、留下評(píng)論、發(fā)帖和發(fā)送信息，但這些行為的實(shí)際內(nèi)容（比如，對(duì)話(huà)內(nèi)容）并沒(méi)有被模擬出來(lái)。

不過(guò) Harman 表示，WW 的強(qiáng)大之處在于它能夠進(jìn)行大規(guī)模的操作。它可以讓 Facebook 運(yùn)行數(shù)千次模擬來(lái)檢查網(wǎng)站的各種細(xì)微變化，而不影響用戶(hù)，并從中發(fā)現(xiàn)新的行為模式。他表示：“ 我認(rèn)為，大數(shù)據(jù)帶來(lái)的統(tǒng)計(jì)能力仍未被充分認(rèn)識(shí)?！?/p>

這項(xiàng)工作比較激動(dòng)人心的一個(gè)方面是，WW 有可能通過(guò)機(jī)器人的行動(dòng)發(fā)現(xiàn) Facebook 架構(gòu)中的新弱點(diǎn)。機(jī)器人可以通過(guò)各種方式進(jìn)行訓(xùn)練。有時(shí)會(huì)給它們明確的指令，告訴它們?nèi)绾涡袆?dòng)；有時(shí)會(huì)要求它們模仿現(xiàn)實(shí)生活中的行為；有時(shí)只是給它們一定的目標(biāo)，讓它們自己決定行動(dòng)。正是在后一種情況下（一種被稱(chēng)為無(wú)監(jiān)督機(jī)器學(xué)習(xí)的方法），可能會(huì)出現(xiàn)意想不到的行為，因?yàn)闄C(jī)器人找到了工程師沒(méi)有預(yù)測(cè)到的達(dá)到目標(biāo)的方法。

“ 目前，主要關(guān)注的是訓(xùn)練機(jī)器人模仿我們知道的平臺(tái)上發(fā)生的事情。但無(wú)論在理論上還是在實(shí)踐中，機(jī)器人都可以做一些我們以前沒(méi)有見(jiàn)過(guò)的事情?！盚arman 說(shuō)?！?這其實(shí)是我們想要的東西，因?yàn)槲覀冏罱K是想走在不良行為的前面，而不是不斷地追趕?！?/p>

哈曼表示，該團(tuán)隊(duì)已經(jīng)看到了機(jī)器人的一些意想不到的行為，但拒絕分享任何細(xì)節(jié)。他表示，他不想給詐騙者提供任何線(xiàn)索。