谷歌最近重新推出Duplex，向餐廳主人和沙龍工作人員明確透露，他們正在與 Google 智能助理對話并正在錄制。

人工智能助理

人們越來越期望，當(dāng)你向企業(yè)發(fā)送消息時，你可能會與人工智能聊天機(jī)器人進(jìn)行交互。但是當(dāng)你真正聽到人類說話時，你通常會認(rèn)為這是一個真實(shí)的人。

我們正處于人們與AI定期進(jìn)行有意義的互動的初期，而且該領(lǐng)域的進(jìn)展已經(jīng)引起了人們的恐懼，即黑客可能會利用AI代理進(jìn)行惡意攻擊。

在最佳情況下，具有惡意意圖的AI機(jī)器人可能會冒犯人，我們可能面臨更多可怕的威脅。例如，人工智能可以學(xué)習(xí)特定的語言模式，使技術(shù)更容易適應(yīng)操縱人，模仿受害者，以及階段性釣魚（語音網(wǎng)絡(luò)釣魚）攻擊和類似活動。

許多專家認(rèn)為威脅是真實(shí)的。在CIO專欄中，Steven Brykman闡述了可以利用Duplex這樣的技術(shù)的不同方式：“至少在人類呼喚人類的情況下，仍有一個限制因素 - 人類每天每小時只能撥打這么多電話。人類必須得到報酬，休息等等。但人工智能聊天機(jī)器人可以通過無限多種方式向無限數(shù)量的人撥打無限數(shù)量的電話！“

在這個階段，我們聽到的大部分內(nèi)容都是猜測; 我們?nèi)匀徊恢勒Z音助手出現(xiàn)時可能出現(xiàn)的威脅程度和嚴(yán)重程度。但是，如果提供技術(shù)的公司在與AI代理交互時明確地與用戶通信，那么涉及基于語音的助理的許多潛在攻擊都可以被解除。

隱私問題

圍繞使用Duplex等技術(shù)的另一個問題是潛在的隱私風(fēng)險。人工智能系統(tǒng)需要用戶數(shù)據(jù)來訓(xùn)練和改進(jìn)他們的算法，雙工也不例外。它如何存儲，保護(hù)和使用這些數(shù)據(jù)非常重要。

新的法規(guī)正在出現(xiàn)，要求公司在想要收集信息時獲得用戶的明確同意，但它們主要用于涵蓋用戶有意發(fā)起互動的技術(shù)。這對于用戶激活的像Siri和Alexa這樣的AI助手來說很有意義。但目前尚不清楚新規(guī)則如何適用于未經(jīng)觸發(fā)而觸及用戶的AI助手。

在他的文章中，Brykman強(qiáng)調(diào)有必要建立監(jiān)管保障措施，例如要求公司宣布存在AI代理人的法律 - 或者當(dāng)您詢問聊天機(jī)器人是否是聊天機(jī)器人時，需要說，“是的，我是聊天機(jī)器人?！?這些措施將使人類對話者有機(jī)會脫離或至少決定他們是否想要與記錄他們的聲音的AI系統(tǒng)進(jìn)行交互。

即使有這樣的法律，隱私問題也不會消失。“我預(yù)見的技術(shù)目前最大的風(fēng)險是，它將為企業(yè)提供更多關(guān)于我們尚未擁有的私人生活的數(shù)據(jù)。到目前為止，他們只知道我們的在線交流;他們現(xiàn)在將獲得真正的洞察力我們真實(shí)的對話。

最近涉及國外大型科技公司的隱私丑聞，他們以可疑的方式利用用戶數(shù)據(jù)來獲取自己的收益，這讓人們產(chǎn)生了一種不信任的感覺，即給他們更多的窗戶進(jìn)入我們的生活?！叭藗兤毡檎J(rèn)為，大型硅谷公司將其視為庫存而非客戶，并且對他們所做的幾乎任何事情都有很大程度的不信任，無論它最終會如何開創(chuàng)性和改變生活”。

功能失敗

盡管具有自然的聲音和音調(diào)以及使用類似人類的聲音，例如“mmhm”和“ummm”，Duplex與其他當(dāng)代AI技術(shù)沒有什么不同，并且受到相同的限制。

無論是語音還是文本都用作界面，AI代理都善于解決特定問題。這就是為什么我們稱它們?yōu)椤?狹窄的人工智能 ”（與“一般人工智能”相對的 - 這種人工智能可以像人類思維一樣進(jìn)行一般的問題解決）。雖然狹窄的AI可以非常好地執(zhí)行它所編程的任務(wù)，但是當(dāng)它給出一個偏離其問題域的場景時，它可能會非常失敗。

如果消費(fèi)者認(rèn)為他們正在與人交談，他們可能會問一些不在AI正常腳本之外的東西，然后當(dāng)機(jī)器人不理解時會得到令人沮喪的反應(yīng)。

相比之下，當(dāng)一個人知道他們正在與一個經(jīng)過培訓(xùn)以便在餐廳預(yù)訂餐桌的人工智能交談時，他們會盡量避免使用會混淆人工智能并使其以意想不到的方式行事的語言，特別是如果它帶來的話他們是客戶。

接受雙工呼叫的工作人員也應(yīng)該得到一個簡單的介紹，即這不是一個真實(shí)的人。這將有助于工作人員和AI之間的溝通更加保守和清晰。

出于這個原因，直到（以及如果）開發(fā)出能夠與人類智能相提并論的人工智能，企業(yè)本身的利益是對他們使用人工智能保持透明。