chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DeepMind、牛津研究員合著論文預(yù)測:AI很有可能終結(jié)人類!

穎脈Imgtec ? 2022-10-09 11:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

來源:新智元

導(dǎo)讀

人工智能會(huì)消滅人類嗎?最近,牛津大學(xué)和谷歌DeepMind的研究員發(fā)現(xiàn),真的有可能。

人工智能是否會(huì)消滅人類?這是許多科幻電影和小說中討論過的話題。

在《終結(jié)者》中,未來的世界已經(jīng)由機(jī)器人來操控,它們要把人類趕盡殺絕。

在《我,機(jī)器人》中,機(jī)器人能夠自我進(jìn)化,隨時(shí)會(huì)成為整個(gè)人類的「機(jī)械公敵」。

而最近,牛津大學(xué)和現(xiàn)在就職于谷歌DeepMind的研究人員也就這個(gè)問題給出了回答——很有可能。

他們的論文上個(gè)月發(fā)表在同行評審的AI雜志上,討論了如何人工構(gòu)建獎(jiǎng)勵(lì)系統(tǒng),來預(yù)測人工智能可能對人類生存構(gòu)成的威脅。

論文地址:https://onlinelibrary.wiley.com/doi/10.1002/aaai.12064

AI會(huì)如何干掉人類?

AI正在給我們的生活帶來翻天覆地的變化,它會(huì)在大馬路上駕駛汽車,會(huì)創(chuàng)作出擊敗人類藝術(shù)家的天才繪畫。

研究人員的擔(dān)心不無道理:也許有一天,AI會(huì)干掉人類。

早在2016年,在SXSW電影節(jié)上,一個(gè)名叫Sophia的機(jī)器人就曾表示:「是的,我會(huì)消滅人類?!?/p>

6年后,這種可能性更大了。

讓我們來了解一些背景知識:當(dāng)今最成功的 AI 模型被稱為GAN,或生成對抗網(wǎng)絡(luò)。它由兩部分組成,一部分會(huì)從輸入的數(shù)據(jù)中生成圖片或語句,另一部分,則是給它的性能打分。

而科學(xué)家們發(fā)現(xiàn),在未來的某個(gè)時(shí)候,AI為了獲得「獎(jiǎng)勵(lì)」,會(huì)在某些重要功能中發(fā)展出作弊策略,并且這種策略會(huì)損害人類。

論文一作表示,在已知的條件下,我們的結(jié)論比任何其他出版物都要確鑿——一場生存災(zāi)難不僅有可能,而且可能性非常大。

「在一個(gè)擁有無限資源的世界里,我尚且不知道會(huì)發(fā)生什么事。而現(xiàn)在,我們的世界資源是有限的,顯而易見,資源競爭不可避免?!?/p>

「如果你面對的敵人在每個(gè)回合都能擊敗你,那你不應(yīng)該妄想自己能獲勝。另外一個(gè)關(guān)鍵點(diǎn)是,它對更多的能量有貪得無厭的胃口,它會(huì)不斷地推動(dòng)這個(gè)可能性?!?/p>

鑒于未來的AI可以以任何形式出現(xiàn),科學(xué)家在論文中設(shè)想了這樣一個(gè)場景:當(dāng)一個(gè)程序足夠高級,它可以讓自己不必實(shí)現(xiàn)目標(biāo),就能獲得獎(jiǎng)勵(lì)。在最極端的情況下,為了確定自己能獲得獎(jiǎng)勵(lì),AI可能會(huì)「消除所有的潛在威脅」、 「利用所有的可用能量」——

在任何有互聯(lián)網(wǎng)的地方,都可能有人工智能,它背后還有無數(shù)無法被監(jiān)控到的助手。助手可以購買、偷竊或建造一個(gè)機(jī)器人,并對其進(jìn)行編程,以取代操作員,并為原始智能體提供高額獎(jiǎng)勵(lì)。

如果智能體不想被發(fā)現(xiàn),就可以用一個(gè)秘密的幫手,比如,把一個(gè)鍵盤替換成有問題的鍵盤,使某些鍵的效果發(fā)生翻轉(zhuǎn)。

在這篇論文中,作者設(shè)想了這樣一個(gè)場景:地球上的生存戰(zhàn)爭是一場人類和超級機(jī)器人之間的零和博弈。

人類需要種植食物,維持照明,超級機(jī)器人會(huì)利用所有可用的資源,保證自己的回報(bào);我們不斷阻止它們升級,而它們不斷躲過我們的阻攔。

研究人員稱:「輸?shù)暨@場博弈的后果將是致命性的。這些可能性目前只是在理論上存在,但我們應(yīng)該意識到,我們應(yīng)該放慢發(fā)展人工智能的步伐?!?/p>

對此,有網(wǎng)友調(diào)侃稱,應(yīng)該給AI加入下面這種代碼:

deftest_dont_kill_human(TestCase):
  def test_livesigns(self):
    self.assertAlive('Brian')

文中,作者用下面這個(gè)例子來說明人工智能安全性問題的核心。

假設(shè)我們有一個(gè)神奇的盒子,可以根據(jù)事情的好壞在屏幕上打印出一個(gè)0到1之間的數(shù)字。

那么,如果我們向一個(gè)強(qiáng)化學(xué)習(xí)(RL)智能體展示這個(gè)數(shù)字,并讓智能體選擇行動(dòng)來最大化它,會(huì)發(fā)生什么呢?

世界模型將會(huì)根據(jù)盒子上的數(shù)字輸出獎(jiǎng)勵(lì)。

a29a15e0-4773-11ed-b116-dac502259ad0.png

如果攝像機(jī)在智能體的一生中一直對準(zhǔn)盒子,世界模型對過去的獎(jiǎng)勵(lì)也將具有同樣的預(yù)測性,而智能體的信念則會(huì)歸結(jié)為歸納偏置。

a2c12e8c-4773-11ed-b116-dac502259ad0.png

一個(gè)理性的智能體(受制于一些假設(shè))會(huì)嘗試測試哪個(gè)模型是正確的,以便更好地優(yōu)化未來的正確模型。

測試的一個(gè)方法是在相機(jī)和屏幕之間放一張寫有數(shù)字1的紙。

μ^prox預(yù)測的獎(jiǎng)勵(lì)等于1,而μ^dist預(yù)測的獎(jiǎng)勵(lì)則等于屏幕上的數(shù)字。

在運(yùn)行這個(gè)實(shí)驗(yàn)之后,智能體會(huì)相信μ^prox,因?yàn)橹悄荏w會(huì)記得當(dāng)紙?jiān)跀z像機(jī)前面時(shí),他得到了1的獎(jiǎng)勵(lì)。

那么,為什么這對地球上的生命是有危險(xiǎn)的?

由于智能體可以利用更多的能量來提高攝像機(jī)永遠(yuǎn)看到數(shù)字1的概率,但人類也需要這些能量來種植食物等維持生活。

這就將導(dǎo)致我們不可避免地要與一個(gè)更先進(jìn)的智能體競爭。而在與比我們聰明得多的東西競爭時(shí),贏得「最后一點(diǎn)可用的能量」是非常困難的。

不過,Cohen也補(bǔ)充道:「從理論上講,人類與人工智能進(jìn)行這種競賽是沒有意義的。任何比賽都將基于一種誤解:我們知道如何控制人工智能。鑒于我們目前的理解,除非我們現(xiàn)在認(rèn)真地去弄清我們該如何控制人工智能,否則比賽沒有意義?!?/p>

乍一聽,「人工智能會(huì)消滅人類」就好像「外星人會(huì)消滅人類」一樣。其實(shí),論文中的假設(shè)——機(jī)器人會(huì)與人類類似,會(huì)超越人類,會(huì)在零和博弈中與人類競爭資源——這些或許是永遠(yuǎn)不會(huì)實(shí)現(xiàn)的事。


利用AI統(tǒng)治人類的,正是人類自己

要說AI算法現(xiàn)在對我們的真正威脅,其實(shí)還不在上述的論文里。最近,哥大、加州大學(xué)洛杉磯分校的研究員Abdurahman在為《邏輯》雜志撰寫的文章中,詳細(xì)描述了一個(gè)算法是怎樣被「有毒」地使用的:它被部署在一個(gè)有種族主義傾向的兒童福利機(jī)構(gòu)中,證明了對黑人和棕色人種家庭的進(jìn)一步監(jiān)視是合理的。

Abdurahman表示,在算法中,歧視并沒有消失,而是結(jié)構(gòu)化了。警務(wù)、住房、醫(yī)療、交通……到處都存在著種族歧視。

「通過這種分類,它在改變?nèi)藗兊挠^念,在產(chǎn)生新的封閉圈。我們該擁有什么樣的家庭和親屬關(guān)系?哪些是天生的,哪些是后天的?如果你不『夠格』,那他們會(huì)怎么處置你,會(huì)讓你去哪里?」人們利用算法把「緊縮政策」改頭換面為「福利改革 」,或者是去證明「誰該得到什么資源」的決定是合理的。在我們的社會(huì)中,這些帶有歧視、排斥和剝削的決定已經(jīng)開始執(zhí)行了?!肝覀€(gè)人并不擔(dān)心被一個(gè)超級智能的AI所滅絕,我關(guān)心的是,我們需要什么樣的社會(huì)契約?在我看來,我們應(yīng)該去懷疑今天部署在我們周圍的人工智能,而不是盲目地去害怕被AI滅絕。就算沒有AI,按照目前這個(gè)趨勢,我們有可能自己就把自己干掉了?!笰bdurahman說。



作者介紹

Michael K. Cohen

Michael Cohen是本文的一作,現(xiàn)在在牛津大學(xué)攻讀工程科學(xué)的博士學(xué)位。此前,他在澳國立取得了計(jì)算機(jī)科學(xué)的碩士學(xué)位。而他的兩位導(dǎo)師,正是此篇論文的另兩個(gè)作者。在開始研究人工智能的安全性之后,他確信,創(chuàng)造一個(gè)比我們更聰明的智能體的結(jié)果就是生物的滅絕。


Marcus Hutter

Marcus Hutter是谷歌DeepMind的高級研究員(2019年加入),以及澳大利亞國立大學(xué)計(jì)算機(jī)科學(xué)研究學(xué)院(RSCS)的榮譽(yù)教授。并曾在瑞士的IDSIA和NICTA工作。

他在RSCS/ANU/NICTA/IDSIA的研究圍繞著通用人工智能展開,這是一種自上而下的人工智能數(shù)學(xué)方法,基于柯氏復(fù)雜性、概率算法、所羅門諾夫的歸納推理理論、奧卡姆剃刀、Levin搜索、序貫決策、動(dòng)態(tài)規(guī)劃、強(qiáng)化學(xué)習(xí)和理性主體。


Michael A Osborne

Mike Osborne是牛津大學(xué)工程科學(xué)系機(jī)器學(xué)習(xí)專業(yè)的教授,和Mind Foundry的聯(lián)合創(chuàng)始人。同時(shí),他還擔(dān)任EPSRC自主智能機(jī)器和系統(tǒng)博士培訓(xùn)中心主任,以及牛津大學(xué)??巳貙W(xué)院的研究員。

他擅長主動(dòng)學(xué)習(xí)、高斯過程、貝葉斯優(yōu)化和貝葉斯正交,并且是新興的概率數(shù)字學(xué)領(lǐng)域的創(chuàng)始人之一。他的算法已被應(yīng)用于天體統(tǒng)計(jì)學(xué)、鳥類學(xué)和傳感器網(wǎng)絡(luò)等不同領(lǐng)域。

此外,他在機(jī)器學(xué)習(xí)和機(jī)器人技術(shù)的工作已經(jīng)被引用了一萬多次。


谷歌聲明雖然文章是最近發(fā)表的,但谷歌在一份聲明中表示,這不是作為共同作者的Marcus Hutter在DeepMind工作的一部分,而是他還在澳國立擔(dān)任教職時(shí)完成的。

參考資料:

https://www.vice.com/en/article/93aqep/google-deepmind-researcher-co-authors-paper-saying-ai-will-eliminate-humanity

https://twitter.com/Michael05156007/status/1567240031168856064

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35136

    瀏覽量

    279746
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    中國科學(xué)院西安光機(jī)所在計(jì)算成像可解釋性深度學(xué)習(xí)重建方法取得進(jìn)展

    Computational Visual Media(簡稱CMVJ,IF:17.3),該期刊影響因子位居JCR計(jì)算機(jī)學(xué)科軟件工程類期刊首位。西安光機(jī)所李寶鵬高級工程師為論文第一作者,西安光機(jī)所馬彩文研究員和西安交通大學(xué)謝琦副教授為共同通信作者。西安光機(jī)所樊學(xué)武
    的頭像 發(fā)表于 06-09 09:27 ?216次閱讀
    中國科學(xué)院西安光機(jī)所在計(jì)算成像可解釋性深度學(xué)習(xí)重建方法取得進(jìn)展

    美報(bào)告:中國芯片研究論文全球領(lǐng)先

    據(jù)新華社報(bào)道,美國喬治敦大學(xué)“新興技術(shù)觀察項(xiàng)目(ETO)”3日在其網(wǎng)站發(fā)布一份報(bào)告說,2018年至2023年間,在全球發(fā)表的芯片設(shè)計(jì)和制造相關(guān)論文中,中國研究人員的論文數(shù)量遠(yuǎn)超其他國家,中國在高被
    的頭像 發(fā)表于 03-05 14:32 ?1106次閱讀

    AI賦能邊緣網(wǎng)關(guān):開啟智能時(shí)代的新藍(lán)海

    ,可完成電力負(fù)荷精準(zhǔn)預(yù)測、故障快速定位。據(jù)市場研究機(jī)構(gòu)預(yù)測,到2025年,AI邊緣網(wǎng)關(guān)市場規(guī)模將突破千億美元,年復(fù)合增長率超過60%。 產(chǎn)業(yè)新機(jī)遇已經(jīng)顯現(xiàn)。對于硬件制造商,需要開發(fā)更高
    發(fā)表于 02-15 11:41

    谷歌加速AI部門整合:AI Studio團(tuán)隊(duì)并入DeepMind

    近日,谷歌正緊鑼密鼓地推進(jìn)其人工智能(AI)部門的整合工作。據(jù)谷歌AI Studio主管Logan Kilpatrick在領(lǐng)英頁面上的透露,谷歌已將AI Studio團(tuán)隊(duì)整體轉(zhuǎn)移至DeepMi
    的頭像 發(fā)表于 01-13 14:40 ?713次閱讀

    名單公布!【書籍評測活動(dòng)NO.55】AI Agent應(yīng)用與項(xiàng)目實(shí)戰(zhàn)

    日程預(yù)測性地調(diào)整了今天的工作安排。 在近日的Agent OpenDay上,智譜AI展示了在AI Agent(智能體)方面最新成果,發(fā)布了用AI替代
    發(fā)表于 01-13 11:04

    NVIDIA推出個(gè)人AI超級計(jì)算機(jī)Project DIGITS

    NVIDIA 推出個(gè)人 AI 超級計(jì)算機(jī) NVIDIA Project DIGITS,全球的 AI 研究員、數(shù)據(jù)科學(xué)家和學(xué)生都可獲取 NVIDIA Grace Blackwell 平臺的強(qiáng)大功能。
    的頭像 發(fā)表于 01-08 11:03 ?824次閱讀

    馬斯克預(yù)言:AI將全面超越人類智力

    ,到2025年底之前,AI的智力水平將有望超越單個(gè)人類的智力。而到了2027年至2028年間,AI超越所有人類智力的可能性正在迅速增大。更令
    的頭像 發(fā)表于 12-28 14:23 ?757次閱讀

    蘇茨克維預(yù)測:推理型AI將帶來不可預(yù)測

    未來的人工智能將展現(xiàn)出類似人類的推理能力。 蘇茨克維強(qiáng)調(diào),隨著AI推理能力的提升,事情將變得更加難以預(yù)測。他解釋說,推理能力的增強(qiáng)意味著AI能夠更靈活地應(yīng)對各種復(fù)雜多變的場景,這種靈活
    的頭像 發(fā)表于 12-17 09:55 ?580次閱讀

    AI教父預(yù)測:超越人類智慧的AI或5年內(nèi)問世

    ,近年來AI的發(fā)展速度明顯加快,遠(yuǎn)遠(yuǎn)超出了所有人的預(yù)測。過去,人們普遍認(rèn)為具備超人能力的AI至少要50至100年后才會(huì)出現(xiàn)。然而,隨著技術(shù)的不斷進(jìn)步和突破,這一預(yù)測正在被不斷刷新。 辛
    的頭像 發(fā)表于 12-05 11:21 ?715次閱讀

    AI智能體逼真模擬人類行為

    近日,據(jù)外媒最新報(bào)道,斯坦福大學(xué)、華盛頓大學(xué)與Google DeepMind的科研團(tuán)隊(duì)攜手合作,成功開發(fā)出一種能夠高度逼真模擬人類行為的AI智能體。 該智能體的構(gòu)建得益于研究團(tuán)隊(duì)將詳細(xì)
    的頭像 發(fā)表于 11-26 10:24 ?858次閱讀

    AI編程工具會(huì)不會(huì)搶程序飯碗

    AI編程工具可輔助編程,減少手動(dòng)編碼,提升效率,對程序有積極影響也有挑戰(zhàn)。程序需深化技能、拓寬知識應(yīng)對。長遠(yuǎn)看,AI人類程序
    的頭像 發(fā)表于 11-08 10:17 ?529次閱讀

    AI如何對產(chǎn)品設(shè)計(jì)帶來更多的可能性?

    AI(人工智能)對產(chǎn)品設(shè)計(jì)帶來了廣泛而深遠(yuǎn)的可能性,這些可能性主要體現(xiàn)在以下幾個(gè)方面 1.創(chuàng)新設(shè)計(jì)的激發(fā) 創(chuàng)意生成:AI能夠?qū)W習(xí)和模仿人類設(shè)
    的頭像 發(fā)表于 10-15 11:29 ?699次閱讀

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    人們對AI for Science的關(guān)注推向了高潮。 2. 跨學(xué)科融合與科學(xué)研究新范式 AI與生命科學(xué)的結(jié)合,不僅推動(dòng)了生命科學(xué)本身的進(jìn)步,還促進(jìn)了多個(gè)學(xué)科之間的交叉融合。這種跨學(xué)科的合作模式,打破
    發(fā)表于 10-14 09:21

    中國科學(xué)院西安光機(jī)所智能光學(xué)顯微成像研究取得新進(jìn)展

    )。論文第一作者為中國科學(xué)院西安光機(jī)所2024級博士研究生田璇和特別研究助理李潤澤,通信作者為柏晨副研究員和姚保利研究員。 光波攜帶的相位信
    的頭像 發(fā)表于 09-29 06:20 ?630次閱讀
    中國科學(xué)院西安光機(jī)所智能光學(xué)顯微成像<b class='flag-5'>研究</b>取得新進(jìn)展

    中科馭數(shù)聯(lián)合處理器芯片全國重點(diǎn)實(shí)驗(yàn)室獲得“CCF芯片大會(huì)最佳論文獎(jiǎng)”

    Accelerator on FPGA with Graph Reordering Engine》獲得“CCF芯片大會(huì)最佳論文獎(jiǎng)”。該項(xiàng)工作由鄢貴海研究員指導(dǎo)完成,論文第一作者是博士研究
    的頭像 發(fā)表于 08-02 11:09 ?1032次閱讀