ChatGPT之父警告AI可能滅絕人類

此前先是特斯拉CEO埃隆·馬斯克在內(nèi)的1000多名行業(yè)高管和專家簽署公開信，積極呼吁在6個月內(nèi)暫停更高級AI的開發(fā)；呼吁暫停開發(fā)比GPT-4更強大的人工智能6個月時間，要先制定一套安全協(xié)議?，F(xiàn)在ChatGPT之父警告AI可能滅絕人類。

是的，你沒有看錯，不是在寫科幻小說。

“ChatGPT之父”等350名行業(yè)大佬共同警告：AI可能給人類帶來滅絕；這封信于周二發(fā)表在非營利組織人工智能安全中心（CAIS）的網(wǎng)站上，簽署者包括“ChatGPT之父”O(jiān)pen AI首席執(zhí)行官山姆·奧特曼、DeepMind首席執(zhí)行官Demis Hassabis、Anthropic首席執(zhí)行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話：“減輕AI帶來的滅絕風(fēng)險，應(yīng)該與流行病和核戰(zhàn)爭等其他社會規(guī)模的風(fēng)險一起，成為全球優(yōu)先事項?！?/p>

當(dāng)然呼吁政府進行加強監(jiān)管這個本身是對的，此外，也有其他的一些聲音，比如微軟首席科學(xué)官埃里克·霍維茨曾公開宣稱：AI的研發(fā)應(yīng)該要“加速”。

此前；七國集團領(lǐng)導(dǎo)人就制定和建立人工智能（AI）技術(shù)標準作出了積極呼吁，敦促行業(yè)和監(jiān)管者確保人工智能“值得信賴”。歐盟已經(jīng)接近通過一項人工智能技術(shù)監(jiān)管的立法，這也有望成為全球首部全面的人工智能法案。

回顧一下有關(guān)叫停 6 個月 AI 研究的公開信的原文：

人工智能具有與人類競爭的智能，這可能給社會和人類帶來深刻的風(fēng)險，這已經(jīng)通過大量研究得到證實，并得到了頂級AI實驗室的認可。正如廣泛認可的阿西洛馬爾人工智能原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應(yīng)該以相應(yīng)的關(guān)注和資源進行規(guī)劃和管理。不幸的是，即使在最近幾個月， AI 實驗室在開發(fā)和部署越來越強大的數(shù)字化思維方面陷入了失控的競爭，而沒有人能夠理解、預(yù)測或可靠地控制這些數(shù)字化思維，即使是它們的創(chuàng)造者也無法做到這一點。現(xiàn)代 AI 系統(tǒng)現(xiàn)在已經(jīng)在通用任務(wù)方面具有與人類競爭的能力，我們必須問自己：

我們應(yīng)該讓機器充斥我們的信息渠道，傳播宣傳和謊言嗎？

我們應(yīng)該將所有工作都自動化，包括那些令人滿足的工作嗎？

我們應(yīng)該發(fā)展可能最終超過、取代我們的非人類思維嗎？

我們應(yīng)該冒失控文明的風(fēng)險嗎？這些決策不應(yīng)該由非選舉產(chǎn)生的科技領(lǐng)導(dǎo)人來負責(zé)。只有當(dāng)我們確信AI系統(tǒng)的影響是積極的，風(fēng)險是可控的，我們才應(yīng)該開發(fā)強大的AI系統(tǒng)。這種信心必須得到充分的理由，并隨著系統(tǒng)潛在影響的增大而增強。

OpenAI 最近關(guān)于人工智能的聲明指出：「在某個時候，可能需要在開始訓(xùn)練未來系統(tǒng)之前獲得獨立審查，對于最先進的努力，需要同意限制用于創(chuàng)建新模型的計算增長速度?！刮覀兺狻，F(xiàn)在就是那個時刻。因此，我們呼吁所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓(xùn)練比 GPT-4 更強大的 AI 系統(tǒng)。這個暫停應(yīng)該是公開和可驗證的，并包括所有關(guān)鍵參與者。如果無法迅速實施這樣的暫停，政府應(yīng)該介入并實行一個暫禁令。

AI 實驗室和獨立專家應(yīng)該利用這個暫停時間共同制定和實施一套共享的先進 AI 設(shè)計和開發(fā)安全協(xié)議，這些協(xié)議應(yīng)該由獨立的外部專家嚴格審核和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)在合理懷疑范圍之外是安全的。

這并不意味著暫停AI發(fā)展，而只是從不斷邁向更大、不可預(yù)測的黑箱模型及其突現(xiàn)能力的危險競賽中退一步。AI 研究和開發(fā)應(yīng)該重點放在提高現(xiàn)有強大、先進系統(tǒng)的準確性、安全性、可解釋性、透明度、魯棒性、對齊、可信度和忠誠度。與此同時，AI 開發(fā)者必須與政策制定者合作，大力加速 AI 治理體系的發(fā)展。這些至少應(yīng)包括：

專門負責(zé) AI 的新的、有能力的監(jiān)管機構(gòu)；

對高能力 AI 系統(tǒng)和大型計算能力池的監(jiān)督和跟蹤；

用于區(qū)分真實與合成內(nèi)容、跟蹤模型泄漏的溯源和水印系統(tǒng)；

健全的審計和認證生態(tài)系統(tǒng)；對 AI 造成的損害承擔(dān)責(zé)任；

技術(shù)AI安全研究的充足公共資金；

應(yīng)對 AI 引起的巨大經(jīng)濟和政治變革（特別是對民主制度的影響）的資深機構(gòu)。人類可以在 AI 的幫助下享受繁榮的未來。在成功創(chuàng)造出強大的 AI 系統(tǒng)之后，我們現(xiàn)在可以享受一個「AI 盛夏」，在其中我們收獲回報，將這些系統(tǒng)明確地用于造福所有人，并讓社會有機會適應(yīng)。在面臨可能對社會造成災(zāi)難性影響的其他技術(shù)上，社會已經(jīng)按下了暫停鍵。在這里，我們也可以這樣做。讓我們享受一個漫長的AI盛夏，而不是毫無準備地沖向秋天。

ChatGPT火爆之后還帶動了大模型的火爆，我們看到消息爆出首個大模型創(chuàng)業(yè)大賽獎金達千萬元。

首個大模型創(chuàng)業(yè)大賽獎金達千萬元

5月31日，百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏在摩根大通全球中國峰會期間宣布，百度將設(shè)立10億元人民幣的百度文心投資基金。而且啟動“文心杯”創(chuàng)業(yè)大賽，最高獎項為價值1000萬元早期投資。

我們希望百度積淀多年的AI大模型技術(shù)為創(chuàng)業(yè)者奠定堅實基座，與創(chuàng)業(yè)者共創(chuàng)、共建，共同打造開放繁榮的AI大模型生態(tài)。

大賽獲獎團隊將贏取豐厚的資金與資源支持：

一等獎：1，000萬元 早期投資（現(xiàn)金+資源）

二等獎：500萬元 早期投資（現(xiàn)金+資源）

三等獎：200萬元 早期投資（現(xiàn)金+資源）

此外，獲獎團隊還有機會獲得一系列創(chuàng)業(yè)加速扶持：

與多家頂級基金的資深投資人面對面交流

專屬大模型技術(shù)指導(dǎo)，與百度AI大咖深度交流機會

媒體宣傳與曝光，擴大市場聲量與影響力

獲獎?wù)呓Y(jié)成“校友群”，收獲創(chuàng)業(yè)路上的可靠伙伴

你怎么看？AI的發(fā)展會導(dǎo)致人類滅絕嗎？