【導(dǎo)讀】網(wǎng)友用GPT-4復(fù)現(xiàn)了AlphaDev的排序算法優(yōu)化,讓DeepMind的新論文看起來沒有那么耀眼了。
前幾天,Google DeepMind基于AlphaZero開發(fā)了一種新算法——AlphaDev。
據(jù)稱,這個算法可以創(chuàng)造出比人類編寫的算法快3倍的排序算法。
消息剛出的時候,很多網(wǎng)友都認(rèn)為這是機(jī)器學(xué)習(xí)領(lǐng)域的重大突破。
但經(jīng)過一段時間的發(fā)酵之后,部分網(wǎng)友對AlphaDev取得的成就的評價似乎出現(xiàn)了分歧。
先是一位推特網(wǎng)友表示,用GPT-4也成功地發(fā)現(xiàn)了和AlphaDev發(fā)現(xiàn)的幾乎一樣的算法。
然后不少網(wǎng)友也在討論,覺得AlphaDev取得的實(shí)際成果和他們自己吹的「歷史性突破」差距過大。
網(wǎng)友的這些討論甚至把馬庫斯也引來圍觀看熱鬧了。
此外,馬院士也回復(fù)了用GPT-4發(fā)現(xiàn)算法的網(wǎng)友,「推特老板到此一游」
GPT-4也能「發(fā)現(xiàn)」同樣的算法
現(xiàn)在我們來看看這位用GPT-4發(fā)現(xiàn)和AlphaDev幾乎一樣算法的網(wǎng)友到底是怎么做到的。
他把自己的Prompt和GPT-4的回復(fù)都Po了出來。
順便問了一句,我這東西能發(fā)Nature嗎?
網(wǎng)友的提示詞有兩個部分,第一個部分讓GPT-4針對這段排序算法進(jìn)行優(yōu)化,標(biāo)注出哪段指令可以刪除,再一步一步解釋原因,然后回頭再驗證一遍。
然后他又給了第二部分提示詞,讓GPT-4根據(jù)上面的提示詞繼續(xù)做,讓Temperature=0(保持結(jié)果的一致性)。
最后GPT-4還小小地總結(jié)了一下。
認(rèn)為刪除「mov S P」,再把刪除后代碼的P用S替換一下就行。
AlphaDev發(fā)現(xiàn)的算法
如下圖示例,原始sort3實(shí)現(xiàn),有min(A, B, C),使用AlphaDev Swap Move,AlphaDev發(fā)現(xiàn),你只需要min(A, B)。
對比網(wǎng)友用GPT-4的優(yōu)化內(nèi)容,只能說是一模一樣!
不知道是GPT-4過于強(qiáng)大,還是說AlphaDev確實(shí)也就那樣?
AlphaDev被吹得有些過頭了?
馬庫斯也在推特上轉(zhuǎn)載了一段YC社區(qū)網(wǎng)友對于AlphaDev發(fā)現(xiàn)的算法這個事比較刻薄評價。
YC社區(qū)的用戶orlp指出,他們能夠在某個libc++算法上取得70%的改進(jìn)主要是因為這個庫在過去10年中沒有得到積極開發(fā)。
此外,DeepMind的改進(jìn)能起作用其實(shí)是因為庫本身在無分支排序網(wǎng)絡(luò)的高效實(shí)現(xiàn)方面存在一些問題。
其他用戶指出,這種觀點(diǎn)「過于極端」了,算法能夠自動生成新的排序算法已經(jīng)是很了不起的一件事了。
orlp回復(fù)說,雖然該算法確實(shí)能夠自動生成良好的代碼,但它遠(yuǎn)未達(dá)到革命性或改進(jìn)現(xiàn)有技術(shù)水平的程度。
網(wǎng)友主要的觀點(diǎn)認(rèn)為算法并沒有找到全新的排序方法,而只是對代碼進(jìn)行了優(yōu)化。
但是,其實(shí)已經(jīng)存在「超級優(yōu)化器」的程序能夠以不同的原理實(shí)現(xiàn)類似的效果。
論文地址:https://courses.cs.washington.edu/courses/cse501/15sp/papers/massalin.pdf
而且在GitHub上也有項目已經(jīng)完成了更加快速的排列網(wǎng)絡(luò)的自動搜索,效果似乎比AlphaDev的算法還要好。
項目地址:https://github.com/bertdobbelaere/SorterHunter
不少國內(nèi)網(wǎng)友還是選擇相信AlphaDev,搞不好是因為GPT-4抄得快,不一定是原創(chuàng)。
不過確實(shí)有些讀者認(rèn)為,這類改進(jìn)確實(shí)意義不算特別大。
-
算法
+關(guān)注
關(guān)注
23文章
4739瀏覽量
96718 -
GPT
+關(guān)注
關(guān)注
0文章
368瀏覽量
16597 -
DeepMind
+關(guān)注
關(guān)注
0文章
131瀏覽量
11959
原文標(biāo)題:GPT-4兩句話復(fù)刻DeepMind最快排序算法?馬庫斯:過于諷刺
文章出處:【微信號:AI智勝未來,微信公眾號:AI智勝未來】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
【RA4M2-SENSOR】3、使用GPT定時器-PWM輸出
OpenAI或在周五凌晨發(fā)布GPT-5 OpenAI以低價向美國政府提供ChatGPT
思必馳聲音復(fù)刻算法獲得深度合成服務(wù)算法備案

華礪智行智能網(wǎng)聯(lián)云控平臺接入DeepSeek
OpenAI宣布GPT 4o升智計劃
OpenAI即將發(fā)布GPT-4.5與GPT-5
DeepSeek登頂蘋果中美兩區(qū)App免費(fèi)榜
【RA-Eco-RA2L1-48PIN-V1.0開發(fā)板試用】——PWM
OpenAI報告GPT-4o及4o-mini模型性能下降,正緊急調(diào)查
TimSort:一個在標(biāo)準(zhǔn)函數(shù)庫中廣泛使用的排序算法
Llama 3 與 GPT-4 比較
科大訊飛發(fā)布訊飛星火4.0 Turbo:七大能力超GPT-4 Turbo
時間復(fù)雜度為 O(n^2) 的排序算法

評論