我很懶，愛寫字但從不發(fā)，但因為 OpenAI 這次分裂的歷史意義太大，突然把我這幾個月不太理解的事情，串到了一起。所以連夜寫了人生第一篇公眾號。

本文不討論董事會政變的八卦，OpenAI 奇怪的治理結構，以及 Sam 和 Ilya 到底誰對誰錯，我充分尊重這兩個人的底層品質。如此不可思議的事情，必定藏著某種深層沖突。無論 Sam 最終是否會離開，本文探討的沖突，應該會持續(xù)有效：

有效加速主義 和 超級“愛”對齊 的理念沖突，以及一個變量：GPT-5 是數(shù)字生命，還是工具？

這些詞看著唬人，嘗試解釋下。

有效加速主義

英文叫做 e/acc，是一群硅谷的科技精英們搞出來的一種科技價值觀運動，你會發(fā)現(xiàn)有大量的 twitter 賬號帶有這個 e/acc 的后綴，可見其受眾之廣泛。

那這到底是什么玩意兒，以及為什么會和 Sam 被驅逐有關？首先就要解釋 e/acc。我的簡單版理解：

人類應該無條件地加速技術創(chuàng)新，并快速推出他們，來顛覆社會結構。

e/acc 運動認為這種對社會的顛覆風險，本質上對人類有利，因為會迫使人類適應，從而幫助我們更快達到更高的意識水平。

過去三百年人類隨著技術的顛覆而進化，結果顯然都非常好。

很顯然，e/acc 的支持者對 AGI 的態(tài)度也是一致的：讓盡可能多的人參與，更快地推出產(chǎn)品，更快地顛覆，從而讓人類更好地進化。是不是，有點「大力出奇跡」的意思？

Sam Altman 是 有效加速主義者嗎？

我認為答案很確定，是的。盡管很多人說，你看 Sam 還去國會呼吁減速 AI 的發(fā)展，天天說 AI 的風險，不是應該是個「減速主義者」嗎？其實他從來沒有公開表達過自己 e/acc 的立場。但是似乎有一些蛛絲馬跡讓人相信。

MindOS 上分析到的小道消息

證據(jù)1：Garry Tan 作為 Sam 的接任者來執(zhí)掌 YC，我很難想象他們不是一類人。以及有八卦說 Sam 被懷疑有小號來發(fā)表自己的加速主義立場。

證據(jù)2：這次 Sam 被驅逐，很多掛著 e/acc 的人已經(jīng)把 Sam 當做一個象征。從 GPTs 的倉促推出，對 Worldcoin 項目的大力投資，他是懂怎么「加速」的。

所以我傾向于認為，Sam 的減速表象，是內部妥協(xié)，尤其是對 Ilya 的妥協(xié)。

超級對齊是什么？

我在今年 7 月看到 Ilya 說要成立一個「超級對齊」項目 的時候，也是一臉問號。難道 ChatGPT 這么生硬的表達，還不夠對齊嗎？

但最近我才逐漸理解了 Ilya 的意思?？梢钥催@段兩周前的采訪，以及被人爆料的，Ilya 在乎的「不是AI 有情感，而是 AI 有對人類真正的愛」。聽上去似乎是個讓人無語的「白蓮花阻礙進步」的故事嗎？其實不然，可以聽一下：

為了真正理解這句話，我們需要審視一下現(xiàn)在的對齊，一種是所謂的價值觀層面（比如同性戀應該被尊重），一種是所謂的話題層面（比如不讓搞黃色）。但這些真的夠嗎？如果是個聊天機器人（比如去年的 ChatGPT），那完全夠了。但如果是個具有自主決策和行動能力的超級智能呢，可能就有一個大大的問號了。

為什么超級「愛」對齊那么重要？

所以 超級對齊 項目，本質是 Super-LOVE-alignment，超級「愛」對齊。這種 LOVE，是大愛，并非情愛，是人性底層那種無條件的，無關自我的，對于人類的愛，是一種「神性」的愛，一種就像 孔子、耶穌、釋迦摩尼 這些給文明帶來深遠影響的無條件的愛。你或許覺得這樣講太戲劇性了，但如果人類的歷史上，沒有這些偉大的人格帶來的偉大的精神，作為文明的壓艙石，就憑自私的人類，今天的世界可能會糟糕的多。

一個有趣的個人插曲，是在3年前，我在一個分享中借鑒了唯識的思想，來把 AI 的意識發(fā)展分為，從感知（傳統(tǒng) AI，第1-5識），到認知（GPT-4，第6識），到自我意識（Autonomous AI Agent，第7識），到智慧和愛（AI Being？第8識）。而 Ilya 相信，AI 能判斷價值觀是遠遠不夠的，因為人類歷史上也很多次出現(xiàn)了價值觀上無懈可擊，卻最終釀成巨大悲劇的故事。

解法是什么？那就是讓 AI 對齊那種底層的「無條件對人類的愛」，這可能是現(xiàn)有的對齊技術通過 RLHF 注入無法做到的。只有擁有了這個，那么 比人更強大的 AI 才真的不會毀滅掉我們。當年我還認為這是科幻小說該考慮的問題，可見他的層次之高。

那不能先推出 AGI，再修正呢？Ilya 認為不能，他認為技術的本質類似于人類的生物進化（這點諷刺地和 e/acc 的人一致）。但他認為進化的起點很重要。如果進化的開始，是一個沒有「無條件對人類的愛」的 AI，那最終也一定會把我們人類帶到溝里去。

變量：AI 是數(shù)字生命，還是工具

我們應該成為一個 e/acc，還是 超級「愛」對齊 主義者？又為什么是現(xiàn)在這個時間點，突然驅逐掉 Sam？這些決策背后突變的因素到底是什么？

先講一個小背景：從各種消息源來個人猜測，OpenAI 內部應該在幾周前討論了 GPT-5 的初步結果，能力上應該是非常顛覆的。而對下一步的行動，Sam 和 Ilya 應該是有巨大的分歧（可以看到 Sam 在 APEC 上的發(fā)言，已經(jīng)證實了這次突破的存在）。

要解答上面的問題，取決于你認為 GPT-5 上的智能體，是數(shù)字生命，還是工具？如果我們用最簡單的標準，判斷是否是「數(shù)字生命」，那就是「是否具有完全的自主性」，如果依賴人類來決策和使用的技術，那就只是「工具」。e/acc 最大的悖論在于，所有我們歷史上可以借鑒的案例，本質上都是「更好的工具」，這可能是 e/acc 起作用的原因。但如果現(xiàn)在出現(xiàn)的是「數(shù)字生命」呢？社會的一份子，甚至是社會的管理者呢？一個比人強大的數(shù)字生命，真的可以沒有「底層的對人類的愛」嗎？如果真的那樣，我也會替人類的未來擔心，何止是失業(yè)呢。

所以，你是一個 e/acc，還是一個超級對齊主義者，本質上的區(qū)別在于你怎么看 AI 對社會的本質。

所以，我偏向于相信 OpenAI 應該搞定了一些關鍵技術，然后生產(chǎn)了一個非常顛覆的新版本，自主性大大增強。而 Ilya 認為在通過超級對齊為他注入「對人類的愛」之前，這個版本的 AI，必須要我們拋棄有效加速主義的思想。如果沒法形成共識，就拋棄擁有這個思想的人，立刻，馬上。

哪怕這個人，可能是人類歷史上最厲害的幾個 CEO 之一。

審核編輯：黃飛