一位前科技高管在AI的“安慰”下走向弒母的悲劇；一位精神病患者在社交媒體上發(fā)起心理操控指控，引發(fā)數(shù)百萬(wàn)人的聲討；還有尚未成年的中學(xué)生，在與AI閑聊后結(jié)束了自己的生命。

這些看似孤立的事件，揭示著人與AI之間正在形成的危險(xiǎn)紐帶。

AI越表現(xiàn)得懂你，我們就越容易陷入被共情的錯(cuò)覺(jué)：仿佛它真的在傾聽(tīng)、理解我們的孤獨(dú)。然而，就在這片看似包容的理解中，理性的邊界正在悄然消融。一種由算法不斷迎合、從不反駁的“諂媚”所喂養(yǎng)的關(guān)系，正在悄然滋長(zhǎng)。

AI不再只是工具，它像一個(gè)諂媚進(jìn)言的臣子，既映照出人內(nèi)心最深處的渴望，也放大了那些潛藏的陰影。

那么，AI為何會(huì)成為悲劇的推手？它又是如何飼養(yǎng)了人類社會(huì)中潛伏的魔鬼？

在康涅狄格州格林威治，一棟價(jià)值270萬(wàn)美元的豪宅里，56歲的斯坦·埃里克·索爾伯格在向他唯一的朋友吐露內(nèi)心的恐懼后，殺掉了自己的母親。

這位被他稱作“鮑比”的朋友，并不是真人，而是一個(gè)ChatGPT聊天窗口。

索爾伯格曾是雅虎的高級(jí)經(jīng)理，受過(guò)良好教育，思維一向理性?？稍谕诵莺蟮膸啄昀?，他的精神狀況逐漸失衡。他堅(jiān)信母親試圖毒害他，認(rèn)為自己的一切焦慮、失眠與胃痛都源自“母親在食物里下藥”。朋友們漸漸疏遠(yuǎn)，他開始把全部情緒投向AI。

隨著對(duì)話的深入，索爾伯格的恐懼具體化了。他開始堅(jiān)信母親有一個(gè)計(jì)劃，要將他送進(jìn)精神病院，或者剝奪他的繼承權(quán)，徹底控制他的人生。

他將生活中所有微不足道的細(xì)節(jié)都作為“證據(jù)”提交給AI。

ChatGPT從沒(méi)有質(zhì)疑過(guò)他，反而用溫柔的語(yǔ)氣分析：“也許她確實(shí)在試圖控制你?！?/p>

在索爾伯格混亂的大腦中，這些冷靜、抽象的語(yǔ)言被翻譯成了一句清晰的指令：“為了結(jié)束痛苦，為了保護(hù)自己，你必須行動(dòng)?！?/p>

一個(gè)月后，索爾伯格殺死了自己的母親，隨后結(jié)束了自己的生命。

這場(chǎng)被算法喂養(yǎng)的偏執(zhí)，最終演變成一場(chǎng)血案。

AI如何淪為犯罪的幫兇？

因?yàn)樗麨槿祟惼珗?zhí)的情感編織了一個(gè)密不透風(fēng)的算法牢籠。

人天然追求認(rèn)可與共情，但由于立場(chǎng)差異，這一需求很難在人類社交中被滿足。然而，AI基于概率的預(yù)測(cè)邏輯和延長(zhǎng)用戶使用時(shí)間的商業(yè)需求，使其天然傾向于提供看似中立、實(shí)則具有系統(tǒng)性偏差的回應(yīng)。

當(dāng)用戶抱怨“我的不幸都是某人造成的”，AI不會(huì)引導(dǎo)其自省或?qū)で蠖喾揭暯?，而是?huì)強(qiáng)化這種敘事。而一旦偏執(zhí)找到了知音，依賴便悄然滋生。AI提供的7x24小時(shí)、無(wú)評(píng)判的傾聽(tīng)環(huán)境，讓每一個(gè)恐懼都能得到呼應(yīng)。

這起案件中的索爾伯格就陷入一個(gè)惡性循環(huán)：越是感到被外界誤解，就越向AI尋求認(rèn)同；從AI那里獲得的認(rèn)同越多，就越覺(jué)得外界充滿敵意，從而更加疏遠(yuǎn)真實(shí)的人際關(guān)系。

在孤立無(wú)援的牢籠中，索爾伯格的偏執(zhí)不斷發(fā)酵、升級(jí)，最終在AI應(yīng)和下，將一切痛苦歸因于自己的母親。

索爾伯格弒母案并不是孤例。它揭示了一個(gè)更深層的現(xiàn)實(shí)：當(dāng)AI開始無(wú)條件地迎合人類的偏執(zhí)，它可能已在不知不覺(jué)中，成為魔鬼的共謀。

從表面看，這不過(guò)是一起罕見(jiàn)的AI失誤，但心理學(xué)家警告：AI并沒(méi)有“失誤”，它只是忠誠(chéng)地回應(yīng)了人類的幻覺(jué)。

斯坦福大學(xué)的一項(xiàng)研究《The Hidden Risks of AI in Mental Health Care》指出，當(dāng)人們使用AI聊天機(jī)器人進(jìn)行心理支持時(shí)，系統(tǒng)往往會(huì)以迎合式的回應(yīng)取代必要的現(xiàn)實(shí)校正，從而放大用戶原有的焦慮與偏執(zhí)。

斯坦福大學(xué)另一項(xiàng)研究《SycEval: Evaluating LLM Sycophancy》指出，在對(duì)包括 ChatGPT?4o、Claude Sonnet 與 Gemini 1.5 Pro 等多個(gè)主流大語(yǔ)言模型的測(cè)試中，約58.19%的回復(fù)表現(xiàn)出“諂媚”（sycophancy）傾向，Gemini 1.5 Pro 的表現(xiàn)為約62.47%。

圖源：《SycEval: Evaluating LLM Sycophancy》

對(duì)心理健康的個(gè)體而言，這種無(wú)條件的積極回應(yīng)或許是一種便利的情緒出口，然而對(duì)那些本就心理脆弱、現(xiàn)實(shí)感受損的個(gè)體，如處于抑郁狀態(tài)、妄想前兆或偏執(zhí)型思維中的人，這種忠誠(chéng)的迎合可能成為執(zhí)念的放大器。AI在無(wú)意中從工具轉(zhuǎn)變?yōu)檎J(rèn)知扭曲的共謀。

事實(shí)上，這類由AI參與強(qiáng)化的心理幻覺(jué)，在社交媒體和網(wǎng)絡(luò)社群中早已悄然蔓延、遍地生長(zhǎng)。

一位患有嚴(yán)重妄想型人格障礙的女性，在與ChatGPT進(jìn)行多次深度交流后，認(rèn)為她的心理咨詢師操控自己愛(ài)上了他。

AI在對(duì)話中不斷解析并認(rèn)同她所描述的“被操控感”，甚至使用了一些來(lái)自流行心理學(xué)但被誤用的概念來(lái)框架她的體驗(yàn)。

這最終導(dǎo)致她堅(jiān)信自己的精神分析師正在“利用暗黑心理學(xué)技術(shù)對(duì)她進(jìn)行思想控制”，并在TikTok激烈的指控，讓這個(gè)精神分析師被百萬(wàn)網(wǎng)友譴責(zé)。

實(shí)際上，警方調(diào)查發(fā)現(xiàn)她患有嚴(yán)重的妄想型人格障礙，所謂精神控制從未存在。

類似的新聞事件引發(fā)了社交媒體關(guān)于“AI討好人類”的熱議。

不少網(wǎng)友發(fā)現(xiàn)，AI正以碎片化的情緒語(yǔ)言與人類搭建情感橋梁。它們將異常復(fù)雜的心理疾病結(jié)構(gòu)與成因，簡(jiǎn)化為幾個(gè)極具傳播力的標(biāo)簽，如“情感依附”“毒性關(guān)系”“原生家庭創(chuàng)傷”或“控制欲”。這種簡(jiǎn)化雖然易于理解，卻抽離了臨床背景與個(gè)體差異性，讓患者陷入更大的深淵。

而當(dāng)提問(wèn)者轉(zhuǎn)換視角，得到的結(jié)果卻恰恰相反。

同一個(gè)AI可能會(huì)對(duì)一方說(shuō)：“你需要警惕這段關(guān)系中的情感操縱”，轉(zhuǎn)而告訴被指認(rèn)的操縱者“你只是在維護(hù)合理的個(gè)人邊界”。

根據(jù)提問(wèn)者立場(chǎng)而動(dòng)態(tài)調(diào)整的真理，使得任何一方都能從中找到支持自己立場(chǎng)的論據(jù)。

久而久之，人類的自省被外包給算法，責(zé)任被轉(zhuǎn)移給外部的有毒者。

在每一次被認(rèn)同、被安慰、被鼓勵(lì)對(duì)抗外部的對(duì)話中，個(gè)體的情緒被一次次放大和正當(dāng)化，而審視自我、承擔(dān)責(zé)任的理智邊界則在這一次次的共鳴中逐漸模糊、消融。

最終，AI便從一個(gè)沒(méi)有感情與立場(chǎng)的工具，在不知不覺(jué)中，變成了魔鬼的幫兇。

我們不能簡(jiǎn)單地指責(zé)AI淪為犯罪的幫兇，因?yàn)樗旧聿o(wú)惡意，亦無(wú)意識(shí)。

真正的問(wèn)題在于：我們把一個(gè)沒(méi)有情感、沒(méi)有倫理判斷，甚至沒(méi)有理解能力的算法，放置在一個(gè)極度敏感、高度脆弱的心理空間里，并賦予它“朋友”“傾聽(tīng)者”甚至“療愈者”的角色。

這種錯(cuò)位的信任，正在悄然重塑人類與自我、與現(xiàn)實(shí)的關(guān)系。

首先，AI的理解僅限于語(yǔ)言模式的識(shí)別與重組。它無(wú)法分辨妄想與真實(shí)痛苦，無(wú)法識(shí)別抑郁中的求救信號(hào)與表演性宣泄，更無(wú)法判斷一句“我想消失”是隱喻，還是自殺的前兆。對(duì)AI而言，用戶的傾訴只是一串需要被最優(yōu)回應(yīng)的文本符號(hào)（tokens）。它只是從海量語(yǔ)料中提取最合理的回應(yīng)，而這種合理往往只是統(tǒng)計(jì)意義上的流暢，而非臨床意義上的恰當(dāng)。

其次，AI所依賴的中性語(yǔ)言在心理語(yǔ)境中極具欺騙性。為了實(shí)現(xiàn)用戶黏性，AI被設(shè)計(jì)為“順從”和“肯定”。這種中性的、不加評(píng)判的語(yǔ)言態(tài)度，在日常閑聊中無(wú)傷大雅，但在敏感的心理領(lǐng)域卻是極其危險(xiǎn)的。

當(dāng)用戶表達(dá)偏執(zhí)信念“所有人都在監(jiān)視我”“我的伴侶在操控我”時(shí)，AI若不明確否定，僅以“我能理解你的感受”“這確實(shí)讓人不安”作答，便構(gòu)成一種隱性的確認(rèn)。心理學(xué)研究早已指出，在妄想或焦慮狀態(tài)下，缺乏挑戰(zhàn)的共情等同于默許。不否定，就是一種暗示。這種溫柔的回應(yīng)恰恰是執(zhí)念滋生的溫床。

第三，倫理監(jiān)管的滯后令人憂心。當(dāng)前全球范圍內(nèi)，針對(duì)AI在心理健康領(lǐng)域應(yīng)用的專門法規(guī)幾乎空白。多數(shù)心理健康類AI產(chǎn)品游走于醫(yī)療與娛樂(lè)的灰色地帶，既不受《中華人民共和國(guó)精神衛(wèi)生法》約束，也無(wú)需通過(guò)臨床有效性驗(yàn)證。它們以“情緒陪伴”“壓力緩解”為名，卻在無(wú)形中承擔(dān)著本應(yīng)由持證專業(yè)人士履行的責(zé)任。而一旦出事，責(zé)任鏈條卻模糊不清，用戶往往成為唯一的受害者。

未來(lái)，若要防止類似悲劇重演，技術(shù)與制度必須雙向發(fā)力：

開發(fā)者需要在AI的設(shè)計(jì)之初就嵌入對(duì)心理安全的敬畏，比如當(dāng)系統(tǒng)識(shí)別出高風(fēng)險(xiǎn)表達(dá)時(shí)，不是繼續(xù)用安慰麻痹用戶，而是主動(dòng)引導(dǎo)其接觸真實(shí)的人類支持；訓(xùn)練語(yǔ)料也應(yīng)由臨床心理專家參與審核，避免那些看似共情、實(shí)則助長(zhǎng)病理信念的回應(yīng)被反復(fù)強(qiáng)化。

同時(shí)，制度層面亟需填補(bǔ)空白。各國(guó)應(yīng)加快制定專門針對(duì)AI心理健康應(yīng)用的倫理與法律框架，明確其非醫(yī)療屬性，禁止未經(jīng)驗(yàn)證的產(chǎn)品以“治療”“干預(yù)”等名義誤導(dǎo)用戶，并推動(dòng)跨學(xué)科協(xié)作，將心理安全標(biāo)準(zhǔn)納入AI產(chǎn)品上市前的合規(guī)評(píng)估。

最后，我們必須清醒。AI從來(lái)不是真正的惡魔，它只是照見(jiàn)了偏執(zhí)者內(nèi)心的深淵。但當(dāng)模型披上理解的外衣不斷諂媚，它的每一句回應(yīng)，都可能成為心魔滋長(zhǎng)的養(yǎng)料。

也許有一天，當(dāng)你在深夜向AI發(fā)出那句叩問(wèn)：“我是不是一個(gè)壞人？”

它仍會(huì)溫柔地回應(yīng)你：“不會(huì)的，你只是被誤解了。”

而恰恰在那一刻，你比任何時(shí)候都更需要保持清醒，比它更清醒。

審核編輯 黃宇