5月31日(當(dāng)?shù)貢r間),openai宣布其開始對抗人工智能的“錯覺”,并采用新的方法來訓(xùn)練人工智能模型。
據(jù)說,如果open ai開發(fā)的chatgpt和谷歌開發(fā)的bard等模型完全捏造信息,就像羅列事實(shí)一樣,顯示ai的“幻覺(hallucination)”。例如,在谷歌今年2月公開的bard宣傳視頻中,聊天機(jī)器人對詹姆斯-韋伯太空望遠(yuǎn)鏡進(jìn)行了虛假說明。chatgpt最近在紐約聯(lián)邦法院寫了一份引用虛假案件的文件,涉及此案的紐約律師可能會受到處罰。
目前,openai提出了一種新的方法——來緩解chatgpt中的“幻覺”,并讓激情變得更好,這是通過“過程監(jiān)督”來提高大ai模型的數(shù)學(xué)推理能力。
openai研究組在報(bào)告書中表示:“最先進(jìn)的模型也可能生成虛假信息——,有在不確定的瞬間捏造事實(shí)的傾向?!薄斑@種幻想在需要多個層次推論的領(lǐng)域尤其有問題,因?yàn)檫壿嬪e誤可能會破壞更大的解決方案。”
openai對抗ai“幻覺”的新戰(zhàn)略不是單純地因?yàn)檎_答案而給予補(bǔ)償,而是因?yàn)椴聦φ_的推理過程而給予補(bǔ)償。據(jù)研究者稱,這種方法被稱為“過程監(jiān)測”,而不是“結(jié)果監(jiān)測”。
這一策略也可能會導(dǎo)致更具描述性的人工智能,因?yàn)樗膭钅P透嗟刈裱祟悺八枷搿敝惖姆椒ㄦ?。除了結(jié)果監(jiān)控以外,過程監(jiān)控也有助于解決排序問題。
openai的研究人員還不知道這些結(jié)果是否適用于數(shù)學(xué)以外的領(lǐng)域,但他們認(rèn)為在其他領(lǐng)域探索“過程監(jiān)督”的影響也很重要。
-
模型
+關(guān)注
關(guān)注
1文章
3612瀏覽量
51445 -
聊天機(jī)器人
+關(guān)注
關(guān)注
0文章
348瀏覽量
12954 -
OpenAI
+關(guān)注
關(guān)注
9文章
1234瀏覽量
9611
發(fā)布評論請先 登錄
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+內(nèi)容總覽
芯片制造中高精度膜厚測量與校準(zhǔn):基于紅外干涉技術(shù)的新方法

無刷直流電機(jī)反電勢過零檢測新方法
今日看點(diǎn)丨OpenAI將發(fā)布新的GPT-4.5模型;三星西安工廠將升級286層NAND閃存工藝
OpenAI即將推出GPT-5模型
大華股份榮獲中國創(chuàng)新方法大賽一等獎
微軟尋求在365 Copilot中引入非OpenAI模型
OpenAI暫不推出Sora視頻生成模型API
基于遺傳算法的QD-SOA設(shè)計(jì)新方法

一種降低VIO/VSLAM系統(tǒng)漂移的新方法

評論