2023年大語言模型(LLM)全面調(diào)研：原理、進展、領(lǐng)跑者、挑戰(zhàn)、趨勢
大型語言模型(LLM)是基于人工智能的先進模型，經(jīng)過訓(xùn)練，它可以密切反映人類自然交流的方式處理和生成....
ChatGPT是一個好的因果推理器嗎？
因果推理能力對于許多自然語言處理（NLP）應(yīng)用至關(guān)重要。最近的因果推理系統(tǒng)主要基于經(jīng)過微調(diào)的預(yù)訓(xùn)練語....
1-2B參數(shù)規(guī)模大模型的使用心得
大模型時代，根據(jù)大模型縮放定律，大家通常都在追求模型的參數(shù)規(guī)模更大、訓(xùn)練的數(shù)據(jù)更多，從而使得大模型涌....
從Google多模態(tài)大模型看后續(xù)大模型應(yīng)該具備哪些能力
前段時間Google推出Gemini多模態(tài)大模型，展示了不凡的對話能力和多模態(tài)能力，其表現(xiàn)究竟如何呢....
大模型微調(diào)數(shù)據(jù)選擇和構(gòu)造技巧
比如我們會經(jīng)常遇到下面幾種情況：
1.數(shù)據(jù)要不要都去標(biāo)注，標(biāo)的比較慢咋辦？
2.我已經(jīng)有一....
論文遭首屆ICLR拒稿、代碼被過度優(yōu)化，word2vec作者Tomas Mikolov分享背后的故事
盡管 word2vec 是我被引用最多的論文，但我從未認(rèn)為它是我最有影響力的項目。實際上，word2....
什么是大模型的badcase？如何修復(fù)大模型的badcase呢？
首先我們定義什么是大模型的badcase，大模型badcase是指在應(yīng)用場景中，出現(xiàn)不符合預(yù)期的答復(fù)....
開源LLM在各種基準(zhǔn)上的代理能力
采用ChatGPT的企業(yè)可能會擔(dān)心API調(diào)用的巨大成本、服務(wù)中斷、數(shù)據(jù)所有權(quán)和隱私問題，以及其他不可....
人工智能體在未來幾年如何顛覆軟件行業(yè)
Agent 不僅將改變?nèi)藗兣c計算機的互動方式，還將顛覆軟件行業(yè)，引發(fā)自從我們從鍵入命令到點擊圖標(biāo)以來....
淺談Q-Learning在Agent的應(yīng)用
經(jīng)典的文字模型我們已經(jīng)很熟悉了：訓(xùn)練時，模型不停的預(yù)測下一個 token 并與真實語料比較，直到模型....
大模型的Scaling Law的概念和推導(dǎo)
對于Decoder-only的模型，計算量(Flops), 模型參數(shù)量, 數(shù)據(jù)大小(token數(shù))，....
為什么Agent落地這么難？AI最大賽道Agent機遇全解析
“如果一篇論文提出了某種不同的訓(xùn)練方法，OpenAI內(nèi)部會嗤之以鼻，認(rèn)為都是我們玩剩下的。但是當(dāng)新的....
基于ICL范式的LLM的最高置信度預(yù)測方案
本文假設(shè)不同的ICL為LLM提供了關(guān)于任務(wù)的不同知識，導(dǎo)致對相同數(shù)據(jù)的不同理解和預(yù)測。因此，一個直接....
用語言對齊多模態(tài)信息，北大騰訊等提出LanguageBind，刷新多個榜單
目前的 VL 預(yù)訓(xùn)練方法通常僅適用于視覺和語言模態(tài)，而現(xiàn)實世界中的應(yīng)用場景往往包含更多的模態(tài)信息，如....
工商網(wǎng)監(jiān)