AI Agents的框架構(gòu)成以及LLMs的基礎(chǔ)知識

智能代理（AI Agents）長期以來都被視為通往人工通用智能（AGI）的一條希望途徑，預(yù)期中其能夠通過自主規(guī)劃和指令來自動完成相關(guān)任務(wù)。然而，早期的代...

2023-09-06 標(biāo)簽：傳感器機(jī)器人AI 2960 0

GPT-4 的模型結(jié)構(gòu)和訓(xùn)練方法

在 GPT-4 的發(fā)布報(bào)道上，GPT-4 的多模態(tài)能力讓人印象深刻，它可以理解圖片內(nèi)容給出圖片描述，甚至能在圖片內(nèi)容的基礎(chǔ)上理解其中的隱喻或推斷下一時刻的發(fā)展。

2023-05-22 標(biāo)簽：數(shù)據(jù)模型語言模型 2909 0

人大發(fā)表迄今為止最大最全的大模型綜述

大語言模型目前已經(jīng)成為學(xué)界研究的熱點(diǎn)。我們統(tǒng)計(jì)了arXiv論文庫中自2018年6月以來包含關(guān)鍵詞"語言模型"以及自2019年10月以...

2023-07-06 標(biāo)簽：語言模型大模型 2900 0

ChatGPT背后的AI背景、技術(shù)門道和商業(yè)應(yīng)用

作者：京東科技 李俊兵 各位看官好，我是球神（江湖代號）。 自去年11月30日ChatGPT問世以來，迅速爆火出圈。 起初我依然以為這是和當(dāng)年Trans...

2024-10-18 標(biāo)簽：AI語言模型ChatGPT 2876 0

到底該怎么將這些頂尖工具用到我的模型里呢？

然而，讓小編翻開他們的paper，發(fā)現(xiàn)每一個上面都寫著四個大字：“弱者退散”，到底該怎么將這些頂尖工具用到我的模型里呢，Hugging Face 的大神...

2019-02-24 標(biāo)簽：開源語言模型nlp 2601 0

谷歌重磅新作PaLI-3：視覺語言新模型！更小、更快、更強(qiáng)

效果怎么樣呢？PaLI-3 在需要視覺定位文本理解和目標(biāo)定位的任務(wù)上實(shí)現(xiàn)了新的 SOTA，包括 RefCOCO 數(shù)據(jù)集上的 8 個視覺定位文本理解任務(wù)和...

2023-10-20 標(biāo)簽：編碼器語言模型大模型 2581 0

大語言模型的多語言機(jī)器翻譯能力分析

以ChatGPT為代表的大語言模型（Large Language Models, LLM）在機(jī)器翻譯（Machine Translation, MT）任...

2023-05-17 標(biāo)簽：Opt語言模型ChatGPT 2565 0

中文信息處理實(shí)驗(yàn)室提出工具學(xué)習(xí)新框架ToolAlpaca

受 Alpaca 通過微調(diào)讓小模型學(xué)會通用指令遵循啟發(fā)，中文信息處理實(shí)驗(yàn)室的研究人員探索了通過在通用工具使用數(shù)據(jù)集上微調(diào)較小規(guī)模的語言模型，讓它們獲得通...

2023-06-15 標(biāo)簽：框架語言模型數(shù)據(jù)集 2527 0

使用Alpaca-Lora進(jìn)行參數(shù)高效模型微調(diào)

在推理時，將左右兩部分的結(jié)果加到一起即可，h=Wx+BAx=(W+BA)x，所以，只要將訓(xùn)練完成的矩陣乘積BA跟原本的權(quán)重矩陣W加到一起作為新權(quán)重參數(shù)替...

2023-05-17 標(biāo)簽：服務(wù)器模型語言模型 2410 0

最新綜述！當(dāng)大型語言模型（LLM）遇上知識圖譜：兩大技術(shù)優(yōu)勢互補(bǔ)

LLM 是黑箱模型，缺乏可解釋性，因此備受批評。LLM 通過參數(shù)隱含地表示知識。因此，我們難以解釋和驗(yàn)證 LLM 獲得的知識。此外，LLM 是通過概率模...

2023-07-10 標(biāo)簽：編碼語言模型知識圖譜 2386 0

基準(zhǔn)數(shù)據(jù)集(CORR2CAUSE)如何測試大語言模型(LLM)的純因果推理能力

? 因果推理是人類智力的標(biāo)志之一。因果關(guān)系NLP領(lǐng)域近年來引起了人們的極大興趣，但其主要依賴于從常識知識中發(fā)現(xiàn)因果關(guān)系。本研究提出了一個基準(zhǔn)數(shù)據(jù)集(CO...

2023-06-20 標(biāo)簽：編碼語言模型數(shù)據(jù)集 2190 0