聊聊AI研發(fā)的七大支柱

通過(guò)豐富數(shù)據(jù)，生成式 AI 應(yīng)用程序可以提供上下文感知交互。 LLM 驅(qū)動(dòng)的功能通常依賴于特定的專有數(shù)據(jù)。簡(jiǎn)化從多個(gè)來(lái)源引入數(shù)據(jù)對(duì)于創(chuàng)建平滑有效的模型至...

2023-12-21 標(biāo)簽：AI數(shù)據(jù)連接器大模型 592 0

什么是AI Agent？NLP到AGI的發(fā)展路線

大模型在語(yǔ)言理解、決策制定以及泛化能力等方面展現(xiàn)出強(qiáng)大的潛力，成為代理構(gòu)建過(guò)程中的關(guān)鍵角色，而代理的進(jìn)展也為大模型提出了更高的要求。

2023-12-18 標(biāo)簽：AI人工智能Agi 1974 0

快速下載OpenVIN Notebooks中的AI大模型

OpenVINO Notebooks 是 Jupyter Notebook 形式的 OpenVINO 范例程序大集合，方便開(kāi)發(fā)者快速學(xué)習(xí)并掌握 Open...

2023-12-16 標(biāo)簽：英特爾AI大模型 1476 0

大模型時(shí)代，AI芯片面臨的三大挑戰(zhàn)

AI算力需求的提升給中國(guó)本土芯片廠商的發(fā)展提供了較大的空間，帶來(lái)新的機(jī)遇。IDC預(yù)計(jì)，2023年中國(guó)人工智能芯片出貨量將達(dá)到133.5萬(wàn)片，同比增長(zhǎng) 2...

2023-12-14 標(biāo)簽：cpugpuAI 2013 0

探索高效的大型語(yǔ)言模型！大型語(yǔ)言模型的高效學(xué)習(xí)方法

在大型語(yǔ)言模型（LLMs）的應(yīng)用中，提示工程（Prompt Engineering）是一種關(guān)鍵技術(shù)，用于引導(dǎo)模型生成特定輸出或執(zhí)行特定任務(wù)。通過(guò)精心設(shè)計(jì)...

2023-12-13 標(biāo)簽：cpuGPTTransformer 905 0

人工智能芯片需要什么樣的基礎(chǔ)器件？

三維集成電路最近慢慢開(kāi)始熱起來(lái)，摩爾定律一直在發(fā)展，而且發(fā)展的過(guò)程中密度越來(lái)越高?，F(xiàn)在5nm工藝可以在一個(gè)平方毫米上集成大概1.1億只晶體管，也就是28...

2023-12-13 標(biāo)簽：集成電路摩爾定律晶體管 457 0

如何快速下載OpenVINO Notebooks中的AI大模型

OpenVINO Notebooks是Jupyter Notebook形式的OpenVINO范例程序大集合，方便開(kāi)發(fā)者快速學(xué)習(xí)并掌握OpenVINO推理...

2023-12-12 標(biāo)簽：Linux大模型OpenVINO 1421 0

大模型時(shí)代必備存儲(chǔ)之HBM進(jìn)入汽車領(lǐng)域

大模型時(shí)代AI芯片必備HBM內(nèi)存已是業(yè)內(nèi)共識(shí)，存儲(chǔ)帶寬也成為AI芯片僅次于算力的第二關(guān)健指標(biāo)，甚至某些場(chǎng)合超越算力，是最關(guān)鍵的性能指標(biāo)，而汽車行業(yè)也開(kāi)始...

2023-12-12 標(biāo)簽：特斯拉車載芯片HBM 1598 0

跑分沒(méi)輸過(guò)，體驗(yàn)沒(méi)贏過(guò)，大模型刷分何時(shí)休？

從手機(jī)到大模型，國(guó)內(nèi)產(chǎn)品為啥都這么熱衷跑分？

2023-12-13 標(biāo)簽：AI大模型 910 0

多語(yǔ)言的開(kāi)放式問(wèn)答數(shù)據(jù)集構(gòu)建過(guò)程

從評(píng)測(cè)能力上來(lái)看，由于目前的評(píng)測(cè)數(shù)據(jù)集主要是利用人類試題及其標(biāo)準(zhǔn)答案進(jìn)行評(píng)測(cè)，這種評(píng)價(jià)方式更偏向?qū)ν评砟芰Φ脑u(píng)估，存在評(píng)估結(jié)果和模型真實(shí)能力有?定偏差。

2023-12-11 標(biāo)簽：人工智能數(shù)據(jù)集ChatGPT 853 0

拆解大語(yǔ)言模型RLHF中的PPO算法

由于本文以大語(yǔ)言模型 RLHF 的 PPO 算法為主，所以希望你在閱讀前先弄明白大語(yǔ)言模型 RLHF 的前兩步，即 SFT Model 和 Reward...

2023-12-11 標(biāo)簽：算法深度學(xué)習(xí)ChatGPT 2872 0

低比特量化技術(shù)如何幫助LLM提升性能

針對(duì)大語(yǔ)言模型 (LLM) 在部署過(guò)程中的性能需求，低比特量化技術(shù)一直是優(yōu)化效果最佳的方案之一，本文將探討低比特量化技術(shù)如何幫助 LLM 提升性能，以及...

2023-12-08 標(biāo)簽：輕量化技術(shù)大模型LLM 1456 0

Transformer迎來(lái)強(qiáng)勁競(jìng)爭(zhēng)者 新架構(gòu)Mamba引爆AI圈！

作為通用序列模型的骨干，Mamba 在語(yǔ)言、音頻和基因組學(xué)等多種模態(tài)中都達(dá)到了 SOTA 性能。在語(yǔ)言建模方面，無(wú)論是預(yù)訓(xùn)練還是下游評(píng)估，他們的 Mam...

2023-12-07 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)AI機(jī)器學(xué)習(xí) 596 0

對(duì)于大模型RAG技術(shù)的一些思考

大模型或者句向量在訓(xùn)練時(shí)，使用的語(yǔ)料都是較為通用的語(yǔ)料。這導(dǎo)致了這些模型，對(duì)于垂直領(lǐng)域的知識(shí)識(shí)別是有缺陷的。它們沒(méi)有辦法理解企業(yè)內(nèi)部的一些專用術(shù)語(yǔ)，縮寫...

2023-12-07 標(biāo)簽：向量檢索大模型 1454 0

深度解析數(shù)據(jù)存儲(chǔ)技術(shù)發(fā)展趨勢(shì)

開(kāi)源數(shù)據(jù)庫(kù)MySQL和PostgreSQL占據(jù)全球數(shù)據(jù)庫(kù)市場(chǎng)格局TOP2。開(kāi)源數(shù)據(jù)庫(kù)正在重構(gòu)企業(yè)核心系統(tǒng)。同時(shí)為確保業(yè)務(wù)平穩(wěn)運(yùn)行，分布式數(shù)據(jù)庫(kù)存算分離架...

2023-12-06 標(biāo)簽：SSD數(shù)據(jù)存儲(chǔ)AI 1134 0

百度搜索內(nèi)容HTAP表格存儲(chǔ)系統(tǒng)

整套存儲(chǔ)設(shè)計(jì)需要解決的核心問(wèn)題是——如何在OLTP存儲(chǔ)系統(tǒng)中支持OLAP workflow？OLAP workflow在OLTP存儲(chǔ)系統(tǒng)上帶來(lái)的兩個(gè)最主...

2023-12-05 標(biāo)簽：耦合存儲(chǔ)系統(tǒng)大模型 614 0

全面解析大語(yǔ)言模型（LLM）

internal feedback：使用LLM去預(yù)測(cè)生成的plan取得成功的概率、Tree of Thought去對(duì)比不同的plan（有點(diǎn)類似Alpha...

2023-12-05 標(biāo)簽：GPTOpenAI大模型 3097 0

無(wú)監(jiān)督域自適應(yīng)場(chǎng)景：基于檢索增強(qiáng)的情境學(xué)習(xí)實(shí)現(xiàn)知識(shí)遷移

本文對(duì)比了多種基線方法，包括無(wú)監(jiān)督域自適應(yīng)的傳統(tǒng)方法（如Pseudo-labeling和對(duì)抗訓(xùn)練）、基于檢索的LM方法（如REALM和RAG）和情境學(xué)習(xí)...

2023-12-05 標(biāo)簽：解碼器編碼器語(yǔ)言模型 804 0