深度學(xué)習(xí)模型部署與優(yōu)化：策略與實(shí)踐；L40S與A100、H100的對(duì)比分析

深度學(xué)習(xí)、機(jī)器學(xué)習(xí)、生成式AI、深度神經(jīng)網(wǎng)絡(luò)、抽象學(xué)習(xí)、Seq2Seq、VAE、GAN、GPT、BERT、預(yù)訓(xùn)練語言模型、Transformer、Cha...

2023-09-22 標(biāo)簽：AI模型深度學(xué)習(xí) 1591 0

C語言的static究竟限制了誰？介紹一種繞開static限制的方法

大佬們，問一個(gè)比較低智問題，static修飾的變量不是只能被當(dāng)前文件所調(diào)用嗎？為什么這里在其他.c文件可以調(diào)用get_board_led_opr這個(gè)函數(shù)...

2023-07-28 標(biāo)簽：C語言staticChatGPT 1554 0

LLM的幻覺問題最新綜述

幻覺被描述為無意義或不忠實(shí)于所提供源內(nèi)容的生成內(nèi)容。根據(jù)與源內(nèi)容的矛盾，這些幻覺又進(jìn)一步分為內(nèi)在幻覺和外在幻覺。在LLMs中，幻覺的范圍包含了一個(gè)更廣泛...

2023-11-22 標(biāo)簽：人工智能渦輪增壓ChatGPT 1554 0

chatGPT的175Billion個(gè)參數(shù)是哪兒來的

最近大語言模型模型LLM很火，大家總是說chatgpt的175Billion參數(shù)。做算法的人更關(guān)心網(wǎng)絡(luò)的結(jié)構(gòu)，而我這種做硬件的人一直很好奇這個(gè)參數(shù)是怎么計(jì)算的。

2023-11-01 標(biāo)簽：LSTMChatGPTLLM 1553 0

圖像增強(qiáng)之直方圖均衡介紹

在FPGA實(shí)現(xiàn)上還是要還是沒有辦法跳躍的，畢竟復(fù)雜的算法，都是從基礎(chǔ)模塊一步步搭建起來的。

2023-07-03 標(biāo)簽：fpgamatlabRGB 1547 0

TCP發(fā)展受阻的原因是什么呢？RDMA和Linux TCP技術(shù)解析

在考慮今天如何開始時(shí)，我回顧了一下這兩天關(guān)于硬件和軟件之間分歧的主題演講。主要探討了擁塞控制如何在這個(gè)不斷發(fā)展的領(lǐng)域中增長和演變。

2024-02-20 標(biāo)簽：加速器LinuxTCP 1540 0

認(rèn)識(shí)一下AI算力應(yīng)用中的光模塊產(chǎn)品

以ChatGPT為代表的AI大模型應(yīng)用普及將推動(dòng)算力需求快速增長，服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一，AI計(jì)算的普及將推動(dòng)服務(wù)器產(chǎn)業(yè)鏈光模塊向800G...

2023-12-29 標(biāo)簽：交換機(jī)光模塊GPU芯片 1486 0

如何使用Rust創(chuàng)建一個(gè)基于ChatGPT的RAG助手

如今，ChatGPT 已經(jīng)成為家喻戶曉的名字，每個(gè)開發(fā)者都主動(dòng)或被動(dòng)地使用過 ChatGPT 或者是基于 ChatGPT 的產(chǎn)品。ChatGPT 很好，...

2023-10-24 標(biāo)簽：機(jī)器人gpupython 1483 0

Llama 2性能如何

在幾乎所有基準(zhǔn)上，Llama 2 70B 的結(jié)果均與谷歌 PaLM (540B) 持平或表現(xiàn)更好，不過與 GPT-4 和 PaLM-2-L 的性能仍存在...

2023-07-23 標(biāo)簽：人工智能ChatGPTLlama2 1471 0

大型語言模型的邏輯推理能力探究

最新研究揭示，盡管大語言模型LLMs在語言理解上表現(xiàn)出色，但在邏輯推理方面仍有待提高。為此，研究者們推出了GLoRE，一個(gè)全新的邏輯推理評(píng)估基準(zhǔn)，包含1...

2023-11-23 標(biāo)簽：語言模型自然語言ChatGPT 1451 0