什么是神經網絡？神經網絡是如何工作的？GPT與神經網絡的關系

作為一名程序員，我們習慣于去了解所使用工具、中間件的底層原理，本文則旨在幫助大家了解 AI 模型的底層機制，讓大家在學習或應用各種大模型時更加得心應手，...

2023-12-13 標簽：神經網絡RGB人工智能 2.4k 0

AI模型底層機制解析GPT與神經網絡的關系

GPT 想必大家已經耳熟能詳，當我們與它進行對話時，通常只需關注自己問出的問題（輸入）以及 GPT 給出的答案（輸出），對于輸出內容是如何產生的，我們一...

2023-12-13 標簽：神經網絡神經系統(tǒng)AI 2.1k 0

AD轉換時間的理論推算與測量簡析

AD轉換時間指的是完成一次AD轉換所需的時間，即從啟動信號開始到轉換結束并得到穩(wěn)定的數字輸出量所需要的時間。

2023-12-08 標簽：觸發(fā)器AD轉換GPT 3.4k 0

全面解析大語言模型（LLM）

internal feedback：使用LLM去預測生成的plan取得成功的概率、Tree of Thought去對比不同的plan（有點類似Alpha...

2023-12-05 標簽：GPTOpenAI大模型 4k 0

理解KV cache的作用及優(yōu)化方法

MQA (Multi Query Attention，多查詢注意力) 是多頭注意力的一種變體。其主要區(qū)別在于，在 MQA 中不同的注意力頭共享一個K和V...

2023-12-04 標簽：gpuGPTLLM 1.0萬 0

LLM真的能推理和規(guī)劃嗎？

在研究人員選擇的模型中，GPT-3 davinci（非指令微調）、GPT-3 textdavinci-001（指令微調）和GPT-3 textdavin...

2023-11-30 標簽：解碼器編碼器GPT 1k 0

大模型的Scaling Law的概念和推導

對于Decoder-only的模型，計算量(Flops), 模型參數量, 數據大小(token數)，三者滿足:。(推導見本文最后) 模型的最終性能...

2023-11-29 標簽：GPTOpenAI大模型 3.7k 0

為什么Agent落地這么難？AI最大賽道Agent機遇全解析

“如果一篇論文提出了某種不同的訓練方法，OpenAI內部會嗤之以鼻，認為都是我們玩剩下的。但是當新的AI Agent論文出來時，我們會十分認真且興奮地討...

2023-11-25 標簽：SQLGPTOpenAI 2.8k 0

借助GPT4理解仿真中競爭處理的方法

上周微信群里的一個小伙伴提到的一個關于仿真中不達預期的一個問題，其中牽涉到關于仿真中信號競爭等問題。這個問題之前算是不求甚解。

2023-11-25 標簽：高電平CLKGPT 960 0

Scaling Law大模型設計實操案例

縱軸是"Bits for words", 這也是交叉熵的一個單位。在計算交叉熵時，如果使用以 2 為底的對數，交叉熵的單位就是 &q...

2023-11-22 標簽：語言模型GPTOpenAI 1.5k 0

基于大語言模型的共情回復生成：實證研究和改進

對以ChatGPT為代表的LLMs在共情回復生成上的表現進行了全面的實證研究，LLMs在現有的基準數據集上，對比以往的SOTA模型，表現極其優(yōu)越。

2023-11-21 標簽：編碼器GPTChatGPT 2.2k 1

多任務微調框架MFTCoder詳細技術解讀

MFTCoder具備高效訓練特征，包括提供高效的數據Tokenization模式和支持PEFT微調，能有效提升微調訓練速度并降低對資源的需求。

2023-11-17 標簽：函數pythonGPT 1.7k 0

AI基礎軟件框架的基本概念和分類

九章云極、亞馬遜云科技、華為云、阿里云、騰訊云、Databricks和百度云被評為國內AI基礎軟件市場的 "領導者"。

2023-11-17 標簽：AI機器學習GPT 1.1k 0

0代碼基礎也能做AI產品？GPTs使用指南分享

近期，小編發(fā)現不少小伙伴都躍躍欲試想要創(chuàng)建自己的GPTs，今天為大家?guī)肀Ｄ芳塆PTs入門教程。

2023-11-15 標簽：生成器GPTChatGPT 3.2k 0

如何解決LLMs的規(guī)則遵循問題呢？

傳統(tǒng)的計算系統(tǒng)是圍繞計算機程序中表達的指令的執(zhí)行來設計的。相反，語言模型可以遵循用自然語言表達的指令，或者從大量數據中的隱含模式中學習該做什么。

2023-11-15 標簽：計算機人工智能GPT 1.1k 0

產品化的GPT，能否為“百模大戰(zhàn)”照亮未來？

學OpenAI者生，像OpenAI者死

2023-11-09 標簽：AIGPTOpenAI 1k 0

怎樣使用Streamlit創(chuàng)建AutoGen用戶界面？

AutoGen作為一個最大化LLM(如GPT-4)能力的框架而脫穎而出。

2023-11-08 標簽：GPTLLM 1.2k 0

ChatGPT真的產生心智了嗎？ChatGPT是如何產生心智的？

來自斯坦福大學的最新研究結論，一經發(fā)出就造成了學術圈的轟動，“原本認為是人類獨有的心智理論（Theory of Mind，ToM），已經出現在ChatG...

2023-10-19 標簽：編碼器GPT機器語言 1.6k 0

怎樣使用FHE實現加密大語言模型？

近來，大語言模型 (LLM) 已被證明是提高編程、內容生成、文本分析、網絡搜索及遠程學習等諸多領域生產力的可靠工具。

2023-10-19 標簽：計算機pythonGPT 1.1k 0

LLM在生成摘要方面效果到底如何？

文本摘要，作為自然語言生成（NLG）中的一項任務，主要用來將一大段長文本壓縮為簡短的摘要，例如新聞文章、源代碼和跨語言文本等多種內容都能用到。

2023-09-21 標簽：源代碼GPT大模型 951 0