chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

用Redis為LangChain定制AI代理——OpenGPTs

虹科網(wǎng)絡(luò)可視化技術(shù) ? 2024-01-13 08:03 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

OpenAI最近推出了OpenAI GPTs——一個構(gòu)建定制化AI代理的無代碼“應(yīng)用商店”,隨后LangChain開發(fā)了類似的開源工具OpenGPTs。OpenGPTs是一款低代碼的開源框架,專用于構(gòu)建定制化的人工智能代理。因為Redis具有高速和穩(wěn)定性的優(yōu)點,所以LangChain選擇了Redis來作為OpenGPTs的默認向量數(shù)據(jù)庫。

文章速覽:

OpenGPTs簡介

Redis在OpenGPTs中的作用

在本地使用OpenGPTs

在云端使用OpenGPTs

Redis與LangChain賦能創(chuàng)新

一、OpenGPTs簡介

通過幾個配置步驟,我們可以用OpenGPTs構(gòu)建一個精通Redis的機器人,名為“RedisGuru”。

以下是我們選擇的LLM、系統(tǒng)消息和工具的示例,包括DuckDuckGo搜索、維基百科搜索,以及通過Kay.ai訪問的公共新聞稿。

3fc33402-b1a7-11ee-aa22-92fbcf53809c.png

配置并部署RedisGuru后,可以測試代理如何運行:

3fda4804-b1a7-11ee-aa22-92fbcf53809c.png

此外,我們還可以查詢有關(guān)Redis數(shù)據(jù)結(jié)構(gòu)的問題??梢钥吹剑琑edisGuru記住了我的名字:

3fe9f060-b1a7-11ee-aa22-92fbcf53809c.png

我們構(gòu)建的這個RedisGuru代理只是一個應(yīng)用示例。你也可以構(gòu)建各類應(yīng)用,比如電子郵件文案編輯器、智能研究助理、代碼審查員等。

二、Redis在OpenGPTs中的作用

在這個OpenGPTs演示的背后,Redis提供了一個強大且高性能的數(shù)據(jù)層,是 OpenGPTs 技術(shù)棧不可或缺的一部分。

Redis可以持久化用戶聊天會話(線程)、代理配置和嵌入式文檔塊,并用于向量數(shù)據(jù)庫檢索。

01

用戶聊天會話

為了在對話中維持“狀態(tài)”,Redis為OpenGPTs提供了用戶與AI代理間的持久聊天線程。這些聊天會話也被輸入到LLM中,以提供當前對話狀態(tài)的上下文信息。

02

代理配置

為了支持多租戶代理架構(gòu),Redis為OpenGPTs提供了一個遠程的、低延遲的存儲層。當應(yīng)用程序啟動時,它從Redis讀取指定的代理設(shè)置,然后開始處理請求。

03

向量數(shù)據(jù)庫用于RAG

為了讓對話基于實際情況,OpenGPTs允許我們上傳“知識”源,以便LLM將其與生成的答案結(jié)合。通過一種稱為檢索增強生成(RAG)的過程,OpenGPTs將上傳的文檔存儲在Redis中,并提供實時向量搜索,以檢索與LLM相關(guān)的上下文。

這些功能是Redis平臺的一部分,通過我們的LangChain + Redis集成融入到應(yīng)用程序中。

Redis與LangChain的OpenGPTs集成帶來了更高的靈活性、可擴展性以及實時處理和搜索能力。處理多樣化數(shù)據(jù)結(jié)構(gòu)的能力是Redis成為OpenGPTs記憶功能的首選解決方案。

三、在本地使用OpenGPTs

如果想親自體驗OpenGPTs,你可以在項目的README文件中找到更詳細的指南。以下是一個快速概述:

1、安裝后端依賴:克隆項目倉庫,然后導(dǎo)航到后端目錄并安裝必要的Python依賴項。

cd backendpip install -r requirements.txt

2、連接Redis和OpenAI:OpenGPTs使用Redis作為LLM的記憶庫,使用OpenAI進行LLM的生成和嵌入。設(shè)置環(huán)境變量REDIS_URL和OPENAI_API_KEY,以連接到您的Redis實例和OpenAI賬戶。

export OPENAI_API_KEY=your-openai-api-keyexport REDIS_URL=redis://your-redis-url

3、啟動后端服務(wù)器:在本地機器上運行LangChain服務(wù)器,提供應(yīng)用程序服務(wù)。

langchain serve --port=8100

4、啟動前端:在前端目錄中,使用yarn啟動開發(fā)服務(wù)器。

cd frontendyarnyarn dev

5、在瀏覽器中打開http://localhost:5173/,與您的本地OpenGPTs部署進行交互。

四、在云端使用OpenGPTs

如果希望在沒有本地設(shè)置的情況下使用OpenGPTs,可以嘗試在谷歌云上部署。另外,你還可以訪問由LangChain、LangServe和Redis支持的托管預(yù)覽部署。這種部署展示了OpenGPTs的可定制性和易用性。

五、Redis與LangChain賦能創(chuàng)新

Redis企業(yè)版作為一款企業(yè)級的低延遲向量數(shù)據(jù)庫,在支持生成性AI項目方面具有獨特優(yōu)勢。其不僅提供向量搜索,還提供多功能數(shù)據(jù)結(jié)構(gòu),能有效滿足LLMs的應(yīng)用狀態(tài)需求。這個強大的平臺提供了優(yōu)異的可擴展性和性能,Redis借此成為生成式AI領(lǐng)域的重要工具。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35164

    瀏覽量

    280041
  • 開源
    +關(guān)注

    關(guān)注

    3

    文章

    3690

    瀏覽量

    43838
  • Redis
    +關(guān)注

    關(guān)注

    0

    文章

    387

    瀏覽量

    11452
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    NVIDIA全棧加速代理AI應(yīng)用落地

    在近期舉辦的 AWS 中國峰會上,NVIDIA 聚焦于“NVIDIA 全棧加速代理AI 應(yīng)用落地”,深入探討了代理AI (Agentic A
    的頭像 發(fā)表于 07-14 11:41 ?465次閱讀

    【幸狐Omni3576邊緣計算套件試用體驗】Redis最新8.0.2版本源碼安裝及性能測試

    可執(zhí)行程序都安裝了,安裝目錄/usr/local/bin,可以which redis-cli命令驗證: 三、運行Redis基準測試 3.1 查看
    發(fā)表于 06-03 01:28

    NVIDIA攜手微軟加速代理AI發(fā)展

    代理AI 正在重新定義科學(xué)探索,推動各行各業(yè)的研究突破和創(chuàng)新發(fā)展。NVIDIA 和微軟正通過深化合作提供先進的技術(shù),從云到 PC 加速代理AI 應(yīng)用的發(fā)展。
    的頭像 發(fā)表于 05-27 14:03 ?365次閱讀

    基于代理AI建立網(wǎng)絡(luò)安全防御體系

    NVIDIA AI 安全棧為先進的代理式系統(tǒng)提供信任、控制和管理支持。
    的頭像 發(fā)表于 05-07 14:29 ?434次閱讀

    Oracle 與 NVIDIA 合作助力企業(yè)加速代理AI 推理

    Oracle 數(shù)據(jù)庫與 NVIDIA AI 相集成,使企業(yè)能夠更輕松、快捷地采用代理AI ? ? ? 美國加利福尼亞州圣何塞 —— GTC? —— 2025 年 3 月 18 日
    發(fā)表于 03-19 15:24 ?358次閱讀
    Oracle 與 NVIDIA 合作助力企業(yè)加速<b class='flag-5'>代理</b>式 <b class='flag-5'>AI</b> 推理

    AI Agent 應(yīng)用與項目實戰(zhàn)》閱讀心得2——客服機器人、AutoGen框架 、生成式代理

    及時處理。 第5章的斯坦福AI小鎮(zhèn)項目對生成式代理技術(shù)做出了開創(chuàng)性的探索。該項目的核心是將LLM與計算交互代理相結(jié)合,構(gòu)建了一個具有記憶、反思、規(guī)劃能力的智能體系統(tǒng)。在技術(shù)實現(xiàn)層面,記憶和檢索模塊采用
    發(fā)表于 02-25 21:59

    Gupshup推出AI代理庫,加速企業(yè)AI應(yīng)用

    全球領(lǐng)先的對話式AI平臺Gupshup近日宣布了一項重要創(chuàng)新——推出AI代理庫(AI Agent Library)。這是一套由15個預(yù)構(gòu)建且高度可
    的頭像 發(fā)表于 02-18 10:20 ?350次閱讀

    Gupshup加速企業(yè)AI應(yīng)用進程

    推出其AI代理庫(AI Agent Library),這是一套由15個預(yù)構(gòu)建和可定制AI代理
    的頭像 發(fā)表于 02-14 16:04 ?305次閱讀

    Redis實戰(zhàn)筆記

    在目前的技術(shù)選型中,Redis 儼然已經(jīng)成為了系統(tǒng)高性能緩存方案的事實標準,因此現(xiàn)在?Redis 也成為了后端開發(fā)的基本技能樹之一。 ? 基于上述情況,今天給大家分享一份?杰哥?親筆撰寫的內(nèi)部
    的頭像 發(fā)表于 02-09 09:12 ?395次閱讀
    <b class='flag-5'>Redis</b>實戰(zhàn)筆記

    Redis Cluster之故障轉(zhuǎn)移

    1. Redis Cluster 簡介 Redis Cluster 是 Redis 官方提供的 Redis 集群功能。 為什么要實現(xiàn) Redis
    的頭像 發(fā)表于 01-20 09:21 ?896次閱讀
    <b class='flag-5'>Redis</b> Cluster之故障轉(zhuǎn)移

    NVIDIA與合作伙伴推出代理AI Blueprint

    開發(fā)者現(xiàn)在可以使用全新 NVIDIA AI Blueprint 構(gòu)建和部署具備推理、規(guī)劃和行動能力的定制AI 智能體。這些藍圖囊括了 NVIDIA NIM 微服務(wù)、NVIDIA NeMo、以及領(lǐng)先提供商的
    的頭像 發(fā)表于 01-09 11:08 ?672次閱讀

    代理AI如何運作

    代理AI 使用復(fù)雜的推理和迭代規(guī)劃來自主解決復(fù)雜的多步驟問題。
    的頭像 發(fā)表于 11-09 11:45 ?809次閱讀
    <b class='flag-5'>代理</b>式<b class='flag-5'>AI</b>如何運作

    微軟Copilot Studio將支持企業(yè)創(chuàng)建自主AI代理

    近日,微軟宣布了一項重要進展:下個月,企業(yè)將在Copilot Studio中擁有創(chuàng)建自主AI代理的能力。這一消息標志著微軟在AI技術(shù)領(lǐng)域的又一次重要突破,將為企業(yè)帶來前所未有的智能化升級。 微軟透露
    的頭像 發(fā)表于 10-23 11:44 ?645次閱讀

    桔吉AI機器人:代理記賬財稅AI第一名,引領(lǐng)代理記賬行業(yè)稅務(wù)合規(guī)新實踐

    桔吉人工智能公司,作為代理記賬行業(yè)AI機器人的領(lǐng)軍者,憑借其深厚的技術(shù)積累,行業(yè)帶來了一系列前瞻性的思考與實踐布局,以確保稅務(wù)合規(guī)性。 桔吉人工智能:一家什么樣的公司? 桔吉人工智能科技(深圳
    的頭像 發(fā)表于 09-29 17:17 ?5261次閱讀
    桔吉<b class='flag-5'>AI</b>機器人:<b class='flag-5'>代理</b>記賬財稅<b class='flag-5'>AI</b>第一名,引領(lǐng)<b class='flag-5'>代理</b>記賬行業(yè)稅務(wù)合規(guī)新實踐

    LangChain框架關(guān)鍵組件的使用方法

    LangChain是一個強大的框架,旨在幫助開發(fā)人員使用語言模型構(gòu)建端到端的應(yīng)用程序。它提供了一套工具、組件和接口,可簡化創(chuàng)建由大型語言模型 (LLM) 和聊天模型提供支持的應(yīng)用程序的過程。通過
    的頭像 發(fā)表于 08-30 16:55 ?1194次閱讀
    <b class='flag-5'>LangChain</b>框架關(guān)鍵組件的使用方法