chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Prompt Sapper:基礎(chǔ)模型的靈魂伴侶,AI服務(wù)的創(chuàng)新工場(chǎng)

vliwulianw ? 來(lái)源:軟件質(zhì)量報(bào)道 ? 2023-05-22 14:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

【編者:本文發(fā)布得到作者的授權(quán)。作者來(lái)自澳大利亞 Data61 的 SE4AI 團(tuán)隊(duì)和江西師范大學(xué)智能化軟件工程實(shí)驗(yàn)室,他們聯(lián)合打造了全球首款 AI 鏈(AI chain)無(wú)代碼生產(chǎn)平臺(tái) Prompt Sapper,及相應(yīng)的方法學(xué)和 AI 服務(wù)市場(chǎng)?;A(chǔ)模型(foundation models)帶來(lái)了前所未有的 AI “操作系統(tǒng)” 效應(yīng)和全新的人工智能交互方式,激發(fā)了 AI 服務(wù)開(kāi)發(fā)與應(yīng)用的創(chuàng)新之潮。Prompt Sapper 應(yīng)勢(shì)而生,致力于重塑軟件領(lǐng)域格局,打造人與 AI 協(xié)作智能的平臺(tái),以釋放每個(gè)人的 AI 創(chuàng)新潛能,創(chuàng)造人人皆 AI 創(chuàng)新大師的未來(lái)!】

AI 服務(wù)代表了一種我們稱(chēng)為構(gòu)建在基礎(chǔ)模型之上的 AI 鏈(AI Chain)應(yīng)用。AI 鏈應(yīng)用是一種新型的軟件產(chǎn)品,他們按照特定的工作流程組裝多次基礎(chǔ)模型調(diào)用(也可能同時(shí)調(diào)用傳統(tǒng)機(jī)器學(xué)習(xí)模型,外部數(shù)據(jù)或 APIs),從而提供某種特定的 AI 服務(wù)。

這些基礎(chǔ)模型包括當(dāng)前非常熱門(mén)的生成式預(yù)訓(xùn)練大語(yǔ)言模型比如 GPT-4、圖像生成模型 DALL-E 等。我們可以將這些基礎(chǔ)模型類(lèi)看作 AI “操作系統(tǒng)”,就如同個(gè)人電腦時(shí)代的 Windows、Linux 和 MacOS,以及移動(dòng)應(yīng)用時(shí)代的 iOSAndroid。正如我們?cè)?jīng)調(diào)用傳統(tǒng)操作系統(tǒng) APIs 開(kāi)發(fā)軟件應(yīng)用和服務(wù),如今我們可以通過(guò)組裝對(duì)基礎(chǔ)模型的多次調(diào)用來(lái)開(kāi)發(fā) AI 應(yīng)用和服務(wù)。

d26193fe-f7d9-11ed-90ce-dac502259ad0.png

基礎(chǔ)模型解鎖軟件 3.0

然而,如上圖所示, 傳統(tǒng)操作系統(tǒng)調(diào)用和基礎(chǔ)模型調(diào)用之間存在一個(gè)本質(zhì)區(qū)別。即使自然語(yǔ)言是我們表達(dá)需求的最自然方式,在軟件 1.0/2.0 范式中,人們不得不使用計(jì)算機(jī)語(yǔ)言(如 JavaPython、JavaScript 等)與計(jì)算機(jī)交互,專(zhuān)注于解決問(wèn)題(算法,數(shù)據(jù),模型架構(gòu),特征等)?,F(xiàn)在,一切發(fā)生了翻天覆地的變化!基礎(chǔ)模型為我們解鎖了軟件 3.0 范式,一種全新的自然語(yǔ)言編程方式 — 提示編程 ,以及基于提示編程的 AI 鏈工程(和作者溝通,作者也認(rèn)可,“軟件3.0” 稱(chēng)之為“軟件工程3.0” 更準(zhǔn)確些)。在軟件 3.0 范式中,人們可以用自然語(yǔ)言描述他們需要解決的問(wèn)題,而基礎(chǔ)模型則能理解并執(zhí)行這些自然語(yǔ)言指令。這一進(jìn)步讓人們能夠以更直觀、更自然的方式與 AI 互動(dòng),進(jìn)一步拓寬了我們?cè)趧?chuàng)新和解決問(wèn)題上的可能性,將 AI 的力量帶給了更廣泛的受眾,實(shí)現(xiàn)了 AI 平民化的愿景。

軟件 3.0 優(yōu)勢(shì)在于為人們帶來(lái)前所未有的 AI 交互體驗(yàn)和智能應(yīng)用。但我們相信,軟件 3.0 并不會(huì)完全取代軟件 1.0/2.0。相反,這三種范式將在未來(lái)相互補(bǔ)充并共存。在各自的優(yōu)勢(shì)領(lǐng)域,它們將發(fā)揮各自的作用,共同推動(dòng)技術(shù)進(jìn)步和創(chuàng)新。這種協(xié)同發(fā)展有望讓我們更好地解決復(fù)雜問(wèn)題,釋放更多的創(chuàng)新潛能。我們的 Sapper IDE 支持三種范式的工作者(worker),詳情見(jiàn) “提示客劍譜”(Promptmanship)。

AI 2.0(基礎(chǔ)模型)賦能軟件 3.0(提示編程 + AI 鏈工程)

d29ae3d4-f7d9-11ed-90ce-dac502259ad0.png

機(jī)器學(xué)習(xí)和軟件工程演化

如上圖所示,機(jī)器學(xué)習(xí)技術(shù)的發(fā)展經(jīng)歷了從最早期的特征工程、神經(jīng)網(wǎng)絡(luò)架構(gòu)工程,到預(yù)訓(xùn)練微調(diào)范式的目標(biāo)工程,再到近期的提示 / AI 鏈工程的演進(jìn)。盡管神經(jīng)網(wǎng)絡(luò)和預(yù)訓(xùn)練微調(diào)正在逐漸降低利用 AI 的門(mén)檻,但人們?nèi)匀幻媾R著單領(lǐng)域、多模型孤島效應(yīng)的挑戰(zhàn)。也就是說(shuō),AI 1.0 時(shí)代缺乏一個(gè) AI “操作系統(tǒng)” 模型來(lái)支持 AI 應(yīng)用的開(kāi)發(fā)、組裝和生態(tài)系統(tǒng)。

而基礎(chǔ)模型則具備跨領(lǐng)域知識(shí),能夠通過(guò)情景學(xué)習(xí)(in-context learning)適應(yīng)各種復(fù)雜的任務(wù),為我們帶來(lái)了期待已久的 AI “操作系統(tǒng)” 平臺(tái)。

李開(kāi)復(fù)將這一平臺(tái)化的 AI 稱(chēng)為 AI 2.0。他認(rèn)為,聊天工具和圖文創(chuàng)作僅僅是 AI 2.0 的冰山一角,我們不應(yīng)限制對(duì) AI 2.0 潛力的想象?;A(chǔ)模型推動(dòng)了自然的人與 AI 交互方式,開(kāi)啟了軟件工程領(lǐng)域嶄新的一頁(yè) ——軟件 3.0 時(shí)代。在這個(gè)時(shí)代中,以提示編程和 AI 鏈應(yīng)用為核心,我們將迎來(lái)更加開(kāi)放和民主的 AI 服務(wù)開(kāi)發(fā)和應(yīng)用環(huán)境。Andrej Karpathy 認(rèn)為,新興的提示編程具有將 “程序員” 人數(shù)擴(kuò)大到 15 億的潛力。在就業(yè)市場(chǎng)上,出現(xiàn)了諸如 “AI 提示工程師”、“法律提示工程師” 等職位,預(yù)示著這一發(fā)展趨勢(shì)正在成為現(xiàn)實(shí)。

AI 鏈工程(SE4AIChain): 愿景與目標(biāo)

d2cc6044-f7d9-11ed-90ce-dac502259ad0.png

我們的愿景是通過(guò)生成式 AI 重塑軟件格局。我們正處在將基礎(chǔ)模型的能力演變成人工智能助手的構(gòu)建階段,這個(gè)階段存在兩個(gè)非?,F(xiàn)實(shí)的機(jī)會(huì):1. 讓人人能夠創(chuàng)建個(gè)性化的智能體,2. 讓人們可以分享和雇傭智能體服務(wù)。這樣可以讓更廣泛大眾參與到 AI 大潮并從中受益?;A(chǔ)模型和提示編程具有廣闊的前景,然而當(dāng)前的提示編程狀態(tài)就像 60 多年前軟件工程出現(xiàn)前個(gè)人英雄主義式的編程一樣。基于基礎(chǔ)模型的 AI 服務(wù)開(kāi)發(fā)遠(yuǎn)遠(yuǎn)超出僅僅寫(xiě)出耀眼的提示詞,這就像系統(tǒng)化軟件工程和隨意編程之間的差別一樣。

因此,我們致力于打造一套系統(tǒng)的 AI 鏈工程基礎(chǔ)設(shè)施作為基礎(chǔ)模型的靈魂伴侶,重塑軟件領(lǐng)域格局,以釋放 AI 2.0 的全部潛力。我們的 AI 鏈工程基礎(chǔ)設(shè)施是一套 AI4SE4AI 框架(AI-powered software engineering infrastructure for AI),包括一套系統(tǒng)的 AI 鏈工程方法,我們稱(chēng)之為 “提示客劍譜”,以及相應(yīng)的開(kāi)發(fā)和部署工具,作為這個(gè)方法論的配套兵器。

為實(shí)現(xiàn)這個(gè)愿景,我們提出了以下三個(gè)目標(biāo):

第一,從軟件工程的視角總結(jié)泛化提示工程的最佳實(shí)踐,將提示工程置于軟件工程的整體框架下,補(bǔ)充被忽視的重要軟件工程方法(例如軟件過(guò)程,系統(tǒng)設(shè)計(jì),測(cè)試),從而形成系統(tǒng)化的 AI 鏈方法論(第一版已發(fā)布)。

第二,研發(fā) AI 鏈集成開(kāi)發(fā)環(huán)境,支持從想法到服務(wù)的全過(guò)程 AI 鏈開(kāi)發(fā),并通過(guò)物化 AI 鏈方法論,為普通人開(kāi)發(fā)高質(zhì)量 AI 服務(wù)提供 “潤(rùn)物細(xì)無(wú)聲” 的支持(第一版已上線)。

第三,研發(fā) AI 服務(wù)市場(chǎng),推進(jìn) AI 服務(wù)生態(tài)系統(tǒng)的發(fā)展,并研發(fā)負(fù)責(zé)任的 AI 鏈工程方法和技術(shù),以增強(qiáng) AI 服務(wù)的透明性、責(zé)任性和安全性(AI 服務(wù)市場(chǎng) beta 版已上線)。

我們致力于建立一個(gè)開(kāi)放、協(xié)作、安全、可持續(xù)的 AI 鏈生態(tài)系統(tǒng),為千行百業(yè)提供數(shù)字化、智能化轉(zhuǎn)型升級(jí)的支持,讓他們?cè)?AI 新時(shí)代中發(fā)揮自己的創(chuàng)造力和智慧,并從中獲益,實(shí)現(xiàn)人機(jī)共生的美好愿景。

Promptmanship(提示客劍譜):為 AI 鏈應(yīng)用量身定制的軟件工程方法

軟件工程在幾十年的發(fā)展中積累了大量有效的方法和實(shí)踐,其中許多理念和經(jīng)驗(yàn)可以被應(yīng)用到 AI 鏈工程中。然而,隨著基礎(chǔ)模型帶來(lái)的人與 AI 交互方式的變革,我們需要審視和調(diào)整傳統(tǒng)的軟件工程方法和實(shí)踐,以適應(yīng)新興的以人為中心的自然語(yǔ)言編程范式。

一方面,大語(yǔ)言模型(如 GPT-4)編碼了海量知識(shí)并具備強(qiáng)大的對(duì)話能力,我們可以利用它們來(lái)幫助 AI 鏈工程師獲得任務(wù)知識(shí)、理解問(wèn)題以及獲得解決問(wèn)題的靈感。同時(shí),為減輕大語(yǔ)言模型難以避免的錯(cuò)誤和幻覺(jué)的影響,我們需要對(duì)模型能力有足夠深入的理解(所謂 mechanical sympathy),并采用有效的提示設(shè)計(jì)。

另一方面,大語(yǔ)言模型不僅改變了誰(shuí)可以開(kāi)發(fā) AI 服務(wù),而且深刻地改變了可以開(kāi)發(fā)哪些 AI 服務(wù)。這需要我們將過(guò)去以代碼為中心的開(kāi)發(fā)工具轉(zhuǎn)變?yōu)橐匀藶橹行牡墓ぞ?,使普通人可以?zhuān)注于解決問(wèn)題,更直觀地分析、設(shè)計(jì)、搭建和評(píng)估 AI 鏈。

d30c5118-f7d9-11ed-90ce-dac502259ad0.png

Promptmanship(提示客劍譜):為 AI 鏈應(yīng)用量身定制的軟件工程方法

因此,AI 鏈工程需要在傳統(tǒng)軟件工程方法和實(shí)踐的基礎(chǔ)上,結(jié)合大語(yǔ)言模型的優(yōu)勢(shì),發(fā)展出一套更適應(yīng)以人為中心的自然語(yǔ)言編程范式的開(kāi)發(fā)方法和工具,以提高 AI 鏈的開(kāi)發(fā)效率和質(zhì)量。上圖展示了我們基于大量文獻(xiàn)、社區(qū)分享經(jīng)驗(yàn)以及我們自身實(shí)踐而提出的 AI 鏈工程方法學(xué)。

我們將 AI 鏈的功能單元定義為 “工作者”(worker)。AI 鏈除了涉及傳統(tǒng)軟件概念(例如需求、對(duì)象組合與協(xié)作、對(duì)象角色),還包括 AI 鏈特有的概念。例如,我們區(qū)分了三種工作者類(lèi)型(對(duì)應(yīng)三種軟件范式:Software 1.0/2.0/3.0)、四層推理能力遞增的工作者 - AI 交互模式,工作者構(gòu)型(worker stereotype),以及提示設(shè)計(jì)模式。

我們認(rèn)為 AI 鏈工程是一個(gè)快速原型(Rapid Prototyping)的過(guò)程,包括四個(gè)迭代階段:探索、設(shè)計(jì)、構(gòu)建和部署。每個(gè)階段都包括并發(fā)的活動(dòng)(受統(tǒng)一軟件過(guò)程(Rational Unified Process)啟發(fā)),包括任務(wù)建模、系統(tǒng)設(shè)計(jì)(需求分析,任務(wù)分解、AI/non-AI 關(guān)注點(diǎn)分離、工作流演練)、AI 鏈實(shí)現(xiàn)和測(cè)試,但不同階段有不同的側(cè)重(由相應(yīng)條高度展示)。不同活動(dòng)會(huì)生成或者精化不同的 AI 鏈概念(有概念下方藍(lán)色區(qū)間展示)。與所有活動(dòng)伴生,我們提出了一個(gè) “魔法增強(qiáng)魔法” 的活動(dòng),利用大語(yǔ)言模型的知識(shí)和對(duì)話能力,幫助 AI 鏈工程師獲取任務(wù)知識(shí)、進(jìn)行需求獲取和分析,并獲得對(duì)模型能力的理解(mechanical sympathy)。

d34ce16a-f7d9-11ed-90ce-dac502259ad0.png

在 AI 鏈中,軟件 3.0 工作者的 “大腦” 就是他的自然語(yǔ)言提示。這些提示需要清晰地定義工作者的角色和功能。有效的提示需要?jiǎng)?chuàng)造力和實(shí)驗(yàn),但與傳統(tǒng)編程一樣,可以通過(guò)慣用語(yǔ)和模式進(jìn)行改進(jìn)。大量文獻(xiàn)和博客提出了許多提示技巧。基于這些提示技巧和我們自身的實(shí)戰(zhàn)經(jīng)驗(yàn),我們總結(jié)出了四個(gè)方面的提示設(shè)計(jì)模式(見(jiàn)上表):工作者構(gòu)型,提示注意事項(xiàng),提示設(shè)計(jì)方面,和提示裝飾。

工作者構(gòu)型:我們定義了九種工作者元角色:輸入重寫(xiě)器、分割器、逆向提問(wèn)人、規(guī)劃師、信息詢問(wèn)者、執(zhí)行官、匯總器、狀態(tài)檢測(cè)儀和驗(yàn)證器。為了提高 AI 鏈和工作者的可調(diào)試性、重用性和組裝性,我們建議每個(gè)工作者遵循單一功能原則,擔(dān)任一個(gè)獨(dú)特的角色。當(dāng)然,一個(gè)工作者可以同時(shí)兼具多個(gè)角色,但需要注意的是,一身多則的工作者可能成為 “史詩(shī)” 級(jí)的工作者,不僅什么都干不好,而且很難優(yōu)化和控制。

提示注意事項(xiàng):包括三個(gè)會(huì)影響提示性能的通用事項(xiàng):Grice 會(huì)話原則、術(shù)語(yǔ)解釋、提示委員會(huì)。

提示設(shè)計(jì)方面:需要考慮語(yǔ)境(包括輸入、術(shù)語(yǔ)解釋、擬人化,和其他限定等)、指令、示例、輸出格式以及內(nèi)容形式(自由文本、半結(jié)構(gòu)化文本、代碼風(fēng)格文本)。對(duì)于功能簡(jiǎn)單的工作者,他們并不需要包括所有方面,比如簡(jiǎn)單加法問(wèn)題可以把輸入數(shù)字放到問(wèn)題中(例如,“請(qǐng)計(jì)算 5+2” 或者 “5+2 等于幾?”),也不需要語(yǔ)境、示例和輸出格式。但對(duì)于功能復(fù)雜的工作者,最好以半結(jié)構(gòu)化甚至代碼形式區(qū)分表述不同設(shè)計(jì)方面和信息。除此之外,指令可以包括一定的控制邏輯,但復(fù)雜控制邏輯最好以明確的協(xié)作工作者和工作流方式表示。

提示裝飾:不是工作者核心功能,但他們可以通過(guò) “大聲思考” 方式提升模型推理能力(自問(wèn)自答、反思),或是更好地定制模型行為和輸出(擬人化、語(yǔ)境控制)。

我們想提醒大家,這些提示模式并不能替代創(chuàng)造力和實(shí)驗(yàn)。此外,他們只是戰(zhàn)術(shù)層面的優(yōu)化。對(duì)于難度較大的任務(wù),往往需要考慮到戰(zhàn)略層面的 AI 鏈系統(tǒng)設(shè)計(jì)。

AI 鏈生產(chǎn)平臺(tái)(Sapper IDE)

d39188d8-f7d9-11ed-90ce-dac502259ad0.gif

我們的 AI 鏈生產(chǎn)平臺(tái)將不同于現(xiàn)有以代碼為中心的開(kāi)發(fā)環(huán)境,因?yàn)?AI 鏈將由很多沒(méi)有計(jì)算機(jī)和編程背景的人開(kāi)發(fā)。因此,我們的最高設(shè)計(jì)準(zhǔn)則是 “以人為本”,體現(xiàn)在三個(gè)方面:

首先,我們將 “提示客劍譜”(AI 鏈工程方法學(xué))無(wú)縫地物化到 Sapper IDE 中,使任何人都能有效地應(yīng)用最佳 AI 鏈實(shí)踐和方法。

其次,我們充分利用大語(yǔ)言模型的知識(shí)和對(duì)話能力,開(kāi)發(fā)智能副駕駛(co-pilots),為非技術(shù)人員提供全過(guò)程 AI 鏈開(kāi)發(fā)支持。

第三,我們提供全過(guò)程無(wú)代碼 AI 鏈分析、設(shè)計(jì)、開(kāi)發(fā)和部署,讓任何人都能輕松將創(chuàng)意轉(zhuǎn)化為 AI 服務(wù)。

我們的 AI 鏈 IDE 可謂是 “AI 服務(wù)的孵化器”,因?yàn)樗闹饕δ芫褪钦驹诨A(chǔ)模型的巨人肩膀上打造 AI 服務(wù)。這些服務(wù)不僅可以直接滿足人們的 AI 鏈開(kāi)發(fā)需求,還能啟發(fā)他們?nèi)ヌ剿鞲嗫赡苄?,并幫助他們?chuàng)造出更多更優(yōu)秀的 AI 服務(wù)。我們相信,這將會(huì)是一個(gè) AI 創(chuàng)新無(wú)限的時(shí)代,我們的 Sapper IDE 將成為千行百業(yè)開(kāi)啟這一無(wú)限潛力的 “工兵鐵鍬”!

我們?cè)赟apper IDE已開(kāi)發(fā)或正在開(kāi)發(fā)多樣的AI服務(wù)演示,涉及教育,職業(yè)培訓(xùn),創(chuàng)意寫(xiě)作,游戲,軟件工程等多個(gè)領(lǐng)域。我們也歡迎社區(qū)用Prompt Sapper創(chuàng)作更多的創(chuàng)意AI服務(wù),并分享到我們的AI服務(wù)市場(chǎng)。探索視圖(Exploration View)

d45a5b64-f7d9-11ed-90ce-dac502259ad0.gif

探索視圖支持任務(wù)探索和初步設(shè)計(jì)階段的活動(dòng),允許用戶獲得大致的任務(wù)模型,了解任務(wù)挑戰(zhàn),以及初步了解任務(wù)步驟、工作流、輸入 / 輸出數(shù)據(jù)和提示有效性。

如圖所示,探索視圖的左側(cè)部分是一個(gè)聊天機(jī)器人(目前封裝 GPT-3.5 API),其工作方式與普通聊天機(jī)器人(例如,ChatGPT )相同。聊天機(jī)器人允許用戶與大型語(yǔ)言模型(LLM)進(jìn)行任何類(lèi)型的對(duì)話。當(dāng)然,我們假設(shè)用戶將圍繞他們需要開(kāi)發(fā)的 AI 服務(wù)進(jìn)行交談。與普通聊天機(jī)器人不同,探索視圖配備了一個(gè)基于 LLM(大型語(yǔ)言模型)的副駕駛員,該副駕駛員會(huì)自動(dòng)收集和分析用戶與 LLM 之間的對(duì)話,以獲取可能與后續(xù) AI 鏈分析、設(shè)計(jì)和開(kāi)發(fā)相關(guān)的任務(wù)背景(例如,所需要的功能、用戶偏好、需要避免的事項(xiàng)等)。這個(gè)副駕駛員本身就是是基于 LLM(目前為 GPT-3.5)構(gòu)建的 AI 鏈服務(wù)。它以一種不干預(yù)的方式工作,并根據(jù)用戶和 LLM 之間的對(duì)話動(dòng)態(tài)記錄筆記,如圖右側(cè)的 Task Note 面板所示。

設(shè)計(jì)視圖(Design View)

d4c7b650-f7d9-11ed-90ce-dac502259ad0.gif

設(shè)計(jì)視圖支持設(shè)計(jì)階段的主要活動(dòng),并在探索和構(gòu)建階段之間起到承上啟下的重要作用。因此,它具有兩個(gè)主要功能:需求分析和 AI 鏈框架生成,分別由兩個(gè)基于 LLM 的副駕駛員提供支持。與探索視圖中的非干預(yù)式副駕駛員不同,設(shè)計(jì)視圖中的兩個(gè)副駕駛員會(huì)積極與用戶互動(dòng),協(xié)助他們進(jìn)行需求分析和 AI 鏈框架生成。

需求分析

設(shè)計(jì)視圖的左側(cè)是一個(gè)基于 LLM 的需求分析聊天機(jī)器人(另一個(gè) AI 鏈服務(wù))。與探索視圖中的自由式聊天機(jī)器人不同,需求分析聊天機(jī)器人充當(dāng)不間斷的逆向提問(wèn)者角色,他的工作方式如下:

1) 用戶在詢問(wèn)框中輸入任務(wù)描述(通常是對(duì)所需內(nèi)容的模糊描述)以開(kāi)始對(duì)話。

2) 需求分析聊天機(jī)器人根據(jù)初始任務(wù)描述和探索視圖中收集的任務(wù)筆記(如果有),通過(guò)一系列開(kāi)放式問(wèn)題引導(dǎo)用戶明確具體任務(wù)需求。

3) 需求分析聊天機(jī)器人會(huì)將用戶每輪的回應(yīng)逐步整合到任務(wù)描述中(顯示在右上角的任務(wù)需求框里)。

當(dāng)然,如果用戶認(rèn)為他已經(jīng)有了明確的需求,不需要需求分析聊天機(jī)器人的幫助,他可以直接在任務(wù)需求框中輸入需求。

AI 鏈框架生成

當(dāng)用戶認(rèn)為任務(wù)需求已經(jīng)清晰明確時(shí),可以點(diǎn)擊任務(wù)需求框下方的 “Generate AI Chain Skeleton” 按鈕,請(qǐng)求 AI 鏈框架生成副駕駛生成完成任務(wù)所需的主要步驟以及每個(gè)步驟的三個(gè)候選提示?!癎enerate AI Chain Skeleton” 工作方式如下:

1) 將任務(wù)總體描述轉(zhuǎn)換為主要步驟,并為每個(gè)步驟提供名稱(chēng)和描述。

2) 為每個(gè)步驟推薦三個(gè)候選提示,用戶可以在此基礎(chǔ)上自行修改。

3) 用戶可以手動(dòng)添加控制流、刪除或重新排序步驟等操作。

4) 用戶可以使用結(jié)構(gòu)化表單編輯生成的提示,設(shè)置步驟的輸入和執(zhí)行引擎。

通過(guò)這個(gè)流程,用戶可以方便地生成 AI 鏈的框架,以及對(duì)生成的框架進(jìn)行進(jìn)一步的修改和完善。最后點(diǎn)擊設(shè)計(jì)視圖右下角的 “Generate AI Chain” 按鈕,SapperIDE 將根據(jù) AI 鏈框架自動(dòng)為每個(gè)步驟創(chuàng)建工作者并把他們組裝一個(gè)基于積木塊的 AI 鏈,可以在編程視圖中查看、編輯和執(zhí)行。

編程視圖(Block View)

d5183f94-f7d9-11ed-90ce-dac502259ad0.gif

我們使用基于積木塊的可視化編程來(lái)支持 AI 鏈的實(shí)現(xiàn)、執(zhí)行和調(diào)試。當(dāng)前的實(shí)現(xiàn)是基于開(kāi)源的 Blockly 項(xiàng)目。在左側(cè)面板中,用戶可以訪問(wèn) Units、Code、Prompts、Variables 和 Engines 工具箱中的積木塊用以構(gòu)建 AI 鏈。相關(guān)積木塊介紹請(qǐng)?jiān)L問(wèn)我們的文檔

(https://www.aichain.online/public/content%20pages/sapperide/blockview.html)。

為了使用戶建立和修改工作者更加直觀,所有可視化編程操作都可以直接在工作者 / 容器塊上觸發(fā)。單擊插槽右側(cè)的 “+” 圖標(biāo)可以直接添加或編輯插槽對(duì)應(yīng)的積木塊。用戶可以從工具箱中拖放塊模板將塊添加到 AI 鏈編輯器中,通過(guò)在編輯器中拖放塊來(lái)組裝塊。用戶可以通過(guò)單擊編輯器右側(cè)的 “+”、“-” 和 “aim” 按鈕來(lái)縮放編輯器或?qū)⑺x塊放置在編輯器中心。

用戶可以通過(guò) “AI Chain Execution” 菜單運(yùn)行或調(diào)試 AI 鏈。當(dāng)工作者正在運(yùn)行時(shí),工作者塊左上角的 “bug” 信號(hào)燈將亮起。工作者執(zhí)行期間使用的實(shí)際提示和引擎輸出將輸出到塊控制臺(tái)(Block Console)。執(zhí)行所需的用戶輸入將在塊控制臺(tái)中輸入。

在調(diào)試模式下,工作者將一個(gè)接一個(gè)地執(zhí)行。當(dāng)前工作者完成運(yùn)行時(shí),執(zhí)行將被暫停,用戶可以檢查塊控制臺(tái)中的輸出是否符合預(yù)期。如果結(jié)果符合預(yù)期,則可以繼續(xù)執(zhí)行下一個(gè)工作者?;蛘撸脩艨梢栽谔崾究刂婆_(tái)(Prompt Console)中修改當(dāng)前工作者的提示,然后重新運(yùn)行當(dāng)前工作者。

如果將工作者塊放置在輸出塊中,則其輸出將顯示在右下角的輸出窗口中。此窗口不會(huì)顯示未放置在輸出塊中的工作者的輸出,也不會(huì)顯示提示。

塊控制臺(tái)用于幫助 AI 鏈工程師調(diào)試 AI 鏈,因此包含提示信息和中間執(zhí)行結(jié)果。右下角的輸出窗口允許工程師檢查最終用戶將看到的 AI 鏈輸出。

提示中心(Prompt Hub)

d568b24e-f7d9-11ed-90ce-dac502259ad0.gif

Sapper IDE 的 Prompt Hub(提示中心)提供了一個(gè)集中式的提示管理系統(tǒng),讓用戶在 AI 鏈項(xiàng)目之間輕松共享和重用提示。通過(guò) Prompt Builder(提示生成器)和 Prompt Base(提示庫(kù))工具箱,用戶能創(chuàng)建、編輯、導(dǎo)入和導(dǎo)出提示,使 AI 鏈項(xiàng)目開(kāi)發(fā)更高效、便捷。

用戶可以通過(guò)四個(gè)方面:上下文、指令、示例和輸出格式,以結(jié)構(gòu)化方式創(chuàng)建或編輯提示。這有助于實(shí)現(xiàn)更準(zhǔn)確的 AI 鏈項(xiàng)目功能。未來(lái)的設(shè)計(jì)視圖將允許用戶搜索提示庫(kù)或獲得自動(dòng)提示推薦,進(jìn)一步提高開(kāi)發(fā)效率。

Prompt Hub 還支持將提示下載到本地文件或從本地文件上傳到 IDE,方便在不同設(shè)備間同步提示信息。

引擎管理(Engine Management)

d5b8ccac-f7d9-11ed-90ce-dac502259ad0.gif

引擎管理功能讓用戶在 AI 鏈項(xiàng)目之間輕松共享和重用各類(lèi)引擎,如基礎(chǔ)模型、傳統(tǒng)機(jī)器學(xué)習(xí)模型(目前在開(kāi)發(fā)中,敬請(qǐng)期待)和外部 API。IDE 內(nèi)置了三個(gè)基礎(chǔ)模型:gpt-3.5-turbo、text-davinci-003、DALL-E,以及 Python 標(biāo)準(zhǔn) REPL shell。

在 FM Engines(基礎(chǔ)模型引擎)工具箱中,用戶可靈活創(chuàng)建和配置基礎(chǔ)模型引擎,調(diào)整參數(shù)如 Temperature、Maximum length、Top P、Frequency penalty 和 Presence penalty。點(diǎn)擊 “Save Engine to FM Engine”,將引擎保存以供后續(xù)編輯或?qū)С龅巾?xiàng)目。

最后,用戶還可將引擎信息下載至本地文件,或從本地文件上傳至 IDE。

AI 鏈項(xiàng)目管理(Project Management)

d5f0dc32-f7d9-11ed-90ce-dac502259ad0.gif

通過(guò) “Project Management” 菜單,用戶可創(chuàng)建新的 AI 鏈項(xiàng)目,將當(dāng)前項(xiàng)目下載到本地磁盤(pán),或在 IDE 中打開(kāi)本地磁盤(pán)上的項(xiàng)目。點(diǎn)擊 “Download Code” 按鈕,用戶可將實(shí)現(xiàn) AI 鏈的后臺(tái)代碼下載至本地磁盤(pán),用于其他軟件項(xiàng)目。注意,執(zhí)行下載的 AI 鏈代碼需要 sapperchain Python 庫(kù)(目前未開(kāi)源)。

在“Recent Project”菜單,我們預(yù)裝了一個(gè)演示項(xiàng)目“Hui Xiao Shi”以便于大家上手學(xué)習(xí)。

用戶若想開(kāi)源他的 AI 鏈項(xiàng)目,可將項(xiàng)目分享至 AI 鏈?zhǔn)袌?chǎng)(正在開(kāi)發(fā))。IDE 提供了一個(gè)創(chuàng)意副駕駛員,根據(jù)任務(wù)需求和工作者提示為項(xiàng)目生成簡(jiǎn)短描述和圖片。

現(xiàn)在,IDE 支持將 AI 鏈作為本地 Web 服務(wù)部署,便于手動(dòng)部署到外部云服務(wù)器。后續(xù)我們將推出自動(dòng)云服務(wù)部署功能。

IDE 功能演示教程

Prompt Sapper 的與眾不同之處

Prompt Sapper 受很多優(yōu)秀項(xiàng)目和工具的啟發(fā),比如 ChatGPT, AutoGPT, LangChain, no-code AI,以及大量 prompt engineering 文獻(xiàn)和工具。但我們與眾不同之處在于以下三點(diǎn):

d643cfe6-f7d9-11ed-90ce-dac502259ad0.png

人與 AI 交互光譜

1. 強(qiáng)調(diào)人工智能和人類(lèi)用戶之間的協(xié)作智能。如上圖所示,它通過(guò) AI 鏈無(wú)縫地將人類(lèi)智能與人工智能融合,有效地解決復(fù)雜問(wèn)題并實(shí)現(xiàn)共同目標(biāo)。這種協(xié)作智能促進(jìn)了整體效率的提高,降低了錯(cuò)誤率,并賦予了人類(lèi)用戶充分利用人工智能潛力的能力。這種獨(dú)特的方法使 Prompt Sapper 區(qū)別于現(xiàn)有的人類(lèi)驅(qū)動(dòng)的對(duì)話機(jī)器人(例如 ChatGPT)和以人工智能為主導(dǎo)的代理框架(例如 AutoGPT),凸顯了它的創(chuàng)新和獨(dú)特的價(jià)值主張。

2. 對(duì)計(jì)算和編程技能的更低要求。Prompt Sapper 顯著降低了創(chuàng)建符合用戶需求的復(fù)雜人工智能服務(wù)的門(mén)檻。它引入了一套基于 LLM 的虛擬產(chǎn)品經(jīng)理、架構(gòu)師和提示工程師,以幫助用戶獲取領(lǐng)域知識(shí)、分析任務(wù)要求并構(gòu)建 AI 鏈。此外,Prompt Sapper 提供直觀且用戶友好的界面,使用戶可以輕松地與人工智能進(jìn)行交互,并在不需要高級(jí)計(jì)算或編程技能的情況下原型化 AI 功能。這種方法擴(kuò)大了從人工智能進(jìn)步中受益的人群,突顯了 Prompt Sapper 在人工智能領(lǐng)域中的獨(dú)特地位。

3. 系統(tǒng)的 AI4SE4AI 框架。Prompt Sapper 高度重視軟件工程和人工智能的緊密集成,致力于創(chuàng)建一個(gè)系統(tǒng)化的 AI4SE4AI 框架。在這個(gè)框架內(nèi),Prompt Sapper 利用人工智能技術(shù),顯著提高軟件工程過(guò)程的效率,例如需求分析、AI 鏈設(shè)計(jì)、構(gòu)建和測(cè)試。同時(shí),Prompt Sapper 遵循和擴(kuò)展了軟件工程的最佳實(shí)踐,以適應(yīng)由 AI 2.0 和軟件 3.0 推動(dòng)的新軟件環(huán)境。這個(gè) AI4SE4AI 框架不僅大大提高了人工智能服務(wù)的開(kāi)發(fā)效率和項(xiàng)目質(zhì)量,還支持靈活的服務(wù)重用和組裝,以及持續(xù)改進(jìn)和優(yōu)化人工智能服務(wù),以滿足不斷變化的需求。

下面表格總結(jié)了 Prompt Sapper 與重要相關(guān)技術(shù)的對(duì)比,詳情請(qǐng)參閱我們的文檔(https://www.aichain.online/public/content%20pages/sappervsothers.html)

d6602b64-f7d9-11ed-90ce-dac502259ad0.png

AutoGPT vs. Prompt Sapper

d6809016-f7d9-11ed-90ce-dac502259ad0.png

LangChain vs. Prompt Sapper

d6a91d38-f7d9-11ed-90ce-dac502259ad0.png

No-code AI vs. Prompt Sapper

d6c17126-f7d9-11ed-90ce-dac502259ad0.png

Prompt Engineering vs. Prompt Sapper

d6e35bba-f7d9-11ed-90ce-dac502259ad0.png

展望未來(lái)

我們處于一個(gè)令人激動(dòng)的 AI 和軟件工程信息時(shí)代,我們共同見(jiàn)證著科技進(jìn)步如何改變世界。Prompt Sapper 攜手基礎(chǔ)模型和軟件工程,將不斷探索 AI 鏈工程的最佳實(shí)踐和方法學(xué),推動(dòng)著 AI 鏈工程的發(fā)展和普及。我們計(jì)劃采用 “走出去” 和 “引進(jìn)來(lái)” 的方式來(lái)打通 AI 鏈開(kāi)發(fā)和終端用戶之間的最后一公里,將 AI 鏈工程方法學(xué)、工具和實(shí)踐帶給更多的開(kāi)發(fā)者和用戶,并推動(dòng) AI 服務(wù)市場(chǎng)和生態(tài)系統(tǒng)的發(fā)展。我們相信,AI 鏈工程將會(huì)成為未來(lái)的核心技術(shù)之一,廣泛應(yīng)用于各個(gè)領(lǐng)域和行業(yè),為人類(lèi)創(chuàng)造更多的價(jià)值和福利。我們可以想象到,AI 鏈將能夠幫助我們更快速地解決問(wèn)題,提高工作效率,提供更加個(gè)性化的服務(wù),同時(shí)推動(dòng)社會(huì)經(jīng)濟(jì)邁向更加智能化的未來(lái)。

參考:

項(xiàng)目鏈接: https://github.com/AI4FutureSE

AI 鏈主網(wǎng)站: https://www.aichain.online/

Sapper IDE: https://www.promptsapper.tech/

AI 服務(wù)市場(chǎng):https://www.aichain.store/

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 操作系統(tǒng)
    +關(guān)注

    關(guān)注

    37

    文章

    7144

    瀏覽量

    125566
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35100

    瀏覽量

    279543
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3518

    瀏覽量

    50406

原文標(biāo)題:Prompt Sapper:基礎(chǔ)模型的靈魂伴侶,AI服務(wù)的創(chuàng)新工場(chǎng)

文章出處:【微信號(hào):軟件質(zhì)量報(bào)道,微信公眾號(hào):軟件質(zhì)量報(bào)道】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    門(mén)型展架 創(chuàng)新工坊553閃光系統(tǒng) 商業(yè)計(jì)劃書(shū).rar

    *附件:門(mén)型展架 創(chuàng)新工坊553閃光系統(tǒng) 商業(yè)計(jì)劃書(shū).rar *附件:12.rar
    發(fā)表于 06-21 08:28

    阿里云領(lǐng)投,硅基流動(dòng)深耕AI基建破解大模型成本難題

    電子發(fā)燒友網(wǎng)綜合報(bào)道 日前,硅基流動(dòng)宣布完成數(shù)億元A輪融資,阿里云領(lǐng)投,創(chuàng)新工場(chǎng)等跟投。硅基流動(dòng)創(chuàng)始人袁進(jìn)輝稱(chēng),這輪融資將用于加大研發(fā)投入、擴(kuò)展海內(nèi)外市場(chǎng)。 ? 硅基流動(dòng)成立于2023年,定位
    的頭像 發(fā)表于 06-17 00:07 ?3415次閱讀

    正點(diǎn)原子 AI BOX0 智能伴侶,1.54寸高清屏+長(zhǎng)效續(xù)航,語(yǔ)音暢聊,情景對(duì)話,知識(shí)科普,多色可選,隨身攜帶!

    正點(diǎn)原子 AI BOX0攜小智AI來(lái)襲,專(zhuān)屬你的智能伴侶!你的全能AI伙伴,懂你更貼心 正點(diǎn)原子ESP32 AI BOX0 — 不只是桌面擺
    發(fā)表于 04-24 16:11

    RAKsmart高性能服務(wù)器集群:驅(qū)動(dòng)AI大語(yǔ)言模型開(kāi)發(fā)的算力引擎

    RAKsmart高性能服務(wù)器集群憑借其創(chuàng)新的硬件架構(gòu)與全棧優(yōu)化能力,成為支撐大語(yǔ)言模型開(kāi)發(fā)的核心算力引擎。下面,AI部落小編帶您了解RAKsmart如何為
    的頭像 發(fā)表于 04-15 09:40 ?244次閱讀

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    的自有模型移植,使首字詞生態(tài)速度比云端方案提升70%,賦能絕影多模態(tài)智能座艙強(qiáng)大的端側(cè)運(yùn)行能力,讓汽車(chē)擁有“有趣的靈魂”。 不僅如此,天璣AI開(kāi)發(fā)套件已經(jīng)接入NVIDIA TAO生態(tài)圈,實(shí)現(xiàn)TAO
    發(fā)表于 04-13 19:52

    如何在RAKsmart服務(wù)器上實(shí)現(xiàn)企業(yè)AI模型部署

    AI模型的訓(xùn)練與部署需要強(qiáng)大的算力支持、穩(wěn)定的網(wǎng)絡(luò)環(huán)境和專(zhuān)業(yè)的技術(shù)管理。RAKsmart作為全球領(lǐng)先的服務(wù)器托管與云計(jì)算服務(wù)提供商,已成為企業(yè)部署A
    的頭像 發(fā)表于 03-27 09:46 ?488次閱讀

    利用RAKsmart服務(wù)器托管AI模型訓(xùn)練的優(yōu)勢(shì)

    AI模型訓(xùn)練需要強(qiáng)大的計(jì)算資源、高效的存儲(chǔ)和穩(wěn)定的網(wǎng)絡(luò)支持,這對(duì)服務(wù)器的性能提出了較高要求。而RAKsmart服務(wù)器憑借其核心優(yōu)勢(shì),成為托管AI
    的頭像 發(fā)表于 03-18 10:08 ?259次閱讀

    AI模型托管原理

    AI模型托管的核心在于將訓(xùn)練好的AI模型部署在云端或邊緣服務(wù)器上,由第三方平臺(tái)提供模型運(yùn)行、管理
    的頭像 發(fā)表于 02-26 10:31 ?610次閱讀

    中軟國(guó)際推出升級(jí)版一站式AI解決方案服務(wù)

    近日,中軟國(guó)際模型工場(chǎng)基于昇騰云、DeepSeek模型,推出升級(jí)版一站式AI解決方案服務(wù)。基于昇騰云,
    的頭像 發(fā)表于 02-08 10:18 ?573次閱讀

    雷鳥(niǎo)創(chuàng)新與阿里云達(dá)成戰(zhàn)略合作,引領(lǐng) AI模型與AR眼鏡融合新紀(jì)元

    1月2日,消費(fèi)級(jí)AR領(lǐng)先品牌雷鳥(niǎo)創(chuàng)新RayNeo與阿里云舉行戰(zhàn)略簽約儀式,雙方宣布在AI眼鏡領(lǐng)域達(dá)成獨(dú)家戰(zhàn)略合作,通義系列大模型將為雷鳥(niǎo)創(chuàng)新AI
    發(fā)表于 01-03 13:45 ?330次閱讀
    雷鳥(niǎo)<b class='flag-5'>創(chuàng)新</b>與阿里云達(dá)成戰(zhàn)略合作,引領(lǐng) <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>與AR眼鏡融合新紀(jì)元

    AI對(duì)話魔法 Prompt Engineering 探索指南

    Engineering 就是設(shè)計(jì)和優(yōu)化與AI對(duì)話的“提示詞”或“指令”,讓AI能準(zhǔn)確理解并提供有用的回應(yīng)。 Prompt Engineering 主要包括以下幾個(gè)方面: 1.明確目標(biāo):希望A
    的頭像 發(fā)表于 11-07 10:11 ?1441次閱讀
    <b class='flag-5'>AI</b>對(duì)話魔法 <b class='flag-5'>Prompt</b> Engineering 探索指南

    AI模型托管原理分析

    AI模型托管是指將訓(xùn)練好的AI模型部署在云端或邊緣服務(wù)器上,由第三方平臺(tái)提供模型運(yùn)行、管理和優(yōu)化
    的頭像 發(fā)表于 11-07 09:33 ?791次閱讀

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    非常高興本周末收到一本新書(shū),也非常感謝平臺(tái)提供閱讀機(jī)會(huì)。 這是一本挺好的書(shū),包裝精美,內(nèi)容詳實(shí),干活滿滿。 關(guān)于《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章“AI
    發(fā)表于 10-14 09:16

    中軟國(guó)際模型工場(chǎng)加速各行業(yè)智能化進(jìn)程

    介紹了中軟國(guó)際模型工場(chǎng)如何通過(guò)全棧AI場(chǎng)景化服務(wù),解決大模型在企業(yè)應(yīng)用中的核心痛點(diǎn),幫助企業(yè)實(shí)現(xiàn)從探索到全面實(shí)踐的智能化轉(zhuǎn)型,打通
    的頭像 發(fā)表于 09-19 14:14 ?671次閱讀
    中軟國(guó)際<b class='flag-5'>模型</b><b class='flag-5'>工場(chǎng)</b>加速各行業(yè)智能化進(jìn)程

    GitHub推出GitHub Models服務(wù),賦能開(kāi)發(fā)者智能選擇AI模型

    8月2日,全球領(lǐng)先的代碼托管平臺(tái)GitHub宣布了一項(xiàng)重大創(chuàng)新——GitHub Models服務(wù)的正式推出。該服務(wù)被定位為AI時(shí)代的工程師助手,旨在幫助全球超過(guò)1億的GitHub用戶輕
    的頭像 發(fā)表于 08-02 15:39 ?1060次閱讀