chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

OpenAI斷供API,國產(chǎn)大模型替代方案低成本遷移

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-06-27 09:04 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)日前,不少國內(nèi)API開發(fā)者收到了來自O(shè)penAI的郵件。郵件稱,從7月9日起采取額外措施,阻止來自非支持國家和地區(qū)列表中的地區(qū)的API流量。根據(jù)OpenAI官網(wǎng),支持訪問API服務(wù)的國家和地區(qū)列表中總計188個國家和地區(qū),不包括中國內(nèi)地與中國香港。

這意味著,OpenAI宣布終止對中國開發(fā)者提供API服務(wù)。OpenAI終止對中國提供API服務(wù),對一些通過接入OpenAI API做大模型或應(yīng)用的企業(yè)會有影響,不過這對國產(chǎn)大模型的長遠發(fā)展卻也有積極意義,它反而促進國產(chǎn)大模型的自主研發(fā),并帶來更多應(yīng)用機會。

國產(chǎn)大模型紛紛推出替代方案

隨著OpenAI停止對中國提供API服務(wù),國內(nèi)大模型公司紛紛行動,上線“遷移計劃”。如智譜,該公司第一時間在官微宣布,面向OpenAI API用戶提供特別搬家計劃,幫助用戶切換至國產(chǎn)大模型,其 GLM 大模型號稱全面對標(biāo) OpenAI 產(chǎn)品體系,且全鏈路技術(shù)自研、安全可控。

具體來看,智譜為開發(fā)者提供1.5億Token(5000萬 GLM-4 + 1億 GLM-4-Air),從OpenAI 到 GLM 的系列遷移培訓(xùn)。對于高用量客戶,智譜提供與OpenAI使用規(guī)模對等的Token贈送計劃(不設(shè)上限),以及與 OpenAI 對等的并發(fā)規(guī)模,匹配高等級會員政策,專屬搬家顧問及5人天技術(shù)專家支持,備案培訓(xùn)和輔助。

百度智能云千帆推出大模型普惠計劃,稱讓用戶0成本切換至國內(nèi)調(diào)用量第一的大模型平臺,場景更豐富、模型更全面、工具鏈更完整易用、更安全可靠。

具體來看,即日起為新注冊企業(yè)用戶提供0元調(diào)用服務(wù):文心旗艦?zāi)P褪状蚊赓M,贈送ERNIE3.5旗艦?zāi)P?000萬Tokens包,主力模型ERNIE Speed/ERNIE Lite和輕量模型ERNIE Tiny持續(xù)免費 ;針對OpenAI遷移用戶額外贈送與OpenAI使用規(guī)模對等的ERNIE3.5旗艦?zāi)P蚑okens包。

同時,該計劃還支持0元訓(xùn)練、0元遷移、0元服務(wù)。0 元訓(xùn)練:免費模型精調(diào)訓(xùn)練服務(wù) 0 元遷移:零成本 SDK 遷移工具;0 元服務(wù):專家服務(wù)(遷移 & 使用指導(dǎo))。

騰訊云宣布,即日起至2024年7月31日24時,將為新遷移企業(yè)用戶免費贈送1億騰訊混元大模型tokens(標(biāo)記),并提供免費專屬遷移工具和服務(wù)。目前,騰訊云提供混元Pro、Standard、Lite等多個不同版本和尺寸的模型,用戶可任意選擇。

阿里云百煉宣布,將為OpenAI API用戶提供最具性價比的中國大模型替代方案,并為中國開發(fā)者提供2200萬免費tokens和專屬遷移服務(wù)。根據(jù)斯坦福最新公布的大模型測評榜單HELM MMLU,Qwen2-72B得分為0.824,與GPT-4并列全球第四。通義千問GPT4級主力模型Qwen-plus在阿里云百煉上的調(diào)用價格為0.004元/千tokens,僅為GPT-4的50分之一。

由李開復(fù)創(chuàng)立的AI大模型獨角獸公司零一萬物也發(fā)起“Yi API二折平替計劃”,面向OpenAI用戶推出平滑遷移至Yi系列大模型的服務(wù)。據(jù)介紹,目前注冊使用Yi API的新客戶,零一萬物立即贈送100元額度,幫助用戶完成平穩(wěn)過渡;平臺充值還將贈送50%到賬額度,上不封頂。此外,零一萬物API還將提供Prompt兼容調(diào)優(yōu)服務(wù)支持。

百川智能宣布特別推出OpenAI 零成本遷移計劃,將為參與用戶免費贈送1 千萬 token,同時宣布Assitants API 免費使用。據(jù)介紹,目前百川智能開放平臺接口已完全兼容OpenAI API,支持零成本遷移,功能更豐富。借助百川技術(shù)專家隨時答疑,開發(fā)者五分鐘即可完成Api遷移。

少不了算力芯片的支持

國產(chǎn)大模型紛紛推出替代方案,這背后少不了需要算力芯片的支持。目前國內(nèi)大模型訓(xùn)練基本使用英偉達GPU,英偉達的GPU因其強大的并行處理能力和高效的計算性能,被廣泛應(yīng)用于深度學(xué)習(xí)機器學(xué)習(xí)等需要大量計算資源的領(lǐng)域。

如阿里通義千問大模型,它包含多個不同規(guī)模的版本,Qwen-1.8B、Qwen-7B、Qwen-14B和Qwen-72B等,據(jù)了解,阿里通義千問大模型主要使用英偉達Tesla A100、Tesla A800、Tesla H100等GPU芯片,這些GPU具有較大的顯存和強大的計算能力,能夠滿足大模型訓(xùn)練的需求。

百度文心一言主要基于英偉達的A100 GPU完成其高效的深度學(xué)習(xí)計算任務(wù)。A100 GPU采用了NVIDIA最新的Ampere架構(gòu),被廣泛應(yīng)用在各種AI模型和高性能計算場景中。A100 GPU在文心一言的構(gòu)建和運行過程中,執(zhí)行大規(guī)模并行處理任務(wù),特別是在語義理解、語境關(guān)聯(lián)及文本生成等領(lǐng)域內(nèi)。

除此之外,百度也兼容其他公司的GPU,在英偉達A100、H100等訓(xùn)練AI用GPU遭遇進口管制的情況下,百度采用了將來自不同供應(yīng)商的GPU集成到統(tǒng)一的計算集群中的策略,以訓(xùn)練大語言模型。

字節(jié)跳動大模型在訓(xùn)練過程中也是主要使用英偉達的GPU。據(jù)悉,字節(jié)跳動在2023年向英偉達訂購了超過10億美元的GPU產(chǎn)品,目前已經(jīng)采購了10萬塊A100與H800加速卡,這兩款GPU均屬于英偉達的高性能計算產(chǎn)品線,非常適合用于深度學(xué)習(xí)、大模型訓(xùn)練等任務(wù)。

另外,像智譜、百川智能等也主要使用英偉達的GPU。智譜AI通過與優(yōu)刻得等公司的合作,利用英偉達GPU構(gòu)建超千卡規(guī)模的推理集群,以滿足其大模型在文本、圖片、視頻等多場景下的大規(guī)模實時推理需求。

百川智能與鴻博股份的全資子公司英博數(shù)科合作,后者向百川智能提供的智算服務(wù)器,其單臺所提供的算力規(guī)模和性能不低于英偉達H系列8卡智算服務(wù)器所有的同等算力。這意味著百川智能大模型的訓(xùn)練過程中,將直接使用到英偉達高性能的GPU資源。

除了使用英偉達GPU之外,一些國產(chǎn)大模型的訓(xùn)練和運行也使用國內(nèi)的算力芯片,如華為、科大訊飛、月之暗面等。同時,海光信息、天數(shù)智芯、摩爾線程、沐曦、景嘉微等都已經(jīng)推出和搭建可以支持大模型訓(xùn)練和推理的芯片、系統(tǒng)和智算集群。

寫在最后

總的來說,OpenAI停止對中國開發(fā)者提供API服務(wù),對于目前一些調(diào)用通過接入OpenAI API做大模型和AI應(yīng)用的企業(yè)來說有所影響,不過,國內(nèi)不少大模型廠商已經(jīng)紛紛推出替代方案,雖然目前國產(chǎn)大模型較OpenAI有一定差距,不過隨著更多的被使用,長遠來看國產(chǎn)大模型將會逐步實現(xiàn)突破。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • API
    API
    +關(guān)注

    關(guān)注

    2

    文章

    1620

    瀏覽量

    64046
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1210

    瀏覽量

    8921
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3146

    瀏覽量

    4071
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    突發(fā)!全球三大家EDA大陸,國產(chǎn)EDA崛起?

    這兩天EDA的事傳的沸沸揚揚,金融時報和路透社都報道了這件事。截止到目前,最新的消息還是這兩個報告中的內(nèi)容,但還不知道具體的細節(jié)。筆者認(rèn)為全面即一刀切的可能性并不是很大,這樣就
    的頭像 發(fā)表于 05-30 09:16 ?1314次閱讀
    突發(fā)!全球三大家EDA<b class='flag-5'>斷</b><b class='flag-5'>供</b>大陸,<b class='flag-5'>國產(chǎn)</b>EDA崛起?

    如何獲取 OpenAI API Key?API 獲取與代碼調(diào)用示例 (詳解教程)

    OpenAI API Key 獲取與使用詳解:從入門到精通 OpenAI 正以其 GPT 和 DALL-E 等先進模型引領(lǐng)全球人工智能創(chuàng)新。其 AP
    的頭像 發(fā)表于 05-04 11:42 ?2130次閱讀
    如何獲取 <b class='flag-5'>OpenAI</b> <b class='flag-5'>API</b> Key?<b class='flag-5'>API</b> 獲取與代碼調(diào)用示例 (詳解教程)

    國產(chǎn)單片機倒車影像合作

    尋找國產(chǎn)低成本單芯片單片機AMT630,SSD101合作方案, 尋找國產(chǎn)低成本單芯片單片機AMT630,SSD101合作
    發(fā)表于 04-29 09:00

    openai api key獲取的三種方案(有一種可以白嫖到 api key)

    OpenAI API Key 全攻略:官方獲取、費用詳解與“白嫖”實戰(zhàn) 引言: 想要體驗 OpenAI 強大的 GPT 模型,卻苦于沒有 API
    的頭像 發(fā)表于 02-24 22:16 ?9826次閱讀
    <b class='flag-5'>openai</b> <b class='flag-5'>api</b> key獲取的三種<b class='flag-5'>方案</b>(有一種可以白嫖到 <b class='flag-5'>api</b> key)

    OpenAI API Key 獲取全攻略:入門、精通與詳解教程(國內(nèi)開發(fā)者優(yōu)化版)

    帶來的現(xiàn)實。無論你是開發(fā)者、研究員、內(nèi)容創(chuàng)作者,還是 AI 愛好者,OpenAI 強大的語言模型都能為你的工作和生活帶來無限可能。 本指南將手把手教你獲取并使用 OpenAI API
    的頭像 發(fā)表于 02-15 17:26 ?3558次閱讀
    <b class='flag-5'>OpenAI</b> <b class='flag-5'>API</b> Key 獲取全攻略:入門、精通與詳解教程(國內(nèi)開發(fā)者優(yōu)化版)

    OpenAI即將推出GPT-5模型

    先進技術(shù),其中包括備受矚目的o3工具。通過整合這些技術(shù),GPT-5模型將實現(xiàn)更加強大的功能和性能。 值得一提的是,GPT-5模型將被廣泛應(yīng)用于OpenAI的聊天機器人ChatGPT以及API
    的頭像 發(fā)表于 02-13 11:21 ?593次閱讀

    阿里巴巴Qwen大模型助力開發(fā)低成本DeepSeek替代方案

    近日,阿里巴巴的開源Qwen2.5模型在AI領(lǐng)域再次展現(xiàn)其強大實力,為斯坦福大學(xué)與伯克利大學(xué)的研究人員提供了低成本的AI訓(xùn)練解決方案。借助這一技術(shù),兩所知名學(xué)府的研究團隊成功開發(fā)出價格低于50美元
    的頭像 發(fā)表于 02-12 13:42 ?959次閱讀

    Qwen大模型助力開發(fā)低成本AI推理方案

    阿里巴巴的開源Qwen2.5模型近期在AI領(lǐng)域引發(fā)了廣泛關(guān)注。這一大模型的推出,為斯坦福大學(xué)與伯克利大學(xué)的研究人員提供了強大的技術(shù)支持,使他們能夠成功開發(fā)出低成本的AI推理模型。 據(jù)悉
    的頭像 發(fā)表于 02-12 09:19 ?651次閱讀

    國產(chǎn)模數(shù)轉(zhuǎn)換器SC1642——ADS1258優(yōu)質(zhì)國產(chǎn)替代方案

    國產(chǎn)模數(shù)轉(zhuǎn)換器SC1642——ADS1258優(yōu)質(zhì)國產(chǎn)替代方案
    的頭像 發(fā)表于 01-22 09:58 ?630次閱讀
    <b class='flag-5'>國產(chǎn)</b>模數(shù)轉(zhuǎn)換器SC1642——ADS1258優(yōu)質(zhì)<b class='flag-5'>國產(chǎn)</b><b class='flag-5'>替代</b><b class='flag-5'>方案</b>

    OpenAI宣布API恢復(fù)運行,ChatGPT正在逐步回歸

    近日,OpenAI官方發(fā)布了一則重要更新說明,宣布其API系統(tǒng)現(xiàn)已全面恢復(fù)運行,同時確認(rèn)ChatGPT服務(wù)正在逐步恢復(fù)中。這一消息對于眾多依賴OpenAI服務(wù)的用戶來說,無疑是一個好消息。 早些時候
    的頭像 發(fā)表于 12-28 14:41 ?840次閱讀

    微軟尋求在365 Copilot中引入非OpenAI模型

    近日,據(jù)路透社報道,微軟正在積極尋求為其旗艦人工智能產(chǎn)品Microsoft 365 Copilot增加內(nèi)部和第三方的人工智能模型,以減少對OpenAI底層技術(shù)的依賴,并降低成本。 知情人士透露,微軟
    的頭像 發(fā)表于 12-25 10:41 ?610次閱讀

    OpenAI 發(fā)了一個支持 ESP32 的 Realtime API SDK

    “ ?昨晚 OpenAI 正式發(fā)布了 o3 模型,AI 圈一片沸騰。作為電子工程師的我撓了撓頭,好像和我沒什么直接的關(guān)系??倒是 OpenAI 的另一個小發(fā)布,讓我很感興趣:一個可以在 Linux
    的頭像 發(fā)表于 12-21 11:36 ?6153次閱讀
    <b class='flag-5'>OpenAI</b> 發(fā)了一個支持 ESP32 的 Realtime <b class='flag-5'>API</b> SDK

    OpenAI暫不推出Sora視頻生成模型API

    OpenAI近日宣布,目前暫無推出其視頻生成模型Sora的應(yīng)用程序接口(API)的計劃。Sora模型能夠基于文本和圖像生成視頻,引發(fā)了廣泛關(guān)注。然而,由于訪問量遠超預(yù)期,
    的頭像 發(fā)表于 12-20 14:23 ?528次閱讀

    OpenAI發(fā)布o(jì)1模型API,成本大幅下降60%

    近日,OpenAI正式推出了備受期待的o1模型API,并對實時API進行了重大升級,引入了WebRTC支持。此次發(fā)布的o1模型
    的頭像 發(fā)表于 12-19 10:31 ?694次閱讀

    OpenAI api key獲取并可調(diào)用GPT-4.0、GPT-4o、GPT-4omini

    前言 在這篇文章中,我們將詳細介紹如何申請OpenAI的GPT-4.0 API Key。通過這個教程,你將能夠輕松獲取OpenAI API KEY并使用GPT-4.0的強大功能。 目錄
    的頭像 發(fā)表于 08-06 15:16 ?4557次閱讀
    <b class='flag-5'>OpenAI</b> <b class='flag-5'>api</b> key獲取并可調(diào)用GPT-4.0、GPT-4o、GPT-4omini