OpenAI 發(fā)布 GPT-4 Turbo 目前我們所知道的功能分析解答

在最近的OpenAI DevDay上，該組織發(fā)布了一項備受期待的公告：推出GPT-4 Turbo，這是對其突破性AI模型的改進。在這里，我們?nèi)媪私釭PT-4 Turbo是什么、它的主要功能以及它如何使開發(fā)人員和用戶受益。

了解 OpenAI 的最新更新、具有視覺功能的 GPT-4 Turbo 及其主要功能，包括改進的知識截止、擴展的上下文窗口、預算友好的定價等。

什么是GPT-4 Turbo？

GPT-4 Turbo是現(xiàn)有GPT-4大語言模型的更新。它帶來了一些改進，包括大大增加的上下文窗口和對更多最新知識的訪問。OpenAI逐漸改進ChatGPT中GPT-4的功能，添加了自定義指令、ChatGPT插件、DALL-E 3和高級數(shù)據(jù)分析。此最新更新帶來了許多令人興奮的新功能。

什么是GPT-4 Turbo With Vision？

具有視覺功能的GPT-4 Turbo是GPT-4 Turbo的變體，包含光學字符識別(OCR)功能。也就是說，您可以向它提供圖像，它可以返回圖像中包含的任何文本。例如，您可以輸入菜單的照片，它將返回該照片中寫入的食物選擇。同樣，您可以提供發(fā)票照片并自動提取供應商名稱和商品詳細信息。

ChatGPT默認提供“with Vision”功能，開發(fā)人員可以通過在OpenAI API中選擇“gpt-4-vision”模型來使用。

GPT-4 Turbo主要特性

GPT-4 Turbo與之前的型號相比有多項改進，增強了其功能。以下是使其脫穎而出的一些關(guān)鍵功能：

改進知識截止

Sam Altman承諾確保ChatGPT保持最新狀態(tài)

GPT-3.5和GPT-4的現(xiàn)有版本的知識截止日期為2021年9月。這意味著它們無法回答有關(guān)該時間之后發(fā)生的現(xiàn)實世界事件的問題，除非獲得外部數(shù)據(jù)源的訪問權(quán)限。

GPT-4將知識截止時間延長了19個月，至2023年4月。這意味著GPT-4 Turbo可以訪問截至該日期的信息和事件，使其成為更明智、更可靠的信息來源。此外，OpenAI的首席執(zhí)行官Sam Altman承諾“[OpenAI]將努力永遠不會讓[GPT]再次過時。”

128K上下文窗口

大型語言模型(LLM)的上下文窗口是衡量其對話記憶持續(xù)時間的指標。如果模型的上下文窗口包含4,000個令牌（約3,000個單詞），則聊天中超過4,000個令牌之前的所有內(nèi)容都會被忽略，并且響應可能會變得不太準確，甚至與之前的響應相矛盾。對于處理較長的文檔或進行長時間對話的聊天機器人來說，這是一個問題。

GPT-4的最大上下文長度為32k(32,000)個令牌。GPT-4 Turbo將其增加到128k令牌（大約240頁，每頁400個字）。這超過了Anthropic的Claude 2模型的100k最大上下文，并使其與Nous Research的YARN-MISTRAL-7b-128k模型保持一致。

較長的上下文窗口是否會導致整個窗口的響應性能令人滿意，還有待觀察。斯坦福大學最近的研究表明，現(xiàn)有的長上下文模型只能在從文檔開頭或結(jié)尾附近檢索信息時提供準確的響應。

還值得注意的是，128k似乎只是實現(xiàn)“無限上下文”夢想的墊腳石。微軟和西安交通大學的早期研究旨在將法學碩士規(guī)模擴大到十億個代幣的背景。

GPT開始發(fā)售

OpenAI響應了LLM市場日益激烈的競爭，并降低了GPT-4 Turbo的價格，以便為開發(fā)人員提供經(jīng)濟實惠的價格。使用OpenAI API時，GPT-4 Turbo輸入代幣價格現(xiàn)在是之前價格的三分之一，從每1000個代幣3美分降至1美分。產(chǎn)出的代幣現(xiàn)在是半價，從每1000個代幣6美分降至3美分。

GPT-3.5 Turbo模型也延續(xù)了同樣的趨勢，以每1000個代幣0.1美分的價格提供了3倍便宜的輸入代幣，以每1000個代幣0.2美分的價格提供了2倍便宜的輸出代幣。

此外，經(jīng)過微調(diào)的GPT-3.5 Turbo 4K模型輸入代幣現(xiàn)在價格便宜4倍，價格從每1000個代幣1.2美分降至0.3美分，輸出代幣便宜2.7倍，從每1.6美分降至0.6美分每1000個代幣為美分。培訓價格保持不變，為每1000個代幣0.8美分。

這些價格調(diào)整旨在使先進的人工智能模型對開發(fā)者來說更??具成本效益。

GPT走向多模式：圖像提示和文本轉(zhuǎn)語音

“GPT-4 Turbo with Vision”宣布即將推出。您很快就可以通過直接在聊天框中輸入圖像作為提示來提示GPT-4 Turbo。然后，該工具將能夠生成標題或提供圖像所描繪內(nèi)容的描述。它還將處理文本到語音的請求。

函數(shù)調(diào)用更新

函數(shù)調(diào)用是開發(fā)人員將生成式人工智能融入其應用程序的一項功能。它使他們能夠向GPT-4 Turbo描述其應用程序的功能或外部API。由于能夠在一條消息中調(diào)用多個函數(shù)，此功能簡化了與模型的交互。例如，用戶可以發(fā)送一條請求多個操作的消息，從而無需與模型進行多次來回交互。

如何訪問GPT-4 Turbo

“所有付費開發(fā)人員”都可以訪問GPT-4 Turbo，這意味著如果您具有API訪問權(quán)限，則只需在OpenAI API中傳遞“gpt-4-1106-preview”作為模型名稱即可。同樣，對于具有視覺功能的GPT-4 Turbo，您可以傳遞“gpt-4-vision-preview”作為模型名稱。

請注意，這些預覽模型尚未被認為適合生產(chǎn)使用。然而，作為公告的一部分，Altman還承諾將在未來幾周內(nèi)推出可投入生產(chǎn)的版本。

對于非開發(fā)人員來說，GPT-4 Turbo可能會在未來幾周內(nèi)向ChatGPT Plus和ChatGPT Enterprise用戶提供。

速率限制

通過OpenAI API訪問GPt模型的速率受到限制。也就是說，您每月只能向API發(fā)出有限數(shù)量的請求。OpenAI現(xiàn)已發(fā)布關(guān)于速率限制如何運作的更清晰指南，因此您的應用程序不會意外被切斷。

此外，GPT-4的速率限制增加了一倍

由于GPT-4 Turbo目前處于預覽階段，因此GPT-4 Turbo的速率限制設(shè)置為每分鐘20個請求和每天100個請求。OpenAI已表示，他們目前不會適應此模型的速率限制增加。然而，一旦公開版本可用，他們很可能會這樣做。

最后的思考

GPT-4 Turbo的發(fā)布為生成式AI的未來提供了令人興奮的一瞥，我們迫不及待地想掌握它。對于那些尋求更深入了解的人，我們關(guān)于在OpenAI API使用GPT-3.5和GPT-4的教程有很多值得探索的地方。

審核編輯 黃宇