全球領(lǐng)先的內(nèi)存解決方案提供商Kioxia Corporation近日宣布了一項(xiàng)重大舉措:以開(kāi)源軟件的形式發(fā)布其創(chuàng)新的全存儲(chǔ)ANNS乘積量化(AiSAQ)技術(shù)。這一技術(shù)的發(fā)布旨在優(yōu)化固態(tài)硬盤(pán)(SSD)的性能,并顯著降低生成式人工智能系統(tǒng)對(duì)DRAM的需求。
Kioxia的AiSAQ?軟件采用了專(zhuān)為SSD優(yōu)化的新型“近似最近鄰”搜索(ANNS)算法。該算法通過(guò)直接在SSD上進(jìn)行搜索,無(wú)需將索引數(shù)據(jù)存儲(chǔ)在DRAM中,從而實(shí)現(xiàn)了對(duì)檢索增強(qiáng)生成(RAG)的可擴(kuò)展性能支持。這一特性使得AiSAQ?技術(shù)在處理大規(guī)模數(shù)據(jù)集時(shí)能夠顯著提高效率,同時(shí)降低系統(tǒng)的整體能耗和成本。
通過(guò)開(kāi)源發(fā)布AiSAQ?技術(shù),Kioxia希望為全球的開(kāi)發(fā)者、研究人員和工程師提供一個(gè)強(qiáng)大的工具,以推動(dòng)生成式人工智能技術(shù)的進(jìn)一步發(fā)展。開(kāi)源社區(qū)的成員將能夠自由地使用、修改和完善這一技術(shù),共同探索其在各種應(yīng)用場(chǎng)景中的潛力。
Kioxia表示,將繼續(xù)致力于內(nèi)存技術(shù)的創(chuàng)新,為全球用戶提供更加高效、可靠和可持續(xù)的解決方案。同時(shí),公司也將積極參與開(kāi)源社區(qū)的建設(shè),與全球的合作伙伴共同推動(dòng)技術(shù)的進(jìn)步和發(fā)展。
-
DRAM
+關(guān)注
關(guān)注
40文章
2341瀏覽量
185012 -
AI
+關(guān)注
關(guān)注
87文章
33711瀏覽量
274464 -
人工智能
+關(guān)注
關(guān)注
1804文章
48509瀏覽量
245334 -
Kioxia
+關(guān)注
關(guān)注
0文章
10瀏覽量
2088
發(fā)布評(píng)論請(qǐng)先 登錄
生成式AI帶飛,三大存儲(chǔ)產(chǎn)品齊漲價(jià)
Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計(jì)算與嵌入式開(kāi)發(fā)
聚云科技榮獲亞馬遜云科技生成式AI能力認(rèn)證
聚云科技榮獲亞馬遜云科技生成式AI能力認(rèn)證 助力企業(yè)加速生成式AI應(yīng)用落地
生成式AI推理技術(shù)、市場(chǎng)與未來(lái)

評(píng)論