近日，由阿里云及 NVIDIA 聯(lián)合舉辦的“NVIDIA TensorRT Hackathon 2023 生成式 AI 模型優(yōu)化賽”已正式啟動(dòng)。此大賽是由阿里云天池組織運(yùn)營(yíng)，TensorRT Hackathon 是本系列的第三屆比賽。與往屆一樣，主辦方希望通過(guò)比賽的形式，提升選手開(kāi)發(fā) TensorRT 應(yīng)用的能力，因此非常重視選手的學(xué)習(xí)過(guò)程以及與 NVIDIA 專家之間的溝通交流。該賽事面向全社會(huì)開(kāi)放，接受個(gè)人或不多于三人的組隊(duì)形式參賽。

NVIDIA TensorRT 作為 NVIDIA GPU 上的 AI 推理加速庫(kù)，已在業(yè)界得到廣泛應(yīng)用與部署。與此同時(shí)，NVIDIA TensorRT 開(kāi)發(fā)團(tuán)隊(duì)仍在持續(xù)提升產(chǎn)品的易用性，他們不僅讓更多模型能夠順利通過(guò) ONNX 自動(dòng)解析進(jìn)行加速，還深度優(yōu)化了常見(jiàn)模型結(jié)構(gòu)（比如 MHA）的計(jì)算。這使得大部分模型無(wú)需手動(dòng)優(yōu)化，就能在 TensorRT 上輕松運(yùn)行，而且性能優(yōu)秀。

過(guò)去的一年，是生成式 AI 井噴的一年。大量的圖像和文本被計(jì)算機(jī)批量生產(chǎn)出來(lái)，有的甚至能媲美專業(yè)創(chuàng)作者的畫(huà)工與文采?？梢云诖?，未來(lái)會(huì)有更多的生成式 AI 模型大放異彩。因此，本屆比賽將生成式 AI 模型作為主題，打造展現(xiàn)創(chuàng)造力和智慧的全新舞臺(tái)。

大賽期待選手們通過(guò)這場(chǎng)比賽，在 TensorRT 編程相關(guān)的知識(shí)和技能上有所收獲。為了幫助選手更順利地完成比賽，請(qǐng)參賽者觀看并學(xué)習(xí) NVIDIA GPU 計(jì)算技術(shù)專家團(tuán)隊(duì)為此次比賽準(zhǔn)備的系列講座。

講座地址：TensorRT 教程 | 基于 8.6.1 版本 | 第一部分（共五部分）：

https://www.bilibili.com/video/BV1jj411Z7wG/?vd_source=8c80e3c943b3cc2edfdbdc2d27677756

正如本次大賽的主導(dǎo)者之一，NVIDIA GPU 計(jì)算團(tuán)隊(duì)技術(shù)專家季光表示：“在這個(gè) AI 推理的新紀(jì)元，TensorRT 作為強(qiáng)大的加速庫(kù)，將為選手們提供領(lǐng)先極致的工具和平臺(tái)，讓他們的想法和創(chuàng)意得以完美實(shí)現(xiàn)。我們深信，本次比賽將激發(fā)出選手們的潛力，推動(dòng) AI 技術(shù)的進(jìn)步和創(chuàng)新。無(wú)論是初賽還是復(fù)賽，我們期待看到選手們展現(xiàn)出的卓越才華和令人驚嘆的成果，為 AI 領(lǐng)域帶來(lái)全新的突破和發(fā)展?！?/p>

立即加入 TensorRT Hackathon！

掃描二維碼或點(diǎn)擊閱讀原文，進(jìn)入報(bào)名頁(yè)面：

賽程介紹

報(bào)名時(shí)間

• 報(bào)名開(kāi)放：2023 年 7 月 11 日

• 初賽提交階段：2023 年 7 月 11 日 – 8 月 14 日

• 復(fù)賽調(diào)優(yōu)階段：2023 年 8 月 17 日 – 9 月 21 日

• 名次公布：2023 年 9 月 29 日

獎(jiǎng)項(xiàng)設(shè)置

• 冠軍 1 名：獎(jiǎng)金共 10,000 元人民幣。

• 亞軍 2 名：獎(jiǎng)金共 10,000 元人民幣（每支團(tuán)隊(duì) 5,000 元人民幣）。

• 季軍 3 名：獎(jiǎng)金共 9,000 元人民幣（每支團(tuán)隊(duì) 3,000 元人民幣）。

• 優(yōu)勝獎(jiǎng) 20 名：獎(jiǎng)金共 20,000 元人民幣（每支團(tuán)隊(duì) 1,000 元人民幣）。

參賽對(duì)象

大賽面向全社會(huì)開(kāi)放，個(gè)人、高等院校、科研單位、企業(yè)、創(chuàng)客團(tuán)隊(duì)等人員均可報(bào)名參賽，組隊(duì)上限 3 人。

• 大賽組織機(jī)構(gòu)單位中涉及題目編寫、數(shù)據(jù)接觸的人員禁止參賽。

• 阿里云智能和 NVIDIA 員工，可參與排名，但不參與評(píng)獎(jiǎng)及領(lǐng)取獎(jiǎng)金。

賽題介紹

初賽提交階段

2023 年 7 月 11 日 – 8 月 14 日

初賽階段，主辦方將利用 TensorRT 加速帶有 ControlNet 的 Stable Diffusion canny2image pipeline，以優(yōu)化后的運(yùn)行時(shí)間和出圖質(zhì)量作為主要排名依據(jù)。初賽結(jié)束時(shí)，大賽將舉行一次講評(píng)，向參賽者介紹優(yōu)化該模型的技巧。請(qǐng)注意，初賽不提供開(kāi)發(fā)機(jī)，參賽選手需要自備帶有 GPU 的 Linux/Windows 11 (WSL2) 開(kāi)發(fā)機(jī)，并在給定的 docker 中使用賽方提供的模型文件和開(kāi)發(fā)工具完成模型在 TensorRT 中的構(gòu)建、精度驗(yàn)證和性能測(cè)試，并提交最終代碼。

復(fù)賽調(diào)優(yōu)階段

2023 年 8 月 17 日 – 9 月 21 日

復(fù)賽是開(kāi)放賽題，選手可以自由選擇公開(kāi)的 Transformer 模型，在 TensorRT 上進(jìn)行優(yōu)化運(yùn)行。值得關(guān)注的重要訊息 —— TensorRT 即將發(fā)布用于大型語(yǔ)言模型推理的工具，推薦在復(fù)賽中使用該工具。在評(píng)分過(guò)程中，使用該工具將獲得一定的加分。復(fù)賽賽制與 2022 年基本保持一致。

決賽排名公布

2023 年 9 月 29 日

更多賽制細(xì)節(jié)和賽題與數(shù)據(jù)信息

請(qǐng)掃描二維碼或點(diǎn)擊閱讀原文了解：