深度學(xué)習(xí)深刻改變了計(jì)算機(jī)應(yīng)用程序的功能與形態(tài),為了加速深度學(xué)習(xí)模型的推理,NVIDIA 英偉達(dá)推出了高性能深度學(xué)習(xí)推理優(yōu)化器TensorRT。經(jīng)過(guò)多年的更新迭代,TensorRT不斷為深度學(xué)習(xí)提供低延遲、高吞吐率的部署推理,在保持優(yōu)越性能的同時(shí)極大提高了易用性,已經(jīng)成為GPU推理計(jì)算的必備工具。

　　然而,隨著版本的迭代,編程實(shí)踐也在不斷演化,開(kāi)發(fā)者們開(kāi)始探索新的問(wèn)題:把模型跑在TensorRT上,效省力的方式是什么?為了幫助開(kāi)發(fā)者們解決這一問(wèn)題,阿里云天池聯(lián)合英偉達(dá)在4月份啟動(dòng)了“英偉達(dá)TensorRT加速AI推理Hackathon2022——Transformer模型優(yōu)化賽”,助力開(kāi)發(fā)者在編程實(shí)踐中尋找更高效的解決路徑,同時(shí)也讓更多工程師通過(guò)大賽實(shí)踐更好的掌握TensorRT這一高性能加速工具。

　　面向全社會(huì)開(kāi)放,更關(guān)注選手學(xué)習(xí)交流過(guò)程

　　大賽面向全社會(huì)開(kāi)放,個(gè)人、高等院校、科研單位、企業(yè)、創(chuàng)客團(tuán)隊(duì)等人員均可報(bào)名參賽,組隊(duì)上限3人。參賽的開(kāi)發(fā)者將在專(zhuān)家組的指導(dǎo)下在初賽中對(duì)給定模型加速,在復(fù)賽中則根據(jù)自選模型進(jìn)行加速,并將得到專(zhuān)家組一對(duì)一指導(dǎo)。據(jù)了解,大賽初賽時(shí)間為4月2日-5月20日,系統(tǒng)進(jìn)行實(shí)時(shí)評(píng)測(cè)并返回成績(jī);5月20日上午10點(diǎn),初賽階段未產(chǎn)出成績(jī)隊(duì)伍將被淘汰,初賽排名前40的隊(duì)伍則進(jìn)入復(fù)賽,并于5月23日-6月27日進(jìn)入復(fù)賽調(diào)優(yōu)階段。

　　大賽還為選手們準(zhǔn)備了豐厚的獎(jiǎng)品,其中,1名、亞軍2名、季軍3名分別享有10000元、5000元、3000元人民幣獎(jiǎng)勵(lì),優(yōu)勝獎(jiǎng)則選取20名,每支團(tuán)隊(duì)均可獲得1000元人民幣獎(jiǎng)勵(lì)。值得一提的是,阿里員工可參賽排名,但不參與評(píng)選及領(lǐng)取獎(jiǎng)金,來(lái)自外界的開(kāi)發(fā)者們將有更多機(jī)會(huì)贏取大賽獎(jiǎng)勵(lì)。

　　實(shí)際上,除了榮譽(yù)與現(xiàn)金獎(jiǎng)勵(lì),此次大賽的意義在于通過(guò)比賽的形式,提高選手的開(kāi)發(fā)應(yīng)用能力,因此會(huì)在比賽周期中更加重視選手的學(xué)習(xí)過(guò)程以及選手與阿里云、英偉達(dá)專(zhuān)家之間的溝通交流。據(jù)了解,初賽剛剛開(kāi)始,GPU計(jì)算專(zhuān)家就與各位參賽選手在活動(dòng)釘釘群內(nèi)展開(kāi)了熱火朝天的交流討論,對(duì)于選手們遇到的問(wèn)題,專(zhuān)家也非常重視,給予耐心的指導(dǎo)與解答。

　　推動(dòng)行業(yè)交流與 人才培養(yǎng),為深度學(xué)習(xí)領(lǐng)域聚力

　　談及舉辦TensorRT模型優(yōu)化賽的初衷,英偉達(dá)GPU計(jì)算專(zhuān)家季光博士表示,“TensorRT Hackathon既是一場(chǎng)云集各路開(kāi)發(fā)高手的競(jìng)賽,也是一場(chǎng)開(kāi)發(fā)者與英偉達(dá)之間的交流大會(huì)。希望參賽選手們通過(guò)這項(xiàng)活動(dòng),讓自己開(kāi)發(fā)運(yùn)用TensorRT的技能更加純熟。”

　　作為此次大賽的合作方,阿里云同樣憑借自身在公共云計(jì)算領(lǐng)域的優(yōu)勢(shì)和GPU計(jì)算領(lǐng)域積累的應(yīng)用經(jīng)驗(yàn),為本次參賽隊(duì)伍提供了強(qiáng)大的技術(shù)支持。阿里云天池?cái)?shù)據(jù)科學(xué)家陳漠沙對(duì)參賽選手也寄予了技術(shù)突破的期望,“希望參加本次Hackathon的選手們能開(kāi)闊視野,了解業(yè)界前沿的技術(shù)方向,通過(guò)加速語(yǔ)音識(shí)別模型-WeNet項(xiàng)目實(shí)踐掌握TensorRT編程技術(shù)。”

　　綜上,對(duì)參賽者而言,此次Transformer模型優(yōu)化賽大賽不僅可以提高編程實(shí)踐能力,解決AI加速發(fā)展過(guò)程中的具體應(yīng)用問(wèn)題,更是為AI開(kāi)發(fā)者提供了技術(shù)交流與學(xué)習(xí)的平臺(tái),從而促進(jìn)行業(yè)深度學(xué)習(xí)開(kāi)發(fā)部署人才的培養(yǎng)。

　　目前,“英偉達(dá)TensorRT加速AI推理 Hackathon 2022 —— Transformer模型優(yōu)化賽”報(bào)名與初賽已同步開(kāi)啟。5月15日之前,感興趣的同學(xué)在阿里云天池平臺(tái)完成個(gè)人信息注冊(cè)及實(shí)名認(rèn)證,即可報(bào)名參賽。快來(lái)加入2022年TensorRT Hackathon,一起沖上云端,探索未知吧!