11月起,地平線聯(lián)合智猩猩策劃推出地平線「你好,開(kāi)發(fā)者」工具鏈技術(shù)專場(chǎng),目前前兩講已完結(jié)。地平線工具鏈產(chǎn)品規(guī)劃負(fù)責(zé)人秦暢、地平線工具鏈量化訓(xùn)練工具研發(fā)負(fù)責(zé)人屈樹(shù)謙兩位技術(shù)專家,分別以《如何打造“好用”的自動(dòng)駕駛智能芯片算法工具鏈》、《地平線量化訓(xùn)練工具的設(shè)計(jì)與精度調(diào)優(yōu)經(jīng)驗(yàn)》為主題進(jìn)行了直播講解,累計(jì)收看人次11000+。
現(xiàn)如今神經(jīng)網(wǎng)絡(luò)模型的規(guī)模越來(lái)越大,深度、參數(shù)量指數(shù)級(jí)增長(zhǎng),對(duì)計(jì)算性能、存儲(chǔ)和網(wǎng)絡(luò)帶寬要求也飛速提升。而將訓(xùn)練好的模型直接部署到自動(dòng)駕駛車輛這類資源受限的設(shè)備上顯然不太現(xiàn)實(shí),往往需要通過(guò)壓縮技術(shù)縮小模型尺寸,從而實(shí)現(xiàn)更低的功耗和更快的推理速度。量化則是目前工業(yè)界最常用的的模型壓縮方法之一。
要實(shí)現(xiàn)高質(zhì)量的量化并不容易,需要從模型準(zhǔn)備、模型驗(yàn)證、量化策略、自定義算子量化的支持、量化性能與精度評(píng)估等多個(gè)維度進(jìn)行綜合考量。對(duì)于一款量化工具而言,需要能夠幫助開(kāi)發(fā)者在精度不損失或極少損失的情況下,高效、快速的完成上述操作,實(shí)現(xiàn)模型量化,加速模型部署和推理效率。
地平線天工開(kāi)物算法工具鏈提供了量化感知訓(xùn)練(QAT)和訓(xùn)練后量化(PTQ)兩種量化方式。在地平線「你好,開(kāi)發(fā)者」工具鏈技術(shù)專場(chǎng)第2講中,地平線工具鏈量化訓(xùn)練工具研發(fā)負(fù)責(zé)人屈樹(shù)謙針對(duì)量化感知訓(xùn)練(QAT)進(jìn)行了深入講解。
12月6日19點(diǎn),地平線聯(lián)合智猩猩推出的新一期地平線「你好,開(kāi)發(fā)者」工具鏈技術(shù)專場(chǎng)將開(kāi)講。此次專場(chǎng)聚焦地平線天工開(kāi)物算法工具鏈提供的另一種量化方式——訓(xùn)練后量化(PTQ),由地平線模型轉(zhuǎn)換和量化工具負(fù)責(zé)人何道遠(yuǎn)主講,主題為《地平線模型轉(zhuǎn)換與訓(xùn)練后量化部署》。
何道遠(yuǎn)首先會(huì)對(duì)模型轉(zhuǎn)換進(jìn)行介紹,之后講解如何進(jìn)行模型量化誤差分析。接下來(lái),他會(huì)重點(diǎn)講解模型訓(xùn)練后量化,并對(duì)模型全整型量化進(jìn)行解讀。

專場(chǎng)內(nèi)容
主題:地平線模型轉(zhuǎn)換與訓(xùn)練后量化部署
提綱:
1、模型轉(zhuǎn)換介紹
2、模型量化誤差分析
3、模型訓(xùn)練后量化(PTQ)
4、模型全整型量化
主講人
何道遠(yuǎn),地平線工具鏈模型轉(zhuǎn)換和量化工具負(fù)責(zé)人,畢業(yè)于浙江大學(xué),十余年專注于神經(jīng)網(wǎng)絡(luò)模型加速優(yōu)化。2019年加入地平線,負(fù)責(zé)工具鏈模型轉(zhuǎn)換和量化部署,先后參與地平線征程3、征程5、征程6多代芯片和工具鏈的研發(fā)工作。
課程信息
直播時(shí)間:12月6日19:00
直播地點(diǎn):智猩猩直播間