「AI新青年講座」將邀請(qǐng)世界頂尖AI研究機(jī)構(gòu)和大學(xué)的科研新青年，主講他們?cè)谟?jì)算機(jī)視覺、機(jī)器學(xué)習(xí)等人工智能領(lǐng)域的最新重要研究成果。

AI新青年是加速人工智能前沿研究的新生力量。AI新青年的視頻講解和直播答疑，將可以幫助大家增進(jìn)對(duì)人工智能前沿研究的理解，相應(yīng)領(lǐng)域的專業(yè)知識(shí)也能夠得以積累加深。同時(shí)，通過與AI新青年的直接交流，大家在AI學(xué)習(xí)和應(yīng)用AI的過程中遇到的問題，也能夠盡快解決。

「AI新青年講座」目前已完結(jié)191講。有興趣分享學(xué)術(shù)成果的朋友，可以與智東西公開課教研團(tuán)隊(duì)進(jìn)行郵件（class@zhidx.com）聯(lián)系。

作為計(jì)算機(jī)視覺領(lǐng)域的經(jīng)典任務(wù)，針對(duì)分類任務(wù)的各種網(wǎng)絡(luò)、數(shù)據(jù)和學(xué)習(xí)方式層出不窮。針對(duì) FGVC，拋開修改結(jié)構(gòu)（FGVC 中主要是各種 part based model）和引入數(shù)據(jù)等固有思路，簡(jiǎn)單的適當(dāng)?shù)睦щy樣本挖掘足以明顯的提升性能，只用簡(jiǎn)單的 backbone 和適當(dāng)?shù)睦щy樣本挖掘，這樣一個(gè)簡(jiǎn)單的 pipeline 卻能擊敗許多復(fù)雜的方法。

然而，悉尼科技大學(xué)梁遠(yuǎn)智博士等人在進(jìn)一步的改進(jìn)過程中開始質(zhì)疑樣本選擇的標(biāo)準(zhǔn)和方式。究竟什么樣的樣本是困難樣本？什么樣的樣本是學(xué)的不好的樣本？confidence 偏低的嗎？那多少算偏低？典型的 FGVC 數(shù)據(jù)集中，很多樣本真人看起來都困難但網(wǎng)絡(luò)的 confidence 依舊很高，那我們應(yīng)該如何讓網(wǎng)絡(luò)進(jìn)一步泛化各樣的樣本？在 overfit train set 的前提下，如何找到那些網(wǎng)絡(luò)記住了但沒學(xué)明白的內(nèi)容？如何撥開 overfit 的迷霧，去找到隱藏在 high confidence 之下，特征表示的并不好的樣本？

在 CVPR 2022 上，梁遠(yuǎn)智等人提出了一種 online linear probing 來反應(yīng)訓(xùn)練過程中網(wǎng)絡(luò)特征表示的質(zhì)量，即 ELP（ episodic linear probing）。ELP 也是學(xué)習(xí)分類 detached 掉的特征，并每隔一段時(shí)間就重新初始化。這使得其能夠得到類似 linearprobe 的評(píng)價(jià)特征質(zhì)量的能力，而不會(huì)隨著不斷的訓(xùn)練而 overfit。

同時(shí)，利用 ELP，梁遠(yuǎn)智等人等人還構(gòu)建了 ELP-SR：ELP-suitable regularization。通過 ELP-SR，網(wǎng)絡(luò)需要進(jìn)一步學(xué)習(xí)如何滿足 ELP。特征表達(dá)不僅僅達(dá)到 main classifier 可分，其可分辨力最好能夠達(dá)到一個(gè)弱如ELP的弱分類器依舊可以識(shí)別。通過這一方法，可以使得網(wǎng)絡(luò)的特征學(xué)習(xí)能夠突破桎梏，在 backbone 和 main classifier 可能 overfit 的條件下，進(jìn)一步學(xué)習(xí)更加具有區(qū)分度的特征，提升網(wǎng)絡(luò)自身的泛化性能。

2月6日晚7點(diǎn)，AI新青年講座第192講邀請(qǐng)到悉尼科技大學(xué)在讀博士梁遠(yuǎn)智參與，主講《無需復(fù)雜設(shè)計(jì)的圖像識(shí)別性能提升方法研究》。

講者
梁遠(yuǎn)智，悉尼科技大學(xué)在讀博士；師從楊易和朱霖潮老師；研究方向?yàn)槎嗄B(tài)和表示學(xué)習(xí)，相關(guān)工作發(fā)表于ICCV、CVPR等會(huì)議。

第192講

主 題
《無需復(fù)雜設(shè)計(jì)的圖像識(shí)別性能提升方法研究》

提 綱
1、圖像識(shí)別的研究及樣本挖掘問題
2、樣本泛化難點(diǎn)及表示方法
3、簡(jiǎn)單在線探針評(píng)價(jià)訓(xùn)練特征質(zhì)量
4、基于在線探針約束訓(xùn)練并提升泛化性能

直 播 信 息
直播時(shí)間：2月6日19:00
直播地點(diǎn)：智東西公開課知識(shí)店鋪

成果
ELP：《A Simple Episodic Linear Probe Improves Visual Recognition in the Wild》
論文地址：https://openaccess.thecvf.com/content/CVPR2022/html/Liang_A_Simple_Episodic_Linear_Probe_Improves_Visual_Recognition_in_the_CVPR_2022_paper.html
代碼地址：https://github.com/akira-l/ELP