2023年3月14日上午。學院邀請了來自德雷塞爾大學的許凱第教授為永利yl23411官網(wǎng)師生帶來了一場題為“如何信任人工智能？探索具有可證明魯棒性的神經(jīng)網(wǎng)絡(luò)”的學術(shù)講座。
許凱第教授是川大校友，2015于永利yl23411官網(wǎng)獲得本科學位，2017年于佛羅里達大學獲得碩士學位，2021年于東北大學獲博士學位。許教授主要的研究興趣是機器學習的魯棒性，包括物理對抗攻擊、嚴格的魯棒性驗證和認證防御。其Google Scholar引用1600+，研究論文發(fā)表于NeurIPS、ICML、ICLR、IJCAI、AAAI、CVPR、ECCV、ICCV等多個頂級會議，他的作品《Adversarial T-shirt》獲得了200多家媒體的報道。
許凱第教授在講座中首先介紹了神經(jīng)網(wǎng)絡(luò)驗證問題的基本框架。許教授講到，神經(jīng)網(wǎng)絡(luò)驗證的主要任務(wù)是為神經(jīng)網(wǎng)絡(luò)的行為提供嚴格的理論保證。和很多對抗樣本的防御方法不同，經(jīng)過嚴格魯棒性驗證的網(wǎng)絡(luò)無需擔心被更強的對抗攻擊攻破。神經(jīng)網(wǎng)絡(luò)驗證可以用在很多其他的場景中，比如驗證正確性、公平性、安全性等。它可以確保神經(jīng)網(wǎng)絡(luò)在關(guān)鍵的應(yīng)用中不會出現(xiàn)意外的輸出導(dǎo)致嚴重的后果。
接著，許凱第教授向同學們介紹了其團隊在今年國際神經(jīng)網(wǎng)絡(luò)驗證大賽 (VNN-COMP 2021)中的獲勝算法α,β-CROWN。CROWN是一個非完備(incomplete)神經(jīng)網(wǎng)絡(luò)驗證算法，其主要原理為將網(wǎng)絡(luò)中的非線性激活函數(shù)替換為線性的上下界，進行限界傳播，拿到神經(jīng)網(wǎng)絡(luò)輸出對輸入的線性下界。雖然CROWN能夠在GPU上高效實現(xiàn)，但它計算出的下界相對較松，特別是和傳統(tǒng)的基于線性規(guī)劃(LP)的算法相比時差距較大。許教授團隊提出的α-CROWN通過梯度上升來獲得更緊的下界。β-CROWN則是在限界傳播過程中結(jié)合分支定界法，實現(xiàn)了完備的神經(jīng)網(wǎng)絡(luò)驗證(complete verification)。
在講座的結(jié)尾，許教授也提出和深度學習中的其他領(lǐng)域相比，神經(jīng)網(wǎng)絡(luò)驗證還非常年輕，其中不乏很多有挑戰(zhàn)性的問題，例如對包含更復(fù)雜的非線性函數(shù)的網(wǎng)絡(luò)（如 Transformer）的完備驗證，以及將算法拓展到更大規(guī)模的網(wǎng)絡(luò)（如ImageNet）中，這些都將是其團隊未來的研究方向。這場學術(shù)講座為同學們提供了一個神經(jīng)網(wǎng)絡(luò)驗證領(lǐng)域更全面、更深入的學術(shù)視角，開拓了同學們的視野。
永利yl23411官網(wǎng)
2023年3月15日
當前位置：