報告題目：如何信任人工智能？探索具有可證明魯棒性的神經(jīng)網(wǎng)絡(luò)
報告人：許凱第
報告時間：2023年3月14日上午9點30
報告地點：江安校區(qū)多學(xué)科交叉研究創(chuàng)新大樓一樓A103報告廳
報告內(nèi)容：神經(jīng)網(wǎng)絡(luò)已成為現(xiàn)代人工智能的重要組成部分。這些網(wǎng)絡(luò)通常是黑盒的，有時會出現(xiàn)不可預(yù)測的行為并產(chǎn)生出人意料的錯誤結(jié)果。把神經(jīng)網(wǎng)絡(luò)應(yīng)用于自動駕駛和飛機控制等關(guān)鍵任務(wù)系統(tǒng)時，通常需要形式驗證其可信度，如安全性和對抗攻擊魯棒性。但神經(jīng)網(wǎng)絡(luò)的復(fù)雜性使得形式驗證其屬性的任務(wù)極具挑戰(zhàn)。為了應(yīng)對這一挑戰(zhàn)，我們首先提出了一種基于神經(jīng)網(wǎng)絡(luò)線性規(guī)劃松弛的高效驗證算法，這種算法在給定有界輸入擾動的情況下產(chǎn)生有保證的輸出界限。我們的算法以反向傳播的方式高效地在神經(jīng)網(wǎng)絡(luò)上傳播線性不等式，并且可以使用我們的 auto_LiRPA 庫應(yīng)用于任意網(wǎng)絡(luò)架構(gòu)。為了減少從線性規(guī)劃松弛產(chǎn)生的錯誤，我們進一步開發(fā)了一種高效的優(yōu)化步驟，使得驗證上下界快速逼近。最后，討論了如何通過把附加的分支約束合并到邊界傳播過程中，從而給驗證器增加分支定界的能力。這些先進的神經(jīng)網(wǎng)絡(luò)驗證技術(shù)的結(jié)合整合出了alpha-beta-CROWN，這是一種強大的可擴展的基于 GPU 的神經(jīng)網(wǎng)絡(luò)驗證器，它以最高分在 2022 年和 2023 年贏得了國際神經(jīng)網(wǎng)絡(luò)驗證競賽(VNNComp)。
報告人簡介：許凱第，美國Drexel University計算機科學(xué)系的助理教授，在2021年于東北大學(xué)獲博士學(xué)位，2017年于佛羅里達(dá)大學(xué)獲得碩士學(xué)位，2015于永利yl23411官網(wǎng)獲得本科學(xué)位。許教授的主要研究興趣是機器學(xué)習(xí)的對抗攻擊健壯性，其Google Scholar引用1600+，許教授在各種頂級國際會議上發(fā)表文章，他的作品《Adversarial T-shirt》獲得了 200 多家媒體的報道。
歡迎廣大師生踴躍參加！
永利yl23411官網(wǎng)
2023年 3月13日
當(dāng)前位置：