阿裏清華等7篇魯棒性研究被國際頂會NeurIPS收錄,助力科技倫理治理發展
1年前

最近,#AI繪畫有多離譜#的相關話題火上熱搜,比如明明是歡喜的結婚照,被 AI 繪畫軟件加工後,新郎被“掛”在牆上,剩下新娘一人;少女和狗的合影中,作爲主角的少女被AI繪畫理解成了“狗”。看上去,AI繪畫軟件的“理解力翻車”是源於高維數據合成任務十分復雜,導致生成結果不可控,出現了各種搞笑的錯誤。但是,在醫療、自動駕駛等多種領域的“AI翻車”會產生嚴重的問題,比如誤診耽誤治療、高速行駛的自動駕駛車輛識別錯誤引發交通事故。

如何從底層構建更穩定的AI,避免AI大翻車?11月30日下午,7位來自阿裏巴巴、清華大學、上海交大等公司和高校的90後和00後研究者將分享他們在對抗學習、貝葉斯深度學習、異常檢測、魯棒評估、噪聲學習、魯棒動態圖學習、偏微分方程求解等方向上發表的研究成果,共同探討如何打造更加安全可靠的智能技術,這些研究成果均被AI頂會NeurIPS收錄。

毛瀟鋒是阿裏巴巴人工智能治理與可持續發展研究中心(AAIG)的一名算法工程師。進入阿裏以來,他最重要的工作就是研究如何通過對抗訓練來增強AI的魯棒性,這些研究能力被應用在非常接地氣的直播和圖片內容審核中。在實際應用中,直播攝像頭的光线變化、主播對商品的快速晃動等因素都會對抗AI對違規商品的識別,如果AI識別的穩定性難以保障,漏過違規商品,最終受損的還是消費者。

《利用離散對抗訓練增強視覺表徵》是毛瀟鋒的分享議題。“如果把圖片拆成一個個像素,對某個或者多個像素點進行修改,往往可能引起AI無法識別,我所做的工作就是對AI進行對抗訓練,讓它不糾結於少量不引起圖片本質內容的像素級別的改變,AI模型依然認出這張圖片表達的含義。”毛瀟鋒解釋道:“就像我今天戴了眼鏡,但這並不妨礙我還是我。”他認爲,將這種能力用於平台風控後,能更好地守護消費者的安全。

董胤蓬是清華大學計算機系的一名95後博士後研究員,已發表30多篇頂級國際期刊和會議論文,主要專注於深度學習魯棒性的研究。他本次的分享集中在3D世界的視角變化對AI視覺識別產生的影響。董胤蓬舉例:“這項研究與自動駕駛場景密切相關,如果前車車輛發生車禍,自動駕駛車輛可能以非常不正常的視角拍攝了圖片或視頻,從而影響識別和判斷,我關心的是,在3D空間裏,如果拍攝視角或者其他視覺條件出現變化,AI是否能正確識別,從而避免車禍發生。”

“希望通過研究分享,讓大家關注真實世界的安全性問題。我想知道,AI 用它的‘眼睛’看世界時,是否處於非常穩定和精准的狀態。” 董胤蓬強調道。

00後的劉松銘是清華大學的在讀本科生。在他的研究中,他試圖利用物理信息機器學習方法解決結構優化等廣義上的“安全”問題。

劉松銘選取了燃料電池組、飛機機翼等場景介紹:“假如我們要建模一個安全穩定可靠的電池,需要模擬電池的動態,比如它的溫度或電流分布,這是一個物理問題,但我想用數學的辦法探索,然後通過神經網絡求解。”他希望用“AI”探索廣義的科學問題,包括解決至關重要的安全問題,讓AI研究者從交叉學科中找尋思路。

在這場AI安全的主題分享中,衆多年輕的AI研究者將從別出心裁的角度探索如何構建更安全可靠的智能技術,而這場研究分享背後,是主辦方阿裏巴巴和清華大學試圖探討如何打造負責任的好科技。

今年阿裏巴巴集團科技倫理治理委員會正式成立,提出“以人爲本、普惠正直、安全可靠、隱私保護、可信可控、开放共治”六項倫理准則,着手風險能力建設和技術能力建設,重點關注技術的安全性、公平性、可解釋、魯棒性、可幹預性。

除了涉及AI魯棒性的研究,阿裏還有關於隱私保護的研究被數據庫領域三大頂級會議之一的VLDB 2023收錄,文章提出了更高效的聯邦梯度來提升決策樹訓練,在隱私保護和模型准確性之間取得了更好的平衡。

阿裏巴巴集團科技倫理治理委員會執行主席、AAIG主任薛暉表示:“這些研究者的探索最後會反哺於實際應用,幫助集團和社會建設負責任的好科技。對安全可靠的重視和關注是也是企業社會責任感的重要體現。我很高興,越來越多的年輕研究者們不斷投身於此,一起促進人工智能技術的健康發展。”

科技倫理治理研究分享會議程

追加內容

本文作者可以追加內容哦 !

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。



標題:阿裏清華等7篇魯棒性研究被國際頂會NeurIPS收錄,助力科技倫理治理發展

地址:https://www.breakthing.com/post/34958.html