最近，#AI繪畫有多離譜#的相關話題火上熱搜，比如明明是歡喜的結婚照，被 AI 繪畫軟件加工後，新郎被“掛”在牆上，剩下新娘一人；少女和狗的合影中，作爲主角的少女被AI繪畫理解成了“狗”。看上去，AI繪畫軟件的“理解力翻車”是源於高維數據合成任務十分復雜，導致生成結果不可控，出現了各種搞笑的錯誤。但是，在醫療、自動駕駛等多種領域的“AI翻車”會產生嚴重的問題，比如誤診耽誤治療、高速行駛的自動駕駛車輛識別錯誤引發交通事故。

如何從底層構建更穩定的AI，避免AI大翻車？11月30日下午，7位來自阿裏巴巴、清華大學、上海交大等公司和高校的90後和00後研究者將分享他們在對抗學習、貝葉斯深度學習、異常檢測、魯棒評估、噪聲學習、魯棒動態圖學習、偏微分方程求解等方向上發表的研究成果，共同探討如何打造更加安全可靠的智能技術，這些研究成果均被AI頂會NeurIPS收錄。

毛瀟鋒是阿裏巴巴人工智能治理與可持續發展研究中心（AAIG）的一名算法工程師。進入阿裏以來，他最重要的工作就是研究如何通過對抗訓練來增強AI的魯棒性，這些研究能力被應用在非常接地氣的直播和圖片內容審核中。在實際應用中，直播攝像頭的光线變化、主播對商品的快速晃動等因素都會對抗AI對違規商品的識別，如果AI識別的穩定性難以保障，漏過違規商品，最終受損的還是消費者。

《利用離散對抗訓練增強視覺表徵》是毛瀟鋒的分享議題。“如果把圖片拆成一個個像素，對某個或者多個像素點進行修改，往往可能引起AI無法識別，我所做的工作就是對AI進行對抗訓練，讓它不糾結於少量不引起圖片本質內容的像素級別的改變，AI模型依然認出這張圖片表達的含義。”毛瀟鋒解釋道：“就像我今天戴了眼鏡，但這並不妨礙我還是我。”他認爲，將這種能力用於平台風控後，能更好地守護消費者的安全。

董胤蓬是清華大學計算機系的一名95後博士後研究員，已發表30多篇頂級國際期刊和會議論文，主要專注於深度學習魯棒性的研究。他本次的分享集中在3D世界的視角變化對AI視覺識別產生的影響。董胤蓬舉例：“這項研究與自動駕駛場景密切相關，如果前車車輛發生車禍，自動駕駛車輛可能以非常不正常的視角拍攝了圖片或視頻，從而影響識別和判斷，我關心的是，在3D空間裏，如果拍攝視角或者其他視覺條件出現變化，AI是否能正確識別，從而避免車禍發生。”

“希望通過研究分享，讓大家關注真實世界的安全性問題。我想知道，AI 用它的‘眼睛’看世界時，是否處於非常穩定和精准的狀態。” 董胤蓬強調道。

00後的劉松銘是清華大學的在讀本科生。在他的研究中，他試圖利用物理信息機器學習方法解決結構優化等廣義上的“安全”問題。

劉松銘選取了燃料電池組、飛機機翼等場景介紹：“假如我們要建模一個安全穩定可靠的電池，需要模擬電池的動態，比如它的溫度或電流分布，這是一個物理問題，但我想用數學的辦法探索，然後通過神經網絡求解。”他希望用“AI”探索廣義的科學問題，包括解決至關重要的安全問題，讓AI研究者從交叉學科中找尋思路。

在這場AI安全的主題分享中，衆多年輕的AI研究者將從別出心裁的角度探索如何構建更安全可靠的智能技術，而這場研究分享背後，是主辦方阿裏巴巴和清華大學試圖探討如何打造負責任的好科技。

今年阿裏巴巴集團科技倫理治理委員會正式成立，提出“以人爲本、普惠正直、安全可靠、隱私保護、可信可控、开放共治”六項倫理准則，着手風險能力建設和技術能力建設，重點關注技術的安全性、公平性、可解釋、魯棒性、可幹預性。

除了涉及AI魯棒性的研究，阿裏還有關於隱私保護的研究被數據庫領域三大頂級會議之一的VLDB 2023收錄，文章提出了更高效的聯邦梯度來提升決策樹訓練，在隱私保護和模型准確性之間取得了更好的平衡。

阿裏巴巴集團科技倫理治理委員會執行主席、AAIG主任薛暉表示：“這些研究者的探索最後會反哺於實際應用，幫助集團和社會建設負責任的好科技。對安全可靠的重視和關注是也是企業社會責任感的重要體現。我很高興，越來越多的年輕研究者們不斷投身於此，一起促進人工智能技術的健康發展。”

科技倫理治理研究分享會議程

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。

---

標題：阿裏清華等7篇魯棒性研究被國際頂會NeurIPS收錄，助力科技倫理治理發展

地址：https://www.breakthing.com/post/34958.html