多款人工智能領域創新成果現身第二十三屆高交會

中新網廣東新聞12月27日電(蔡敏婕 紀林依) 抵御人工智能新型攻擊風險的AI安全防火墻、有效防范大規模技術濫用的AI換臉檢測平臺、構建人工智能安全防御體系的智能安全靶場……

在新基建的浪潮下，人工智能正成為推動數字經濟高質量發展的重要動力。第二十三屆中國國際高新技術成果交易會27日在深圳舉行，展會現場展出多款人工智能領域的創新成果。

展會現場，一件“隱身衣”吸睛無數。正常情況下，廣泛應用于安防場景的目標檢測系統，能實時檢測出攝像頭前經過的人或物體。清華人工智能研究院的官方產學研機構瑞萊智慧科技開發的這件特制T恤，衣服上印刷了特定的圖案，能夠讓識別算法出錯、捕捉不到目標，人一旦穿上便可以實現“隱身”。

研發人員解釋道，目標檢測系統大多基于數據驅動的深度學習算法，存在不透明和不可解釋等局限性，即便是開發者也難以理解其內在的運行邏輯，這一結構性漏洞可能導致系統遭受惡意攻擊。衣服上看似奇怪的圖案是針對算法漏洞生成的“對抗補丁”圖案，能夠誤導識別算法使其出錯。

隨著人工智能技術在安防、交通、金融等關鍵應用場景的持續滲透，這也導致算法漏洞的威脅面不斷延展，對城市治理產生影響。為了抵御此類新型攻擊，瑞萊智慧研發了人工智能防火墻系統，通過集成多項國際領先的對抗防御算法，能夠有效檢測和抵御針對人工智能系統的新型攻擊風險，實現人臉識別、目標檢測等計算機視覺場景的安全加固升級，可用于安防門禁、人臉身份核驗、人臉解鎖等場景的安全防護。

當前，火爆社交網絡的“AI換臉”正成為人工智能技術濫用的重災區。現場，瑞萊智慧展示了一段將觀眾的臉“換”到惡搞舞蹈中的視頻。隨著技術的不斷升級，現有的“換臉”視頻精度已經實現肉眼難以辨別的程度，傳統人工審核團隊束手無策。瑞萊智慧為此研發了一款深度偽造內容檢測平臺DeepReal，支持快速、精準地對多種格式與質量的圖像與視頻進行自動化的真偽鑒別，能夠應用于檢測圖像物證真實性、檢測網絡內容合規性、打擊侵害個人聲譽行為、提升人臉識別系統安全性等多個場景。

此外，瑞萊智慧還展示了業內首個人工智能安全靶場RealRange，包含攻擊靶場、防御靶場、攻防演練三大功能，提供實戰化、體系化的一站式人工智能攻防演練服務。類似于“演兵場”，該平臺基于攻防實戰演練將人工智能安全風險暴露前置，提前發現和適應瞬息萬變的新型攻擊和高級威脅，動態提升團隊軟實力。

瑞萊智慧副總裁唐家渝表示，伴隨規模化建設和應用加速發展，保證人工智能“安全、可靠、可控”成為其未來發展最重要的趨勢。未來，該公司將持續加大核心技術和產品體系的研發力度，在保障人工智能安全的基礎上助力其形成更全面、更深入的產業生態。(完)