<pre id="hzslg"></pre>
  • <pre id="hzslg"><label id="hzslg"><xmp id="hzslg"></xmp></label></pre>
  • <p id="hzslg"></p>
  • <p id="hzslg"></p>
  • 當前位置: 首頁  >> 科技  >> 查看詳情

    “貼紙”放在眼鏡上對準手機就能解鎖其人臉識別 防范人工智能安全風險

    來源: 經濟日報   日期:2022-09-27 10:45:59  責編:娟子 劉玉輝 
    分享:

       近年來,我國人工智能產業規??焖僭鲩L。據工信部發布數據顯示,人工智能核心產業規模超過4000億元,比2019年同期增長6倍多,企業數量超過3000家,比2019年同期增加15%,在制造、交通、醫療、金融等重點行業形成一批典型應用場景。“伴隨應用場景日益廣泛以及使用頻次快速增長,人工智能安全風險發生的范圍和可能性持續提高。”中國科學院院士、清華大學人工智能研究院名譽院長張鈸認為,以深度學習為代表的算法爆發拉開了人工智能浪潮序幕,在計算機視覺、智能語音、自然語言處理等眾多領域取得長足發展。但以數據驅動的第二代人工智能在可解釋性、穩健性方面的缺陷也逐漸暴露出來,導致安全事件頻發。如何實現高質量發展和高水平安全良性互動,是當前人工智能產業面臨的最為重要命題。

      中國信息通信研究院發布的《人工智能白皮書(2022年)》同樣指出,隨著人工智能應用暴露出各種風險和挑戰,以及人們對人工智能認識的不斷深入,人工智能治理已經成為全球各界高度關注的議題,對可信安全的呼聲不斷增多。

      “人工智能安全風險主要從‘人’與‘系統’兩個角度剖析。從人的視角看,人工智能安全風險存在技術濫用甚至‘武器化’問題。”北京瑞萊智慧科技有限公司CEO田天以深度合成技術為例解釋,該技術能夠大幅提升內容制作效率與質量,但其負向應用——深度偽造的風險正持續加劇且已產生實質危害。比如,通過“AI換臉”捏造虛假講話視頻等引導公眾輿論。對此,清華大學人工智能研究院基礎理論研究中心主任朱軍認為,技術是中性的,應加強對應用場景、使用者的監管,防止技術濫用等衍生風險發生,保障其應用可控。

      大賽現場演示的人臉識別破解則展示了人工智能系統層面風險,它來自深度學習模型本身存在脆弱和易受攻擊的缺陷,通過輸入數據添加擾動,使系統作出錯誤判斷,導致其可靠性難以得到信任。這一漏洞在自動駕駛感知系統同樣存在:正常情況下,自動駕駛系統識別到路障、指示牌、行人等目標后,會立即制動車輛,但對目標物體添加干擾圖案后,車輛感知系統就會出錯,引發碰撞危險。“與傳統信息系統不同,人工智能系統存在高度不確定性,技術漏洞更為復雜。”朱軍建議,在算法模型外部署安全防護組件,利用算法安全檢測與防御加固等措施,抵御模型竊取、對抗樣本等新型攻擊,提高攻擊門檻與防御成本,讓攻擊者無利可圖,從而在源頭上實現安全。

      北京航空航天大學軟件開發環境國家重點實驗室副主任劉祥龍則認為,構建科學評測手段是提高人工智能系統防御能力的另一項有效解決方案。人工智能算法不僅種類眾多,還包含數據集、模型等眾多要素,涉及訓練、測試、驗證等多個環節,這使得人工智能算法安全性評測成為一項復雜命題。因此,應配備從測試、分析到加固的完整技術手段,形成標準化測試流程。人工智能安全評估不僅局限于算法,未來還應拓展至數據、應用等多個層面,形成全面測評,保障人工智能全周期安全。

      從長遠看,人工智能安全問題需要從算法模型原理上尋找突破口。張鈸提出構建第三代人工智能,即在第二代人工智能具有的數據、算法、算力3個要素基礎上,再融合知識要素,建立新的可解釋、穩健的人工智能方法。

      筑牢人工智能安全屏障需要不斷在攻防演練中升級對抗能力。大賽聚焦人臉識別、自動駕駛等場景中的典型漏洞及風險,通過考核漏洞發現、挖掘等能力,尋找新型安全需求場景,推動人工智能安全攻防技術創新,為強化人工智能治理體系與安全評估能力建設提供支撐。

      作為人工智能產業發展重要基石,算力基礎設施的加快建設將滿足人工智能爆發式增長的算力需求。國家工業信息安全發展研究中心日前發布的《人工智能算力基礎設施安全發展白皮書》指出,安全的算力基礎設施應保護數據模型不被竊取,有效防范惡意攻擊,提供可信任的運行環境,保障人工智能系統安全穩定。

      但人工智能算力基礎設施發展仍處于初期階段,專門的安全標準、技術體系、評估規范、監測和檢查手段仍在建設中。為進一步推動人工智能算力基礎設施安全發展,國家工業信息安全發展研究中心副主任何小龍認為,算力基礎設施與人工智能的安全問題相互交織,應構筑具有針對性的一體化、全鏈路標準體系,實現協同聯防。同時,鼓勵算力基礎設施企業和算法企業加強合作,推動安全技術工具集成到人工智能算力基礎設施中,降低企業應用人工智能成本,形成安全發展良好氛圍。(記者 李芃達)



     

    1. 凡本網注明“來源:中國生活消費網” 的所有作品,版權均屬于中國生活消費網。如轉載,須注明“來源:中國生活消費網”。違反上述聲明者,本網將追究其相關法律責任。

    2. 凡本網注明 “來源:XXX(非中國生活消費網)” 的作品,均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責。

    3. 任何單位或個人認為中國生活消費網的內容可能涉嫌侵犯其合法權益,應及時向中國生活消費網書面反饋,并提供相關證明材料和理由,本網站在收到上述文件并審核后,會采取相應措施。

    4. 中國生活消費網對于任何包含、經由鏈接、下載或其它途徑所獲得的有關本網站的任何內 容、信息或廣告,不聲明或保證其正確性或可靠性。用戶自行承擔使用本網站的風險。

    5. 基于技術和不可預見的原因而導致的服務中斷,或者因用戶的非法操作而造成的損失,中國生活消費網不負責任。

    6. 如因版權和其它問題需要同本網聯系的,請在文章刊發后30日內進行。聯系郵箱:zgshxfw@126.com 手機:13910910492(含微信)QQ:1176602562

    相關文章

    • 推動人工智能加速擁抱實體經濟

         新一代人工智能高歌猛進發展,日益成為推動生產力躍升的驅動力量。今年國務院發布的《“十四五”數字經濟發展規劃》提出,以數字技術與實體經濟深度融合為主線,不斷做強做優做大我國數字經濟,為構建數字中國提供有力支撐。聚焦人工智能與實體經濟深度融合,本期特邀4位專家進行探討。   人工智能深刻影響經濟社會發展   主持人:什么是人工智能?從世界范圍看,人工智能研發與應用的趨勢怎樣?  &e... [閱讀]

    • 智能云網,構建算力時代的聯接底座

         算力作為數字經濟的核心生產力,正在像水和電一樣成為個人和企業社會活動中不可或缺的基礎需求,在各行各業發揮著重要作用。根據《中國算力發展指數白皮書》,每1元的算力投入,可以帶動3~4元的經濟產出。算力是加速行業數字化及經濟社會發展的重要引擎,將更深層次改變我們的生產和生活方式。   在算力時代,算力是中心,網絡是根基。網絡貫穿算力的生產、傳輸和消費全流程,需要做到算力高效釋放、算力靈活調度、邊緣最優服務,讓千行百業可以像用電一樣便捷使用算力。華為基于“I... [閱讀]

    • 卡樂數商平臺布局的數字藏品商品化是否能成為首個破圈點?

         隨著國內外媒體和科技公司的大面積宣傳,“元宇宙”概念早已深入人心,眾多巨頭涌入賽道,想在“元宇宙”下尋找突破,同時虛擬人、區塊鏈、數字藏品、虛擬現實等與元宇宙相關的概念也頻頻出圈,從而衍生出一系列的商業碰撞,眼花繚亂讓人措手不及,分不清是營銷炒作還是實力入場,而這其中最引人注目的還是數字藏品。    一直以來,數字藏品大部分以藝術品、游戲、潮玩、票務為原型,以圖片、動圖、視頻三種方式呈現。用戶與... [閱讀]

    • 贛州蓉江新區:人工“滿地跑”變智能“全覆蓋”

         近日,在贛州蓉江新區智慧城市運行調度指揮中心,公共信息平臺、智慧交通、智慧教育、智慧工地、智慧城管、智慧管網等專項應用項目先后上線試運行。   在這里,工作人員可隨時對各點位進行監控、調度和管理,全覆蓋、全流程、分層級的信息化監管體系,實現實時在線監管。   “利用光纖4G和5G網絡,接入前端各類物聯傳感設施,利用視頻和大數據分析技術,發現城市運行的各種問題,通過精細化管理平臺,統一分配各單位進行處置,全面提升城市精細化管理水平。”智... [閱讀]