周鴻祎:“海豚音攻擊”會讓智能音箱變成竊聽器
0
導讀:360集團董事長兼CEO周鴻祎表示，周鴻智現在智能音箱開始融入很多家庭的祎海音箱日常，為我們的豚音北京石景山區外圍聯系電話[微信1662+044-1662][提供外圍女上門服務快速安排面到付款不收定金生活帶來了一定便利，但大家有沒有想過智能音箱可能會變成竊聽器？攻擊
1月21日消息，“現在智能音箱開始融入很多家庭的變成日常，為我們的竊聽器生活帶來了一定便利，但大家有沒有想過智能音箱可能會變成竊聽器？周鴻智”在昨天舉辦的中國人工智能學會“人工智能與安全專委會” 成立大會上，360集團董事長兼CEO周鴻祎當選首任專委會主任，祎海音箱他表示，豚音智能音箱變身竊聽器并不是攻擊科幻電影里的場景。
據他介紹，變成360與浙大合作發現了一種“海豚音攻擊”，竊聽器該攻擊人耳無法聽見，周鴻智但通過超聲波信號可以劫持智能設備的祎海音箱語音控制系統，再利用麥克風的豚音北京石景山區外圍聯系電話[微信1662+044-1662][提供外圍女上門服務快速安排面到付款不收定金硬件漏洞，就可以悄悄開啟語音助手，把智能音箱變成竊聽器，竊取用戶隱私。
此外，“海豚音攻擊”還可用于攻擊多種擁有語音助手的智能設備，包括智能手機、智能手表、智能汽車等。伴隨著越來越多的智能設備介入我們的生活，人工智能面臨的安全問題也令產學研各界持審慎態度。
周鴻祎指出，人工智能是個熱詞，也是未來的大勢所趨。但當下的人工智能技術并不完善，存在四大冰點：
首先、前端傳感器可以被干擾。人工智能廣泛依賴音視頻采集、紅外感應、激光雷達等各類傳感器。但這些傳感器自身并不安全，能夠被干擾，造成人工智能識別和決策失誤。“海豚音攻擊”就是干擾語音傳感器的方式之一。
其次、人工智能的數據樣本可以被污染。目前人工智能采用深度學習模型，黑客可以構建畸形輸入或者污染訓練數據集，進行“數據投毒”，導致人工智能出錯。比如，通過給智能汽車輸入“污染”過的訓練樣本，就可以把“禁止通行”的交通標志牌識別為“可以通行”，從而造成交通事故。
第三、內部算法可以被欺騙。人工智能本質上是一種用大量數據訓練出來的概率判斷系統，其內部復雜的計算邏輯和決策過程還不透明，可以被欺騙或繞過。周鴻祎表示，人工智能也許可以有99.99%的概率保證識別是正確的，但是對于安全來講，它只要出現一次識別錯誤，就會造成嚴重后果。
最后、實現平臺有漏洞。周鴻祎介紹，當下的人工智能系統都依賴開源的深度學習框架，存在大量漏洞，當前360研究人員已經發現了40多個深度學習框架的軟件漏洞。
1月21日消息，“現在智能音箱開始融入很多家庭的變成日常，為我們的竊聽器生活帶來了一定便利，但大家有沒有想過智能音箱可能會變成竊聽器？周鴻智”在昨天舉辦的中國人工智能學會“人工智能與安全專委會” 成立大會上，360集團董事長兼CEO周鴻祎當選首任專委會主任，祎海音箱他表示，豚音智能音箱變身竊聽器并不是攻擊科幻電影里的場景。
據他介紹，變成360與浙大合作發現了一種“海豚音攻擊”，竊聽器該攻擊人耳無法聽見，周鴻智但通過超聲波信號可以劫持智能設備的祎海音箱語音控制系統，再利用麥克風的豚音北京石景山區外圍聯系電話[微信1662+044-1662][提供外圍女上門服務快速安排面到付款不收定金硬件漏洞，就可以悄悄開啟語音助手，把智能音箱變成竊聽器，竊取用戶隱私。
此外，“海豚音攻擊”還可用于攻擊多種擁有語音助手的智能設備，包括智能手機、智能手表、智能汽車等。伴隨著越來越多的智能設備介入我們的生活，人工智能面臨的安全問題也令產學研各界持審慎態度。
周鴻祎指出，人工智能是個熱詞，也是未來的大勢所趨。但當下的人工智能技術并不完善，存在四大冰點：
首先、前端傳感器可以被干擾。人工智能廣泛依賴音視頻采集、紅外感應、激光雷達等各類傳感器。但這些傳感器自身并不安全，能夠被干擾，造成人工智能識別和決策失誤。“海豚音攻擊”就是干擾語音傳感器的方式之一。
其次、人工智能的數據樣本可以被污染。目前人工智能采用深度學習模型，黑客可以構建畸形輸入或者污染訓練數據集，進行“數據投毒”，導致人工智能出錯。比如，通過給智能汽車輸入“污染”過的訓練樣本，就可以把“禁止通行”的交通標志牌識別為“可以通行”，從而造成交通事故。
第三、內部算法可以被欺騙。人工智能本質上是一種用大量數據訓練出來的概率判斷系統，其內部復雜的計算邏輯和決策過程還不透明，可以被欺騙或繞過。周鴻祎表示，人工智能也許可以有99.99%的概率保證識別是正確的，但是對于安全來講，它只要出現一次識別錯誤，就會造成嚴重后果。
最后、實現平臺有漏洞。周鴻祎介紹，當下的人工智能系統都依賴開源的深度學習框架，存在大量漏洞，當前360研究人員已經發現了40多個深度學習框架的軟件漏洞。