新華社天津5月18日電(記者翟永冠 尹思源)公安指揮中心建設、智能人臉識別、“特警”機器人、智慧醫(yī)療……第二屆世界智能大會正在天津舉行,一系列著眼于公共安全、生命健康的智能科技亮相,給人們提供更多的“安全感”。隨著人工智能技術(shù)應用越來越廣,如何解決人工智能系統(tǒng)中存在的安全漏洞和潛在風險,已引起業(yè)界更多關注。

5月17日,觀眾在天津梅江會展中心智能科技展上參觀深之藍的水下機器人。新華社記者 李然 攝

智能科技發(fā)展帶來更多“安全感”

著眼于公共安全的“城市安全大腦”、著眼于個人健康安全的智慧醫(yī)療、代替人從事危險工作的機器人……在第二屆世界智能大會上,記者看到,人工智能技術(shù)的發(fā)展為人們帶來更多保護,有效化解公共安全風險、維護個人身體健康安全,成為人工智能發(fā)展帶來的好處之一。

迅速識別犯罪分子、提供智慧消防服務、幫助警察收集現(xiàn)場蛛絲馬跡并智能分析,多款著眼于維護公共安全的智能科技吸引人們圍觀。天津中環(huán)系統(tǒng)工程有限公司“城市安全大腦”項目負責人劉哲說,城市安全大腦將指揮消防系統(tǒng)、智能安防系統(tǒng)、巡檢運維系統(tǒng)、動態(tài)人臉識別等集納在一起,成為城市公共安全的指揮中心?！耙员汇y行、醫(yī)院等廣泛采用的智能安防為例,可以迅速識別不良行為,天津的一家三甲醫(yī)院每天可以發(fā)現(xiàn)三四名‘慣偷’,有效維護公眾人身財產(chǎn)安全?！眲⒄苷f。

在個人健康安全方面,智慧醫(yī)療系統(tǒng)提供個人健康顧問系統(tǒng)解決方案,實現(xiàn)個人健康大數(shù)據(jù)收集和分析,及時實施健康干預,更好地維護個人身體健康安全。科大訊飛高級副總裁江濤介紹,科大訊飛近年來在人工智能領域取得技術(shù)突破和成果,將會在智慧醫(yī)療、智慧家庭等行業(yè)領域廣泛應用。

智能科技帶來的安全風險與日俱增

人工智能發(fā)展在維護生活安全的同時,其帶來的安全風險也不容忽視。與會專家和業(yè)內(nèi)人士表示,人工智能所依賴的傳感器和使用的開源軟件等都可能存在安全隱患。

“當網(wǎng)絡受到攻擊時,你可能遇到不能網(wǎng)上訂餐、購物、約車,甚至做不了手術(shù)、機動車上不了牌照等問題?！敝茗櫟t說。

——隱私泄露。“我們所享用的網(wǎng)絡服務比我們自己更懂我們自己”。攝像頭無處不在,個人信息在網(wǎng)絡世界頻頻“裸奔”,個人信息和隱私的保護也日益嚴峻。IBM全球安全事業(yè)部網(wǎng)絡風險管理合伙人查理·辛格說,歐洲最新的通用數(shù)據(jù)保護條例里,特別規(guī)定了數(shù)據(jù)主體對于個人數(shù)據(jù)的權(quán)利,對用戶拍照行為有特別嚴格的限制。

——攻擊智能經(jīng)濟。周鴻祎說,智能經(jīng)濟已經(jīng)成為網(wǎng)絡攻擊選取的目標。在“軟件定義一切,萬物皆可互聯(lián)”的同時,網(wǎng)絡攻擊已經(jīng)開始威脅智能經(jīng)濟的健康發(fā)展。比如,2017年5月發(fā)生的勒索病毒事件,全球150多個國家受到影響,中國也有大量工業(yè)企業(yè)中招。

——劫持智能設備。人工智能會用于許多無人值守系統(tǒng),一旦被網(wǎng)絡劫持,將帶來嚴重的安全問題。比如智能汽車都是可以用手機進行控制的,要跟車廠的服務器保持連接,定期更新軟件保證汽車的駕駛模式。智能汽車可以聯(lián)網(wǎng),用手機可以遠程打開車門和空調(diào),也有可能被網(wǎng)絡劫持。

智能時代,如何更好維護安全?

中國科協(xié)主席萬鋼說,人工智能在國家安全、生產(chǎn)安全、社會安全和金融安全的風險防范和管理控制要給予高度重視?！皼]有網(wǎng)絡安全,就沒有國家安全?！痹谌斯ぶ悄馨l(fā)展成為雙刃劍的背景下,如何給人更多“安全感”?

首先,要建立有效安全防護,抵御網(wǎng)絡攻擊。中國工程院院士,北京工業(yè)大學教授沈昌祥認為,應該建立主動免疫的計算架構(gòu),對計算進行安全防護,使計算全程可測可控,不被干擾。此外,要有以密碼為基因的防護部件,對處理信息進行實時識別和排查,按照安全規(guī)則進行判別處理。

其次,利用人工智能應對網(wǎng)絡攻擊。查理·辛格說,“免疫系統(tǒng)”中不管哪個系統(tǒng)受到攻擊,都有統(tǒng)一的人工智能系統(tǒng)發(fā)出指令采取相應措施?！巴ㄟ^對網(wǎng)絡設備進行檢測或?qū)?shù)據(jù)進行掃描,一旦有一個內(nèi)容受到侵襲,那么對它的數(shù)據(jù)進行分析處理,也會方便后臺采取相應的措施,以提高網(wǎng)絡安全的性能。”辛格說。

另外,在維護網(wǎng)絡安全方面,人的因素更為重要。阿里巴巴集團董事局主席馬云說:“決定世界未來的不是技術(shù),而是技術(shù)背后的人?！?/p>

沈昌祥說,人的管理就是信息服務、策略管理,要做信息系統(tǒng)數(shù)據(jù)安全的守護者?！爸鲃臃雷o必不可少,現(xiàn)在的防護都是單向防護,要建立雙向防護機制,在主動防御的同時建立可信策略安全管控工作。”

另外,專家還建議要促進行業(yè)規(guī)范、企業(yè)自律和社會監(jiān)督。加大對數(shù)據(jù)濫用、侵犯隱私權(quán)等行為的懲戒力度,還要考慮和研究人工智能的立法問題,形成自律、他律和法律的社會生態(tài)。