人民政協(xié)網(wǎng)北京12月24日電（記者謝靚）2020年12月23日，全國(guó)政協(xié)今年最后一場(chǎng)雙周協(xié)商座談會(huì)，探討的是一個(gè)關(guān)于“未來”的話題——人工智能發(fā)展中的科技倫理與法律問題。

臨近歲末，沒有什么比談?wù)撐磥砀屓似诖?。即將過去的這一年里，新冠肺炎疫情重創(chuàng)了整個(gè)世界，它是危機(jī)，也是啟示：要盡可能做更多的準(zhǔn)備，以應(yīng)對(duì)變局中未知的風(fēng)險(xiǎn)與不確定性。

如果要列出能夠改變世界格局與歷史進(jìn)程的要素，人工智能必居其一。

作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，人工智能是時(shí)代發(fā)展的巨大機(jī)遇，也給科技倫理和法律帶來挑戰(zhàn)，它的“未知”遠(yuǎn)遠(yuǎn)大于“已知”。黨的十九屆五中全會(huì)將人工智能作為具有前瞻性、戰(zhàn)略性的國(guó)家重大科技項(xiàng)目進(jìn)行部署，是科學(xué)應(yīng)變，更是主動(dòng)求變。

在政協(xié)這個(gè)“攬八方才俊、集各界精英”的平臺(tái)上，探討“人工智能發(fā)展中的科技倫理與法律問題”這樣前沿、跨學(xué)科的課題，可謂適得其所。來自不同界別、代表不同利益訴求的委員和專家對(duì)人工智能潛在風(fēng)險(xiǎn)進(jìn)行預(yù)判，研究構(gòu)建倫理規(guī)則和法律規(guī)范的可能性，在與職能部門的交流中釋疑增信，在思想的碰撞中激發(fā)新的思考，這本身就是一種建設(shè)性成果，是為人工智能發(fā)展注入人文關(guān)懷的有益實(shí)踐。

■“技術(shù)之手”會(huì)加深社會(huì)不公的溝壑嗎？

上世紀(jì)30年代，喜劇大師卓別林自導(dǎo)自演了一部經(jīng)典電影《摩登時(shí)代》，描繪了第二次工業(yè)革命后底層工人被“機(jī)械化”洪流裹挾的無奈。

在歷史長(zhǎng)河中，每一次重大科技變革都會(huì)對(duì)既有社會(huì)秩序構(gòu)成沖擊，人工智能也不例外。

會(huì)上，張大方常委表達(dá)了自己的擔(dān)憂：“由于數(shù)據(jù)質(zhì)量和算法的原因，很多人工智能軟件蘊(yùn)含性別、年齡、種族歧視，很難發(fā)現(xiàn)也很難消除。一些掌握先進(jìn)人工智能技術(shù)的企業(yè)或個(gè)人可能會(huì)利用優(yōu)勢(shì)地位獲取更多的資源，影響社會(huì)公平?！?/p>

這當(dāng)然不是危言聳聽。

前不久，一篇《外賣騎手，困在系統(tǒng)里》的文章在網(wǎng)上刷屏。為提高配送效率，騎手們?cè)谄脚_(tái)算法的控制下疲于奔命。這一報(bào)道擊中了很多人的痛點(diǎn)：我們會(huì)不會(huì)也被算法操縱？

與騎手困境形成對(duì)比的是平臺(tái)企業(yè)由此獲得的豐厚資本紅利，李迎新委員由此提出疑問：巨型網(wǎng)絡(luò)交易平臺(tái)獲得價(jià)值密度極高的“大數(shù)據(jù)”，進(jìn)而以“精準(zhǔn)營(yíng)銷”等方式獲取商業(yè)利潤(rùn)，這種分配機(jī)制是否公平？是否可能導(dǎo)致收入差距的進(jìn)一步加大？

其實(shí)，如果把問題放在當(dāng)前的歷史節(jié)點(diǎn)中審視，就能更深切地理解這種擔(dān)憂。

剛剛結(jié)束的十九屆五中全會(huì)首次提出把全體人民共同富裕取得更為明顯的實(shí)質(zhì)性進(jìn)展作為遠(yuǎn)景目標(biāo)。這意味著我們要繼續(xù)把“蛋糕”做大，還要進(jìn)一步把“蛋糕”分好。顯然，任由技術(shù)的無形之手加深社會(huì)不公平的溝壑，不是這個(gè)時(shí)代應(yīng)有的價(jià)值觀。

“上限不能過，底線不能破，紅線不能踩?！睆埓蠓秸f，應(yīng)強(qiáng)化政府引導(dǎo)、行業(yè)自律、企業(yè)自覺及公民共識(shí)，讓每一個(gè)人都能成為人工智能受益者。

“任何一項(xiàng)新技術(shù)的出現(xiàn)都可能帶來就業(yè)、收入分配等方面的社會(huì)問題?！睍?huì)上，相關(guān)部委負(fù)責(zé)同志回應(yīng)了委員的擔(dān)憂并表示，問題確實(shí)存在，但無需過慮，因?yàn)榧夹g(shù)導(dǎo)致的公平問題是可以在發(fā)展過程中得到克服的，這已被歷史所證明。

“既不要把人工智能看成洪水猛獸，也不能放任不管，要用發(fā)展的眼光看待發(fā)展中的問題?！蓖豉i飛委員說。

也許，相對(duì)于簡(jiǎn)單的道德審判，我們更需要做的是完善相應(yīng)的制度設(shè)計(jì)。守住現(xiàn)實(shí)社會(huì)的公平底線，“算法偏見”就不會(huì)有機(jī)可乘。

■“弱人工智能時(shí)代”的數(shù)據(jù)安全

1951年，計(jì)算機(jī)之父阿蘭·圖靈(AlanTuring)曾提出："如果機(jī)器能思考，那么它很可能比我們更加明智……這種新的危險(xiǎn)當(dāng)然讓我們焦慮?！?/p>

危險(xiǎn)有多遠(yuǎn)？這是很多非業(yè)內(nèi)人士共同的問號(hào)。

為籌備這次會(huì)議，全國(guó)政協(xié)調(diào)研組赴安徽、江蘇、北京開展專題調(diào)研。調(diào)研中，大家看到了人工智能在交通、家居、醫(yī)療、媒體等諸多領(lǐng)域的應(yīng)用場(chǎng)景，也由此深化了一個(gè)認(rèn)知：我們?nèi)蕴幱凇叭跞斯ぶ悄軙r(shí)代”。

弱人工智能指的是只能解決特定領(lǐng)域問題的人工智能，它還不具備自主意識(shí)。強(qiáng)人工智能的“奇點(diǎn)”到來還有多久，在科學(xué)界依然沒有最終定論。因此，王小川委員建議，“討論倫理及法律問題，‘長(zhǎng)遠(yuǎn)’和‘眼下’要分開看?！?/p>

前景不明朗，就不能過早“畫地為牢”，委員與部委負(fù)責(zé)同志一致認(rèn)為，要“讓子彈飛一會(huì)兒”。

與其憂心尚未發(fā)生的威脅，不如聚焦業(yè)已存在的風(fēng)險(xiǎn)?，F(xiàn)實(shí)中人工智能技術(shù)應(yīng)用的突出風(fēng)險(xiǎn)是什么？不少委員談到了數(shù)據(jù)隱私與安全。

疫情期間，“刷臉”成為大多數(shù)人通行必不可少的步驟?！叭四?、指紋、DNA等生物特征數(shù)據(jù)，個(gè)人醫(yī)療檔案數(shù)據(jù)等都具有唯一性，一旦被采集到不安全的網(wǎng)絡(luò)上，極有可能引發(fā)巨大社會(huì)風(fēng)險(xiǎn)。”從事網(wǎng)絡(luò)安全技術(shù)行業(yè)的談劍鋒委員指出了問題的關(guān)鍵。他建議采取負(fù)面清單模式，限制企業(yè)自行采集收集和壟斷數(shù)據(jù)，同時(shí)對(duì)不可再生數(shù)據(jù)進(jìn)行統(tǒng)一管控。

會(huì)上，黃愛龍委員談到App個(gè)人信息被過度采集，姜偉委員談到數(shù)據(jù)的權(quán)屬不明確，黃錦輝委員談到要監(jiān)管企業(yè)所使用數(shù)據(jù)的質(zhì)量，雖意見各有不同，但立場(chǎng)都是一致的：保護(hù)數(shù)據(jù)安全刻不容緩。

對(duì)于數(shù)據(jù)安全要明確法律上的紅線，這項(xiàng)工作已經(jīng)開始——今年出臺(tái)的民法典對(duì)收集、處理個(gè)人信息作出了明確規(guī)定，全國(guó)人大也把個(gè)人信息保護(hù)法、數(shù)據(jù)安全法列入了國(guó)家五年立法規(guī)劃第一序列。會(huì)上，相關(guān)部委負(fù)責(zé)同志的積極回應(yīng)又給大家吃下一顆定心丸：數(shù)據(jù)權(quán)屬的界定與更嚴(yán)格的數(shù)據(jù)隱私保護(hù)規(guī)范已納入決策層的考量范圍。

當(dāng)一個(gè)問題反復(fù)出現(xiàn)在社會(huì)公共議題之中，往往就是問題得到解決的契機(jī)。對(duì)于保護(hù)數(shù)據(jù)安全，我們或許可以抱有更多信心。

■搶占制高點(diǎn)

前沿和關(guān)鍵領(lǐng)域的技術(shù)創(chuàng)新，向來是傳統(tǒng)工業(yè)強(qiáng)國(guó)的主戰(zhàn)場(chǎng)。幸運(yùn)的是，在人工智能領(lǐng)域，中國(guó)已躋身國(guó)際“第一方陣”。

人工智能依托大數(shù)據(jù)而生，以應(yīng)用場(chǎng)景為核心，而中國(guó)龐大的互聯(lián)網(wǎng)體量和豐富的場(chǎng)景應(yīng)用，是人工智能發(fā)展最豐沃的土壤。

我們探索建立人工智能發(fā)展“規(guī)則”，不僅是防范潛在風(fēng)險(xiǎn)的需要，也是搶占國(guó)際競(jìng)爭(zhēng)制高點(diǎn)的必然選擇。

現(xiàn)在，美歐等國(guó)家以“共同價(jià)值觀”劃界全球人工智能治理版圖的趨勢(shì)日盛?！皞惱矸蓡栴}已成為全球人工智能話語權(quán)和主導(dǎo)權(quán)競(jìng)爭(zhēng)的焦點(diǎn)。”會(huì)上，相關(guān)部委負(fù)責(zé)同志如是說。

好在，研究探索倫理法律問題的“中國(guó)實(shí)踐”已經(jīng)拉開帷幕。全國(guó)政協(xié)社法委副主任陳智敏認(rèn)為，應(yīng)充分利用我國(guó)人工智能發(fā)展的比較優(yōu)勢(shì)，在人工智能治理的國(guó)際規(guī)則制定上占據(jù)主動(dòng)、擁有更多話語權(quán)。

會(huì)上，陳群常委建議在國(guó)家層面上加快相關(guān)制度創(chuàng)新，布局建設(shè)人工智能認(rèn)證體系和全球賦碼系統(tǒng)，以我國(guó)超大規(guī)模應(yīng)用市場(chǎng)為牽引，對(duì)全球人工智能產(chǎn)品開放登記和提供法律保護(hù)，推動(dòng)我國(guó)相關(guān)法律法規(guī)更多成為國(guó)際通行規(guī)則。對(duì)此，清華大學(xué)法學(xué)院院長(zhǎng)申衛(wèi)星建議構(gòu)建綜合性立法和具體場(chǎng)景立法相結(jié)合的“總-分”式立法體系，他說，這種設(shè)計(jì)將有利于增強(qiáng)國(guó)內(nèi)外對(duì)于中國(guó)人工智能技術(shù)的信任度，提升人工智能國(guó)際競(jìng)爭(zhēng)中的軟實(shí)力。

1818年，英國(guó)的瑪麗·雪萊創(chuàng)作了世界上第一部科幻小說《弗蘭肯斯坦》，以遠(yuǎn)超時(shí)代的想象力虛構(gòu)了一個(gè)“人造人”的悲劇。當(dāng)時(shí)20歲的瑪麗大概不會(huì)想到，兩百余年后，一個(gè)萬億級(jí)人工智能市場(chǎng)已蓬勃興起。

勇敢擁抱技術(shù)變革，是因?yàn)槁牭搅顺彼穆曇簟Ｎ覀冋陉J過布滿暗礁的藍(lán)海，與未來迎面相逢。