近年來(lái)，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問(wèn)題備受批評(píng)。數(shù)據(jù)作為推動(dòng)人工智能快速發(fā)展的重要基礎(chǔ)，其安全性也決定了人工智能的安全性。人工智能的加速發(fā)展給數(shù)據(jù)安全管理帶來(lái)了新的機(jī)遇和挑戰(zhàn)。

認(rèn)證碼登錄，移動(dòng)在線支付，人臉識(shí)別門(mén)禁…

伴隨著一代信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)和人工智能技術(shù)的應(yīng)用蓬勃發(fā)展，數(shù)據(jù)也被視為無(wú)形資產(chǎn)。然而，技術(shù)是一把雙刃劍。在提高我們生產(chǎn)生活效率的同時(shí)，安全問(wèn)題也不容忽視。

近年來(lái)，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問(wèn)題備受批評(píng)。數(shù)據(jù)安全已經(jīng)成為當(dāng)今數(shù)字轉(zhuǎn)型時(shí)代的一個(gè)關(guān)鍵問(wèn)題。

在7月8日至10日舉行的2021世界人工智能大會(huì)上，數(shù)據(jù)安全、數(shù)據(jù)管理、網(wǎng)絡(luò)安全等問(wèn)題備受關(guān)注。業(yè)界認(rèn)為，在人工智能深入推進(jìn)城市數(shù)字化變革的過(guò)程中，企業(yè)應(yīng)積極接受監(jiān)督，促進(jìn)產(chǎn)業(yè)健康的可持續(xù)發(fā)展。

數(shù)據(jù)安全管理面臨著新的機(jī)遇和挑戰(zhàn)。

日前，桔視記錄儀等25個(gè)App因存在嚴(yán)重違法收集和使用個(gè)人信息的問(wèn)題，被國(guó)家互聯(lián)網(wǎng)信息辦根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》的有關(guān)規(guī)定，通知應(yīng)用商店下架。

此前，在上海車展特斯拉車主維權(quán)事件中，特斯拉公布了維權(quán)車主事件前半小時(shí)的行駛數(shù)據(jù)。這種行為引起了很多爭(zhēng)議:汽車公司應(yīng)該公開(kāi)行駛數(shù)據(jù)嗎？人們?nèi)绾未_定數(shù)據(jù)的可靠性？

沒(méi)有大數(shù)據(jù)的收集和基礎(chǔ)，人工智能是無(wú)根之木。數(shù)據(jù)作為推動(dòng)人工智能快速發(fā)展的重要基礎(chǔ)，其安全性也決定了人工智能的安全性。人工智能的加速發(fā)展給數(shù)據(jù)安全管理帶來(lái)了新的機(jī)遇和挑戰(zhàn)。

大數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)的發(fā)展，使得數(shù)據(jù)安全對(duì)城市運(yùn)營(yíng)變得前所未有的重要性。一旦數(shù)據(jù)受到攻擊，就意味著業(yè)務(wù)將停止，造成嚴(yán)重的經(jīng)濟(jì)損失和社會(huì)后果。360公司創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官周表示，近年來(lái)，360公司接到大量醫(yī)院報(bào)警，稱醫(yī)院網(wǎng)站在被勒索軟件攻擊后不能進(jìn)行手術(shù)，也不能掛號(hào)給患者看病。

近年來(lái)，城市也成為網(wǎng)絡(luò)恐嚇的重要目標(biāo)，網(wǎng)絡(luò)攻擊的對(duì)象不僅是計(jì)算機(jī)、手機(jī)、設(shè)備、系統(tǒng)，還逐漸擴(kuò)展到數(shù)據(jù)。人工智能數(shù)據(jù)的獲取、處理和應(yīng)用具有很強(qiáng)的隱私性和領(lǐng)域擴(kuò)展性，關(guān)系到個(gè)人信息安全和國(guó)家信息安全。政府、城市公共事業(yè)單位的數(shù)據(jù)恐嚇會(huì)導(dǎo)致城市運(yùn)營(yíng)和服務(wù)停止。今年5月，美國(guó)最大的燃料輸送管線遭到網(wǎng)絡(luò)攻擊，美國(guó)東海岸45%的汽油、柴油等燃料供應(yīng)受到影響。

業(yè)內(nèi)人士認(rèn)為，針對(duì)上述情況，人工智能技術(shù)的頭頂應(yīng)該懸掛一把達(dá)摩克里斯之劍。

數(shù)據(jù)輸入、分析等過(guò)程存在相應(yīng)的風(fēng)險(xiǎn)。

非法跨境流通數(shù)據(jù)可能危及國(guó)家主權(quán)和國(guó)家安全；過(guò)度收集和非法使用數(shù)字信息可能會(huì)侵犯公民的權(quán)利和隱私。算法偏好可能會(huì)加劇社會(huì)偏見(jiàn)或歧視，威脅公平正義。無(wú)人駕駛汽車緊急避險(xiǎn)等智能決策可能威脅特定人群的生命...

全國(guó)政協(xié)社會(huì)和法制委員會(huì)副主任陳智敏在人工智能大會(huì)安全高級(jí)對(duì)話中指出，人工智能發(fā)展與安全發(fā)展風(fēng)險(xiǎn)并存，不僅是技術(shù)問(wèn)題，也是安全問(wèn)題，還涉及倫理、法律、國(guó)際規(guī)則等問(wèn)題。

國(guó)家工業(yè)信息安全發(fā)展研究中心副主任何小龍?jiān)谌斯ぶ悄軙?huì)議上表示，人工智能帶來(lái)的數(shù)據(jù)安全一方面加速了傳統(tǒng)數(shù)據(jù)安全。

人工智能的大規(guī)模應(yīng)用進(jìn)一步加劇了過(guò)度收集數(shù)據(jù)的安全問(wèn)題。另一方面，也帶來(lái)了新的數(shù)據(jù)安全問(wèn)題。人工智能算法對(duì)數(shù)據(jù)有很強(qiáng)的依賴性，可能會(huì)帶來(lái)數(shù)據(jù)中毒等新的數(shù)據(jù)安全挑戰(zhàn)。

算法、模型和數(shù)據(jù)構(gòu)成機(jī)器學(xué)習(xí)的三個(gè)基礎(chǔ)。騰訊朱雀實(shí)驗(yàn)室首席AI安全專家朱季峰在人工智能大會(huì)主題論壇上表示，從算法構(gòu)建過(guò)程中上下游產(chǎn)業(yè)鏈來(lái)看，數(shù)據(jù)輸入、數(shù)據(jù)分析、模型訓(xùn)練、模型決策、模型在線部署應(yīng)用和模型改造過(guò)程存在相應(yīng)風(fēng)險(xiǎn)。

舉例來(lái)說(shuō)，在數(shù)據(jù)輸入環(huán)節(jié)，如果攻擊者控制數(shù)據(jù)源，或者攻擊者能夠?qū)κ占瘮?shù)據(jù)的設(shè)備本身進(jìn)行安全攻擊，最終會(huì)通過(guò)該鏈影響算法模型。比如超聲影響陀螺儀，最終會(huì)使無(wú)人駕駛飛機(jī)墜落?；蛟谀Ｐ蜎Q策階段，可通過(guò)物理攻擊，使自動(dòng)駕駛車輛的最終視覺(jué)識(shí)別系統(tǒng)出現(xiàn)問(wèn)題，從而影響車輛的自動(dòng)駕駛或行人判斷。

隨著人工智能的應(yīng)用，技術(shù)濫用帶來(lái)了失控的風(fēng)險(xiǎn)。驗(yàn)證碼驗(yàn)證機(jī)制首當(dāng)其沖。朱季峰表示，早在2017年，地下黑產(chǎn)就已經(jīng)開(kāi)始通過(guò)機(jī)器學(xué)習(xí)進(jìn)行二維碼識(shí)別訓(xùn)練。數(shù)據(jù)顯示，80%以上的驗(yàn)證準(zhǔn)確性可以通過(guò)機(jī)器學(xué)習(xí)算法自動(dòng)完成在線注冊(cè)，導(dǎo)致一系列安全問(wèn)題。

三大系統(tǒng)共建數(shù)據(jù)安全防火墻。

人臉識(shí)別技術(shù)依靠海量視圖數(shù)據(jù)的分析，因此數(shù)據(jù)安全直接影響人臉識(shí)別技術(shù)的實(shí)際應(yīng)用。人工智能技術(shù)在安全領(lǐng)域的應(yīng)用是技術(shù)落地過(guò)程最快、應(yīng)用最早的訓(xùn)練場(chǎng)。

達(dá)美創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官黃曉慶表示，從數(shù)據(jù)采集到數(shù)據(jù)處理到數(shù)據(jù)傳輸，有許多解決數(shù)據(jù)網(wǎng)絡(luò)安全問(wèn)題的方法。從網(wǎng)絡(luò)和數(shù)據(jù)的角度來(lái)看，有三個(gè)重要任務(wù)——物理隔離、網(wǎng)絡(luò)隔離和應(yīng)用終端保護(hù)。

除技術(shù)外，我國(guó)還利用法律武器對(duì)數(shù)據(jù)立法進(jìn)行了探索。

六月份，我國(guó)頒布了《數(shù)據(jù)安全法》，將于九月一日正式實(shí)施。提出以數(shù)據(jù)分類為核心，構(gòu)建數(shù)據(jù)安全監(jiān)管體系，強(qiáng)化各級(jí)數(shù)據(jù)處理活動(dòng)主體數(shù)據(jù)安全保護(hù)的義務(wù)和責(zé)任，為規(guī)范數(shù)據(jù)處理活動(dòng)，確保數(shù)據(jù)安全提供法律依據(jù)。此外，《個(gè)人信息保護(hù)法(草案)》也即將進(jìn)入三審階段，兩項(xiàng)法案相輔相成，推動(dòng)我國(guó)個(gè)人信息保護(hù)和數(shù)據(jù)安全治理進(jìn)入新階段。

清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾在人工智能大會(huì)大愛(ài)無(wú)疆·共生論壇上回顧了人工智能治理模式，經(jīng)歷了三個(gè)階段：回應(yīng)式治理、集中式治理和敏捷式治理。如今，我們進(jìn)入了一種相對(duì)集中的治理模式。這種模式明確了國(guó)家加強(qiáng)行業(yè)監(jiān)管、促進(jìn)制度實(shí)施的決心，對(duì)暴露出來(lái)的各種問(wèn)題采取了較為堅(jiān)決的措施，同時(shí)也觸及了需要進(jìn)一步研究的問(wèn)題。

當(dāng)前，上海正在研究制定公共場(chǎng)所人臉識(shí)別等級(jí)分類應(yīng)用規(guī)范的地方標(biāo)準(zhǔn)，這將成為全國(guó)第一個(gè)制定公共場(chǎng)所人臉識(shí)別的地方標(biāo)準(zhǔn)；開(kāi)展全市人工智能數(shù)據(jù)立法調(diào)查，規(guī)范數(shù)據(jù)確權(quán)、數(shù)據(jù)共享等重要內(nèi)容，促進(jìn)可信人工智能研究。同時(shí)，上海市人大也在起草《上海市數(shù)據(jù)條例》。

此外，上海數(shù)字證書(shū)認(rèn)證中心、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院、上海交通大學(xué)電子信息與電氣工程學(xué)院、移動(dòng)互聯(lián)網(wǎng)系統(tǒng)與應(yīng)用安全國(guó)家工程實(shí)驗(yàn)室、上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院共同發(fā)起數(shù)字身份與數(shù)據(jù)流通信任技術(shù)實(shí)驗(yàn)室的建設(shè)，該實(shí)驗(yàn)室基于數(shù)字信任技術(shù)的生產(chǎn)研究生態(tài)合作，開(kāi)展隱私計(jì)算、塊鏈、尖端密碼等數(shù)字信任技術(shù)的開(kāi)關(guān)和產(chǎn)業(yè)應(yīng)用

上海浦東新區(qū)將在數(shù)據(jù)資源共享、數(shù)據(jù)交易、數(shù)據(jù)開(kāi)發(fā)利用等方面進(jìn)行立法探索；臨港新區(qū)將試行對(duì)企業(yè)法人數(shù)據(jù)跨境流通進(jìn)行安全評(píng)估和服務(wù)監(jiān)管，加強(qiáng)對(duì)個(gè)人數(shù)據(jù)生命周期的安全監(jiān)控和保護(hù)。

成都融和實(shí)業(yè)排隊(duì)叫號(hào)系統(tǒng)廠家(yuanshangpin.cn)是一家集研發(fā)、生產(chǎn)、營(yíng)銷、服務(wù)于一體的高新技術(shù)企業(yè).主營(yíng)智能排隊(duì)叫號(hào)系統(tǒng)、醫(yī)院分診系統(tǒng)、排隊(duì)機(jī)、叫號(hào)機(jī)、評(píng)價(jià)器(好差評(píng)系統(tǒng))、呼叫器、多媒體查詢及信息發(fā)布配套系統(tǒng)等,公司產(chǎn)品已廣泛應(yīng)用于不動(dòng)產(chǎn)登記、智慧醫(yī)療、智慧稅務(wù)、智慧政務(wù)、智慧金融、智慧通訊、智慧服務(wù)大廳、智慧機(jī)關(guān)單位等服務(wù)窗口行業(yè).咨詢電話：028-87438905。