將一張“精彩的貼紙圖片”貼在臉上，可以讓人臉識(shí)別系統(tǒng)系統(tǒng)軟件判斷錯(cuò)誤，為路人毫無(wú)戒心地開門；打開那個(gè)“貼紙圖片”將近視眼鏡放在手機(jī)上，可以打開其人臉識(shí)別技術(shù)，獲取用戶信息，如進(jìn)入無(wú)人區(qū)域……這張照片以前只出現(xiàn)在科幻電影中，但現(xiàn)在它已經(jīng)在現(xiàn)實(shí)生活中出現(xiàn)了。最近，第一屆人工智能安全比賽在北京舉行。上述防御場(chǎng)景讓許多觀眾對(duì)比賽感到驚訝。

近年來(lái)，我國(guó)人工智能產(chǎn)業(yè)的經(jīng)營(yíng)規(guī)模持續(xù)增長(zhǎng)。根據(jù)工業(yè)和信息化部發(fā)布的數(shù)據(jù)，人工智能核心產(chǎn)業(yè)產(chǎn)值超過4000億元，比2019年同期增長(zhǎng)6倍以上，企業(yè)數(shù)量超過3000家，比2019年同期增長(zhǎng)15%。生產(chǎn)、運(yùn)輸、診療、金融等一批典型應(yīng)用。隨著應(yīng)用領(lǐng)域的日益普及和使用次數(shù)的不斷增加，人工智能安全風(fēng)險(xiǎn)的范圍概率也在增加。以深度神經(jīng)網(wǎng)絡(luò)為代表的優(yōu)化算法爆發(fā)開啟了人工智能技術(shù)的浪潮，在機(jī)器視覺、智能語(yǔ)音系統(tǒng)、自然語(yǔ)言理解等多個(gè)行業(yè)實(shí)現(xiàn)了長(zhǎng)期發(fā)展。數(shù)字驅(qū)動(dòng)的第二代人工智能技術(shù)具有可解釋性，剩余管理的不足逐漸顯現(xiàn)，導(dǎo)致安全事故的高發(fā)生率。如何實(shí)現(xiàn)高質(zhì)量發(fā)展與高質(zhì)量安全的雙向互動(dòng)，是目前人工智能產(chǎn)業(yè)面臨的最關(guān)鍵問題。

中國(guó)信息通信研究所發(fā)布的《人工智能白皮書》（2022）強(qiáng)調(diào)，隨著人工智能技術(shù)的各種風(fēng)險(xiǎn)和測(cè)試，人們對(duì)人工智能技術(shù)的理解逐漸提高，人工智能技術(shù)已成為全球社會(huì)各界密切關(guān)注的話題，對(duì)可信安全的關(guān)注逐漸增加。

人工智能安全風(fēng)險(xiǎn)首先從人和系統(tǒng)軟件兩個(gè)角度進(jìn)行分析。從人的角度來(lái)看，人工智能安全存在技術(shù)亂用甚至武器化的問題。這種方法可以大大提高內(nèi)容創(chuàng)作的效率和質(zhì)量，但其負(fù)面應(yīng)用——深度虛假風(fēng)險(xiǎn)不斷增加，造成了實(shí)質(zhì)性傷害。例如，根據(jù)“AI變臉”編造虛假的演講視頻和其他正確的指導(dǎo)新聞專業(yè)主義。該理論是中性的，應(yīng)加強(qiáng)對(duì)應(yīng)用領(lǐng)域和用戶的控制，避免技術(shù)濫用的衍生風(fēng)險(xiǎn)，確保其應(yīng)用的可控性。

比賽現(xiàn)場(chǎng)顯示的面部識(shí)別解碼顯示了人工智能系統(tǒng)的風(fēng)險(xiǎn)。它來(lái)自于深度學(xué)習(xí)模型本身缺乏脆弱性和攻擊性。根據(jù)輸入的數(shù)據(jù)和振蕩，系統(tǒng)軟件做出了錯(cuò)誤的判斷，導(dǎo)致其穩(wěn)定性無(wú)法相信。無(wú)人駕駛感知系統(tǒng)中仍然存在系統(tǒng)漏洞：通常，無(wú)人駕駛技術(shù)識(shí)別道路樁、標(biāo)志、路人等整體目標(biāo)，將立即制動(dòng)系統(tǒng)汽車，但對(duì)于整體目標(biāo)對(duì)象和影響模式設(shè)計(jì)，汽車感知系統(tǒng)會(huì)出錯(cuò)，造成碰撞風(fēng)險(xiǎn)?！芭c傳統(tǒng)的信息管理系統(tǒng)不同，人工智能系統(tǒng)具有較高的可變性，技術(shù)系統(tǒng)漏洞更為復(fù)雜?！敝燔娊ㄗh在算法模型之外部署安全部件，采取優(yōu)化算法檢測(cè)服務(wù)、加強(qiáng)防御結(jié)構(gòu)等措施，抵御實(shí)體模型盜竊、對(duì)抗樣本等新興攻擊，提高攻擊門檻和防御成本，使網(wǎng)絡(luò)攻擊徒勞無(wú)益，從而控制源頭的安全。

建立科學(xué)合理的判斷方法是提高人工智能系統(tǒng)防御能力的另一個(gè)合理解決方案。人工智能技術(shù)不僅有許多類型，還包括數(shù)據(jù)、物理模型等因素，涉及實(shí)踐、檢測(cè)、認(rèn)證等各個(gè)階段，也使人工智能技術(shù)的安全系數(shù)判斷成為一個(gè)復(fù)雜的問題。因此，應(yīng)配置從檢測(cè)、分析到結(jié)構(gòu)加固的集成方法，以產(chǎn)生標(biāo)準(zhǔn)化的測(cè)試步驟。人工智能安全評(píng)估不僅局限于優(yōu)化算法，還應(yīng)擴(kuò)展到數(shù)據(jù)、信息、應(yīng)用等方面，進(jìn)行全面的專業(yè)評(píng)估，確保人工智能技術(shù)全鏈的安全。

隨著時(shí)間的推移，人工智能安全問題必須在算法模型的基本原理上取得突破。建立第三代人工智能技術(shù)，然后在第二代人工智能技術(shù)信息、優(yōu)化算法和計(jì)算率的前提下，整合專業(yè)知識(shí)因素，重建可解釋性和穩(wěn)定的人工智能方法。

要建立人工智能安全的天然屏障，我們應(yīng)該在攻防演練中不斷更新抵抗水平。通過培訓(xùn)系統(tǒng)漏洞發(fā)現(xiàn)和探索能力，探索新的安全需求場(chǎng)景，促進(jìn)人工智能安全防御技術(shù)的創(chuàng)新，為加強(qiáng)人工智能技術(shù)社會(huì)治理體系和安全風(fēng)險(xiǎn)評(píng)估體系建設(shè)提供幫助。

作為人工智能產(chǎn)業(yè)發(fā)展趨勢(shì)的重要基礎(chǔ)，加快計(jì)算基礎(chǔ)設(shè)施建設(shè)將滿足人工智能技術(shù)井噴式增長(zhǎng)的計(jì)算能力需求。國(guó)家工業(yè)信息安全發(fā)展研究中心最近發(fā)布的《人工智能計(jì)算基礎(chǔ)設(shè)施安全發(fā)展白皮書》強(qiáng)調(diào)，安全計(jì)算基礎(chǔ)設(shè)施建設(shè)應(yīng)保持?jǐn)?shù)據(jù)庫(kù)系統(tǒng)不被盜，合理防止惡意攻擊，提供可信的軟件環(huán)境，確保人工智能系統(tǒng)的安全和穩(wěn)定。

然而，人工智能計(jì)算基礎(chǔ)設(shè)施建設(shè)的發(fā)展趨勢(shì)仍處于早期階段，專項(xiàng)檢測(cè)標(biāo)準(zhǔn)、技術(shù)標(biāo)準(zhǔn)體系、評(píng)價(jià)標(biāo)準(zhǔn)、監(jiān)測(cè)和檢查方法仍在建設(shè)中。為了進(jìn)一步促進(jìn)人工智能計(jì)算基礎(chǔ)設(shè)施建設(shè)的綠色發(fā)展，計(jì)算基礎(chǔ)設(shè)施建設(shè)和人工智能技術(shù)安全問題相互補(bǔ)充，應(yīng)建立有針對(duì)性的整合、全鏈路營(yíng)銷質(zhì)量標(biāo)準(zhǔn)體系，完成合作。同時(shí)，鼓勵(lì)計(jì)算基礎(chǔ)設(shè)施建設(shè)企業(yè)和優(yōu)化算法公司加強(qiáng)合作，促進(jìn)安全技術(shù)工具集成到人工智能計(jì)算基礎(chǔ)設(shè)施建設(shè)中，降低使用人工智能技術(shù)的成本，創(chuàng)造良好的綠色發(fā)展環(huán)境。

成都融和實(shí)業(yè)排隊(duì)叫號(hào)系統(tǒng)廠家(yuanshangpin.cn)是一家集研發(fā)、生產(chǎn)、營(yíng)銷、服務(wù)于一體的高新技術(shù)企業(yè).主營(yíng)智能填單系統(tǒng)、智能查詢系統(tǒng)、智能排隊(duì)叫號(hào)系統(tǒng)、醫(yī)院分診系統(tǒng)、排隊(duì)機(jī)、叫號(hào)機(jī)、評(píng)價(jià)器(好差評(píng)系統(tǒng))、呼叫器、多媒體查詢及信息發(fā)布配套系統(tǒng)等,公司產(chǎn)品已廣泛應(yīng)用于不動(dòng)產(chǎn)登記、智慧醫(yī)療、智慧稅務(wù)、智慧政務(wù)、智慧金融、智慧通訊、智慧服務(wù)大廳、智慧機(jī)關(guān)單位等服務(wù)窗口行業(yè).咨詢電話：028-87438905。

標(biāo)簽：人工智能,人工智能安全,人工智能產(chǎn)業(yè),AI人工智能