將一張“精彩的貼紙圖片”貼在臉上可以讓人臉識別系統(tǒng)軟件判斷錯誤，為沒有警惕的路人打開大門；把那個放在那張“貼紙圖片”將近視眼鏡放在手機上，可以打開其人臉識別技術(shù)，獲取用戶信息，如進入無人區(qū)域……這張照片以前只出現(xiàn)在科幻電影中，但現(xiàn)在它已經(jīng)在現(xiàn)實生活中出現(xiàn)了。

近年來，我國人工智能產(chǎn)業(yè)的經(jīng)營規(guī)模持續(xù)增長。根據(jù)工業(yè)和信息化部發(fā)布的數(shù)據(jù)，人工智能核心產(chǎn)業(yè)產(chǎn)值超過4000億元，比2019年同期增長6倍以上，企業(yè)數(shù)量超過3000家，比2019年同期增長15%。生產(chǎn)、運輸、診療、金融等一批典型應(yīng)用?！半S著應(yīng)用領(lǐng)域的日益普及和使用次數(shù)的不斷增加，人工智能安全風險的范圍概率也在增加?！币陨疃壬窠?jīng)網(wǎng)絡(luò)為代表的優(yōu)化算法爆發(fā)開啟了人工智能技術(shù)的浪潮，在機器視覺、智能語音系統(tǒng)、自然語言理解等多個行業(yè)實現(xiàn)了長期發(fā)展。數(shù)據(jù)驅(qū)動的第二代人工智能技術(shù)具有可解釋性，剩余管理的不足逐漸顯現(xiàn)，導致安全事故發(fā)生率高。如何實現(xiàn)高質(zhì)量發(fā)展與高質(zhì)量安全的雙向互動，是目前人工智能產(chǎn)業(yè)面臨的最關(guān)鍵問題。

中國信息通信研究所發(fā)布的《人工智能白皮書》（2022）強調(diào)，隨著人工智能技術(shù)的各種風險和測試，人們對人工智能技術(shù)的理解逐漸提高，人工智能技術(shù)已成為全球社會各界密切關(guān)注的話題，可信安全的聲音逐漸增加。

“人工智能安全風險首先從人和系統(tǒng)軟件兩個角度進行分析。從人的角度來看，人工智能安全存在技術(shù)亂用甚至武器化的問題。”這種方法可以大大提高內(nèi)容創(chuàng)作的效率和質(zhì)量，但其負面應(yīng)用——深度虛假風險不斷增加，造成了實質(zhì)性傷害。例如，根據(jù)“AI變臉”編造虛假的演講視頻和其他正確的指導新聞專業(yè)主義。該理論是中立的，應(yīng)加強對應(yīng)用領(lǐng)域和用戶的控制，避免技術(shù)濫用的衍生風險，確保其應(yīng)用的可控性。

比賽現(xiàn)場顯示的面部識別解碼顯示了人工智能系統(tǒng)的風險。它來自于深度學習模型本身缺乏脆弱性和攻擊性。根據(jù)輸入的數(shù)據(jù)和振蕩，系統(tǒng)軟件做出了錯誤的判斷，導致其穩(wěn)定性無法相信。無人駕駛感知系統(tǒng)中仍然存在系統(tǒng)漏洞：通常，無人駕駛技術(shù)識別道路樁、標志、路人等整體目標，將立即制動系統(tǒng)汽車，對整體目標對象加上影響模式設(shè)計，汽車感知系統(tǒng)將出錯，造成碰撞風險?！芭c傳統(tǒng)的信息管理系統(tǒng)不同，人工智能系統(tǒng)具有較高的可變性，技術(shù)系統(tǒng)漏洞更為復雜。”建議在算法模型之外部署安全部件，采取優(yōu)化算法檢測服務(wù)、加強防御結(jié)構(gòu)等措施，抵御實體模型盜竊、對抗樣本等新型攻擊，提高攻擊門檻和防御成本，使網(wǎng)絡(luò)攻擊徒勞無益，從而完成源頭的安全。

建立科學合理的判斷方法是提高人工智能系統(tǒng)防御能力的另一個合理解決方案。人工智能技術(shù)不僅有許多類型，還包括數(shù)據(jù)、物理模型等因素，涉及實踐、檢測、認證等各個階段，也使人工智能技術(shù)的安全系數(shù)判斷成為一個復雜的問題。因此，應(yīng)配置從檢測、分析到結(jié)構(gòu)加固的集成方法，以產(chǎn)生標準化的測試步驟。人工智能安全評估不僅局限于優(yōu)化算法，還應(yīng)擴展到數(shù)據(jù)、信息、應(yīng)用等方面，進行全面的專業(yè)評估，確保人工智能技術(shù)的全周期安全。

人工智能安全問題必須從算法模型的基本原理中找到突破。明確第三代人工智能技術(shù)，然后在第二代人工智能技術(shù)信息的前提下，優(yōu)化算法和計算率，然后整合專業(yè)知識因素，重建可解釋性和穩(wěn)定的人工智能方法。

要建立人工智能安全的天然屏障，我們應(yīng)該在攻防演練中不斷更新抵抗水平。通過培訓系統(tǒng)漏洞發(fā)現(xiàn)和探索能力，探索新的安全需求場景，促進人工智能安全防御技術(shù)的創(chuàng)新，為加強人工智能技術(shù)社會治理體系和安全風險評估體系建設(shè)提供支持。

作為人工智能產(chǎn)業(yè)發(fā)展趨勢的重要基石，加快計算基礎(chǔ)設(shè)施建設(shè)將滿足人工智能技術(shù)井噴式增長的計算能力需求。國家工業(yè)信息安全發(fā)展研究中心最近發(fā)布的《人工智能計算基礎(chǔ)設(shè)施安全發(fā)展白皮書》強調(diào)，安全計算基礎(chǔ)設(shè)施建設(shè)應(yīng)保持數(shù)據(jù)庫系統(tǒng)不被盜，合理防止惡意攻擊，提供可信的軟件環(huán)境，確保人工智能系統(tǒng)的安全和穩(wěn)定。

然而，人工智能計算基礎(chǔ)設(shè)施建設(shè)的發(fā)展趨勢仍處于早期階段，專項檢測標準、技術(shù)標準體系、評價標準、監(jiān)測和檢查方法仍在建設(shè)中。為了進一步促進人工智能計算基礎(chǔ)設(shè)施建設(shè)的綠色發(fā)展，計算基礎(chǔ)設(shè)施建設(shè)和人工智能技術(shù)安全問題相互補充，應(yīng)建立有針對性的整合、全鏈路營銷質(zhì)量標準體系，完成合作。同時，鼓勵計算基礎(chǔ)設(shè)施建設(shè)企業(yè)和優(yōu)化算法公司加強合作，促進安全技術(shù)工具集成到人工智能計算基礎(chǔ)設(shè)施建設(shè)中，降低使用人工智能技術(shù)的成本，創(chuàng)造良好的綠色發(fā)展環(huán)境。

成都融和實業(yè)排隊叫號系統(tǒng)廠家(yuanshangpin.cn)是一家集研發(fā)、生產(chǎn)、營銷、服務(wù)于一體的高新技術(shù)企業(yè).主營智能填單系統(tǒng)、智能查詢系統(tǒng)、智能排隊叫號系統(tǒng)、醫(yī)院分診系統(tǒng)、排隊機、叫號機、評價器(好差評系統(tǒng))、呼叫器、多媒體查詢及信息發(fā)布配套系統(tǒng)等,公司產(chǎn)品已廣泛應(yīng)用于不動產(chǎn)登記、智慧醫(yī)療、智慧稅務(wù)、智慧政務(wù)、智慧金融、智慧通訊、智慧服務(wù)大廳、智慧機關(guān)單位等服務(wù)窗口行業(yè).咨詢電話：028-87438905。

標簽：AI人工智能,人工智能,人工智能安全,人工智能產(chǎn)業(yè)