語音識別、文字識別、視頻識別...在數(shù)字經(jīng)濟(jì)時代，人工智能技術(shù)已經(jīng)接近你我，被視為新的經(jīng)濟(jì)增長引擎、新的國際競爭陣地和促進(jìn)智能社會建設(shè)的有效工具。加快人工智能+產(chǎn)業(yè)融合，賦予更多行業(yè)應(yīng)用落地力，成為社會各界的共同期望。

但是，最近在由中國人工智能學(xué)會主辦的2020中國人工智能產(chǎn)業(yè)年會上，最新發(fā)表的報告顯示，現(xiàn)在成熟應(yīng)用的人工智能技術(shù)只有語音識別，機(jī)械學(xué)習(xí)、計算機(jī)視覺、自然語言處理、知識圖像、智能機(jī)器人等技術(shù)成熟需要數(shù)年時間，無人駕駛汽車在今后10年內(nèi)不太可能出現(xiàn)。

人工智能從實(shí)驗(yàn)室走向大規(guī)模商業(yè)需要多長時間？還有哪些堵塞和痛點(diǎn)？在許多行業(yè)專家看來，只有正視人工智能存在的諸多挑戰(zhàn)，對技術(shù)賦權(quán)抱有理性期望，才能回歸技術(shù)本質(zhì)，成為更多產(chǎn)業(yè)變革創(chuàng)新的動力源泉。

由于算法不透明而無法解釋。

谷歌人工智能系統(tǒng)AlphaGo在2016年擊敗了世界圍棋冠軍李世石，讓世界震驚不已。電腦依靠人工智能深度學(xué)習(xí)理論的突破，可以模仿人類做出決定，但是，這只是基于大量的數(shù)據(jù)學(xué)習(xí)，而不是因果或規(guī)則推理，整個決定過程仍然是一個黑箱，人類很難理解，導(dǎo)致追究責(zé)任。

以復(fù)旦大學(xué)計算機(jī)科技學(xué)院院長姜育剛為例，此前，美國IBM公司開發(fā)了人工智能系統(tǒng)沃森，以幫助醫(yī)生做出診斷和治療決策。但是，很多醫(yī)生很快發(fā)現(xiàn)，在使用沃森的時候，系統(tǒng)會給出很多不安全、不正確的治療意見，甚至在極端的診斷案例中，沃森也會給有出血癥狀的癌癥患者開出容易引起出血的藥物，嚴(yán)重會導(dǎo)致病人死亡。但是，醫(yī)生們并不知道為什么沃森會給出這樣的看法。不可解釋的決策步驟，帶來許多不確定性。

近年來，人工智能在新藥物研發(fā)中的應(yīng)用備受期待。然而，算法的不可解釋性在前面。相關(guān)研發(fā)和監(jiān)管部門需要清楚地了解藥物開發(fā)中使用的算法，從而理解人工智能決策背后的邏輯。如果監(jiān)管不透明，人工智能將是一個不能進(jìn)行嚴(yán)格科學(xué)評價和驗(yàn)證的黑匣子。這可能會導(dǎo)致藥物審批過程中出現(xiàn)各種意想不到的問題，比如對人工智能發(fā)現(xiàn)的生物標(biāo)志的接受度不明。另外，對于智能政務(wù)、無人駕駛等安全要求極高的行業(yè)，人工智能的引入自然更加謹(jǐn)慎。

深度學(xué)習(xí)的算法和核心模型需要能夠真正展開，讓公眾了解其機(jī)理模型。人工智能面向具有不同知識背景的用戶，應(yīng)該能夠以簡單、清晰的方式，對決策過程的依據(jù)和原因進(jìn)行說明，并能夠追溯和審計系統(tǒng)決策過程中關(guān)鍵節(jié)點(diǎn)的數(shù)據(jù)，這是未來人工智能應(yīng)用大規(guī)模落地時需要特別關(guān)注的特征，也是實(shí)施監(jiān)管的必要條件。

容易受騙引起安全質(zhì)疑。

作為人工智能技術(shù)的熱門選手，深度學(xué)習(xí)可以通過訓(xùn)練大量已知樣品來制作自己的樣品，這是深度學(xué)習(xí)的特點(diǎn)和痛點(diǎn)。

人工智能目前面向產(chǎn)業(yè)化，面臨的巨大挑戰(zhàn)是真實(shí)環(huán)境的開放邊界和規(guī)則模糊，數(shù)據(jù)的噪音非常大，使得智能模型的一些結(jié)果和使用難以信賴。

目前人工智能的智能判斷模式存在缺陷，很容易被樣本對抗所欺騙。例如圖像識別，在圖像中加入一些很少的干擾，人為視覺看起來基本上沒有什么不同，但是人工智能模型會產(chǎn)生識別錯誤；再比如自動駕駛，一個限速80碼的交通標(biāo)志，在加入一些干擾之后，可能會被機(jī)器識別為禁止通行。很明顯，有很大的安全隱患。

語音識別領(lǐng)域也有這樣的問題。如果技術(shù)人員在語音上隨意添加非常小的干擾，語音識別系統(tǒng)可能會識別錯誤。同樣，在文本識別領(lǐng)域，更改字母可以使文本內(nèi)容被錯誤分類。

另外，如果深度學(xué)習(xí)的數(shù)據(jù)集中有隱藏的偏見，人工智能系統(tǒng)就找不到，也不會否認(rèn)。缺乏反饋機(jī)制的全收最終可能導(dǎo)致結(jié)果不客觀。

比如行業(yè)內(nèi)已經(jīng)出現(xiàn)的人工智能，經(jīng)過深入的學(xué)習(xí)，對女性、少數(shù)民族、非主流文化群體產(chǎn)生了歧視:亞馬遜通過人工智能篩選簡歷，發(fā)現(xiàn)系統(tǒng)對女性有偏見，導(dǎo)致最終關(guān)閉。更常見的是，手機(jī)軟件使用人工智能算法導(dǎo)致的大數(shù)據(jù)被殺死。比如根據(jù)手機(jī)類型的不同，可能會推薦不同類型的產(chǎn)品，甚至出租車時推薦不同價格和檔次的車輛。

當(dāng)前，AI+金融的發(fā)展正在全面展開。但是，當(dāng)所有的金融機(jī)構(gòu)都采用人工智能進(jìn)行決策時，其市場信號解讀可能會趨同并不斷加強(qiáng)，從而形成偏離正常市場規(guī)律的結(jié)果。而且這種異常的市場變化也將成為人工智能學(xué)習(xí)的基礎(chǔ)，使人工智能的決策邏輯更加畸化，容易造成不良后果。

上述問題，影響了人工智能賦能實(shí)體經(jīng)濟(jì)的安全，突出了行業(yè)對技術(shù)可信度的呼喚。從人工智能到可信賴人工智能，意味著我們需要在技術(shù)層面解決這些核心技術(shù)挑戰(zhàn)，如魯棒性(穩(wěn)定性)、可解釋性和可復(fù)制性。與此同時，為了大規(guī)模的工業(yè)應(yīng)用，我們必須考慮人工智能的公平性和責(zé)任。這些維度是人工智能必須解決的問題。周伯文說。

法律法規(guī)和倫理問題有待完善。

現(xiàn)在的智能算法仍然存在著決策不符合倫理道德要求的問題。姜育剛指出，在應(yīng)用中已經(jīng)發(fā)現(xiàn)，智能算法的決策并沒有從改善人類生活、服務(wù)人類社會的角度出發(fā)。例如，智能音響在對話中出現(xiàn)了勸導(dǎo)主人自殺的內(nèi)容，聊天機(jī)器人學(xué)會了罵臟話和種族歧視等等。而且這些不友好的決策都是模型從數(shù)據(jù)中學(xué)到的，并非研發(fā)人員設(shè)置人工智能模型的目標(biāo)。

與此同時，人工智能算法需要大量的數(shù)據(jù)驅(qū)動，訓(xùn)練數(shù)據(jù)可以通過算法恢復(fù)，個人隱私有泄露和侵犯的危險，而且大量的數(shù)據(jù)也存在共享障礙。這個問題在人工智能賦能金融的過程中尤其引人注目。最近幾年來，金融隱私泄露事件以約35%的速度增長。此外，近幾年來，人工智能技術(shù)在金融行業(yè)得到了廣泛的應(yīng)用，銀行數(shù)據(jù)、保險數(shù)據(jù)、網(wǎng)貸業(yè)務(wù)和大數(shù)據(jù)等個人信息保護(hù)問題日益突出。

人工智能技術(shù)在2020年抗擊新冠肺炎肺炎疫情期間，在我國反應(yīng)迅速，介入力度大，有助于推出CT影像輔助診斷系統(tǒng)，提高醫(yī)生診斷的速度和信心。但是，醫(yī)學(xué)影像智能診斷的發(fā)展也面臨著法律規(guī)制的問題。相對于其它人工智能賦能行業(yè)的大數(shù)據(jù)，獲得高質(zhì)量的醫(yī)學(xué)影像數(shù)據(jù)相對困難。各醫(yī)療機(jī)構(gòu)的數(shù)據(jù)，目前還很少相互交流，共享。而且單一醫(yī)療機(jī)構(gòu)積累的數(shù)據(jù)往往不足以培養(yǎng)出有效的深度學(xué)習(xí)模式。另外，利用醫(yī)學(xué)影像數(shù)據(jù)進(jìn)行人工智能算法培訓(xùn)，也涉及到非技術(shù)問題，如保護(hù)患者隱私。

另外，近幾年來，隨著人工智能技術(shù)的深入探索，科學(xué)界提出研發(fā)人工生命，成為另一個倫理話題。生命不僅僅是智慧，更是意識。在倫理上，生命是人類的底線，接觸底線要謹(jǐn)慎。因此，我們可以通過計算機(jī)技術(shù)繼續(xù)開發(fā)無意識、有智慧的高級機(jī)器。使人的智慧在體外延伸，保持其工具性，而非人工創(chuàng)造意識。

成都融和實(shí)業(yè)排隊(duì)叫號系統(tǒng)廠家(yuanshangpin.cn)是一家集研發(fā)、生產(chǎn)、營銷、服務(wù)于一體的高新技術(shù)企業(yè).主營智能排隊(duì)叫號系統(tǒng)、醫(yī)院分診系統(tǒng)、排隊(duì)機(jī)、叫號機(jī)、評價器(好差評系統(tǒng))、呼叫器、多媒體查詢及信息發(fā)布配套系統(tǒng)等,公司產(chǎn)品已廣泛應(yīng)用于不動產(chǎn)登記、智慧醫(yī)療、智慧稅務(wù)、智慧政務(wù)、智慧金融、智慧通訊、智慧服務(wù)大廳、智慧機(jī)關(guān)單位等服務(wù)窗口行業(yè).咨詢電話：028-87438905。