摘要：近些年，隨著人工智能技術(shù)的不斷革新，人工智能被廣泛應(yīng)用于各個領(lǐng)域。人工智能的快速發(fā)展不僅促進了經(jīng)濟的增長，同時，也深刻改變了人們生活的方式，引發(fā)倫理安全問題的思考，為此在我國人工智能進入新階段的背景下國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，相關(guān)領(lǐng)域的學者對于人工智能安全等問題的研究也逐漸增加。基于此，本文首先討論了人工智能發(fā)展及其安全風險的特點，其次就人工智能安全問題進行了分析，最后提出了人工智能安全問題的應(yīng)對策略。

　　關(guān)鍵詞：人工智能,安全風險,智能計算模型

　　1人工智能發(fā)展及其安全問題

　　1.1人工智能安全問題的出現(xiàn)

　　人工智能安全問題是智能革命發(fā)展不可回避的主要問題之一，智能革命的發(fā)展會為當前社會的倫理標準、法律規(guī)則、社會秩序及公共管理體制帶來一場前所有未有的變革，這種變革引起的一系列社會矛盾主要表現(xiàn)為對于人工智能強大能力的未知和擔憂，同時，也表現(xiàn)為現(xiàn)存社會制度產(chǎn)品供給缺陷。

　　首先，對于未來人工智能擁有自主意識的擔憂。比如，霍金先生提出的最大化使用智能性自主武器，可能招致人類的滅亡，基于馬克思主義對科學技術(shù)二重性的分析，綜合當前眾多研究文獻來看，人工智能具備超越人類智能的可能性，在發(fā)展到一定階段，人類有可能面臨著人工智能失控的風險，人工智能的發(fā)展將不受人類意愿的控制，這種可能性也構(gòu)成了我們研究人工智能安全問題的必要性。

　　其次，當前人類社會面臨的人工智能安全問題。鑒于人工智能算法與系統(tǒng)的特點，考慮到人工智能應(yīng)用場景，可以把人工智能衍生的安全風險集中歸納為以下三個層次。

　　第一，系統(tǒng)安全層面。集中表現(xiàn)為基礎(chǔ)安全技術(shù)缺陷、智能硬件的系統(tǒng)漏洞以及當前智能技術(shù)和產(chǎn)品供應(yīng)鏈條的復雜性。

　　第二，算法透明度與可解釋性層面。由于人類本身對人工智能算法的“自動化”學習與決策過程缺乏一定的認識，由此帶來人工智能算法的可解釋性和透明度缺失帶來的隱患。

　　第三，數(shù)據(jù)使用和隱私保護層面。人工智能大數(shù)據(jù)的發(fā)展趨勢，使得原有的數(shù)據(jù)使用機制和隱私保護制度都面臨失效的困境。由此三個層次的安全風險問題本身就是風險，同時，引發(fā)的歸責問題、監(jiān)管問題乃至國家安全問題、社會安全問題等都需要引起我們的足夠重視[1]。

　　1.2人工智能安全風險的特征

　　第一，人工智能安全風險的共生性。人工智能技術(shù)的不斷發(fā)展本質(zhì)上是由人類對于人工智能技術(shù)的內(nèi)在需求導致的，而任何一項科學前沿技術(shù)的突破和創(chuàng)新都會不同程度作用于人類社會，改變?nèi)藗兊纳�活習慣、思維方式、發(fā)展理念乃至社會制度。由此這種共生形式會從技術(shù)本身以及技術(shù)對于社會上層建筑的影響兩個方面形成安全風險。

　　第二，人工智能安全風險的技術(shù)性。人工智能技術(shù)是當前社會先進生產(chǎn)力的代表，當人類社會越來越多地使用這種生產(chǎn)力推動社會發(fā)展時，首先是基于對于人工智能技術(shù)的信任，其次，是對人工智能技術(shù)的保護，如知識專利權(quán)利。但是從反思的現(xiàn)代性出發(fā)，對于法律及其保護的先進技術(shù)僅信任是不夠的，人工智能在其發(fā)展過程中出現(xiàn)的不可預測性和潛在的不可逆性本身就是一種風險。最后，技術(shù)本身對于上層建筑的影響帶來的風險。

　　先進的生產(chǎn)力必然會變革社會上層建筑，改變不適應(yīng)現(xiàn)代理念的上層關(guān)系，引起諸如一系列社會制度的創(chuàng)造和改變。這種創(chuàng)造和改變的過程需要經(jīng)過時間和實踐的檢驗才能夠發(fā)揮作用，由此形成的是制度化風險。

　　第三，人工智能安全風險的時代性。智能革命的出現(xiàn)和發(fā)展既是人類需求的產(chǎn)物，同時，也是時代的產(chǎn)物。因此，人工智能安全問題的出現(xiàn)是發(fā)展的客觀表現(xiàn)，不會因為人類主觀意志的變化而改變。智能技術(shù)是智力物質(zhì)化的客觀推動力量，最終發(fā)展的形態(tài)是人類社會的智能化。而社會智能化本身需要經(jīng)歷一系列社會變革才能夠穩(wěn)定和實現(xiàn)，期間必然會經(jīng)歷不同階段智力物質(zhì)化性質(zhì)、程度等方面的徹底變化，而這一過程也必然呈現(xiàn)出一系列的社會安全問題。

　　比如，當前計算機病毒、黑客對人工智能產(chǎn)品的侵蝕，恐怖組織以及反人類文明意識對于智能產(chǎn)品的使用等等都會帶來持續(xù)的影響，是今后社會潛在的風險。

　　第四，人工智能安全風險的全球性。縱觀人類社會四次科技革命的發(fā)展，我們能夠認識到人類使用生產(chǎn)力的大小、規(guī)模、性質(zhì)等提高使得人類社會的聯(lián)系越發(fā)緊密，人與人之間的關(guān)系的處理和社會問題的解決逐漸經(jīng)歷了個人到組織的變化，而且這個組織規(guī)模不斷擴大乃至波及每一個人的切身利益。

　　人工智能時代的到來導致的安全問題等諸多方面是這種社會關(guān)系處理的更高程度的發(fā)展，并且人工智能安全風險毫無疑問是全球性的，是關(guān)系到每一個人、主體組織、國家、區(qū)域性組織乃至人類社會命運的問題[2]。

　　2人工智能安全問題的應(yīng)對策略分析

　　一方面，需要理性認識人工智能發(fā)展及其產(chǎn)生的安全問題。人工智能從提出至今短短六十多年的時間里，實現(xiàn)了驚人的發(fā)展，其技術(shù)不僅被應(yīng)用到各行各業(yè)中，同時，也廣泛滲透到人們的生活中。與此同時，智能技術(shù)的廣泛應(yīng)用也帶來了理念的更新以及人們思維方式的變革。但是在注重人工智能推動人類社會發(fā)展的同時，也應(yīng)理性認識到人工智能產(chǎn)生的負面影響。既要注重人工智能推動社會經(jīng)濟發(fā)展，還要持續(xù)關(guān)注和推動人工智能安全發(fā)展。

　　另一方面，需要加快人工智能技術(shù)安全評估和應(yīng)用管理工作。從我國《新一代人工智能發(fā)展規(guī)劃》來看，人工智能技術(shù)安全評估和應(yīng)用管理工作力度還有待進一步提高。人工智能技術(shù)安全問題產(chǎn)生的主要原因是技術(shù)發(fā)展不成熟，要加大相關(guān)技術(shù)的研發(fā)力度，比如，針對智能算法透明性缺失的安全問題，應(yīng)加強理論攻關(guān)，確定今后的技術(shù)研發(fā)與發(fā)展方向，研發(fā)更為透明和可解釋性更高的智能計算模型，降低系統(tǒng)行為的不可預知性和不確定性。

　　此外，加快與智能化時代發(fā)展相匹配的法律法規(guī)體系的構(gòu)建，制定人工智能技術(shù)及其系統(tǒng)應(yīng)用的倫理準則，建立智能技術(shù)應(yīng)用的安全標準體系，不斷完善人工智能技術(shù)研發(fā)規(guī)范，提高人工智能產(chǎn)品的安全性能，確保人工智能產(chǎn)業(yè)的良性健康發(fā)展。

　　3結(jié)語

　　總之，通過上述分析可知，在當今互聯(lián)網(wǎng)計算機技術(shù)飛速發(fā)展的現(xiàn)代，人們對于人工智能技術(shù)的研發(fā)力度逐漸加大。在人工智能技術(shù)被廣泛應(yīng)用于社會各行業(yè)當中的同時，一系列安全問題也逐漸顯現(xiàn)出來，對人工智能的未來良好發(fā)展造成了極大的阻礙。在未來的研究當中，要將人工智能的安全問題作為一項長期研究項目來探討，并協(xié)同各方面專家結(jié)合當今互聯(lián)網(wǎng)計算機技術(shù)發(fā)展，為人工智能的安全發(fā)展構(gòu)建一道堅固的屏障。

　　參考文獻

　　[1]王美麗.人工智能安全問題及其解決思路[J].科技風,2018(11):8.

　　[2]作者不詳.人工智能與信息安全[J].保密科學技術(shù),2017(11):6-7.

　　相關(guān)期刊推薦：模式識別與人工智能(雙月刊)創(chuàng)刊于1989年，是由中國自動化學會、國家智能計算機研究開發(fā)中心和中國科學院合肥智能機械研究所共同主辦、科學出版社出版的學術(shù)性期刊。