RM新时代官网

　　一、涉安防人工智能犯罪的刑法規(guī)制的必要性

　　隨著在人體分析、車輛分析、行為分析和圖像分析四方面獨具優(yōu)勢的智能產(chǎn)品在各個安防場景下的廣泛應用，安防行業(yè)成為我國人工智能技術落地的重要特色領域。傳統(tǒng)安防行業(yè)中系統(tǒng)檢索困難、“信息孤島”、作用被動等問題有望得到徹底解決。但是，安防人工智能在給生活帶來更大保障的同時，涉人工智能犯罪在智能安防行業(yè)有所蔓延，需要對其進行刑法規(guī)制。

　　首先，涉安防人工智能犯罪包括以下類型：(1)以安防人工智能為對象的犯罪，如恐怖分子對公共場所視頻安防監(jiān)控系統(tǒng)的攻擊;(2)利用安防人工智能作為工具的犯罪，如竊取某企業(yè)“安防云端”出入口控制系統(tǒng)中的人臉識別信息進行詐騙;(3)安防人工智能失控型犯罪，當前智能安防行業(yè)中研發(fā)和應用的智能安防電網(wǎng)和巡邏機器人等都具有一定防衛(wèi)或攻擊能力，如果失控可能造成嚴重危害。

　　其次，涉安防人工智能犯罪具有以下特點：(1)社會危害性因為智能安防的龐大體量和智能框架的強聯(lián)動性而快速膨脹;(2)侵犯對象更為廣泛，既包括傳統(tǒng)的人身和財產(chǎn)，也包括隨著科技發(fā)展而出現(xiàn)的數(shù)據(jù)安全、人工智能系統(tǒng)安全和生物識別信息;(3)犯罪手段更加科技化、智能化、隱蔽化，當前智能安防系統(tǒng)幾乎實現(xiàn)了“AI+云”的整體架構(gòu)，對其進行破壞和利用需要較高的專業(yè)水平。

　　再次，我國目前雖然對人工智能的發(fā)展高度重視，將其列入《中共中央關于制定國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和二〇三五年遠景目標的建議》中，也發(fā)布了《新一代人工智能發(fā)展規(guī)劃》等文件，但是對于人工智能犯罪有關的法律責任的規(guī)定尚屬空白，更遑論為安防人工智能犯罪的追責提供依據(jù)了。

　　雖然我國目前尚無涉安防人工智能的判例，但無論是被譽為“人臉識別第一案”(郭某訴杭州野生動物世界有限公司案)里體現(xiàn)出的智能安防中生物識別信息的敏感度，還是德國大眾汽車工廠“機器人殺人案”中表現(xiàn)出的人工智能的危險性，都提示我們應當涉安防人工智能犯罪進行有效的刑法規(guī)制。

　　二、涉安防人工智能犯罪刑法規(guī)制所面臨的挑戰(zhàn)

　　(一)立法規(guī)定的不足

　　涉安防人工智能犯罪立法的不足主要體現(xiàn)在制定于傳統(tǒng)社會的刑法規(guī)范與新興的人工智能技術之間的涵攝關系難以建立，無法對涉安防人工智能犯罪形成有效對應。

　　首先，從整體上看，我國在人工智能領域的刑事立法尚處于空白狀態(tài)，導致雖然在現(xiàn)實中人工智能危害行為類型層出不窮且程度不斷加深，但是在實踐中卻鮮見相關的判例，涉安防人工智能犯罪的判例更是無從查見。

　　其次，具體到涉安防人工智能領域，一方面，相關刑法規(guī)范缺失。目前與人工智能安防有關的條文僅有刑法修正案(十一)新增的第一百三十四條之一第一款規(guī)定，破壞、關閉安防設備以及篡改、隱瞞、銷毀相關安防信息的行為構(gòu)成犯罪，但該規(guī)定并沒有涉及利用智能安防設備實施的新型犯罪以及智能安防設備過失犯罪的行為類型與法律責任。

　　另一方面，相關前置的法規(guī)范處于空白。雖然當前我國的安防人工智能產(chǎn)業(yè)蓬勃發(fā)展，但卻缺乏相關的行政法規(guī)或規(guī)章，以及行業(yè)內(nèi)部的規(guī)范加以引導。如在行業(yè)內(nèi)影響力較大的“安天下”《2020年人工智能安防行業(yè)研究分析報告》，對于行業(yè)內(nèi)部自律規(guī)范和風險預防等問題很少提及。這種前置法以及行業(yè)規(guī)范的缺失就難以對該行業(yè)的野蠻生長進行有效引導，導致刑事法律風險增加。

　　(二)司法認定的困難

　　首先，安防人工智能能否被認定為犯罪主體。目前智能安防中的事前預警型產(chǎn)品具有一定的防衛(wèi)功能，而人工智能雖然可以具有自主學習、深度學習的能力，但是因為對大數(shù)據(jù)的極端依賴導致的易受數(shù)據(jù)欺騙等內(nèi)在缺陷，存在防衛(wèi)過當或假象防衛(wèi)的風險，而且如果發(fā)生編程錯漏或系統(tǒng)失控，也可能危害社會。雖然目前我國的安防人工智能仍屬于薄弱的人工智能的階段，但這些事件的外在表現(xiàn)都是智能電網(wǎng)或防衛(wèi)機器人在深度學習后“實施”了危害行為，似乎形式上符合犯罪的主體要件。

　　其次，罪與非罪的界定存有困難。涉人工智能犯罪因其侵犯法益的廣泛性，有觸犯很多罪名的可能性。當犯罪中的關鍵要素因其新興科技屬性在刑法中并無明確規(guī)定時，就很可能存在罪與非罪的認定困難。例如當安防從業(yè)人員將系統(tǒng)中的人臉信息這一生物識別信息提供給他人時，是否構(gòu)成侵犯公民個人信息罪。再如利用對抗樣本等攻擊數(shù)據(jù)實現(xiàn)對智能視頻安防監(jiān)控系統(tǒng)的攻擊，能否被認定為破壞計算機信息系統(tǒng)罪。

　　最后，此罪與彼罪界限模糊。安防人工智能是傳統(tǒng)安防需求和人工智能技術的結(jié)合，應用場景非常廣泛，當發(fā)生犯罪時會牽涉多個法益，司法適用中會出現(xiàn)此罪與彼罪的困惑。譬如目前很多公路、航道都安裝了智能安防設備或智能指揮標志，設備以計算機為中臺、以智能系統(tǒng)為內(nèi)容，當對其進行大規(guī)模破壞時，是構(gòu)成破壞計算機信息系統(tǒng)罪?還是破壞交通設施罪?值得我們思考。

　　三、涉安防人工智能犯罪刑法規(guī)制的應對

　　首先，在現(xiàn)行法律框架下合理運用刑法解釋方法，對相關犯罪進行規(guī)制。在刑法完善之前，積極適用當前刑法規(guī)定進行解釋，對相關行為進行規(guī)制。當前我國的安防人工智能整體來說還處于薄弱的人工智能的階段，所以如果因為智能電網(wǎng)或防衛(wèi)機器人受數(shù)據(jù)欺騙、發(fā)生編程錯漏或系統(tǒng)失控等原因而侵害他人，實際上還是由于設計者的設計漏洞，或使用者的使用不當而造成，根據(jù)行為人主觀上是故意還是過失追究其刑事責任。

　　在智能安防中，目前最為重要的人工智能技術是生物特征識別，包括人臉核驗、指紋采集、聲紋識別等，這些生物識別信息的采集和運用過程中如果存在不當或漏洞，可能侵犯公民人身權(quán)和財產(chǎn)權(quán)。如果安防人員將人臉信息提供給他人時，由于生物識別信息可以認定為個人信息，可以構(gòu)成侵犯公民個人信息罪。對于利用對抗樣本等攻擊數(shù)據(jù)對智能視頻安防監(jiān)控系統(tǒng)進行攻擊的行為，也可以構(gòu)成破壞計算機信息系統(tǒng)罪。而對于此罪與彼罪的認定，則要根據(jù)我國牽連犯、想象競合犯等一罪與數(shù)罪的認定規(guī)則予以認定。

　　其次，完善涉安防人工智能犯罪的刑法立法?；谧镄谭ǘㄔ瓌t的內(nèi)在要求，刑法解釋應限定在用語可能性及國民預測可能性的范圍內(nèi)。在人工智能罪刑規(guī)范整體缺乏的前提下，通過刑法解釋所能應對的挑戰(zhàn)極為有限。因此可以考慮通過刑法修改的方式規(guī)定包括安防人工智能在內(nèi)的涉人工智能犯罪條款，如考慮增設非法利用人工智能罪、破壞人工智能管理秩序罪等，為司法提供充分的制度供給與條文依據(jù)。

　　最后，從犯罪綜合治理的視野出發(fā)，完善涉安防人工智能的行業(yè)自律規(guī)范與民事、行政等前置法規(guī)范，多方位、全鏈條地實現(xiàn)犯罪的預防與治理。犯罪治理應當是一個全面、立體的系統(tǒng)化工程。在人工智能時代，犯罪綜合治理的必要性愈發(fā)凸顯。一方面，技術迭代速度的加快使得刑法的滯后性愈發(fā)明顯，刑法應更加強調(diào)自身保障法的地位，充分發(fā)揮前置法規(guī)范的作用，實現(xiàn)積極的一般預防效果。

　　另一方面，在涉安防人工智能犯罪的預防與治理過程中企業(yè)、平臺具有較大的技術優(yōu)勢和監(jiān)管優(yōu)勢，應當作為犯罪治理的重要一方。因而建立和完善行業(yè)內(nèi)部的自律規(guī)范、充分利用行業(yè)、企業(yè)的治理資源和治理能力，是涉安防人工智能犯罪有效治理的關鍵。