首頁 > 舊金山政府在全美首次允許警方使用機(jī)器人擊斃嫌犯，這一決定引發(fā)了巨大的爭議。這是否會(huì)在未來打開一個(gè)潘多拉魔盒，讓機(jī)器人鎮(zhèn)壓抗議示威成為現(xiàn)實(shí)，更顛覆機(jī)器人“不可殺人”的人工智能倫理準(zhǔn)則？
治安惡化與爭議決議
上周二，舊金山議會(huì)通過了一項(xiàng)議案，同意授權(quán)舊金山警察局在必要的情況下，將警用機(jī)器人用于致命用途。用通俗的話說，他們批準(zhǔn)警方在保護(hù)生命且沒有其它選擇的必要情況下，用機(jī)器人遠(yuǎn)程殺死嫌犯。
這一極具爭議的決定不僅立即引發(fā)了全美媒體關(guān)注，也讓持續(xù)數(shù)年的“殺人機(jī)器人”話題重新成為了討論焦點(diǎn)。這份議案上個(gè)月提交討論時(shí)，就引發(fā)了舊金山灣區(qū)社會(huì)各界的普遍關(guān)注和激烈討論。
正式表決之前，舊金山市議會(huì)已經(jīng)就此事討論了數(shù)周時(shí)間。而投票表決當(dāng)天，舊金山市議會(huì)圍繞著這一議題，進(jìn)行了兩個(gè)多小時(shí)的激烈辯論。最終還是以 8：3 的投票結(jié)果，批準(zhǔn)了舊金山警察局的裝備使用授權(quán)。
舊金山市議會(huì)批準(zhǔn)這一議案的背景是，他們正承受著民眾要求打擊犯罪的呼聲。和美國很多大城市一樣，舊金山過去幾年也面臨著嚴(yán)重的治安惡化問題，讓民眾和商家怨聲載道。車窗被砸已經(jīng)成為舊金山停車的尋常體驗(yàn)。
由于警方應(yīng)顧不暇，舊金山核心商業(yè)區(qū)多次發(fā)生光天化日之下肆無忌憚?chuàng)尳俪泻蜕莩奁飞痰甑氖录簧偕痰曛荒苓x擇關(guān)門撤離。除了打砸搶奪的財(cái)物犯罪案件居高不下，持槍搶劫殺人的惡性暴力犯罪事件也在日益增多。80 多萬人口的舊金山去年殺人案 56 起，比疫情之前 2019 年的 41 起有明顯增長。
由于對(duì)治安惡化問題不滿，今年 7 月，舊金山選民通過特別公投罷免了對(duì)犯罪問題應(yīng)對(duì)不力的激進(jìn)左派地方檢察官布丁（Chesa Boudin）。在連任壓力下，舊金山市長承諾采取措施嚴(yán)打犯罪，而舊金山議會(huì)也連續(xù)引入新技術(shù)手段來遏制犯罪。今年 9 月，舊金山議會(huì)批準(zhǔn)警方在特定情況下獲取私人監(jiān)控?cái)z像頭數(shù)據(jù)。
在上周二的辯論過程中，支持與反對(duì)雙方都指責(zé)對(duì)方在制造恐慌。雙方都提出了自己的理由和擔(dān)憂。支持者認(rèn)為這一授權(quán)是非常慎重和明確限制的，是在極端情況下給警方提供最后手段；但反對(duì)者則認(rèn)為可能會(huì)帶來警方濫用武力的風(fēng)險(xiǎn)，更會(huì)加劇警方和有色人種，尤其是非裔之間的沖突。
提出這一議案的舊金山華裔議員陳詩敏（Connie Chan）表示，她理解外界對(duì)警方使用武力的擔(dān)憂情緒，但“我們需要根據(jù)加州法律使用這些裝備。這絕對(duì)不是一個(gè)輕率的討論。”另一位議員曼德爾曼（Rafael Mandelman）也投下支持票。他表示，激進(jìn)派將警察視為危險(xiǎn)和不值得信任的對(duì)立面，這對(duì)公共安全無益。
而反對(duì)的非裔議員沃爾頓（Shamann Walton）則強(qiáng)調(diào)，自己不是在針對(duì)警方，而是擔(dān)心提升警方武器裝備可能會(huì)增加警察與有色人種發(fā)生負(fù)面沖突的機(jī)會(huì)。相對(duì)而言，非裔民眾更為擔(dān)憂和反對(duì)警方濫用武力的可能性。
值得一提的是，舊金山檢察官也站在了警察局的對(duì)立面。就在舊金山議會(huì)表決前一天，舊金山檢察官辦公室發(fā)表公開信，認(rèn)為授權(quán)機(jī)器人遠(yuǎn)程殺人有悖于舊金山的進(jìn)步價(jià)值觀，他們因此呼吁市議會(huì)禁止警方使用機(jī)器人針對(duì)任何人采用武力。
隨時(shí)可改裝加載武器
為什么會(huì)有這項(xiàng)授權(quán)表決？根據(jù)今年生效的一部加州新法律，加州警察局裝備軍用級(jí)別的設(shè)備需要獲取使用批準(zhǔn)。為了預(yù)防恐怖襲擊事件，過去十年美國諸多城市的警察局都購置了一批軍用級(jí)別的防爆機(jī)器人。舊金山警察局也不例外，因此需要提交設(shè)備使用授權(quán)申請(qǐng)。
但舊金山警察局此次在申請(qǐng)授權(quán)的時(shí)候，加入了一個(gè)極端案例的使用場景申請(qǐng)，即在“公眾或者警察生命遭受迫切威脅，無法使用其他武力手段時(shí)，允許他們將機(jī)器人用于致命武器選擇”。這意味著，他們有權(quán)將機(jī)器人改裝成攻擊性武器，從而遠(yuǎn)程擊斃或者炸死恐怖嫌犯。
舊金山警察局副局長拉扎爾（David Lazar）在市議會(huì)辯論環(huán)節(jié)中提到，他們申請(qǐng)極端情況授權(quán)是為了應(yīng)對(duì) 2017 年拉斯維加斯大規(guī)模槍擊案那樣的案例。“我們必須要考慮，在那樣的情況下，（動(dòng)用機(jī)器人）是一個(gè)可能的選擇。”
拉斯維加斯槍擊案是美國歷史上最血腥的大規(guī)模槍擊和國內(nèi)恐怖襲擊事件。2017 年 10 月 1 日，一名男子在賭城曼德拉灣酒店 32 樓套間，用二十多支經(jīng)過改裝的半自動(dòng)步槍向樓下參加音樂會(huì)的人群瘋狂射擊了 1000 多發(fā)子彈。警方直到 1 個(gè)多小時(shí)之后才找到嫌犯，但他已經(jīng)自殺身亡，作案動(dòng)機(jī)迄今依然成謎。此次槍擊案導(dǎo)致 61 人死亡（包括嫌犯），還有 500 多人受傷。
或許拉扎爾提到的這一場景太過令人震撼，最終舊金山議會(huì)還是以多數(shù)票同意了警察局的申請(qǐng)。但議會(huì)也對(duì)此作出了特別規(guī)定，要求警察只能在使用其他武力或避免戰(zhàn)術(shù)之后，或認(rèn)定他們無法通過其他手段控制嫌犯之后，才能使用機(jī)器人用于致命用途。而且，只有少數(shù)高級(jí)別警官才能批準(zhǔn)使用機(jī)器人作為致命武力。
為了化解外界對(duì)“殺人機(jī)器人”的擔(dān)憂情緒，舊金山警察局則強(qiáng)調(diào)，他們現(xiàn)有的機(jī)器人并沒有安裝武器，目前也沒有計(jì)劃這么做。但是在得到授權(quán)之后，如果在生命受到威脅時(shí)，他們就可以在機(jī)器人上安裝爆炸物，“接近、迷惑以及讓暴力、攜帶武器或者危險(xiǎn)的嫌犯失去行動(dòng)能力”，“安裝這些設(shè)備的機(jī)器人只會(huì)被用在極端情況下，用于保護(hù)或者防止無辜民眾繼續(xù)喪生。”
根據(jù)舊金山警局公布的裝備清單，他們目前共有 17 部拆彈機(jī)器人，其中 12 部可以投入使用。這些設(shè)備采購于 2010-2017 年，主要用于處理爆炸物、危險(xiǎn)品或者在低能見度環(huán)境，此前從未安裝或被用于爆炸用途過。除了申請(qǐng)用于致命用途之外，舊金山警察局還申請(qǐng)將這些機(jī)器人用于“訓(xùn)練和模擬、刑事拘捕、重要事件、突發(fā)情況、執(zhí)行逮捕或處理可疑設(shè)備等情況”。
雖然舊金山警察局當(dāng)前機(jī)器人并沒有安裝致命武器，但其中部分較新的型號(hào)是可以配裝武器并且遠(yuǎn)程遙控操作的。型號(hào) F5A 的拆彈機(jī)器人可以通過配件安裝大口徑步槍；另一部 QinetiQ Talon 的機(jī)器人也可以改裝成軍用版本，安裝手雷發(fā)射器、機(jī)槍以及反器材步槍，這原本就是美國陸軍使用的同款機(jī)器人的警用版。
換句話說，在得到舊金山市議會(huì)批準(zhǔn)之后，舊金山警察局在滿足使用條件的情況下，隨時(shí)都可以將目前的拆彈機(jī)器人改裝成一部遠(yuǎn)程操作和直接開火的機(jī)器人。而這正是外界擔(dān)憂的原因所在。
擔(dān)憂警方濫用機(jī)器人
與舊金山隔海相望的奧克蘭警察局上個(gè)月則因?yàn)楣娍棺h，放棄了類似的改裝機(jī)器人用于極端場景的授權(quán)申請(qǐng)。種族矛盾是奧克蘭警方不得不考慮的因素。這里的黑人與拉丁裔人口比例合計(jì)超過 45%，是舊金山灣區(qū)比例最高的地區(qū)。
盡管緊鄰硅谷，奧克蘭卻是美國治安最糟糕的城市。去年暴力犯罪率高達(dá) 75.5，遠(yuǎn)遠(yuǎn)高于美國平均水平 22.7。新冠疫情更是加劇了社會(huì)矛盾和治安問題。奧克蘭這座 43 萬人口的城市，去年謀殺案高達(dá) 133 起，槍擊案更是接近 600 起，均創(chuàng)下了 2006 年以來的最高紀(jì)錄。
既然美國大城市社會(huì)治安這么糟糕，為什么還有那么多人反對(duì)授權(quán)警察更先進(jìn)的武器應(yīng)對(duì)襲擊嫌犯？為什么警用機(jī)器人改裝成武器，會(huì)引發(fā)那么大的爭議？
2020 年美國新冠疫情爆發(fā)之后，社會(huì)矛盾進(jìn)一步激化，更出現(xiàn)了多次大規(guī)模種族騷亂事件。在遏制游行示威行動(dòng)中，美國各地的警察都與示威者發(fā)生了不同程度的沖突，更使用了催淚彈、煙霧彈等平暴手段。
此次舊金山警方獲準(zhǔn)使用機(jī)器人擊斃嫌犯，即便明確規(guī)定了極端場景，也讓不少人擔(dān)心未來美國警方是否可能濫用機(jī)器人這種尖端科技手段來鎮(zhèn)壓民眾抗議示威活動(dòng)，擔(dān)心屆時(shí)可能出現(xiàn)警方機(jī)器人阻止示威者前行的科幻場面。
南加州大學(xué)法學(xué)院教授伊麗莎白?喬（Elizabeth Joh）認(rèn)為，弗洛伊德事件引發(fā)全球反種族歧視抗議僅僅過去兩年時(shí)間，舊金山批準(zhǔn)警方使用機(jī)器人作為武器會(huì)影響民眾對(duì)執(zhí)法部門的信任。“我們是否愿意生活在一個(gè)警察用機(jī)器人殺人的世界，我肯定不愿意。”
雖然此次舊金山議會(huì)在全美率先批準(zhǔn)警方改裝機(jī)器人，但達(dá)拉斯警察局早在 2016 年，就在一起大規(guī)模槍擊案中，率先將拆彈機(jī)器人用于攻擊用途并殺死嫌犯。
那年 7 月，一名曾經(jīng)上過阿富汗戰(zhàn)場的陸軍退伍軍人，因?yàn)閷?duì)美國社會(huì)和種族問題不滿，在達(dá)拉斯市區(qū)用狙擊步槍殺死了 5 名警察并擊傷 9 名平民與警察，這是美國自 911 事件之后警察死傷最多的襲擊事件。達(dá)拉斯警方在與槍手對(duì)峙數(shù)個(gè)小時(shí)并且談判無果的情況下，在他們拆彈機(jī)器人 MARCbot 上加裝炸彈，遠(yuǎn)程遙控移動(dòng)到嫌犯附近引爆，炸死了這位拒絕放下武器的嫌犯。
達(dá)拉斯警方擊斃殺人嫌犯并沒有爭議，但使用遙控機(jī)器人擊斃卻引發(fā)了巨大的爭議，因?yàn)檫@是美國警方首次在國內(nèi)使用機(jī)器人殺人。達(dá)拉斯警察局長對(duì)此解釋說，“當(dāng)時(shí)實(shí)在沒有其他選擇，這是唯一減少傷亡的手段。”
在此之前，美國警察也曾經(jīng)多次使用機(jī)器人來應(yīng)對(duì)嫌犯，但并沒有用機(jī)器人來直接擊斃嫌犯。2013 年新墨西哥州特警就使用了機(jī)器人潛入嫌犯所在房間進(jìn)行偵查，2016 年加州警察也用過機(jī)器人和嫌犯進(jìn)行談判和運(yùn)送物資，避免派出談判專家。機(jī)器人的存在，大大降低了警察直接面對(duì)嫌犯的風(fēng)險(xiǎn)。
機(jī)器人早被用于戰(zhàn)場
實(shí)際上，此次舊金山警方尋求授權(quán)的機(jī)器人，早就被美國軍方投入戰(zhàn)場使用。2011 年的《不斷變化的戰(zhàn)爭角色》（The Changing Character of War）一書記載，美軍士兵在伊拉克遇到伏擊危險(xiǎn)的時(shí)候，就會(huì)讓 MARCbot 機(jī)器人先去探路，如果發(fā)現(xiàn)敵人就直接遠(yuǎn)程引爆安裝在上面的 Claymore 地雷。售價(jià)僅為 5000 美元的 MARCbot 機(jī)器人因?yàn)閭€(gè)頭小、動(dòng)靜輕、成本低等優(yōu)勢，成為美軍士兵的“最愛替死鬼”。
從某種程度來說，無人機(jī)也是作戰(zhàn)機(jī)器人。從阿富汗戰(zhàn)爭時(shí)期開始，無人機(jī)就開始從偵查用途轉(zhuǎn)向攻擊手段，被美軍普遍用于遠(yuǎn)程襲擊。而從 2020 年的亞美尼亞阿塞拜疆納卡沖突起，無人機(jī)更是成為了現(xiàn)代戰(zhàn)爭主力。阿塞拜疆軍方派出大量攜帶炸彈的無人機(jī)對(duì)亞美尼亞地面部隊(duì)以及防空體系展開了密集攻擊，成為他們贏得戰(zhàn)爭的重要手段。
今年 10 月，波士頓動(dòng)力、Agility Robotics、ANYbotics 等五家機(jī)器人公司聯(lián)合簽署了一份請(qǐng)?jiān)笗粲跤脩舨灰獙⑺麄兊臋C(jī)器人用于攻擊用途。“在遠(yuǎn)程遙控或者自動(dòng)運(yùn)行的機(jī)器人上加裝武器，會(huì)帶來對(duì)人類的新風(fēng)險(xiǎn)以及嚴(yán)重的道德問題。”
然而，這份請(qǐng)?jiān)笗皇窍笳饔猛荆]有任何約束力。美國軍方本就是這些機(jī)器人公司的重要客戶和資金來源，波士頓動(dòng)力的機(jī)器狗也被美國軍方和警察用于后勤、偵查等諸多用途。波士頓動(dòng)力根本無力阻止美軍將自己的機(jī)器狗改裝成攜帶武器的殺人狗。
相比遠(yuǎn)程遙控的機(jī)器人與無人機(jī)，更為可怕的威脅則來自于“AI 殺人機(jī)器人”，即搭載視覺識(shí)別等人工智能技術(shù)的新一代全自動(dòng)武器。這類機(jī)器人或無人機(jī)可以無需人工操作，靠著計(jì)算芯片和多種傳感器，根據(jù)預(yù)先設(shè)定的程序自動(dòng)選擇攻擊目標(biāo)并發(fā)起攻擊。
目前還沒有此類機(jī)器人投入使用的正式記錄，但未來一旦出現(xiàn)并投入使用，勢必會(huì)動(dòng)搖“不可用于殺人“的機(jī)器人倫理準(zhǔn)則。隨著 AI 技術(shù)的不斷成熟，歐美各界都在擔(dān)憂如果不采取全球協(xié)調(diào)一致的有效措施，”AI 殺人機(jī)器人”的出現(xiàn)只會(huì)是時(shí)間問題。
早在 2013 年，科學(xué)界和法律界的專家就組建了“國際機(jī)器人武器控制委員會(huì)”（International Committee for Robot Arms Control），致力于推動(dòng)各國和平使用機(jī)器人，對(duì)機(jī)器人武器研發(fā)生產(chǎn)采取共同監(jiān)管措施。該組織明確提出，“不能允許機(jī)器人自主作出殺人的決定”。
2015 年，霍金等全球 1000 多名知名科學(xué)家和人工智能專家聯(lián)合發(fā)表公開信，警告未來全球可能會(huì)出現(xiàn)人工智能軍備競賽，督促聯(lián)合國發(fā)布攻擊性自動(dòng)化武器的禁令。其中包括了特斯拉 CEO 馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲尼亞克以及谷歌 DeepMind 項(xiàng)目負(fù)責(zé)人等來自硅谷的代表。
公開信寫道，“盡管不合法，自動(dòng)化武器的使用會(huì)在未來幾年，而不是幾十年內(nèi)成為現(xiàn)實(shí)。這會(huì)給人類社會(huì)帶來極大的風(fēng)險(xiǎn)，自動(dòng)化武器會(huì)成為火藥和核武器之后的第三次武器革命。我們必須呼吁聯(lián)合國禁止此類武器，就像禁止化學(xué)武器一樣。”
