【延伸閱讀】日媒：美AI軍事化帶來(lái)“終結(jié)者”難題
參考消息網(wǎng)3月26日?qǐng)?bào)道 日本《東洋經(jīng)濟(jì)》周刊3月2日發(fā)布的題為《美國(guó)開(kāi)始在AI軍事利用上動(dòng)真格》的文章，現(xiàn)將原文編譯如下：
美國(guó)總統(tǒng)特朗普2月11日簽署總統(tǒng)令，命令聯(lián)邦政府加強(qiáng)人工智能技術(shù)（AI）開(kāi)發(fā)。次日，五角大樓發(fā)布首份《人工智能戰(zhàn)略概要》報(bào)告，提出了加速在軍事領(lǐng)域引入AI的方針。
特朗普發(fā)布的總統(tǒng)令主要是以民間產(chǎn)業(yè)領(lǐng)域?yàn)閷?duì)象，但他署名時(shí)發(fā)表聲明稱：“美國(guó)在AI領(lǐng)域保持領(lǐng)先地位，對(duì)于經(jīng)濟(jì)和國(guó)家安全非常重要。”也就是說(shuō)，特朗普也尋求AI在軍事層面的優(yōu)勢(shì)地位。
《人工智能戰(zhàn)略概要》則更加直接，點(diǎn)名批評(píng)俄羅斯等國(guó)在AI軍事利用方面投入巨額資金，搶奪了美國(guó)的技術(shù)優(yōu)勢(shì)，動(dòng)搖了國(guó)際秩序。報(bào)告提出，要擴(kuò)充2018年在國(guó)防部?jī)?nèi)部新設(shè)的“AI中心”，加強(qiáng)與民間企業(yè)、學(xué)術(shù)機(jī)構(gòu)以及盟國(guó)的合作。
進(jìn)入21世紀(jì)后，全世界的軍事專家和研究人員一直在爭(zhēng)論一個(gè)被稱為“終結(jié)者”的嚴(yán)重問(wèn)題。原因是，由于深度學(xué)習(xí)所反映出的AI的飛躍式進(jìn)步，可識(shí)別敵我并能判斷是否發(fā)動(dòng)攻擊的殺手機(jī)器人武器登場(chǎng)亮相，使“終結(jié)者”問(wèn)題具有現(xiàn)實(shí)性。
圖為美軍使用的無(wú)人機(jī)
根據(jù)人類多大程度參與從識(shí)別到攻擊的決定，殺手機(jī)器人可以分為3類。一類是完全由人類決定、由人遠(yuǎn)程操作的無(wú)人機(jī)。具體來(lái)說(shuō)，美國(guó)MQ-1“捕食者”偵察機(jī)就是典型代表。第二類是機(jī)器人可以自己判斷，但中途人類可以中斷或取消的半自主型。以色列的“哈比”自殺式無(wú)人機(jī)就是這種類型。這兩類都已經(jīng)實(shí)戰(zhàn)部署。被視為“終結(jié)者”問(wèn)題的是第三類，它是人類完全不參與決策過(guò)程的自主型殺手機(jī)器人。
關(guān)于自主型殺手機(jī)器人，其風(fēng)險(xiǎn)包括：程序錯(cuò)誤等原因?qū)е抡`傷、擴(kuò)散至恐怖分子手中、自主判斷做出人類意想不到的敵對(duì)行為、決定攻擊作戰(zhàn)時(shí)抑制力下降等。
推進(jìn)派的專家們則主張，自主型殺手機(jī)器人“可以減少被憤怒和恐怖驅(qū)使的不必要的殺傷”“可以降低己方軍隊(duì)士兵的被殺傷率”“可以維持本國(guó)的軍事優(yōu)勢(shì)”“成功量產(chǎn)能削減軍費(fèi)”等。
然而，我們真的能夠允許將殺傷人類的判斷交給不能承擔(dān)責(zé)任的AI嗎？
關(guān)于自主型殺手機(jī)器人，日本外相河野太郎在去年11月眾議院外務(wù)委員會(huì)上明確表示，“日本采取應(yīng)該禁止的立場(chǎng)”“沒(méi)有開(kāi)發(fā)的意向”。然而，在聯(lián)合國(guó)專家會(huì)議等場(chǎng)合上，日本的主張極其微弱。
美國(guó)國(guó)防部的立場(chǎng)是“讓人類參與判斷”。美國(guó)為了維持本國(guó)在這個(gè)領(lǐng)域的優(yōu)勢(shì)，不同意采取限制措施。有專家甚至預(yù)測(cè)，在不久的將來(lái)，全世界都會(huì)擁有自主型殺手機(jī)器人。
對(duì)于所有國(guó)家的領(lǐng)導(dǎo)人來(lái)說(shuō)，不論大國(guó)、小國(guó)，自主型殺手機(jī)器人的“優(yōu)點(diǎn)”是極具誘惑力的。對(duì)奉行“本國(guó)優(yōu)先”、重視計(jì)算得失的特朗普來(lái)說(shuō)，尤其如此。
如果再加上對(duì)其他國(guó)家先行擁有的恐懼，關(guān)于倫理是否正確的問(wèn)題很可能不再是考慮對(duì)象。這些情況都在支持“不久全世界都擁有”的預(yù)測(cè)。
有觀點(diǎn)認(rèn)為，AI不會(huì)出現(xiàn)在前線，而是越來(lái)越多地被用在司令部啟動(dòng)、策劃和執(zhí)行作戰(zhàn)的過(guò)程中。因此，不同于人類與機(jī)器人關(guān)系的3種分類方式，AI軍事化的新類型可能率先成為現(xiàn)實(shí)——不進(jìn)行個(gè)別的殺傷判斷，以己方士兵損害最小化和敵方損害最大化為目的、針對(duì)整個(gè)戰(zhàn)斗做出判斷的“AI參謀”。
要想阻止和推翻噩夢(mèng)般的預(yù)測(cè)，需要國(guó)際性的輿論合力，但各國(guó)軍方仍在暗處激烈地進(jìn)行開(kāi)發(fā)競(jìng)爭(zhēng)。
與瞬間造成大規(guī)模破壞和大量軍民死亡的核武器那種大規(guī)模殺戮武器不同，不身處戰(zhàn)場(chǎng)的普通人可能無(wú)法實(shí)際感受到殺手機(jī)器人的反人道性。
然而，在這個(gè)問(wèn)題上，美國(guó)領(lǐng)導(dǎo)人很難自己踩剎車，幾乎已經(jīng)不可能回頭。從特朗普簽署的總統(tǒng)令可以讀出這樣的信息：為對(duì)抗中俄，世界上最大的軍事強(qiáng)國(guó)必須正面參與開(kāi)發(fā)競(jìng)爭(zhēng)。
（2019-03-26 10:39:32）
