外媒稱，人工智能正在飛速發(fā)展，以至于該領(lǐng)域的最新技術(shù)成果已經(jīng)幫助創(chuàng)建出了知道何時(shí)不能信任人工智能的神經(jīng)網(wǎng)絡(luò)。

據(jù)阿根廷布宜諾斯艾利斯經(jīng)濟(jì)新聞網(wǎng)11月26日?qǐng)?bào)道，這種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)旨在模仿人類的大腦，并能夠同時(shí)權(quán)衡不同的因素，從而以人類分析無法達(dá)到的水平，在數(shù)據(jù)基礎(chǔ)之上確定具體模式。

報(bào)道稱，這一點(diǎn)之所以非常重要，是因?yàn)楫?dāng)今，人工智能被用于直接影響人類生活的各個(gè)領(lǐng)域，例如汽車、飛機(jī)的自動(dòng)駕駛或完整的運(yùn)輸系統(tǒng)，此外還用于醫(yī)學(xué)診斷和外科手術(shù)。

盡管人工智能一時(shí)還不會(huì)像電影《我，機(jī)器人》中的那樣具有毀滅性，也不會(huì)像電視劇《黑鏡》中那些臭名昭著的狗那樣，但能夠自主行動(dòng)的機(jī)器已經(jīng)在我們的日常生活中出現(xiàn)了，而且它們的預(yù)判可能會(huì)變得更加準(zhǔn)確，甚至知道它們自身何時(shí)會(huì)發(fā)生故障。這對(duì)于改善其運(yùn)行狀況以及避免發(fā)生科幻小說中的核災(zāi)難來說，是至關(guān)重要的。

報(bào)道稱，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室（CSAIL）的計(jì)算機(jī)科學(xué)家亞歷山大·阿米尼說：“我們不僅需要生成高性能模型的能力，而且還需要了解何時(shí)不能信任這些模型的能力。”

阿米尼與另一位計(jì)算機(jī)科學(xué)家達(dá)妮埃拉·魯斯一起加入了一個(gè)研究團(tuán)隊(duì)，致力于推動(dòng)這些神經(jīng)網(wǎng)絡(luò)的發(fā)展，以期在人工智能領(lǐng)域內(nèi)取得前所未有的進(jìn)步。

他們的目標(biāo)是讓人工智能對(duì)自身的可靠性產(chǎn)生自我意識(shí)，他們稱之為“深度證據(jù)回歸”。

報(bào)道指出，這種新神經(jīng)網(wǎng)絡(luò)代表了迄今為止開發(fā)的類似技術(shù)的最新進(jìn)步，因?yàn)樗倪\(yùn)行速度更快，對(duì)計(jì)算的需求更低。該神經(jīng)網(wǎng)絡(luò)的運(yùn)行可以在設(shè)定信任度的情況下與人類決策同步完成。

“這個(gè)想法很重要，并且總體上來說是可用的。它可用于評(píng)估基于自主學(xué)習(xí)模型的產(chǎn)品。通過評(píng)估模型的不確定性，我們還可以了解該模型預(yù)計(jì)會(huì)出現(xiàn)多少錯(cuò)誤，以及還需要哪些數(shù)據(jù)來改善該模型，”魯斯介紹說。

該研究團(tuán)隊(duì)通過將其與具有不同準(zhǔn)確性水平的自動(dòng)駕駛汽車進(jìn)行比較來說明這一點(diǎn)。例如，在決定是否通過路口還是等待的情況下，神經(jīng)網(wǎng)絡(luò)對(duì)其預(yù)判缺乏信心。該網(wǎng)絡(luò)的能力甚至還包含有關(guān)如何改善數(shù)據(jù)以做出更準(zhǔn)確預(yù)判的提示。

阿米尼說：“在影響人類安全并造成生命危險(xiǎn)的情況下，我們開始看到越來越多的神經(jīng)網(wǎng)絡(luò)模型走出研究實(shí)驗(yàn)室，進(jìn)入現(xiàn)實(shí)世界。”（編譯/田策）

（來源：參考消息網(wǎng)）