美女网站一区二区_在线观看日韩毛片_成人在线视频首页_欧美精品一区二区三区久久久_国产精品亚洲一区二区三区在线_日本免费新一区视频_日本美女一区二区三区_精品亚洲成a人_久久不见久久见免费视频1_91首页免费视频_欧美一区二区在线看_91精品91久久久中77777_天堂蜜桃一区二区三区_av在线一区二区_欧美不卡一区二区_欧美影视一区二区三区

嘿，AI，你覺(jué)得你在看什么？為什么有著學(xué)習(xí)算法的機(jī)器還會(huì)被騙認(rèn)知出本不存在的東西？隨著無(wú)人駕駛汽車(chē)這樣的產(chǎn)品出現(xiàn)，這一點(diǎn)變得越來(lái)越重要。現(xiàn)在，我們可以通過(guò)一項(xiàng)測(cè)試來(lái)窺見(jiàn)機(jī)器的大腦，這一測(cè)試可以使人們知道人工智能正在看一幅圖像的哪些部分。

人工智能和人類(lèi)完全不同。羅德島布朗大學(xué)的克里斯·格里姆說(shuō)，即使是最好的圖像識(shí)別算法，也會(huì)被騙，比如會(huì)將白噪圖像識(shí)別成知更鳥(niǎo)或是獵豹，這是一個(gè)大問(wèn)題。他說(shuō)，如果我們不理解為什么這些系統(tǒng)會(huì)犯愚蠢的錯(cuò)誤，那么我們把性命交付給人工智能時(shí)，就應(yīng)當(dāng)三思而后行，比如審慎考慮是否發(fā)展無(wú)人駕駛汽車(chē)。

因此，格里姆和他的同事們創(chuàng)建了一個(gè)系統(tǒng)，分析一個(gè)人工智能在識(shí)別圖像過(guò)程中，實(shí)時(shí)監(jiān)測(cè)它在關(guān)注圖像的哪一部分。類(lèi)似地，對(duì)于一種文檔分類(lèi)算法來(lái)說(shuō)，該系統(tǒng)顯示了算法使用哪些單詞來(lái)決定一種特定文檔應(yīng)該屬于哪個(gè)類(lèi)別。

窺探內(nèi)在

谷歌的研究人員杜密魯特·埃爾汗說(shuō)，這是一種非常有用的方法，可以進(jìn)一步了解人工智能并研究它是如何學(xué)習(xí)的。格里姆的工具為人們提供了一種方便的方式，讓人可以檢查出一種算法是否正確地給出了正確的答案，他這樣說(shuō)道。

為了創(chuàng)建他的注意力跟蹤工具，格里姆在他想要測(cè)試的人工智能上安裝了第二個(gè)人工智能。這個(gè)“外包AI”替換了一張帶有白噪的圖像，來(lái)看看這是否對(duì)原始軟件的判斷產(chǎn)生了影響。

如果替換部分圖像改變了結(jié)果，那么這個(gè)圖像的區(qū)域很可能是識(shí)別過(guò)程中的一個(gè)重要區(qū)域。這種方法同樣適用于語(yǔ)言。如果在文檔中改變一個(gè)詞使人工智能對(duì)文檔進(jìn)行了不同的分類(lèi)，那么它就表明這個(gè)詞對(duì)人工智能的決定至關(guān)重要。

格里姆在人工智能上測(cè)試了他的技術(shù)，該人工智能經(jīng)學(xué)習(xí)可將圖像分類(lèi)為10個(gè)類(lèi)別，包括飛機(jī)、鳥(niǎo)類(lèi)、鹿和馬等。他的系統(tǒng)映射出了人工智能在進(jìn)行分類(lèi)時(shí)的視線路徑。結(jié)果顯示，人工智能已經(jīng)學(xué)會(huì)了把物體分解成不同的元素，然后在圖像中搜索每一個(gè)元素，以確認(rèn)其識(shí)別結(jié)果。

識(shí)別馬頭

例如，當(dāng)看到馬的圖像時(shí)，格里姆的分析顯示，人工智能首先對(duì)腿進(jìn)行了密切關(guān)注，然后在圖像中搜索了它認(rèn)為可能是頭的地方——它預(yù)先并不能知道這匹馬的頭出現(xiàn)的地方。對(duì)于包含了鹿的圖像，人工智能也采取了類(lèi)似的方法，但在這些情況下，它專(zhuān)門(mén)搜索了鹿角。人工智能幾乎完全忽略了一個(gè)圖像中的許多部分，這些部分并不包含有助于分類(lèi)的信息。

格林和他的同事們也分析了一個(gè)訓(xùn)練后可以玩“Pong”(某電子游戲）的人工智能。他們發(fā)現(xiàn)，它幾乎忽略了屏幕上所有的東西，只是密切關(guān)注著兩根纖細(xì)的移動(dòng)小柱。人工智能對(duì)一些區(qū)域幾乎沒(méi)有關(guān)注，以至于把小柱從它預(yù)期的地方移開(kāi)后，它就誤以為它是在看球而不是小柱。

格里姆認(rèn)為，他的工具可以幫助人們判斷出人工智能是如何做出決定的。例如，它可以用來(lái)檢查在肺部掃描中檢測(cè)癌細(xì)胞的算法，確保它們不會(huì)通過(guò)觀察圖像錯(cuò)誤的部分，卻恰好找到正確的答案。“你可以看看它是否沒(méi)有注意到正確的東西，”他說(shuō)，但首先，格里姆想用他的工具來(lái)幫助人工智能學(xué)習(xí)。

如果人工智能沒(méi)有注意到時(shí)，它就會(huì)讓人工智能培訓(xùn)師把他們的軟件直接引導(dǎo)到到相關(guān)的信息上去。（馬特·雷諾茲報(bào)道，參考:arXiv）

（英文來(lái)源：NewScientist編譯：網(wǎng)易見(jiàn)外編譯機(jī)器人審校：賈翰鼎）