了解某人心里的想法，就更能理解他的行為。對人工智能(AI)也同樣如此。最近，一項新的技術能夠在神經網絡處理問題時「抓拍快照」，將能有助于我們了解神經網絡究竟是如何工作的，并能為我們帶來更好、更值得信任的AI。
過去幾年，構建于神經網絡(多層相互連接的人工神經)之上的深度學習算法在AI的許多領域都取得了突破性的進展，包括自然語言處理、圖像識別、醫(yī)療診斷和下圍棋。
但有一個問題困擾著人們，那就是我們并不知道它們是如何做到這些的。以色列理工學院的Nir Ben Zrihem說，深度學習系統(tǒng)是一個黑盒子。「如果它運轉良好，那很好。如果它不工作，你就慘了。
神經網絡遠遠大于它的各部分之和。它們的組成單元非常簡單——就是人工神經。Zrihem說：「你沒法指著神經網絡中的一個區(qū)域，然后說，智能就存 在于此?！沟沁B接的復雜性意味著我們有可能追蹤深度學習算法到達某個給定結果的步驟。在這種情況下，機器表現得很像一個先知，而它的結果則不證而明。
為了解決這個問題，Zrihem和他的同事創(chuàng)造出了深度學習的實時圖像。他們說，這項技術就像計算機的fMRI(功能性核磁共振)，可以捕捉到算法解決問題時的行為。這些圖像允許研究者追蹤神經網絡進程中的不同階段，包括死胡同。
為了得到這些圖像，這個團隊交給一個神經網絡一項任務——玩經典的Atari 2600電子游戲：《打磚塊》(Breakout)、《海底救人》(Seaquest)和《吃豆人》(Pac-Man)。當這個深度學習算法玩游戲時，他們收集了這個算法的12萬張「快照」。接著，他們采用一種技術繪制了這些數據的圖譜，這種技術允許他們對游戲中反復嘗試的場景進行比較。
結果真的很像真正的大腦掃描圖(如下圖，左邊是《海底救人》，右邊是《吃豆人》)。只不過在這個案例中，每個點都是一個「游戲狀態(tài)(game state)」，也就是游戲中每個時間點的一張快照。不同的顏色代表AI在那個時間點的表現如何。
比如說，在《打磚塊》中，玩家必須用一根橫條和一個小球在彩色磚塊組成的墻上撞出一個洞。每次算法嘗試在墻上鉆出一條隧道并把小球逼入墻頂區(qū)域時， 這個團隊就會在圖譜中發(fā)現一個明顯呈香蕉形狀的區(qū)域，這就是算法自己找出來的獲勝技巧。繪制過關技巧的圖譜，讓研究者能追蹤該算法如何成功地將技巧運用在 后續(xù)的游戲中。
在《海底救人》中，玩家必須要躲避、收集或毀壞某些物體，并救起水下的潛水者才能獲勝。這個游戲對AI來說更難掌握。在這些圖譜中，研究者發(fā)現了數不清的失敗策略，比如說在營救潛水者之前等待太長時間。Zrihem說，算法進行再次訓練時，這些細節(jié)可能十分有用。
構建一個完美的游戲策略是一件很好玩的事。對AI進行掃描則可以幫助我們磨煉算法，以設計出解決真實問題的算法，美國懷俄明州立大學的Jeff Clane如此說道。Clane對圖像識別算法的研究讓他創(chuàng)作出了一些可以迷惑神經網絡的「錯覺」，能讓神經網絡認為圖片上的某處存在一些實際上并不存在 的東西。
比如說，一個安全算法可能存在某些缺陷，讓它在某些特定的情況下很容易被愚弄。還有一些算法，本是設計來確定銀行是否應該向某人發(fā)放貸款，結果它可 能會對某些特定種族或性別的人產生偏見。Clane說：「如果你將這項技術部署到真實世界，你會想要理解它究竟是如何工作的，以及它在什么情況下可能會失 效。如果我們能更好地理解神經網絡，那我們就能理解它們的弱點，并增強它們的長處。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團旗下的專業(yè)媒體平臺，自1994年品牌成立以來，一直專注于安全&自動化產業(yè)前沿產品、技術及市場趨勢的專業(yè)媒體傳播和品牌服務。從安全管理到產業(yè)數字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會資源以及豐富的媒體經驗，提供媒體、活動、展會等整合營銷服務。
粵公網安備 44030402000264號
