Capsule Networks(CapsNets)帶給了我們什麼? 從Geoffrey Hinton談起 (1/2)

Topic:  Dynamic Routing Between Capsules

螢幕快照 2017-12-01 上午11.45.47

Editor: George Wu

Resources: paper 中文post

Label: Geoffrey Hinton

大意:

已經有不少介紹Capsule Networks的文章, 也有很多關於 Capsule Networks性能和CNN, Back propagation等的各種討論與比較. 但真的了解Capsule Networks 其實我們應該從Geoffrey Hinton的背景去了解. 直接講結論, 目前主流的CNN, RNN等網路架構搭配上back propagation已經可以不錯的處理目前處理的影像, 語音, 自然語言等領域的問題, 也有很多方案解決參數不穩定, 梯度消失等各式問題. 但Capsule Networks在未來Unsupervised learning, Predictive learning, 以及朝向Strong AI的路上必然是更有利的架構. 在這裡我將Capsule Networks分成兩篇來介紹, 第一篇著重在介紹Geoffrey Hinton以及CapsNets概念的緣起背景, 以及CapsNets能帶給了我們什麼, 並結合認知科學及神經科學去解釋CapsNets, 而第二篇才介紹細部的計算以及Capsule Networks程式碼的解說. 在這裡也特別致謝專訪時李宏毅老師的詳盡解說. 

Continue reading “Capsule Networks(CapsNets)帶給了我們什麼? 從Geoffrey Hinton談起 (1/2)”

Advertisements