Dosudo deep learning newsletter #3
Editor: George.Wu
Resources: Paper Deepmind blog
AI及Deep learning很多的概念都來自於神經科學的研究, DeepMind的Hassabis甚至直言AI的未來就是神經科學. 這是DeepMind 發表在Neuron journal的review文章整理的很好值得一看, 詳述人工智慧與神經科學之間在過去現在與未來的關係. Neuroscience-Inspired Artificial IntelligenceNeuroscience-Inspired Artificial Intelligence. 文中整理了過往AI是如何從神經科學中擷取靈感而被發明, 到現今他認為未來AI 發展的關鍵, 尤其是將來的human-level 通用性AI, 就是在於對神經科學的更深層認識.
以現今AI的兩大領域 Deep learning(深度學習) 及 Reinforcement learning(強化學習)來說, 雖然最開始AI研究偏重在抽象及符號邏輯系統, 但基於隨機而動態的, 高度分佈式的平行系統越來越被重視, 這就是源自於大腦中由神經元組成的龐大複雜網路運作方式的啟發, 也是目前Convolutional neural networks(CNNs)的前身. CNNs中的nonlinear transduction, divisive normalization, 及pooling等概念也是來源於哺乳動物視覺皮質中視覺訊號在V1區如何過濾及匯集的訊號傳遞過程, 而透過多層而複雜網路結構將特徵分層擷取也和高等動物視覺系統相同. 而Dropout方法也源自於生物網路中神經元傳遞訊號的隨機性. 而強化學習本身就是來自於動物行為實驗的刺激反饋模型.
接下來 Hassabis 指出神經科學在未來AI的發展上至關重要, 並舉中目前AI發展中的四個例子:
- 雖然目前基於CNNs的圖像處理輸入的都是整張圖像, 但高級靈長類動物的視覺系統其實是靈活地在專注物體及位置間進行轉移, 並基於代表性及資源進行協調. 這種通過優先排序及隔離在任何時刻給予關鍵訊息的’’Attention’’機制已成為目前廣被討論的AI架構
- episodic memory (情景記憶). 神經科學討論的記憶通常是多種記憶機制並行, 除了最常見的由反覆刺激及行為經歷學到的經驗之外, 還有一種機制是即時(one-shot)的記憶, 發生在內側顳葉的河馬迴上, 這也通常關聯到情景記憶, 這是人類獨有的主觀記憶能與過去的時間地點情感, 以及其他知識相連結. 而像DQN(deep Q network)讓學習最有效率最關鍵的experience replay, 就是來源於情景記憶. 也有越來越多的神經網路架構導入情景記憶來加速訓練過程, 它也是one-shot learning的關鍵.
- 人類大腦優越的地方在於能有效且準確的管理及協調各區間的訊息, 這稱為Working memory. 在神經科學及認知科學中這被認為是由前額葉皮質和相互關聯的區域內, 由中央控制器與各記憶分區中交互作用形成. long-short-term memory (LSTM) networks 就是working memory的經典範例. 通過多個gate 調控訊息流將記憶分成短期記憶長期記憶進行管理. LSTM在很多領域都展現了優秀的能力.
- 最新的神經成像技術如two-photon imaging讓我們可以觀察到在學習期間的樹突棘結構和功能的動態可視化. 新的實驗證據顯示在學習過程中突觸有保護機制可以調整可塑性以免受到外來的干擾. 這提供了很好的解決方案在發展AI系統中災難性遺忘的問題, 就是訓練過程中之前的事件被下一次事件覆蓋. 而能達到 Continual learning(持續學習).
雖然目前Deep learning和 AI 在很多領域都取得令人訝異的甚至超越人類的成績, 但要達到通用性AI仍有很長一條路要努力. 未來要發展的方向包括 Intuitive Understanding of the Physical World, 這些能力包括與物理世界有關的核心概念與知識. 這些概念使人們可以進行進一步的指導推理和預測, 或所謂prediction learning. 也已經有一些最新研究針對世界的物理性質進行學習. Transfer learning. 人類擅長將某個領域學習到的知識泛化及應用在未知的事物上. 而像之前開發出來的漸進式網路可以利用在一個視頻遊戲中獲得的知識在另一個學習中快速學習. 而在神經科學研究中類似的課題就是互相推理及類比問題. 而高等級transfer learning, 以及 Imagination and planning等也是尚不知道生物神經網路上的機制. 在未來的發展中將會是AI及神經科學相輔相成才能跨越鴻溝達到真正通用性或強人工智慧的階段.
Dosudo矽谷工程師 deep learning newsletter 