2017 Top10 CV: 目前最好的object detection模型 Mask R-CNN

Topic: Mask R-CNN

1

Editor: George Wu

Resources:  paper   中文post    Github   video

Label:   Object detection, RCNN, 

大意:

在目標檢測方面, RCNN (2014), Fast R-CNN (2015), Faster R-CNN(2016)系列是效果非常好也廣被使用的方法. 這篇論文的Mask R-CNN是這一系列的新方法, 簡單的說就是在Faster-RCNN的架構上加上Mask回歸以輸出語意分割的結果(segmentation mask). 這篇論文不但在ICCV 2017拿到最佳論文, Mask R-CNN 也在COCO 挑戰賽的三個項目都取得最佳成績包括目標檢測(object-detection), 目標分割(instance segmentation)以及人體關鍵點檢測(key point detection). 另外一點值得提的是ResNet, Faster-RCNN也都是作者Kaiming He 開發的.

Continue reading “2017 Top10 CV: 目前最好的object detection模型 Mask R-CNN”

Advertisements

NIPS Keynote speaker: AI重新編寫人類基因組以改善疾病 by Brendan Frey

Topic: Deliberation Networks: Reprogramming the Human Genome With Artificial Intelligence

1

Editor林之昫 (Chih-Hsu Jack Lin)

Resources:   video,   English post

Label:   Deep Genomics; Digital Medicine;

大意:  

Brendan Frey是多倫多大學教授也是Deep Genomics公司CEO與創辦人.  Deep Genomics利用深度學習研究人類的基因組資料試圖找到遺傳疾病及癌症相關的突變基因片段。 在這場演講,他提到之前的研究,以及如何將機器學習與深度學習應用在遺傳疾病,及加速藥物開發。
 
演講以遺傳疾病的重要性開頭。65%人類會得遺傳疾病,每年八百萬嬰兒出生有遺傳缺陷,而每個這樣的嬰兒一生要花五百萬美金。接著強調生醫藥廠的内部收益率(Internal Rate of Return)於2012年低於銀行利息,2020年將會降到零。問題是自從定序技術逐漸成熟成本降低之後,產生了大量的資料但卻無法瞭解其中意義(Figure 1)。

Continue reading “NIPS Keynote speaker: AI重新編寫人類基因組以改善疾病 by Brendan Frey”

NIPS Test of time award : 深度學習是煉金術?

Topic: Deliberation Networks:Random Features for Large-Scale Kernel Machine

EditorChris Chien

Resources:   paper   video   中文post

Label: Kernel, Random features

螢幕快照 2018-02-13 下午1.03.46

 

大意:  

這篇經典論文獎的作者Ali Rahimi 在這次2017 NIPS大會引起的風波比論文本身更被人關注. 請參考深度學習才不是鍊金術事件. (另外一件大風波就是DeepMind的AlphaGo Zero受質疑事件). 這其實是三篇paper(2007, 2008, 2008)的彙總, 得獎主要是因為在深度學習剛起步時, 他證明了從數據中以一組函數代表, 然後調整這些函數的權重就可以有效降低loss function, 達成有效的映射.  

Continue reading “NIPS Test of time award : 深度學習是煉金術?”

NIPS selected paper :繼有名的CycleGAN之後又出現的BicycleGAN

Topic: Toward Multimodal Image-to-Image Translation

螢幕快照 2018-02-08 上午9.24.53.png

EditorChunHan Lu

Resources:   paper   中文post   video

Label: GAN

 

大意

CycleGAN 是2017年初出現最矚目的GANs 相關的研究 (在李宏毅老師的專訪中有解釋CycleGAN, 可以參考錄像的1hr 開始左右),  這次NIPS出現這篇BicycleGAN 處理的是多對多, 可以看成是兩種VAE GAN及conditional GAN的合併

Continue reading “NIPS selected paper :繼有名的CycleGAN之後又出現的BicycleGAN”

NIPS selected paper :用於序列生成的推敲網路

Topic: Deliberation Networks: Sequence Generation Beyond One-Pass Decoding 

螢幕快照 2018-02-08 上午5.40.16

Figure 1. 推敲網路(Delibration network)的架構圖. 如圖藍色部分是編碼器(encoder), 右邊黃色部份是第一層解碼器(First-pass decoder).  綠色部分是第二層解碼器. 推敲網路主要是架在第二層解碼器(Second-pass decoder)上.

Editor:  Youngmi Huang

Resources:   paper    中文post    video

Label: NLP, RNN,NMT, Deliberation network

大意

這是微軟亞洲研究院這次在NIPS投稿的paper, 有作者video解釋. 就是將傳統用於自然語言序列生成的encoder decoder, 加入了推敲網路(Delibration network)增強了解碼器的部分. 讓序列的輸出經過潤色.

Continue reading “NIPS selected paper :用於序列生成的推敲網路”

在不完全信息博弈的德州撲克擊敗人類對手的AI

Topic:  Safe and Nested Subgame Solving for Imperfect-Information Games

5TvZJU2b7a0w0

Editor: George Wu

Resources:   NIPS paper   Science paper   video   中文post

Label:  game theory, Imperfect-Information, Nash equilibrium

簡介

這篇論文是之前卡內基團隊推出的著名的德州撲克 AI (Libratus)大勝四位頂級玩家的不完全信息博弈的paper. 由於是不完全信息所以無法用精確的博弈理論求解, 近似方法就是把遊戲分成很多小局分別求解, 這手段稱為子博弈求解(subgame solving). 這篇論文提出在理論及實際上都比之前更好的子博弈求解方法.

Continue reading “在不完全信息博弈的德州撲克擊敗人類對手的AI”

Capsule Networks(CapsNets)帶給了我們什麼? 從Geoffrey Hinton談起 (1/2)

Topic:  Dynamic Routing Between Capsules

螢幕快照 2017-12-01 上午11.45.47

Editor: George Wu

Resources: paper 中文post

Label: Geoffrey Hinton

大意:

已經有不少介紹Capsule Networks的文章, 也有很多關於 Capsule Networks性能和CNN, Back propagation等的各種討論與比較. 但真的了解Capsule Networks 其實我們應該從Geoffrey Hinton的背景去了解. 直接講結論, 目前主流的CNN, RNN等網路架構搭配上back propagation已經可以不錯的處理目前處理的影像, 語音, 自然語言等領域的問題, 也有很多方案解決參數不穩定, 梯度消失等各式問題. 但Capsule Networks在未來Unsupervised learning, Predictive learning, 以及朝向Strong AI的路上必然是更有利的架構. 在這裡我將Capsule Networks分成兩篇來介紹, 第一篇著重在介紹Geoffrey Hinton以及CapsNets概念的緣起背景, 以及CapsNets能帶給了我們什麼, 並結合認知科學及神經科學去解釋CapsNets, 而第二篇才介紹細部的計算以及Capsule Networks程式碼的解說. 在這裡也特別致謝專訪時李宏毅老師的詳盡解說. 

Continue reading “Capsule Networks(CapsNets)帶給了我們什麼? 從Geoffrey Hinton談起 (1/2)”