NIPS Keynote speaker: AI重新編寫人類基因組以改善疾病 by Brendan Frey

Topic: Deliberation Networks: Reprogramming the Human Genome With Artificial Intelligence

Editor: 林之昫 (Chih-Hsu Jack Lin)

Resources:   video,   English post

Label:   Deep Genomics; Digital Medicine;

大意:  

Brendan Frey是多倫多大學教授也是Deep Genomics公司CEO與創辦人.  Deep Genomics利用深度學習研究人類的基因組資料試圖找到遺傳疾病及癌症相關的突變基因片段。 在這場演講，他提到之前的研究，以及如何將機器學習與深度學習應用在遺傳疾病，及加速藥物開發。

 

演講以遺傳疾病的重要性開頭。65%人類會得遺傳疾病，每年八百萬嬰兒出生有遺傳缺陷，而每個這樣的嬰兒一生要花五百萬美金。接著強調生醫藥廠的内部收益率（Internal Rate of Return）於2012年低於銀行利息，2020年將會降到零。問題是自從定序技術逐漸成熟成本降低之後，產生了大量的資料但卻無法瞭解其中意義（Figure 1）。

NIPS Test of time award : 深度學習是煉金術?

Topic: Deliberation Networks:Random Features for Large-Scale Kernel Machine

Editor: Chris Chien

Resources:   paper   video   中文post

Label: Kernel, Random features

 

大意:  

這篇經典論文獎的作者Ali Rahimi 在這次2017 NIPS大會引起的風波比論文本身更被人關注. 請參考深度學習才不是鍊金術事件. (另外一件大風波就是DeepMind的AlphaGo Zero受質疑事件). 這其實是三篇paper(2007, 2008, 2008)的彙總, 得獎主要是因為在深度學習剛起步時, 他證明了從數據中以一組函數代表, 然後調整這些函數的權重就可以有效降低loss function, 達成有效的映射.  

NIPS selected paper :繼有名的CycleGAN之後又出現的BicycleGAN

Topic: Toward Multimodal Image-to-Image Translation

Editor: ChunHan Lu

Resources:   paper   中文post   video

Label: GAN

 

大意

CycleGAN 是2017年初出現最矚目的GANs 相關的研究 (在李宏毅老師的專訪中有解釋CycleGAN, 可以參考錄像的1hr 開始左右),  這次NIPS出現這篇BicycleGAN 處理的是多對多, 可以看成是兩種VAE GAN及conditional GAN的合併. 

NIPS selected paper :用於序列生成的推敲網路

Topic: Deliberation Networks: Sequence Generation Beyond One-Pass Decoding 

Figure 1. 推敲網路(Delibration network)的架構圖. 如圖藍色部分是編碼器(encoder), 右邊黃色部份是第一層解碼器(First-pass decoder).  綠色部分是第二層解碼器. 推敲網路主要是架在第二層解碼器(Second-pass decoder)上.

Editor:  Youngmi Huang

Resources:   paper    中文post    video

Label: NLP, RNN,NMT, Deliberation network

大意

這是微軟亞洲研究院這次在NIPS投稿的paper, 有作者video解釋. 就是將傳統用於自然語言序列生成的encoder – decoder, 加入了推敲網路(Delibration network)增強了解碼器的部分. 讓序列的輸出經過潤色.