AI從頭學（一七）：Shallow Learning

AI從頭學（一七）：Shallow Learning

2017/03/21

這篇標題 Shallow Learning，其實是 Deep Learning。我自己學了幾個月，有點心得，但不敢妄言深度，只是希望對想自學的人有點幫助。

-----

Fig. Shallow Learning（圖片來源：Pixabay）。

-----

如果有時間的話，我會建議從頭瀏覽一遍：

AI從頭學（目錄）

如果自覺程度不錯，可以直接看重點的三篇，然後再看我推薦的三本書。

◎ AI從頭學（九）：Back Propagation  

◎ AI從頭學（一０）：Automatic Differentiation

◎ AI從頭學（一二）：LeNet 

網路上的資源很多，可以自行搜尋，就不一一介紹，這邊列出一篇很基本，跟兩篇最詳細的，以及免費的電子書：

http://m.zgshuxue.com/tech/20160917/316983.html

https://github.com/ty4z2008/Qix/blob/master/dl.md

https://github.com/ty4z2008/Qix/blob/master/dl2.md

http://www.datasciencecentral.com/profiles/blogs/free-deep-learning-textbook

底下三本我在台北市天瓏書局翻過，有志於 DL 的年輕人，可以投資購買。

-----

Fig. 1. Artificial Intelligence for Humans, Volume 3: Deep Learning and Neural Networks.

https://www.amazon.com/Artificial-Intelligence-Humans-Learning-Networks/dp/1505714346

這本在 Amazon 的評價兩極。我個人翻閱過，認為內容恰好是入門者所需。但如果你在全無基礎的狀況下閱讀，我想還是很困難。我的話因為已經搜尋過相當多的網路資源，稍有些概念，所以覺得這本書很不錯，對入門者，該講的都講了，不該講的也沒講。

-----

Fig. 2. Artificial Neural Networks.

https://www.amazon.com/Artificial-Neural-Networks-Graham-Zakar/dp/1523409371/ref=sr_1_1?s=books&ie=UTF8&qid=1490085524&sr=1-1&keywords=graham+zakar

書名就讓它有點吃虧。內容也有點偏離 Deep Learning，而是接近較廣義的 ANN。條目多，所以內容就淺，而且因為每個條目篇幅較小，反而不容易講的仔細。每篇都有參考資料，可以省下時間。

如果要買，至少先翻閱一下。

-----

Fig. 3. Deep Learning.

http://www.deeplearningbook.org/

這本真是經典了，賣的也很好。雖然我用的是網路版，但我建議想學 DL 的年輕人一定要買一本來仔細鑽研。

全書共二十章，架構如圖5。一開始是數學，我建議先跳過。第一個主角是 CNN，但我建議先看我寫的 LeNet 那篇導讀。第二個主角是 RNN，但一開始 LSTM 可能不容易瞭解。這兩章是基礎。

然後我從 GAN 切入，這個現在正紅。GAN 隱身在第二十章的 20.10.4 裡，想讀 GAN，就得從第二十章的開頭知道要讀 16-19 章。然後 16 章又會要你讀 3.14。最後你需要的 GAN 裡面前兩個式子的定義可以從第三章取得。細節稍後再說。

圖四定義了 AI 的範疇，從 AI 到 ML 到 RL 到 DL。

-----

Fig. 4. AI.

Fig. 5. AI Structure.

-----

http://hagan.okstate.edu/nnd.html

-----

出版說明：

這篇文章是我在兩年半年，剛看懂 LeNet 時寫的。這篇文章的前後幾篇文章，討論的都是 LeNet 看懂後，應該如何進行下一步。

網路上現在有關深度學習的資源已經滿坑滿谷了，對於初學者而言，問題不是資料少，而是資料太多。總之，我運氣不錯，有看到一本簡體中文書告訴大家讀論文的順序。另外也有一位台大教授很熱心推薦了兩篇基礎論文。順序就變成 LeNet、AlexNet、ZFNet、NIN、GoogLeNet、VGGNet、ResNet。還有 R-CNN、SPPNet、Fast R-CNN、Faster R-CNN、YOLO、SSD、R-FCN。

這一堆如果你能跑完，要讀哪些比較新的論文，我想你也沒問題了。