AI 從頭學（三０）：Conv1

AI 從頭學（三０）：Conv1

2017/06/16

網路上查了一些資料，主要是 inception 的輸出如何接起來 [1]-[4]，接起來後，緊接著就是 1 x 1 convolution (conv1) [5], [6]。

Conv1 簡單說就是把圖1右邊壓成一張，然後把它第一張丟掉，補上新的在最後面，這樣可以壓成第二張新的。

這樣會引出一個問題，不重要的要擺前面，因為一張一張一直丟。

果真如此嗎？

其實第一張的資訊在第一次就有一個 w 留下了，在最後訓練完，w 也會有它應得的比重，第一張，其實從來沒被丟掉過...

----- 

Fig. 2.531m [2].

Fig. 3. 53m1 [3].

Fig. 4. 531m [4].

-----

References

[2] 531m
https://image.slidesharecdn.com/googlenet-insights-160920190051/95/googlenet-insights-10-638.jpg?cb=1484768593

[3] 53m1
https://image.slidesharecdn.com/googlenet-insights-160920190051/95/googlenet-insights-11-638.jpg?cb=1484768593

[4] 531m
https://www.e-sciencecentral.org/upload/ijfis/thumb/ijfis-17-026f5.gif

[5] AI從頭學（二八）：Network in Network
http://hemingwang.blogspot.tw/2017/06/ainetwork-in-network.html

[6] AI從頭學（二九）：GoogLeNet
http://hemingwang.blogspot.tw/2017/06/aigooglenet.html