Friday, June 16, 2017

AI 從頭學(三0):Conv1

AI 從頭學(三0):Conv1

2017/06/16

網路上查了一些資料,主要是 inception 的輸出如何接起來 [1]-[4],接起來後,緊接著就是 1 x 1 convolution (conv1) [5], [6]。

Conv1 簡單說就是把圖1右邊壓成一張,然後把它第一張丟掉,補上新的在最後面,這樣可以壓成第二張新的。

這樣會引出一個問題,不重要的要擺前面,因為一張一張一直丟。

果真如此嗎?

其實第一張的資訊在第一次就有一個 w 留下了,在最後訓練完,w 也會有它應得的比重,第一張,其實從來沒被丟掉過...

----- 



Fig. 2.531m [2].



Fig. 3. 53m1 [3].



Fig. 4. 531m [4].

-----

References

[2] 531m
https://image.slidesharecdn.com/googlenet-insights-160920190051/95/googlenet-insights-10-638.jpg?cb=1484768593

[3] 53m1
https://image.slidesharecdn.com/googlenet-insights-160920190051/95/googlenet-insights-11-638.jpg?cb=1484768593

[4] 531m
https://www.e-sciencecentral.org/upload/ijfis/thumb/ijfis-17-026f5.gif

[5] AI從頭學(二八):Network in Network
http://hemingwang.blogspot.tw/2017/06/ainetwork-in-network.html

[6] AI從頭學(二九):GoogLeNet
http://hemingwang.blogspot.tw/2017/06/aigooglenet.html 

No comments: