STNet

STNet

2020/04/08

-----

圖一，仿射變換 [12]。

-----

圖二，STNet [1]。

-----

圖三，仿射變換 [4]。

-----

圖四，仿射變換 [12]。

-----

圖五，仿射矩陣 [12]。

-----

圖六，仿射與線性 [3]。

-----

圖七，雙線性插值 [5]。

-----

圖八，雙線性插值與雙立方插值 [6]。

-----

愛

圖九，次梯度法 [7]。

-----

圖一〇，非凸與凸集合 [8]。

-----

圖一一，非凸與凸函數 [8]。

-----

圖一二，凸函數定義 [8]。

-----

圖一三，梯度與次梯度集合 [8]。

-----

圖一四，貪婪梯度下降法 [8]。

-----

圖一五，次梯度演算法 [8]。

-----

圖一六，次梯度法小結 [7]。

-----

圖一七，STNet 前向傳播 [10]。

-----

圖一八，STNet 反向傳播 [10]。

-----

圖一九，整數取樣核與雙線性取樣核 [12]。

-----

圖二〇，取樣極值公式 [13]。

-----

圖二一，雙向取樣核的反向傳播 [12]。

-----

圖二二，STNet 實作 [14]。

-----

References

[1] STNet 論文
Jaderberg, Max, Karen Simonyan, and Andrew Zisserman. "Spatial transformer networks." Advances in neural information processing systems. 2015.
http://papers.nips.cc/paper/5854-spatial-transformer-networks

[2] 仿射變換 | 線代啟示錄
https://ccjou.wordpress.com/2011/03/24/仿射變換/

[3] Activation function 到底怎麼影響模型？ - Dream Maker
https://yuehhua.github.io/2018/07/27/activation-function/

[4] 仿射变换与投影变换 - 侯凯 - 博客园
https://www.cnblogs.com/houkai/p/6660272.html

[5] 图像中的插值 - alifpga - 博客园
https://www.cnblogs.com/alifpga/p/7883451.html

[6] 双线性插值和双三次插值_人工智能_天才樱木-CSDN博客
https://blog.csdn.net/datase/article/details/80576054

[7] 优化中的subgradient方法_人工智能_Hard Working-CSDN博客
https://blog.csdn.net/lansatiankongxxc/article/details/46386341

[8] Gradient, Subgradient and how they may affect your grade(ient) - People
https://people.csail.mit.edu/dsontag/courses/ml16/slides/notes_convexity16.pdf

[9] 理解Spatial Transformer Networks - 知乎
https://zhuanlan.zhihu.com/p/41738716

[10] Spatial Transformer Networks(空间变换神经网络)_网络_brandon2015的博客-CSDN博客
https://blog.csdn.net/brandon2015/article/details/71750768

[11] 基础DL模型-STN-Spatial Transformer Networks-论文笔记 | arleyzhang
https://arleyzhang.github.io/articles/7c7952f0/

[12] Review: STN — Spatial Transformer Network (Image Classification)
https://towardsdatascience.com/review-stn-spatial-transformer-network-image-classification-d3cbd98a70aa

[13] ConvNets Series. Spatial Transformer Networks - Towards Data Science
https://towardsdatascience.com/convnets-series-spatial-transformer-networks-cff47565ae81

[14] Spatial Transformer Networks Tutorial — PyTorch Tutorials 1.4.0 documentation
https://pytorch.org/tutorials/intermediate/spatial_transformer_tutorial.html