Math（一）：Space

Math（一）：Space

2019/04/22

前言：

本文簡單介紹數學上一些常見的空間，後續會有詳細的展開（希望）。

-----

Fig. Space（圖片來源）。

-----

Summary：

集合與作用在集合上的數學結構，叫做空間 [1]-[6]。藉由線性組合、距離、長度、角度、完備等概念，我們可以把一個抽象的多維實數集合定義成歐氏空間 [4]。微積分與幾何最常討論三維（含以下）歐氏空間。高微與線代則討論三維以上的多維歐氏空間。泛函分析主要討論希爾伯特與巴拿赫這兩個函數空間。高微一開始則討論賦距空間。微分幾何作為拓撲的一支，則討論流型。

-----

Outline

一、Topological Space、Vector Space
二、Manifold、 Metric Space、Topological Vector Space
三、Normed Vector Space、Dual Space
四、Inner Product Space、Banach Space
五、Hilbert Space
六、Euclidean Space
七、ℝ³

-----

Fig. 1. Spaces [6]。

-----

Space = Set + Structure。

首先說一下數學上的空間。

數學上的空間，並不是我們一般概念上的空間。數學上的空間，指的是一個集合，集合搭配不同的數學運算，就形成不同的數學空間 [4]。

空間大致可以分為七層。

-----

一、Topological Space（拓撲）、Vector Space（線代）。

拓撲空間屬於分析系統，主要討論連續、收斂。向量空間屬於代數系統，主要討論運算。

向量空間：線性組合（加法與純量積的封閉性）。 

-----

二、Manifold（微分幾何）、 Metric Space（高微）、Topological Vector Space。

度量空間：度量（距離）。

常見的 metric 有 Euclidean distance、Manhattan distance 以及 Minkowski distance [1]。

拓撲跟高微的收斂不同。

由賦範向量空間推廣的局部凸空間 (Seminorm) 是 拓撲向量空間的一個重要例子。

-----

三、Normed Vector Space、Dual Space（SVM）。

賦範向量空間：範數（長度）。

賦範向量空間除了整合分析與代數這兩個數學學門之外，也可導出對偶空間這個概念。對偶空間是 Support Vector Machine 的理論基礎之一。

-----

四、Inner Product Space、Banach Space（泛函）。

內積空間：內積（角度）。
巴拿赫空間：完備性（柯西數列收斂）。

-----

五、Hilbert Space（泛函）。

希爾伯特空間：內積與完備性。

「初等微積分跟高等微積分的差別就在於「研究的微積分所在的空間維數不同」。初等微積分主要以實數線，平面，三維空間的微積分為主。高等微積分所希望研究的對象是 n >= 3 或是無窮維的向量空間。」[5]。

「希爾伯特空間是有限維歐幾里得空間的一個推廣，使之不局限於實數的情形和 .... 在所有的無窮維拓撲向量空間中，希爾伯特空間性質最好，也最接近有限維空間的 ...」[wiki]。

從 L^2 對應到的 l^2 是 R^infinity。高微也討論無窮維的實數空間 [5]。

-----

六、Euclidean Space（線代、高微）。

R^n

「歐幾里得空間 R^n 是有序數組（稱為點或向量） (x_1, ... ,x_n) 形成的集合，其中 x_i 為實數。在歐氏幾何中，譬如平面幾何與空間幾何，我們可以計算兩點之間的距離、多個向量的線性組合（向量加法與純量乘法）、向量的長度，以及兩個向量之間的夾角。數學家將這些概念予以抽象化，並用公設化方式定義出不同的數學結構，稱為空間。」[4]。

半正定

運用 Kernel Function 可以把歐氏空間的點映射到 Reproducing Kernel Hilbert Space，然後找到一個超平面，把這些點分割為兩群。

-----

七、ℝ³（微積分、幾何）。

ℝ³ 是常見的三維實數空間。

-----

另外有 Function Space（泛函）。Dual Space、Banach Space 的 L^p Space，Hilbert Space 的 L^2 Space，都是 Function Space 的例子。

另外有 Measure Space（測度學）、Sample Space（機率）、Probability Space（機率）[6]。

-----

結論：

「理解不能總停留在入門階段，當你熟悉向量空間的時候，就要在向量空間的基礎上思考問題了。理解力要一個一個台階的上，這樣才能去面對更複雜的結構，更複雜的問題。例如，我們說到「張量代數」時，你理解它的「原料」或者說「起點」就應該是向量空間，而不是從最直觀的例子開始。」[2]。

-----

底下是蔡炎龍老師的補充：

「Dual Space 其實不是一般線性轉換形成的向量空間, 是線性泛函形成的向量空間。

以上的解釋都是說給不太想讓人瞭解這是什麼的時候說的 :D 在數學上來說, dual space 就是很容易打造出來、向量空間的「平行宇宙」。

有些東西在 dual space 上比較容易, 我們就在 dual space 上考慮。比如說, 一個原來空間中過原點的 hyperplane, 就會對應到 dual space 中的一個點。」

-----

References

[1] Hilbert Space – Somnath Basu Roy Chowdhury – Medium

[2] 数学中为什么要定义各种空间？ - 知乎

[3] 说一说核方法（二）——数学角度简介（掉粉文） _ 机器不太会学习

[4] 歐幾里得空間的數學結構 _ 線代啟示錄 

[5] [閒聊]初微和高微的差別？ – 尼斯的靈魂

[6] Space - The Star Also Rises