Euclid 空间上的极限和连续
为了研究多元函数的性质，我们首先要定义一个度量标准，进而给出极限以及连续的概念。
内积运算$<\cdot,\cdot>$:
$$ <\mathbf{x},\mathbf{y}> = \sum_{i=1}^n x_i y_i $$
通过内积的正定性以及线性性，$<\mathbf{\lambda x +y},\mathbf{\lambda x +y}>\geq 0 \Rightarrow |<x,y>| \leq |x||y| \quad (Schwarz不等式)$
我们随后定义了距离的度量，范数 $|\cdot|$:
- $|x-y| = 0 \Leftrightarrow x = y$
- $|x-y| = |y-x|$
- $|x-z|\leq|x-y|+|y-z|$
由Schwarz不等式,我们可以推导三角不等式。
$\boxed{邻域}:O(a,\varepsilon) = {x\in R^n \Big| \ |x-a|<\varepsilon }$
在此基础上，我们定义了极限。可以发现收敛点列的唯一性、有界性都是成立的。
以下结论均对于$x$和集合$S$:
$\boxed{内点}:\exists \varepsilon > 0 ,O(x,\varepsilon) \subset S$
$\boxed{外点}:\exist \varepsilon > 0 ,O(x,\varepsilon) \subset S^c$
$\boxed{边界点}:\forall \varepsilon > 0 ,\exist x_1,x_2 \in O(x,\varepsilon) ,x_1\in S^c,x_2 \in S$
$\boxed{孤立点}:\exist \varepsilon > 0 ,O(x,\varepsilon)/x \subset S^c,x\in S$
$\boxed{聚点}:\forall \varepsilon > 0 ,O(x,\varepsilon)内有无穷个x’ \in S$
$\boxed{开集}:\forall x \in S,x均为S的内点$
$\boxed{闭集}:S包含了所有S的聚点$
$\boxed{闭包}:\bar{S} = S \cup S’(S的全体聚点)$
显然的结论:
- 内点必然是聚点
- 边界点若不是孤立点，那么必然是聚点。
- 由前两个可知，聚点可能属于$S$,也可能不属于$S$
判定聚点的充要条件:
$$ x是S的聚点 \Leftrightarrow \exist {x_k} \subset S,x_k \neq x,使得\lim_{k \to \infty} x_k = x $$
[!NOTE]
**该定义方式相比原定义操作性更强，解答优先使用。**充分性证明思路为，利用序列极限的定义，说明任意邻域都有$x’ \in S$.
必要性证明思路为构造一个嵌套缩小的邻域。
定理11.1.4:
$$ S为闭集\Leftrightarrow S^c是开集 $$
充分性($\Rightarrow$):取$x \in S$,证明$x$是$S$的聚点。
必要性($\Leftarrow$):取$x \in S^c$,证明$x$是$S^c$的内点。
好吧，这里写的有点废话，但是主要就是存在性和任意性的转换….
De Morgan公式:
$$ (\bigcup_i S_i)^c = \bigcap_i S_i^c \ (\bigcap_i S_i)^c = \bigcup_i S_i^c $$
- 任意组开集的并集都是开集。
- 任意组闭集的交集仍是闭集。(通过De Morgan公式转换为上一条)
- 有限个开集的交集是开集。(取$x\in S$,由于$\forall i,x$为 $S_i$内点，$\exist \varepsilon_i,O(x,\varepsilon_i)\subset S$,取$\varepsilon = \min{\varepsilon_i}$,$O(x,\varepsilon) \subset S$)
- 有限个闭集的并集是闭集(通过De Morgan公式转换为上一条)
无穷个开集的交集不一定是开集。(反例:$\bigcap_{i=1}^\infty (-\frac{1}{n},\frac{1}{n})$)
无穷个闭集的并集不一定是闭集。(反例:$\bigcup_{i=1}^\infty[2-\frac{1}{n},2+\frac{1}{n}]$)
Euclid 空间上的基本定理(对应实数基本定理)
闭矩形套定理:
设$\Delta_k = [a_k,b_k]\times[c_k,d_k] \subset R^2,\forall k =1,2,3,\cdots$,且满足:
- $\Delta_{k+1} \subset \Delta_{k}$
- $\lim_{k\to \infty}diam \Delta_k \to 0$
那么存在唯一的$x = (\xi,\eta) \in \bigcap_i^\infty \Delta_k$,此时$\lim_{k \to \infty} a_k = \lim_{k \to \infty} b_k = \xi,\lim_{k \to \infty} c_k = \lim_{k \to \infty} d_k = \eta$
证明:
$$ 由单调有界定理，对于x轴上，a_k,b_k分别给出了{b_k}和{a_k}的下界和上界，且序列单调，必定收敛。\therefore \lim_{k \to \infty} \Delta_k = [\xi,\xi’]\times[\eta,\eta’] $$
存在性得证，由条件二知，$\lim_{k \to \infty} \sqrt{(a_k-b_k)^2+ (c_k-d_k)^2}=0$,$\xi = \xi’,\eta = \eta’$,唯一性得证。
更强的版本，我们可以把闭矩形这个条件去掉，改为嵌套的闭集合:
Cantor闭区域套定理:
设${S_k}$是$R^n$上的非空闭集序列,满足$S_1\supset S_2\supset \cdots \supset S_n \supset \cdots$
$\lim_{k\to \infty}diam \Delta_k \to 0$，这里$diam S = \sup{|x-y| \big| x,y \in S}$
那么存在唯一点$x\in \bigcap_{i=1}^{\infty} S_i$
证明思路:
先证存在性，$\forall k,$我们取$x_k \in S_k$,那么对于$m \geq k$,$S_m \subset S_k$,由条件二知，$|x_m-x_k|\leq diam S_k \to 0$
因此${x_k}$是一个柯西序列.记$\lim_{k \to \infty} x_k = x_0$
由闭集的定义知，对$\forall N,n\geq N,x_n \in S_N$,那么$x_0 = \lim_{i=1}x_{N+i} \in S_N$,否则违背了闭集的定义(包含所有聚点)。
所以$x_0 \in \bigcap_{i=1}^{\infty}S_i$,我们构造了至少一个点，$x_0$.
然后证明唯一性，$\exist x_1 \in \bigcap_{i=1}^n S_i,|x_1-x_0| \leq \lim_{k\to \infty} diam S_k =0$,$x_1 =x_0$,唯一性得证。
Bolzano-Weierstrass 定理：
$R^n$中的有界点列${x_k}$必有收敛子列。
对于有限维，可以转化为逐个坐标分量一维的情况，证明实数序列必有单调子列，然后采用单调有界定理即可证明(考虑有限个或者无限个峰值来构造这样一共单调子列)。
$\boxed{推论}$:有界无限点列必有聚点。
由聚点的等价定义可知，我们可以找到一个收敛的子列，因此至少有一个聚点。
紧集:
对于任意一组开集${U_k}$,满足$\bigcup_{k=1}U_k \supset S$,我们可以取有限$n$项,$\bigcup_{i=1}^n U_{k_i} \supset S$,则称$S$为紧集。
Heine-Borel 定理
$$ S是紧集 \Leftrightarrow S是有界闭集 $$
必要性($\Rightarrow$):由紧集定义知，由于有有限个覆盖包含了$S$,显然$S$有界。用反证法证明$S$是闭集，$a\in \bar{S},a\notin S$,我们不妨构造$U_k ={ x \big| |x-a| \geq \frac{1}{n} }$,简单说，就是一组缺口趋于0的开覆盖，由紧集定义，我们可以找到有限组开覆盖，这和聚点定义矛盾(任意一个邻域，都有$x_k$属于$S$)。
充分性($\Leftarrow$):反证法，对于有界闭集$S$,存在一组开覆盖${U_k}$,不存在一组有限开覆盖。我们可以构造一个矩形的划分，这个四等分的子块无法被有限覆盖，具体见课本吧，不太好描述，然后我们利用闭矩形套定理，说明这样划分将产生一个仅包含一点$a$的集合。显然存在一个$a \in U_a$,这也反映了闭集的性质，开集就不行了，所以和无法有限覆盖矛盾了。
定理11.1.10
$$ S是紧集 \Leftrightarrow S的任一无穷子集都有聚点属于S $$
必要性($\Rightarrow$):紧集必有界，有界无限子集都有聚点。
充分性($\Leftarrow$):对于$S$的任意柯西点列，$\lim_{k \to \infty}x_k =x_0 \in S$,所以$S$是闭集。
这时候可以隐约感觉到，明显是有界的，不然总能找到一个点列趋于无穷，这就不是柯西点列了。
我们用反证法，假设存在$\lim_{k \to \infty} |x_k| = \infty$,显然这个无穷序列不存在收敛子列，不是聚点，矛盾。
连续函数的性质
定义11.3.1：
设点集$K \subset R^n,f:K\to R^m$为映射，$x_0\in K$，$\forall \varepsilon >0,\exist \delta >0$,当$x\in O(x_0,\delta)\cap K$,$|f(x_0)-f(x)|< \varepsilon$
连续映射将紧集映为紧集
由定理11.1.10，我们只需要证明像集$f(K)$的任一无穷点列都有聚点属于$f(K)$即可。
证明方法和证有界性类似，我们可以构造一组点列${y_k}\subset f(K)$,找到任意一组对应的原像集点列${x_k}$与之一一对应。
存在一个收敛子列${x_{k_i}}$,那么对应的${y_{k_i}}$也是收敛到$y_{k_0} \in f(K)$($\in f(K)$是由原像是紧集得到的，因此极限点$x_{k_0}\in K$,$y_{k_0}\in f(K)$)。
有界性定理
设点集$K \subset R^n$为紧集,$f:K\to R^m$为连续映射，那么像集$f(K)$有界，这是显然的，因为从上面我们可以知道$f(K)$为紧集，有界。
最值定理
设点集$K \subset R^n$为紧集,$f:K\to R$为连续映射，那么$f$在$K$上必能取到上下确界。
由实数基本定理知，非空有界数集$f(K)$必有上下确界，分别设为$M,N$,以下界为例，我们不妨构造一组序列${x_k}$,其中$x_k\in{x \big| M < x \leq M+\frac{1}{k}}$,由确界定义知，这样的集合总是非空的，因此，我们构造了一组收敛的点列，由紧集定义，这个点列的聚点属于$f(K)$,得证。
一致连续
对于任意$\varepsilon >0$,$\exist \delta = \delta(\varepsilon)$(即与$x$无关),，使得对于$\forall x_0,x_1$满足$|x_0-x_1|<\delta$,$|f(x_0)-f(x_1)|<\varepsilon$,称$f$在$K$上一致连续。
一致连续性定理
设点集$K \subset R^n$为紧集,$f:K\to R^m$为连续映射，则$f$在$K$上一致连续。
这里证明要点是证明$\delta$选定与$x$无关，关键是利用紧集的有限开覆盖，这样我们可以确定一个最小的全局$\delta$，让$x$属于一个足够小的邻域时，被$\varepsilon$控制。
证明:
给定$\varepsilon>0$,对于任意$a \in K$,我们可以构造一个邻域$O(a,\delta_a)$,使得$x\in O(a,\delta_a) \cap K$,满足$|f(x)-f(a)| < \varepsilon$
我们从${O(a,\delta_a/2)\big| a \in K}$这个开覆盖里选择有限覆盖，$\bigcup_{k=1}^n O(a_k,\delta_{a_k}/2)\supset K$,取$\delta = \frac{1}{2}\min{\delta_{a_k}}$
然后我们只需要用三角不等式放缩下，对于任意$x_0,x_1$满足$|x_0-x_1|<\delta$,记$x_0 \in O(a_j,\delta_{a_j}/2)$，那么显然$|x_1-a_j|\leq|x_1-x_0|+|x_0-a_j| \leq \delta + \delta_{a_j}/2 \leq \delta_{a_j}$,此时$x_0,x_1 \in O(a_j,\delta_{a_j})$,$|f(x_1)-f(x_0)| < 2\varepsilon$
(还得再用一次三角不等式，跳步了==)
连通集与连通集上的连续映射
设$S$为非空点集，若存在$\gamma:[0,1] \to R^n$,使得$\gamma([0,1]) \subset S$,称$\gamma$为$S$的道路，如果任意两点$x,y \in S$都有道路，那么称$S$为连通集。
定理11.3.5
连续映射将连通集映为连通集.
证明:$\forall m,n \in f(K)$,$\exist x,y\in K, m=f(x),n=f(y) $，对于原像$x,y$,$\exist \gamma:[0,1] \to K$,且$\gamma(0)=x,\gamma(1)=y$
那么显然，复合映射$f \circ \gamma$即为$m,n$之间的道路。
推论11.3.1
连续函数将连通的紧集映射为闭区间。
多元函数微分学
这里晦涩烧脑的概念比较少，多给些计算案例。
可偏导未必连续，因为偏导只是一个线性单方向的局部概念。
$\boxed{反例}:f(x,y) = \frac{xy}{x^2+y^2} = \frac{\rho \cos \theta \rho \sin \theta}{\rho^2} = \frac{1}{2}\sin(2\theta)$,在$(0,0)$处对$x$和$y$方向都可偏导，但是不连续。
请务必掌握偏导的定义及其计算。
全微分(可微)
定义:如果多元函数$f:R^n\to R$,在$\mathbf{x}$处,可以作一阶线性近似，即$dz = \nabla f_\mathbf{x}^T d \mathbf{x} + O(|\mathbf{x}|) $，称$f$在$\mathbf{x}$处可微。
不难看出可微必定可偏导，且连续，但是反之不一定。
(上面这种写法是有问题，因为线性主部的系数我们还不知道是偏导，但是偷了懒少写些…)
可偏导不可微的反例:$f(x,y) = \frac{xy}{x^2+y^2}$
连续不可微的反例:$f(\mathbf{x}) = |\mathbf{x}|$，注意，这里$|\mathbf{x}| = \max{|x_i|}$
在原点处，我们考虑偏导的左右极限，发现无法偏导，但是在原点连续，所以该函数在原点连续不可微。
可微的方向导数
如果二元函数$f$在$\mathbf{x}$处可微，对于$v = (\cos \theta,\sin \theta)$,方向导数$\frac{\partial f}{\partial v} = \frac{\partial f}{\partial x} \cos \theta + \frac{\partial f}{\partial y} \sin \theta$
$f$在$\mathbf{x}$连续，且$f$在各个方向导数都存在且相等，也不一定在该点可微。
反例:$f(x,y) = \begin{cases} & \frac{2xy^3}{x^2+y^4} & x^2+y^2 \neq0 \ &0 & else \end{cases}$
证明思路如下，我们用反证法，求$f(\Delta x,\Delta y) -f(0,0)$,证明这个无穷小量不是$\sqrt{\Delta x^2 + \Delta y^2}$的高阶无穷小量。
这也是证明不可微的通用思路。
定理12.1.2:
函数$f$在某点邻域内存在偏导数，且偏导连续，那么在该点可微。
证明:
$f(x+\Delta x,y+ \Delta y)-f(x,y) = (f(x+\Delta x,y+ \Delta y)-f(x+\Delta x,y))+(f(x+\Delta x,y)-f(x,y)) $
这种插项构造的方式之后还会用到，$原式= f_y(x+\Delta x,y +\theta \Delta y)\Delta y + f_x(x+\alpha \Delta x,y) \Delta x$
参考上面利用定义证明可微的方法:
$f(x+\Delta x,y+ \Delta y)-f(x,y) - f_x \Delta x - f_y \Delta y=f_y(x+\Delta x,y +\theta \Delta y)\Delta y + f_x(x+\alpha \Delta x,y) \Delta x-f_x(x,y) \Delta x - f_y(x,y) \Delta y$
现在我们来说明这个是$\sqrt{x^2+y^2}$的高阶小量。
由偏导连续的定义可知，$\forall \varepsilon >0$,存在一个小矩形邻域${(x_0,y_0)\big| |x_0-x| < \delta,|y_0-y| < \delta }$,满足邻域内$\forall (x_1，y_1),|f_x(x_1,y_1)-f_x(x,y)|<\varepsilon$,所以$|f(x+\Delta x,y+ \Delta y)-f(x,y) - f_x \Delta x - f_y \Delta y| \leq \varepsilon |\Delta x| + \varepsilon |\Delta y| \leq 2\varepsilon \sqrt{\Delta x^2 +\Delta y^2}$
中间用了三角不等式，得证。
高阶偏导 定理12.1.3：
如果函数$z = f(x,y)$的混合偏导数$f_{xy},f_{yx}$在点$(x_0,,y_0)$连续，那么可以交换偏导次序。
考虑构造一个二阶差商$I = \frac{(f(x+\Delta x,y+\Delta y)-f(x,y+\Delta y))-(f(x+\Delta x,y)-f(x,y))}{\Delta x \Delta y}$
记$\phi(y) = f(x+\Delta x,y)-f(x,y)$,那么$I = \frac{\phi(y+\Delta y)-\phi(y)}{\Delta x \Delta y}=\frac{\phi’(y+\theta\Delta y)}{\Delta x} = f_{yx}(x+\alpha \Delta x,y+ \theta \Delta y),\quad (\alpha,\theta \in (0,1))$
然后交换差商分子中间两项的位置，取极限即可证明。
一些微分计算上的trick
- 一阶全微分的形式不变性:$d z = \frac{\partial f}{\partial x}dx + \frac{\partial f}{\partial y}dy$,对于自变量抑或是中间变量的$x,y$均成立。
- 比较遗憾，二阶的形式不变性一般不成立。
证明时，当$x,y$是自变量时，$d(dx) = d(dy)=0$,为中间变量时，一般不为0。
我们可以将高阶全微分用算子的形式来简化书写(此时$x,y$必须是自变量):
$$ d^n z = (dx \frac{\partial z}{\partial x}+ dy \frac{\partial z}{d y})^n z $$
中值定理
设二元函数$f$在凸区域$D \subset R^2$上可微，则对于任意两点$(x_1,y_1),(x_2,y_2)$,存在$\theta \in (0,1)$,$f(x+\Delta x,y+ \Delta y) - f(x,y) = f_x(x+\theta \Delta x,y+\theta \Delta y) \Delta x + f_y(x+\theta \Delta x,y+\theta \Delta y) \Delta y$
证明:构造辅助函数$\phi(t) = f(x+ t \Delta x,y+ t \Delta y)$,然后采用拉格朗日中值定理即可。
$\boxed{推论:}在区域上偏导数恒为0，那么必是常值函数。$
多元泰勒公式
以二元函数为例:
$$ f(x_0+\Delta x,y_0+ \Delta y) = \sum_{k=0}^n \frac{1}{k!} (\Delta x\frac{\partial f}{\partial x}+\Delta y\frac{\partial f}{\partial y})^k f(x_0,y_0) + R_n $$
[!NOTE]
$(\Delta x\frac{\partial f}{\partial x}+\Delta y\frac{\partial f}{\partial y})^n f(x_0,y_0)$的含义是$f$先和算子$(\Delta x\frac{\partial f}{\partial x}+\Delta y\frac{\partial f}{\partial y})^n$进行操作，得到的新函数带入$(x_0,y_0)$这个点的数据，不要搞反了。
拉格朗日余项:$R_k = \frac{1}{(n+1)!} (\Delta x\frac{\partial f}{\partial x}+\Delta y\frac{\partial f}{\partial y})^{n+1} f(x_0+\theta \Delta x,y_0+ \theta \Delta y)$
证明方法如下:设$\phi(t) = f(x+ t\Delta x,y+t\Delta y)$,这个多元函数就转化为了一元泰勒的证明流程，然后利用链式法则计算即可。
Peano 余项
$R_k \sim o((\sqrt{x^2+y^2})^k)$
右边这个范数的形式我们称其为Peano余项形式。
证明:
不妨取$r = \sqrt{\Delta x^2 +\Delta y^2}$,对于邻域${(x,y)\big| (x-x_0)^2 + (y-y_0)^2 \leq r^2}$,这是一个紧集，由于$f$的$k+1$阶偏导连续(来自假设，我没打出来)，偏导有界。
$$ R_n = \frac{1}{(n+1)!} \sum_{i=0}^{n+1} (\Delta x)^i (\Delta y)^{n+1-i} \tbinom{n+1}{i} \underbrace{\frac{\partial^i f}{\partial x^i} \frac{\partial^{n+1-i} f}{\partial y^{n+1-i}}}{\leq M} \leq M r^{n+1} \frac{1}{(n+1)!}\sum{i=0}^{n+1} \frac{(n+1)!}{i! (n+1-i)!} = \frac{2^{n+1}}{(n+1)!} M r^{n+1} $$
隐函数
这里我学的不是很好，单独拎出来复习。
一元隐函数存在定理
- $F(x_0,y_0) = 0$
- 在闭矩形$D = {(x,y)\big| |x-x_0| \leq a,|y-y_0|\leq b}$,$F$连续，且具有连续偏导数
- $F_y(x_0,y_0)\neq 0 $
我们可以在这个闭矩形上推出:
- 唯一的隐函数$y= f(x)$满足方程$F(x,y)=0$
- 隐函数在该区域上连续
- 隐函数具有连续的导数$y = -\frac{F_x}{F_y}$
看教材吧，打字打不动了…其实还是比较好理解的，两次使用了连续函数邻域内的保号性，然后由单调性推出$y=f(x)$唯一。
然后讨论隐函数的连续性，这个对我比较难。
我们已经知道了$\bar{y} = f(\bar{x})$,满足$F(\bar{x},f(\bar{x}))=0$,那么$F(\bar{x},\bar{y}+\varepsilon)> 0,F(\bar{x},\bar{y}-\varepsilon)< 0$,由保号性知，存在一个小邻域内，$x$,满足
$F(x,\bar{y}+\varepsilon)> 0,F(x,\bar{y}-\varepsilon)< 0$,那么显然$y= f(x)\in [\bar{y}-\varepsilon,\bar{y}+\varepsilon]$
最后证明可导且导数连续。
由中值定理可知，$F(\bar{x}+\Delta x,\bar{y}+ \Delta y)-F(x,y) = \Delta x F_x(x+\theta \Delta x,y+\theta \Delta y)+\Delta y F_y(x+\theta \Delta x,y+\theta \Delta y) = 0$
然后移项即可，由条件偏导连续，复合函数也连续，所以导数连续。
Exercise
别的知识点都不打了，感觉没前面那么抽象(多元隐函数这个是因为打字打不动了)
P106 T8：
证明:第一眼看，转化为补集证明其为闭集好像不好转化。考虑直接用定义，$\forall x \in S$,$\exist \delta_1 > 0$,使得$O(x,\delta_1) \subset S$,此时，不妨取$x_1 \in O(x,\delta_1)$,$\delta_2 = \min{|x_2 - x|,\delta_1 - |x_2 - x|}$,也就是说，$O(x_2,\delta_2)\sub S$,因此$x_2$也是$S$的内点。此时由$x_2$任意性知，我们可以找到一个邻域，让$O(x,\delta) \sub S^\circ$，得证。
P106 T9：
取$x \in \bar{S}^c$,我们证明这是$\bar{S}^c$一个内点,由于$x \notin S’$,$x$不是一个聚点，那么$\exist \delta_1 > 0,O(x,\delta_1) \sub S^c$,但是我们还需要证明邻域内都没有$S’$的点。
反证法，假设我们找不到一个邻域，这个邻域内没有$S’$的点。那么$x$就是$S’$的聚点。通过一个三角不等式我们可以证明，我们可以证明$x$还是$S$的聚点，矛盾了。
P107 T15:
关键点在于，不是聚点的等价定义为，存在某个邻域内至多有有限个点，最后有限开覆盖的每个覆盖都是有限个点，矛盾惹。
P118 T3:
证明不一致连续，只需要找到两组点列，它们的距离趋于$0$，但是函数值之差不趋于0。
我们不妨取${(x_k^1,y_k^1)} = {(1-\frac{1}{n},1-\frac{1}{n})}$,${(x_k^2,y_k^2)} = {(1-\frac{1}{2n},1-\frac{1}{2n})}$
P119 T6:
在单位球内，$f$有上下确界，$f(x) = |x|f(\frac{x}{|x|}) \in [a|x|,b|x|] $