RREF與線性獨立之間的關係

RREF與線性獨立之間的關係

如果我們現在有五個向量

$$v_{1}=\begin{bmatrix}1\\-2\\2\end{bmatrix},\;v_{2}=\begin{bmatrix}2\\-4\\4\end{bmatrix},\;v_{3}=\begin{bmatrix}0\\-2\\0\end{bmatrix},\;v_{4}=\begin{bmatrix}3\\0\\7\end{bmatrix},\;v_{5}=\begin{bmatrix}2\\2\\5\end{bmatrix}$$

我想要知道這五個向量是否為線性獨立，若不是，那是否意味著當中某一些向量，可以寫成其他向量的線性組合。


當我們問到「哪一些向量，可以寫成其他向量的線性組合？」關於這個問題，似乎會想到要分成五個問題來討論

  • 是否存在係數$x_{1},x_{2},x_{3},x_{4}$ 使得$v_{5}=v_{1}x_{1}+v_{2}x_{2}+v_{3}x_{3}+v_{4}x_{4}$，
  • 是否存在係數$y_{1},y_{2},y_{3},y_{5}$ 使得$v_{4}=v_{1}y_{1}+v_{2}y_{2}+v_{3}y_{3}+v_{5}y_{5}$，等等..


而每一個問題，好像都要做一次高斯消去法，才能夠得到解答。有沒有辦法簡化這個過程呢？


事實上，有的，我們不再考慮「向量$v_{1},\dots,v_{5}$ 當中，是否有向量可以寫成另外四個向量的線性組合」的問題，而是試著解決「向量$v_{1},\dots,v_{5}$ 當中是否有向量，可以寫成前面的向量的線性組合」，也就是

  1. 是否存在係數$x_{1},x_{2},x_{3},x_{4}$ 使得$v_{1}x_{1}+v_{2}x_{2}+v_{3}x_{3}+v_{4}x_{4}=v_{5}$，
  2. 是否存在係數$x_{1},x_{2},x_{3}$ 使得 $v_{1}x_{1}+v_{2}x_{2}+v_{3}x_{3}=v_{4}$
  3. 是否存在係數$x_{1},x_{2}$ 使得 $v_{1}x_{1}+v_{2}x_{2}=v_{3}$
  4. 是否存在係數$x_{1}$ 使得 $v_{1}x_{1}=v_{2}$

以下我們針對這4個問題詳細討論。

問題一

其中第一個問題，「是否存在係數$x_{1},x_{2},x_{3},x_{4}$ 使得$v_{1}x_{1}+v_{2}x_{2}+v_{3}x_{3}+v_{4}x_{4}=v_{5}$ 」，我們可以用高斯消去法來解增廣矩陣

$$\begin{bmatrix}1&2&0&3&|&2\\-2&-4&-2&0&|&2\\2&4&0&7&|&5\end{bmatrix}$$


我們將增廣矩陣

$$\begin{bmatrix}1 & 2 & 0 & 3 & \mid & 2 \\-2 & -4 & -2 & 0 & \mid & 2 \\2 & 4 & 0 & 7 & \mid & 5\end{bmatrix}$$

使用高斯消去法轉換為簡化列階梯形式（RREF）。

$$\begin{align}\tag{1}\begin{bmatrix}1 & 2 & 0 & 3 & \mid & 2 \\-2 & -4 & -2 & 0 & \mid & 2 \\2 & 4 & 0 & 7 & \mid & 5\end{bmatrix}&\to\begin{bmatrix}1 & 2 & 0 & 3 & \mid & 2 \\0 & 0 & -2 & 6 & \mid & 6 \\2 & 4 & 0 & 7 & \mid & 5\end{bmatrix}\to\begin{bmatrix}1 & 2 & 0 & 3 & \mid & 2 \\0 & 0 & -2 & 6 & \mid & 6 \\0 & 0 & 0 & 1 & \mid & 1\end{bmatrix}\\&\to\begin{bmatrix}1 & 2 & 0 & 3 & \mid & 2 \\0 & 0 & 1 & -3 & \mid & -3 \\0 & 0 & 0 & 1 & \mid & 1\end{bmatrix}\to\begin{bmatrix}1 & 2 & 0 & 0 & \mid & -1 \\0 & 0 & 1 & 0 & \mid & 0 \\0 & 0 & 0 & 1 & \mid & 1\end{bmatrix}\end{align}$$


所以推得

$$\begin{cases}x_{1}&+&2x_{2}&+&&+&&=&-1\\&&&&x_{3}&&&=&0\\&&&&&&x_{4}&=&1\end{cases}$$


因此$v_{5}$ 可以寫成$v_{1},v_{2},v_{3},v_{4}$ 的線性組合。我任選一個解，如下

$$(-1)\cdot\begin{bmatrix}1\\-2\\2\end{bmatrix}+0\cdot\begin{bmatrix}2\\-4\\4\end{bmatrix}+0\cdot\begin{bmatrix}0\\-2\\0\end{bmatrix}+1\cdot\begin{bmatrix}3\\0\\7\end{bmatrix}=\begin{bmatrix}2\\2\\5\end{bmatrix}$$


問題二

對於第二個問題，「是否存在係數$x_{1},x_{2},x_{3}$ 使得 $v_{1}x_{1}+v_{2}x_{2}+v_{3}x_{3}=v_{4}$」，我們一樣用高斯消去法來解以下增廣矩陣

$$\begin{bmatrix}1&2&0&|&3\\-2&-4&-2&|&0\\2&4&0&|&7\end{bmatrix}$$



使用高斯消去法轉換為簡化列階梯形式（RREF）：

$$\tag{2}\begin{align}\begin{bmatrix}1 & 2 & 0 & \mid & 3 \\-2 & -4 & -2 & \mid & 0 \\2 & 4 & 0 & \mid & 7\end{bmatrix}&\to\begin{bmatrix}1 & 2 & 0 & \mid & 3 \\0 & 0 & -2 & \mid & 6 \\2 & 4 & 0 & \mid & 7\end{bmatrix}\to\begin{bmatrix}1 & 2 & 0 & \mid & 3 \\0 & 0 & -2 & \mid & 6 \\0 & 0 & 0 & \mid & 1\end{bmatrix}\\&\to\begin{bmatrix}1 & 2 & 0 & \mid & 0 \\0 & 0 & -2 & \mid & 0 \\0 & 0 & 0 & \mid & 1\end{bmatrix}\to\begin{bmatrix}1 & 2 & 0 & \mid & 0 \\0 & 0 & 1 & \mid & 0 \\0 & 0 & 0 & \mid & 1\end{bmatrix}\end{align}$$





所以

$$\begin{cases}x_{1}&+&2x_{2}&&&=&0\\&&&&x_{3}&=&0\\0&+&0&+&0&=&1\end{cases}$$


代表該線性方程組無解，所以$v_4$ 不能寫成$v_{1},v_{2},v_{3}$ 的線性組合。


問題三

對於第三個問題，「是否存在係數$x_{1},x_{2}$ 使得 $v_{1}x_{1}+v_{2}x_{2}=v_{3}$」，我們一樣用高斯消去法來解以下增廣矩陣

$$\begin{bmatrix}1&2&|&0\\-2&-4&|&-2\\2&4&|&0\end{bmatrix}$$



使用高斯消去法轉換為簡化列階梯形式（RREF）：

$$\begin{align}\tag{3}\begin{bmatrix}1 & 2 & \mid & 0 \\-2 & -4 & \mid & -2 \\2 & 4 & \mid &0\end{bmatrix}&\to\begin{bmatrix}1 & 2 & \mid & 0 \\0 & 0 & \mid & -2 \\2 & 4 & \mid &0\end{bmatrix}\to\begin{bmatrix}1 & 2 & \mid & 0 \\0 & 0 & \mid & -2 \\0 & 0 & \mid &0\end{bmatrix}\to\begin{bmatrix}1 & 2 & \mid & 0 \\0 & 0 & \mid & 1 \\0 & 0 & \mid &0\end{bmatrix}\end{align}$$



所以

$$\begin{cases}x_{1}&+&2x_{2}&=&0\\0&+&0&=&1\\0&+&0&=&0\end{cases}$$



代表該線性方程組無解，所以$v_3$ 不能寫成$v_{1},v_{2}$ 的線性組合。



問題四

對於第四個問題，「是否存在係數$x_{1}$ 使得 $v_{1}x_{1}=v_{2}$」，我們一樣用高斯消去法來解以下增廣矩陣：

$$\begin{bmatrix}1&|&2\\-2&|&-4\\2&|&4\end{bmatrix}$$


使用高斯消去法轉換為簡化列階梯形式（RREF）：

$$\begin{align}\tag{4}\begin{bmatrix}1 & \mid & 2 \\-2 & \mid & -4 \\2 & \mid & 4\end{bmatrix}&\to\begin{bmatrix}1 & \mid & 2 \\0 & \mid & 0 \\2 & \mid & 4\end{bmatrix}\to\begin{bmatrix}1 & \mid & 2 \\0 & \mid & 0 \\0 & \mid & 0\end{bmatrix}\end{align}$$


所以

$$x_{1}=2$$

因此$v_{2}$可以寫成$v_{1}$ 的線性組合，例如

$$2\cdot\begin{bmatrix}1\\-2\\2\end{bmatrix}=\begin{bmatrix}2\\-4\\4\end{bmatrix}$$



結論

從以上繁瑣的推導過程，我們得出「$v_{2}$可以寫成$v_{1}$ 的線性組合」，以及「$v_{5}$ 可以寫成$v_{1},v_{2},v_{3},v_{4}$ 的線性組合」。


如果我們仔細觀察我們每一次的高斯消去法，會發現其實根本在做一樣的事情，也就是說，我們其實只需要做第一次，並且得出

$$\begin{align}\tag{5}\begin{bmatrix}1 & 2 & 0 & 3 & \mid & 2 \\-2 & -4 & -2 & 0 & \mid & 2 \\2 & 4 & 0 & 7 & \mid & 5\end{bmatrix}&\to\begin{bmatrix}1 & 2 & 0 & 0 & \mid & -1 \\0 & 0 & 1 & 0 & \mid & 0 \\0 & 0 & 0 & 1 & \mid & 1\end{bmatrix}\end{align}$$


就足夠。而剩下的「該向量是否能夠寫成前面向量的線性組合」這種問題，只需看第5 式的最簡列梯形便能看出來。


如果我們仔細觀察那些能夠寫成前面向量的線性組合的向量（以現在的討論為例，是$v_{2},v_{5}$）與最簡列梯形之間的關係，我們會發現，那些能夠寫成前面向量的線性組合的向量，都不是在pivot column。


而事實上，不只是這個例子而已，無論幾維，無論幾個的column vector，都一樣，「只有那些不是在pivot column的column vector 能夠寫成前面的column vector的線性組合」


以下這個定理出自於線性代數課本，由S. Friedberg, A. Insel,  L.Spence所寫的Linear algebra的定理3.16。這個定理闡述了RREF與原本矩陣的關係，說明了如何從RREF，看出原本矩陣哪一些column是線性獨立的。

Theorem 3.16 (Linear Algebra, written by S. Friedberg, A. Insel,  L.Spence, in 2018 )

Let $A$ be an $m\times n$ matrix of rank $r$, where $r>0$, and let $B$ be the reduced row echelon form of $A$. Then
1. The number of nonzero rows in $B$ is $r$
2. For each $i = 1,2,\dots, r$, there is a column $b_{j_{i}}$ of $B$ such that $b_{j_{i}}=e_i$.
3. For each $k=1,2,\dots,n$, if column $k$ of $B$ is $d_{1}e_{1}+d_{2}e_{2}+\cdots+d_{r}e_{r}$, then column $k$ of $A$ is $d_{1}a_{j_{i}}+d_{2}a_{j_{2}}+\cdots+ d_{r}a_{j_{r}}$.

參考文獻

  • https://hackmd.io/@shaoeChen/ryPMqYwGL
  • Linear Algebra, written by S. Friedberg, A. Insel,  L.Spence, in 2018

留言

張貼留言

這個網誌中的熱門文章

淺談線性轉換

粗略的說， 線性變換（linear transform） ，是指一個從一個向量空間到另一個向量空間（或同一向量空間）的映射，該映射保持向量的加法和數量乘法運算。 具體而言，令 $V$ 和 $W$ 是兩個向量空間，則一個 線性變換  $T: V \to W$ ，是一個從$V$ 到$W$ 的函數，並且滿足以下兩個條件： 對於所有的 $u, v \in V$，有 $T(u + v) = T(u) + T(v)$ 對於所有的 $v \in V$ 和純量 $\alpha \in \mathbb{R}$， $$T(\alpha v) = \alpha T(v)。$$ What does a linear transformation look like? 高中的時候我們怎麼描述一個函數嗎？高中時，我們最常面對的是 實數函數 ，更仔細地說，是 從實數映射到實數 的函數。在那個時候，我們通常這麼說：「我們定義函數$f$，為$f(x)=2x+4$」。我們仔細去體會這句話，$f$ 是函數的名字，而「$f(x)=2x+4$」 是定義函數的方法。有了這個定義，我們就能夠任意地將數子填入$x$的欄位，來表達。我們會用$f(2)$ 來 表達 「對這個函數輸入$2$時的輸出」，我們會用「$2\times 2+4$」 來 計算 「輸入$2$ 時的函數值」。這一切，同樣會繼承到我們在今天面對線性轉換的時刻。 回顧那些常見的向量空間，有column vector space、polynomial space、matrix space等等，線性轉換可以在不同的向量空間之中做轉換，例如說，從$\mathbb{R}^2$ 到$\mathbb{R}^2$的轉換、從$\mathbb{R}^3$ 到$P_{3}$ 的轉換，或是說從$M_{2\times 3}(\mathbb{R})$ 到$\mathbb{R} ^4$ 的轉換。以下一一舉例。 從$\mathbb{R}^2$ 到$\mathbb{R}^2$的轉換 我們定義線性轉換$T_1 :\mathbb{R}^2\to \mathbb{R}^2$ $$T_1\left(\begin{bmatrix}a_{1}\\a_{2}\end{bmatrix}\right)=\begin{bmatrix}a_{1}+a_{2}\\a_{2}\end{bmatrix}$...
閱讀完整內容

如何表示向量

圖片
 第一次接觸向量是在高中，那時接觸到的是平面向量，也就是$\mathbb{R}^2$ 向量。那個時候我們被教說：「向量就是有方向有長度的箭頭。我們把箭頭的根部移到原點，看看箭頭的頂點位於哪個座標，就用該座標來代表該向量。」 以至於說，除了用箭頭代表向量，也同時會用數對$(x_{1},y_{1})$ 代表。 用數對代表向量是一個好方法。畢竟若是用箭頭來作為代表向量的主要方式，無論是在運算上，溝通上，寫作上，一定都相當不方便。 現在我們長大了，大學了，學到了抽象向量，知道向量不再只是箭頭，向量也可能是多項式、矩陣、函數、數列等等。然而，我們還是希望能夠像在高中時，用數對來表達那些醜陋的向量。所以我們以下我們要開始介紹究竟用數對表達向量的精神是什麼？以及我們該如何延續這個精神！ The representation of vector 當我們要幫一個向量取名字，我們需要一點依據。比方說，當我們想幫 取一個名字，很自然的會想要取$(3,2)$，因為這個向量就是從原點指到$(3,2)$ 嘛，就這麼簡單！但事實上，其實我們有隱藏了兩個 基本向量 在這個情境之中。 如圖所示，紅色的與藍色的。而原先的向量是三個紅色向量加兩個藍色向量，所以我們稱黑色向量為$(3,2)$。 但如果今天心血來潮，你說：「這個基本向量爛透了，我不喜歡！我要換一個！」，可不可以？可以！我們現在換換看。 如上圖，我們令上圖的紅色向量與藍色向量為新的基本向量。如此一來，原本的黑色向量還會是3個紅色向量加2個藍色向量嗎？當然不會。 所以問題來了！原本的那個黑色箭頭，是多少個新紅色箭頭，加多少的新藍色箭頭？我們看下圖。 由於原本那個黑色的向量是2個新紅色向量加3個新藍色向量，所以我們會說：「在這個基本向量的設定之下，黑色向量的表示法為$(2,3)$」 由前面的討論，我們觀察出一件重要的事情：「**不同基本向量的設定，會讓同樣的向量，有不同的表示方法。**」 例子 我們以$\mathbb{R}^3$ 向量為例，如果我令$v=\begin{bmatrix}2\\-1\\3\end{bmatrix}$，我設定基本向量為 $$\beta=\left\{ \begin{bmatrix}1\\0\\0\end{bmatrix},\begin{bmatrix}0\\1\\0\end{bmatrix},\begin{bma...
閱讀完整內容