Linear Algebra: Subspace Projection Matrix Example

假設已知某個次空間V

這是常用的次空間的記號

它是由R4中的兩個向量張成的空間

假設第一個向量是[1,0,0,1]

第二個向量是[0,1,0,1]

這是次空間V

我們知道這兩個向量就是一組基

它們是線性獨立的

這兩個向量是――

這個集合中的兩個向量是線性獨立的

它們是次空間的一組基 它們張成了次空間

它們是線性獨立的

這個向量的這個分量1

它不可能通過

這個向量的線性組合表出

而這個向量在這裡有分量1

它也不可能通過

這個向量的線性組合表出

所以說它們是線性獨立的

也可以稱之爲V的一組基

由此 我們看看是否可以求出

任意向量在這個次空間上的投影的

變換矩陣

假設x―― 我們在R4中考慮問題

假設x屬於R4

我要求出x在V中的投影的

變換矩陣

在上次課中

我們給出了求出它的一般方法

如果A是一個變換矩陣―― 抱歉

如果A是一個矩陣

它的行向量構成次空間的一組基

假設A=[1,0,0,1;0,1,0,1]'

從而A的行向量

就是次空間的一組基

於是x在V中的投影就等於――

這有些困難

你第一眼看到它時

就會感到頭疼

但這有一種固定的模式或者說方法――

它等於A乘以

中間是一些項

然後乘以A' 再乘以向量x

我的記憶方法是

中間的部分就是這兩個項的交換

即A'A

然後取它的逆

也許你在今後的五到十年中

都不會用到這個公式

你記不住也沒關係

但我還是希望你暫時把它記住

因爲這對於

處理投影方面的問題有幫助

如果我們要求出

關於這個變換的一般矩陣

我們只需要確定

這個矩陣等於多少

這只需做一些矩陣的運算

這是矩陣A

那麽A'是多少？

A'等於

所有的行變成列

就是說第一列變成第一行

於是有第一行是1,0,0,1

第二列變成第二行 即0,1,0,1

這就是A'

那麽A'A是多少？

爲了求出它

我要求出A'A是多少

我用A'乘以A

我再把A寫在這裡

即[1,0,0,1;0,1,0,1]’

這是一個關於

矩陣之間乘積的很好的練習

它等於多少？

首先 它是一個2×4矩陣

我將它乘以一個4×2矩陣

所以結果就是一個2×2矩陣

所以第一項就是

這一行與這一列的點積

就是1<i>1+0<i>0</i></i>

加上0<i>0+1<i>1</i></i>

所以這一項的

結果是2

然後取

這一項與這一項的點積

就是1<i>0 等於0</i>

加上0<i>1 它等於0</i>

加上0<i>0 它等於0</i>

加上1<i>1 等於1</i>

現在用這個向量點乘這個行向量

有0<i>1+0<i>0</i></i>

加上0<i>0+1<i>1 結果是1</i></i>

最後

用這一行點乘第二個行向量

第二行 第二列

有0<i>0+1<i>1+0<i>0</i></i></i>

加上1<i>1</i>

從而得1<i>1+1<i>1</i></i>

結果是2

結果等於2

這一項就是A'A

這還沒結束

我們需要求出

A'A的逆

這項是A'A

我們需要求出A'A的逆

它的逆是多少呢？

我寫在這

A'A的逆

等於多少？

它就是1除以這個矩陣的行列式

它的行列式是多少？

這是1除以它的行列式

行列式就是2<i>2，等於4</i>

減去1<i>1</i>

就是4-1 結果是3

於是有1除以行列式乘以這一項

其中我將這兩項調換 將1調換――

抱歉 應該將2調換

這個2調到這裡

而這個橘黃色的2調到這裡

然後對這些1取負值

這就變成了-1 這也變成了-1

我們學過

這就是2×2逆方陣的一般解

我在十多節課之前講過

你也可能在代數II中學過

現在已經知道了

我們得出了A'A的逆

也就是得到了這一項

這項就等於這個矩陣

我可以把1/3乘進去

但我不必這麽做

我們來求出這整個的矩陣

即矩陣A乘以這一項

即A'A的逆 再乘以A'

我這麽寫

從而x在次空間V中的投影

就等於A

即1,0,0,1―― 我寫得大一些

就是矩陣[1,0,0,1;0,1,0,1]'乘以A'A的逆

A乘以A'A的逆

就是這一項

我們把1/3放在外面

因爲它只是個純量

我把1/3放在前面 乘以這一項

這個A'A的逆

等於1/3乘以[2,-1;-1,2]

然後將它乘以A'

然後整個這項乘以向量x

A'在這

它是[1,0,0,1;0,1,0,1]

這個這一項再乘以向量x

前面的係數

是矩陣的乘積的形式

我們計算一下

首先我們計算這兩個矩陣相乘

我想沒有什麽簡單的方法

這是一個2×2矩陣 這是一個2×2矩陣

當將二者相乘的時候

得到的結果是一個2×4矩陣

我把這個2×4矩陣寫在這裡

我可以把這個矩陣寫在這

即[1,0,0,1;0,1,0,1]'

然後是源於A'A的逆的

係數1/3

我把這個純量放在前面

這個這個式子

等於x在V中的投影

我們來計算這個乘積

第一項等於

2<i>1加上-1<i>0</i></i>

結果就是2

然後有

2<i>0加上(-1)<i>1</i></i>

這等於-1

然後是2<i>0+(-1)<i>0</i></i>

結果是0

然後有

2<i>1加上(-1)<i>1</i></i>

就是2-1

就等於1

即2<i>1+(-1)<i>1</i></i>

很好

我們下面處理第二行

(-1)<i>1+2<i>0 結果就是-1</i></i>

這等於2

(-1)<i>0加上2<i>0</i></i>

結果是0

(-1)<i>1加上2<i>1</i></i>

就是-1+2 結果是1

都算出來了

最後再乘以x

這就是我們的變換

而這個是變換矩陣

我們還要進行計算

我希望沒有犯什麽錯誤

在計算乘積的時候不能夠犯錯

這有些小複雜

因爲這是4×2的矩陣乘以2×4的矩陣

得到的結果是一個4×4的矩陣

我需要留好足夠的空間

因爲結果將是一個

4×4的矩陣

我會得到什麽？

第一項是

1<i>2加上0<i>(-1)</i></i>

結果是2

下一項是 1乘以――

這一行乘以這一列

就得到第一項

因爲這裡消去了

從而1<i>2+0<i>(-1)=2</i></i>

1<i>(-1)+0<i>2等於-1</i></i>

1<i>0+0<i>0等於0</i></i>

當你取這一行

將它分別乘以這些列時

得到的分別是新矩陣的第一行元素

現在用這一行乘以這些列

這是個0

從而有

0乘以所有行向量的第一個分量

然後是1乘以所有第二個分量

從而0<i>2+1<i>(-1)=1</i></i>

0<i>(-1)+1<i>2等於2</i></i>

我們現在是在求第二行

得到2 0 1

這實際上是有意義的

因爲如果觀察矩陣的這個部分

它是2×2單位方陣

這是一個小提示

爲什們這兩個部分很相似

我們做的是

矩陣的乘積

將這項乘以――

我換一種顏色

用這一項乘以每一列

這一項乘以它等於0

因爲這一項就是0向量

從而得到的全是0

最後 對於最後一行

等於1乘以第一個分量

加上1乘以第二個分量

從而這就是2+(-1)=1

-1+2等於1

0+0等於0

1+1等於2

所有這些乘以x

就得到結果

這太令人激動了！

x在V中的投影等於

整個這個矩陣乘以x

就是這個式子

我可以把1/3乘進去

但這沒有必要

這只會使得形式更亂

這一項就是變換矩陣

正如你所見 既然我們在變換――

注意 這個V中的投影

它是一個從R4到R4的線性變換

若已知一個R4中的向量

通過變換就能得到另一個R4中的向量

它就是在次空間中的投影

這是一個4×4矩陣

就在這裡

希望你能從這個實例中

感受到它的用處

R4是一個抽象的空間

這與三維空間中的例子有所不同

我們處理的是一個更抽象的數據集

我們所求的是它的投影