レッスン 13 内積

再履修線形代数―分解定理を主軸に整理整頓
レッスン 13 内積
レッスン 13
内積
このレッスンでは複素ベクトル空間上の内積について学ぶ。その重要例である C
n×1
上の
b とこれから派生する 2 -ノルム a = a*a はこれまでにたびたび出てきている。内積
*
内積 a
の定義されたベクトル空間を「内積空間」という。内積の話しは実内積空間から出発するこ
とも可能だが、固有値問題との関連から、最初から複素内積空間という全体設定で出発する
方がかえって便利である。このレッスンにおける代表的話題は「内積の一般的定義とその行
列表現」
「直交性」
「グラム・シュミット直交化法」
「直交基底」
「直交補空間」
「コーシー・シ
ュワルツ不等式」「三角不等式」「平行四辺形の法則」である。また腕試し問題において、内
積空間とは平行四辺形の法則が成り立つノルム空間に他ならないことを学ぶ。
13.1 内積の公理
複素ベクトル空間 X 内のベクトル x, y の複素関数 ( x, y ) が次の性質を満たすとき、こ
れを X 上の内積 inner product という:
(1)
(x, α y + β z ) = α (x, y ) + β (x, z ) ( x, y, z ∈ X , α , β は任意複素数)
(2)
(x, y ) = (y, x)
(3)
(x, x) ≥ 0; (x, x) = 0 ↔ x = 0
(1)(2)より、
(4)
(α x + β y, z ) = α (x, z ) + β (y, z )
も成り立つ。また、(1)において α
= β = 0 と置けば、
(5) 任意の x ∈ X に対して ( x, 0) = 0
が出る。そして、 (x, x) ≡ x を x の 2 -ノルム norm(このレッスンでは単にノルム)と
いう。内積の定義された(複素)ベクトル空間を内積空間 inner product space、ときにユニ
タリ空間 unitary space、という。
(注意) (1)の代わりに ( x, α y + β z ) = α ( x, y ) + β ( x, z ) の採用されることが多い。ここで
は便宜上(1)の形を選ぶ。
内積空間 X 内のベクトル x, y が ( x, y ) = 0 を満たすとき、 x ⊥ y と書き(“ x perp
y”
と読む)
、 x と y は直交するまたは垂直である orthogonal or perpendicular という。また
x = 1 なら x は単位長さをもつ of unit length または正規化されている normalized という。
Copyright 再履修線形代数研究会
1
再履修線形代数―分解定理を主軸に整理整頓
x = [ x1
例1
xn ] , y = [ y1
すれば、これは C
yn ] ∈ Cn×1 に対して (x, y ) = x*y = x1 y1 +
T
n×1
レッスン 13 内積
T
上の内積を表す。 n = 2 、 x =
+ xn yn と定義
1 ⎡1⎤
1 ⎡1 ⎤ 2
⎢i ⎥ , y =
⎢ ⎥ (i = −1) とすれ
2⎣ ⎦
2 ⎣ −i ⎦
。■
ば、 x, y は直交している。また x, y はどちらも単位長さをもつ(=正規化されている)
例 2
n を自然数、 X を閉区間 [0,1] 上で定義された高々 n 次複素係数多項式全体の集合、
1
( f , g ) = ∫ f ( z )g ( z )dz ( f , g ∈ X )とすれば、 ( f , g ) は X 上の内積を表す。■
0
13.2
正定値行列
本節は次節への準備である。固有値がすべて正であるようなエルミート行列を正定値行
列 positive-definite matrix という。従って、正定値行列は逆行列をもつ。
いま、 P = ⎡⎣ pij ⎤⎦ ∈ C
n×n
をエルミート行列とすれば、つぎの(1)(2)(3)は同値である:
(1) (正定値性の定義) P の固有値はすべて正
(2)
任意の 0 ≠ x ∈ C
(3)
P はコレスキー分解 Cholesky decomposition 可能である、すなわち、 P = LL* 型分解
n×1
に対して x
*
Px > 0
が可能である。ここに、 L = ⎡⎣lij ⎤⎦ , lij
証明
= 0 (i < j ), lii > 0 は下三角行列を表す。
, λn }V* とすれば、 λ1 ,
(1)⇔(2): P のシュール分解を P = Vdiag{λ1 ,
を表す。 V
*
x ≡ [ y1
, λn は実数
yn ] ≡ y とおけば、 x ≠ 0 ↔ y ≠ 0 ゆえ、
T
x*Px = x*Vdiag{λ1 ,
, λn }V*x = y*diag{λ1 ,
, λn }y = λ1 y1 +
2
+ λn yn
2
これより、(1)→(2)が出る。逆に、(2)が真なら、 y = ei (第 i 単位ベクトル)とおいて
λi > 0, i = 1, , n が出る。従って(2)→(1)も真である。
(2)→(3): P の LDU 分解 LDU = P = P
L, D ≡ diag{d1 ,
*
= U*D*L* を考える。ここに
, d n }, U は単位下三角行列、対角行列、単位上三角行列を表す(レッス
−1
, n 。また、LDU 分解の一意性より、 L = U* が
ン 4)
。 P が存在するから、 di ≠ 0, i = 1,
−1
従う(レッスン 4、4.6 節)
。また、 U が存在するから、 x ≠ 0 ↔ z ≡ Ux ≠ 0 。ゆえに、
(2)が真なら、 0 < x Px = x LDUx = x U DUx = z Dz = d1 z1 +
*
*
z = ei とおけば、di > 0, i = 1,
*
*
*
, n が出る。そこで、Ldiag{ d1 ,
Copyright 再履修線形代数研究会
2
+ d n zn 。ここで
2
, d n } ≡ L1 とおけば、
2
レッスン 13 内積
再履修線形代数―分解定理を主軸に整理整頓
L1L1* = P かつ L1 の対角成分は d1 ,
, d n だから(3)が出る。「(3)→(2) 」は明らか。■
A ∈ Cn×n を可逆行列とすれば、任意の x ≠ 0 に対して、0 < ( Ax)* ( Ax) = x* ( A* A)x
例1
*
*
かつ A A はエルミート行列ゆえ、 A A は正定値行列を表す。■
13.3
内積の行列表現
この節では一般の内積は C
n×1
上の内積して表現できることを示す: {a1 ,
, a n } を与え
られた n 次元内積空間 X の基底とし、任意ベクトル x, y ∈ X をこの基底によって展開した
ものを
x = [a1
(1)
a n ] x ' 、 y = [a1
a n ] y ' ( x ', y ' ∈ Cn×1 )
とすれば、
(x, y ) = (x ')* Py '
(2)
の形に表現できる。ここに、グラム行列 Gramian matrix
⎡ p11
⎢
(3) P =
⎢
⎢⎣ pn1
p1n ⎤
⎥ , p = (a , a ), i, j = 1,
i
j
⎥ ij
pnn ⎥⎦
は正定値行列を表し、(2)の右辺は C
証明
[
(2)は x = a1
n×1
,n
上の内積を表す。
a n ] x ' 、 y = [a1
a n ] y ' を (x, y ) に代入すれば出る。 P の正定値
性を示す。実際、 p ji = (a j , ai ) = (ai , a j ) = pij ゆえ、エルミート性 P = P は満たされてい
*
る 。 つ ぎ に 任 意 の
0 ≠ x ' ∈ Cn×1 に 対 し て 、 x = [a1
an ] x ' ≠ 0 を と れ ば 、
0 < (x, x) = (x ')* Px ' 。前節の結果によりこれは P の正定値性を意味する。また、
(x ')* Py ' ≡ (x ', y ') は Cn×1 上の内積を表す(検算は練習問題)。■
A ∈ Cn×n を可逆行列とすれば、 A* A は正定値行列を表す(前節例 1)。ゆえに、
(x, y ) = x* A* Ay は Cn×1 上の内積を表す。■
例1
13.4
正規直交系に関する補題
内積空間 X 内のベクトルの集合 {q1 ,
, q k } が、(qi , q j ) = δ ij , i, j = 1,
, k を満たすと
き、この集合は正規直交系 orthonormal system をなすといい、異なる番号のベクトルが単
に直交していれば、直交系 orthogonal system をなすという。 q を任意の単位長さのベクト
Copyright 再履修線形代数研究会
3
レッスン 13 内積
再履修線形代数―分解定理を主軸に整理整頓
ル 、 x ∈ X を 与 え ら れ た 任 意 ベ ク ト ル と す れ ば 、 q(q, x) を x の q 方 向 へ の 成 分 the
component along q という。これは便利ないい方である。
[
q k ] ∈ Cn×k の列 {q1 ,
例 1 Q Q = I k を満たす Q = q1
*
, q k } は (qi , q j ) = qi*q j = δ ij を
満たすから、通常の内積に関して正規直交系をなしている。■
次の簡単な補題は次節でのべるグラム・シュミット法の重要部分を担う。
{q1 , , q k } を内積空間 X 内の正規直交系、 x ∈ X とすれば、
x − c1q1 − − ck q k ⊥ q1 , , q k ↔ c1 = (q1 , x), , ck = (q k , x)
いいかえると、 x からその q1 , , q k 成分をすべて引き去ったものは、各 q i に直交し、
x − c1q1 − − ck q k 型ベクトルのうち、各 q i に直交するものはこれしかない。
補題
(qi , q j ) = δ ij を利用すれば簡単に出る。
証明
(→)
k
− ck q k ) = (qi , x) − ∑ c j (q i , q j ) =(qi , x) − ci , i = 1,
0 = (qi , x − c1q1 −
(←)
,k
j =1
(qi , x − q1 (q1 , x) −
− q k (q k , x)) = 0, i = 1,
(注意) この補題は、 Q Q = I k を満たす Q ∈ C
*
n× k
, k を検算すればよい。■
と任意の x ∈ C
n×1
に対して成り立つ関
係「 Q ( x − Qc) = 0 ↔ c = Q x 」の拡張になっている。
*
*
{q1 , , q n } を n 次元内積空間 X の正規直交基底とすれば、任意の x ∈ X はこの基底に
より x = q1 (q1 , x) + + q n (q n , x) の形に展開できる。
系
13.5
グラム・シュミット法
次にのべるグラム・シュミット法は「内積空間内の任意の部分空間( ≠ {0} )は正規直
交基底をもつ」
「内積空間内の部分空間の正規直交系は親空間の正規直交基底に拡張できる」
という事実の証明として有名であるが、QR 分解の一法としてもよく知られている。
グラム・シュミット(直交化)法 Gram-Schmidt process とは、 n 次元内積空間 X 内
の与えられた一次独立なベクトルの組 {a1 ,
[
(1) A ≡ a1
a k ] = [q1
⎡ r11 r12
⎢ r
22
qk ] ⎢
⎢
⎢
⎣0
, a k } ( k ≤ n )に対して、
r1k ⎤
r2 k ⎥⎥
≡ QR (行列形式による表現)
⎥
⎥
rkk ⎦
すなわち、
(2)
a j = q1r1 j + q 2 r2 j +
+ q j rjj , j = 1,
を満たすような正規直交系 {q1 ,
Copyright 再履修線形代数研究会
,k
, q k } とスカラー r11 , r12 ,
(ただし、 rii > 0, i = 1,
,k )
4
再履修線形代数―分解定理を主軸に整理整頓
レッスン 13 内積
を定める次の算法をいう(実際には、改良グラム・シュミット法 modified Gram-Schmidt
process)
:
j = 1 とし以下(I) – (IV)を実行する:
(I)
(qi , a j − q1r1 j −
− qi −1ri −1, j ) = ri , j , i = 1,
, j −1
( (q1 , a j ) = r1 j , (q 2 , a j − q1r1 j ) = r2 j , (q 3 , a j − q1r1 j − q 2 r2 j ) = r3 j ,
(II)
rj , j = a j − q1r1 j −
(III) q j = (a j − q1r1 j −
この時点において {q1 ,
(†)
⎡⎣a1
a j ⎤⎦ = ⎡⎣q1
)
− q j −1rj −1, j
− q j −1rj −1, j ) / rj , j
, q j } は正規直交系をなし、 ri ,i > 0 (i = 1,
⎡ r11 r12
⎢
r22
q j ⎤⎦ ⎢⎢
⎢
⎢⎣0
, j ) 、そして
r1, j ⎤
⎥
r2, j ⎥
⎥
⎥
rj , j ⎥⎦
が成立している。
(IV)
j < k なら、 j + 1 → j とし、(I)に戻る。 j = k なら停止する。
(注意)(I)式左辺は q i と a j からその q1 ,
こに、 (q i , q1 ) =
, qi −1 成分を引き去ったものとの内積を表す。こ
(qi , qi −1 ) = 0 ゆえ、(I)を (qi , a j ) = ri , j と書いても正しい。実際、これは
通常のグラム・シュミット法における ri , j の計算式である。あえて(I)の形を選ぶのが誤差解
析上の工夫であり、改良グラム・シュミット法の特徴である。また、(1)は
span{a1 ,
, a j } = span{q1 ,
, q j }, j = 1,
,k
を意味することに注意。グラム・シュミット法は(1)の形で記憶すると忘れない。(注意終)
(I) - (IV)について追加説明する。(2)式において j = 1 とすれば、 a1 = q1r11 。ノルムをと
ると、 {a1 ,
, a k } の一次独立性により、 0 < a1 = r11 が出る。 r11 が知られたので、 q1 は
q1 = a1 / r11 より定まる。そしてこの時点において (†) は確か成立している。以上が j = 1 の
j + 1 → j とし( j = 2 となる)、この値に対応する(2)式:
a 2 = q1r12 + q 2 r22 を 考 え る 。 {q1 , q 2 } は 正 規 直 交 系 を な す よ う に 要 請 し て い る か ら 、
場合の(I) - (III) に他ならない。
Copyright 再履修線形代数研究会
5
再履修線形代数―分解定理を主軸に整理整頓
レッスン 13 内積
(q1 , a 2 ) = r12 が得られる。つぎに、 a 2 − q1r12 = q 2 r22 のノルムをとると、左辺は、これまで
の計算から、 a 2 + ca1 型の一次結合ゆえ、 ≠ 0 である。以上から、
0 < a 2 − q1r12 = r22 。これより、 q 2 = (a 2 − q1r12 ) / r22 となる。そしてこの時点において
⎡r r ⎤
(†) [a1 a 2 ] = [q1 q 2 ] ⎢ 11 12 ⎥ は確かに成立し、 r11 , r22 > 0 ゆえ、
⎣0 r22 ⎦
−1
⎡r r ⎤
[a1 a2 ] ⎢ 11 12 ⎥ = [q1 q 2 ] も真である。ゆえに、q1 , q 2 はそれぞれ、a1 , a2 の一次結合とし
⎣ 0 r22 ⎦
て表現できる。以上は
j = 2 の場合の(I) - (III) を表す。 j + 1 → j とする( j = 3 となる)。
以下同様に進行する。ただ、以上の説明はグラム・シュミット法が示様通りの結果を生むこ
との証明にはなっていない。証明は前節の補題を利用すれば出るのだが、その詳細は練習問
題として残しておく。
系 1 内積空間の部分空間は正規直交基底をもつ。
証明
内積空間の任意基底をグラム・シュミット法で正規直交化すればよい。■
系2
内積空間の部分空間内の正規直交系は親空間の正規直交基底に拡張できる。
証明
与えられた正規直交系を親空間の基底に拡張したのち、グラム・シュミット法で正規
直交化すればよい。正規直交系 {a1 ,
r11 ,
, rkk > 0 がものをいって、r11 =
, a k } にグラム・シュミット法を適用すると、条件
= rkk = 1 、q1 = a1 , , q k = a k が成立し、{a1 , , a k }
は保存される。■
⎡1 ⎤
⎡1 ⎤
⎡0 ⎤
⎢
⎥
⎢
⎥
⎢ ⎥
例 1 {a1 = 1 , a 2 = 0 , a3 = 1 } にグラム・シュミット法を適用せよ。ここに内積は通常
⎢ ⎥
⎢ ⎥
⎢ ⎥
⎢⎣ 0 ⎥⎦
⎢⎣1 ⎥⎦
⎢⎣1 ⎥⎦
[
]
のもの (a, b) = a b とする。 det a1 a 2 a 3 = −2 ゆえ、 {a1 , a 2 , a3 } は一次独立である。
*
⎡1 ⎤
1 ⎢ ⎥
解 r11 = a1 = 2 、 q1 = a1 / r11 =
1
2⎢ ⎥
⎢⎣ 0 ⎥⎦
⎡1 ⎤
⎡1 ⎤
⎡1 ⎤
⎡1 ⎤
1
1
1 ⎢ ⎥ 1
1⎢ ⎥
⎢
⎥
⎢
⎥
r12 = (q1 , a 2 ) =
[1 1 0] ⎢0 ⎥ = 、 a 2 − q1r12 = ⎢0⎥ − ⎢1 ⎥ = ⎢ −1⎥
2
2
2
2 2
⎢⎣1 ⎥⎦
⎢⎣1 ⎥⎦
⎢⎣0 ⎥⎦
⎢⎣ 2 ⎥⎦
Copyright 再履修線形代数研究会
6
再履修線形代数―分解定理を主軸に整理整頓
r22 = a 2 − q1r12
レッスン 13 内積
⎡1 ⎤
6
1 ⎢ ⎥
、 q 2 = (a 2 − q1r12 ) / r22 =
=
−1
2
6⎢ ⎥
⎢⎣ 2 ⎥⎦
⎡ −1⎤
1
1
2⎢ ⎥
r13 = (q1 , a3 ) =
、 r23 = (q 2 , a3 − q1r13 ) =
、 a3 − q1r13 − q 2 r23 =
1 、
3⎢ ⎥
2
6
⎢⎣1 ⎥⎦
r33 = a3 − q1r13 − q 2 r23
⎡ −1⎤
2
1 ⎢ ⎥
=
、 q 3 = (a3 − q1r13 − q 2 r23 ) / r33 =
1 。
3
3⎢ ⎥
⎢⎣1 ⎥⎦
念のため、(1)式を検算せよ。■
13.6 直交補空間
いま X を n 次元内積空間とし、S を任意の(空でない)部分集合とする。x ∈ X が S 内
のすべてのベクトルに直交するとき、 x は S に直交するといい、 x ⊥ S (”x perp S”と読む)
と書く。 S に直交するベクトル全体を S の直交補空間 orthogonal complement といい、記
⊥
⊥
号 S ( ”S perp”と読む)で表す。ゆえに、 x ∈ S ↔ x ⊥ S 。内積の公理より「任意の
x, y ∈ S ⊥ 、任意のスカラー α , β に対して α x + β y ∈ S ⊥ 」は真であるからから、たとえ S が
⊥
部分空間でなくても「 S は必ず部分空間である」。
例1
X = Cn×1 、 (x, y ) = x*y (x, y ∈ Cn×1 ) 、 S = {a} ( a ∈ Cn×1 は与えられた特定のベクト
⊥
ル)なら、 S は a
*
x = 0 を満たすすべてのベクトル x ∈ Cn×1 によって与えられる。■
{0}⊥ = X ■
⊥
例 3 X = {0} 「 X の任意かつ特定の基底に直交するベクトルは 0 しかない」ことをいえ
ばよい。実際、 {a1 , , a n } を X の基底、 x = x1a1 + + xn a n 、 (ai , x) = 0 (i = 1, , n) と
例2
[
すれば、 P x1
xn ] = 0 、ここに P = ⎡⎣(ai , a j ) ⎤⎦ はグラム行列を表す。これより x = 0 。■
T
X を n 次元内積空間とする。次の命題は真である:
(I) S を部分空間、 0 ≤ dim S ≡ k ≤ n 、 S の正規直交基底 {q1 , , q k } を一組とり(前節の
結果により可能)
、これを X 全体の正規直交基底に拡張したものを {q1 , , q k , q k +1 , , q n }
すれば(前節の結果により可能)、S = span{q1 ,
, q k } 、S ⊥ = span{q k +1 ,
, q n } 。ただし、
span{φ} = {0} と規約する。
(II) 任意の部分空間 S , T に対して次の関係が成り立つ:
S ⊥⊥ = S 、 ( S + T ) ⊥ = S ⊥ ∩ T ⊥ 、 ( S ∩ T ) ⊥ = S ⊥ + T ⊥
Copyright 再履修線形代数研究会
(
S
∩
T
)
⊥
=
S
⊥
+
T
⊥
7
レッスン 13 内積
再履修線形代数―分解定理を主軸に整理整頓
証明
k = 0, n なら,主張(I)は例 2、例 3 によって真である。そこで 0 < k < n とする。
(I)
前半の主張は明らかだから、 S
{q1 ,
⊥
= span{q k +1 ,
, q n } で展開し、 x = c1q1 +
x ∈ S ⊥ ↔ (qi , x) = 0, i = 1,
(II) 「 S
⊥⊥
, q n } のみを示す。任意の x ∈ X を
+ cn q n と書けば、
, k ↔ ci = 0, i = 1,
, k ↔ x ∈ span{q k +1 ,
, qn } ■
= S 」は(I)より明らか。「 ( S + T ) ⊥ = S ⊥ ∩ T ⊥ 」を示す。 S ∩ T の基底を
a
a
γ
a
β
{ai }i=
1 とし、これを S , T の基底 {a i }i =1 ∪ {b j } j =1 、 {a i }i =1 ∪ {c k }k =1 に拡張する。すると、
{ai }ia=1 ∪ {b j }βj =1 ∪ {c k }γk =1 は S + T の基底を表す。ゆえに
x ∈ ( S + T ) ⊥ ↔ x ⊥ {ai } ∪ {b j } ∪ {c k } ↔ ( x ⊥ S かつ x ⊥ T ) → x ∈ S ⊥ ∩ T ⊥ 。
⊥
⊥
⊥
「 ( S ∩ T ) = S + T 」は証明済みの事実より簡単に出る。■
, b ∈ Cm×1 に対して行列方程式 Ax = b (x ∈ Cn×1 ) が可解である
*
m×1
*
ための必要十分条件は y A = 0 を満たすすべての y ∈ C に対して y b = 0 である、いい換
* ⊥
*
*
えると、 R ( A ) = N ( A ) 、である。ここに R ( A) は A の値域、 N ( A ) は A の零空間を表
系 1
与えられた A ∈ C
m×n
す。
S = R( A) に S ⊥⊥ = S を適用すればよい。ここに Cm×1 上の内積は通常のものを取る。
⊥⊥
⊥
実際、「 Ax = b は可解である」 ↔ b ∈ R ( A ) ↔ b ∈ R ( A ) ↔ b ⊥ R ( A )
↔ 「すべての y ∈ R( A) ⊥ に対して y *b = 0 」(*)。ところが、
y ∈ R( A) ⊥ ↔ y ⊥ R( A) ↔ 「すべての x ∈ Cn×1 に対して y * Ax = 0 」 ↔ y * A = 0 。ゆえ
*
*
* ⊥
に(*)は「 y A = 0 なら y b = 0 」と同値である(前半の証了)。これは b ∈ N ( A ) と同値
証明
である。■
(注意)系 1 は同値分解からも得られる結果である(レッスン 5 参照)
。
系2
* ⊥
(a) R ( AA ) = R ( A) = N ( A )
*
(b) rank ( AA ) = rank ( A ) = rank ( A ) = rank ( A A )
*
証明
*
*
(a) 後半の相等関係は系 1 で証明済みである。 R ( AA ) = R ( A ) を示す。実際、
*
b ∈ R( AA* ) ↔ 「 AA*x = b が可解」 ↔ 「 y * AA* = 0 なら y *b = 0 」 (†) ところが、
y * AA* = 0 → y * AA*y = 0 → (y * A)(y * A)* = 0 → y * A = 0 となり、この逆は明らかに真
*
*
*
*
だから、結局、 y AA = 0 ↔ y A = 0 となる。ゆえに条件 (†) は「 y A = 0 ならかならず
y *b = 0 」と同値である。これは系 1 により b ∈ R( A) と同値である。
(b) 「 rank ( A ) = dim R ( A ) = dim R ( AA ), rank ( A) = rank ( A ) 」より出る。■
*
*
(注意)系 2 もレッスン 5 で得られている。
⎡1⎤
⎣i ⎦
⎡1⎤
[
⎣i ⎦
]
⎡1⎤
⎣i ⎦
例 2 A = ⎢ ⎥ に系 1 を適用してみる。まず、 R ( A ) = {⎢ ⎥ z : z ∈ C} = {z ⎢ ⎥ : z ∈C} 。
Copyright 再履修線形代数研究会
8
再履修線形代数―分解定理を主軸に整理整頓
[
]
レッスン 13 内積
⎡ y1 ⎤
⎡ y1 ⎤
⎡i ⎤
: [1 − i ] ⎢ ⎥ = 0} = { y ⎢ ⎥ : y ∈ C} 。ゆえに
⎥
⎣1⎦
⎣ y2 ⎦
⎣ y2 ⎦
つぎに、 A = 1 − i ゆえ、 N ( A ) = {⎢
*
*
⎡ z1 ⎤
⎡ z1 ⎤
⎡1⎤
N ( A* ) ⊥ = {⎢ ⎥ : [ −i 1] ⎢ ⎥ = 0} = {z ⎢ ⎥ : z ∈ C} = R ( A) 。つぎに系 2 を適用してみる。
⎣i ⎦
⎣ z2 ⎦
⎣ z2 ⎦
⎡ z1 ⎤ ⎡1 − i ⎤ ⎡ z1 ⎤
⎡1⎤
= ( z1 − iz2 ) ⎢ ⎥ ( z1 , z2 ∈ C) 。これより R ( AA* ) = R( A) が従う。
AA* ⎢ ⎥ = ⎢
⎢
⎥
⎥
⎣i ⎦
⎣ z2 ⎦ ⎣i 1⎦ ⎣ z2 ⎦
[ ]
*
2
*
*
*
また、A A = ⎡⎣1 − i ⎤⎦ = 2 ゆえ、rank ( AA ) = rank( A ) = rank ( A ) = rank ( A A ) = 1 も
確かに成り立っている。■
13.7
コーシー・シュワルツの不等式と三角不等式
以下でのべる不等式は 11.5 節(レッスン 11)で証明した不等式の拡張に過ぎない。証
明法もほとんど同じである。
(I) コーシー・シュワルツ不等式
(1)
与えられた内積空間 X 内の任意ベクトル x, y に対して
( x, y ) ≤ x y
が成り立つ。等号成立の必要十分条件は x, y の一方が他方の複素数倍であることである。
x = 0 または y = 0 の場合は等号が成立し、一方が他方の 0 倍となっている。残るは
証明
x ≠ 0, y ≠ 0, (x, y ) ≠ 0 の場合のみであるが、この場合は λ = (x, y ) /(x, y ) ≠ 0 とすれば
単純な計算により
2
x
y
(2) 0 ≤
−λ
y
x
= 2(1 −
(x, y )
)
x ⋅ y
が出る。これより(1)が従う。「(1)における等号の成立」と「(2)の右辺= 0 」は同値であり、
これは
x
y
−λ
= 0 と同値である。この式は x, y の一方が他方の複素数倍であることを示
x
y
す。逆に、 x, y の一方が他方の複素数倍なら、(1)においては確かに等号が成立する。■
(II) 三角不等式 triangular inequality
(3)
内積空間 X 内の任意ベクトル x, y に対して
x+y ≤ x + y
が成立する。等号成立の必要十分条件は x, y の一方が他方の負でない実数倍であること。
証明
x ≠ 0 、 y ≠ 0 の場合だけを考えておけば十分である。
Copyright 再履修線形代数研究会
9
再履修線形代数―分解定理を主軸に整理整頓
x+y
(4)
2
レッスン 13 内積
= ( x + y , x + y ) = x + 2 ⋅ Re( x, y ) + y ( Re( ) =
2
2
の実部)
≤ x + 2 (x, y ) + y ≤ x + 2 x y + y (コーシー・シュワルツの不等式)
2
2
2
2
= ( x + y )2
これは前半の証明を与えている。等号成立の必要十分条件は、(4)より
Re( x, y ) = ( x, y ) = x y であるが、最初の相等関係は ( x, y ) ≥ 0 と同値、後半の相等関係
はコーシー・シュワルツの不等式により、y = λ x ( λ
≠ 0 は適当な複素数)と同値である。
この二つの条件を合わせたものは明らかに「 y = λ x かつ λ ≥ 0 」と同値である。■
(III) ノルムの連続性
x − y ≤ x−y
(5)
これは「ベクトル間の差が小さければ、ノルム値間の差も小さい」ことを示す。
証明:三角不等式のみから出る。11.3 節における証明がそのまま通用する。■
13.8
平行四辺形の法則
この節では内積空間に対して成立する重要等式を 2 つ証明する。
(I) 平行四辺形の法則
内積空間内の任意ベクトル x, y に対して次の関係が成り立つ:
x + y + x − y = 2( x + y )
2
2
2
2
これは内積空間の著しい特徴を表す(腕
これを平行四辺形の法則 parallelogram law という。
試し問題 13.4 参照)。とくに、通常の 3 次元内積空間において、実ベクトル x, y をとれば、
(1)は「平行四辺形の各辺の長さの自乗和は各対角線の長さの自乗和に等しい」ことをいって
いる。これが名前の由来である(下図参照)
。
Copyright 再履修線形代数研究会
10
再履修線形代数―分解定理を主軸に整理整頓
レッスン 13 内積
x−y
y
x+y
o
x
内積の公理を使って (x + y , x + y ) + ( x − y , x − y ) = 2{(x, x) + ( y , y )} が成立するこ
証明
とを確認すればよい。■
(II) 内積とノルムの関係 次式が成り立つ:
4(x, y ) = x + y − x − y + i ( x − iy − x + iy ) (i 2 = −1)
2
証明
2
2
2
内積の公理を使って右辺を展開し、左辺に等しいことを示せばよい。■
最後にひとこと:このレッスンのポイントは内積空間の公理的扱いである。とくに「グ
ラム・シュミット法」「コーシー・シュワルツの不等式」「3 角不等式」「公式 S
⊥⊥
= S 、た
だし S =部分空間」
「平行四辺形の法則」
「三角不等式」は重要である。腕試し問題において
「内積空間=ノルム空間+平行四辺形の法則」を示す。
腕試し問題
問題 13.1
, a n } を n 次元内積空間 X の任意基底、 x ∈ X とする。 x がすべての基底
{a1 ,
ベクトルに直交すれば、 x = 0 。これは「 A が可逆行列なら A
*
x = 0 は x = 0 を意味する」
の拡張を表す。
x = x1a1 +
(証明
[
( x ' = x1
+ xn a n とし、 (ai , x) = 0 (i = 1,
, n) に代入すれば、 Px ' = 0 が出る
xn ] 、 P = ⎡⎣(ai , a j ) ⎤⎦ はグラム行列(12.2 節))。 P −1 が存在するから、これは
T
Copyright 再履修線形代数研究会
11
レッスン 13 内積
再履修線形代数―分解定理を主軸に整理整頓
x ' = 0 を意味する。これより x = 0 。■)
⎡1⎤
⎡ 1 ⎤
問題 13.2 a1 = ⎢ ⎥ , a 2 = ⎢
⎥ とすれば {a1 , a 2 } は一次独立であることを示し、グラム・
⎣i ⎦
⎣ −2i ⎦
シュミット法により正規直交化せよ。
⎡1 1 ⎤
det ⎢
⎥ = −2i − i = 3i ≠ 0 ゆえ、 {a1 , a 2 } は一次独立である。グラム・シュミッ
⎣i − 2i ⎦
(解
[
] [
]
⎡ r11 r12 ⎤
≡ QR を満たすユニタリ行列 Q ( Q*Q = I )と三
⎥
⎣ 0 r22 ⎦
ト法とは A ≡ a1 a 2 = q1 q 2 ⎢
角行列 R ( r11 , r22 > 0 )を次の手続きによって求めることをいう:
r11 = a1 → q1 = a1 / r11 → r12 = q1*a 2 → r22 = a 2 − q1r12 → q 2 = (a 2 − q1r12 ) / r22
ゆえに、r11 = (1 + i )
2 1/ 2
2
a
∞
⎡ 1 ⎤
1 ⎡1⎤
1
1
*
[1 − i ] ⎢ ⎥ = − 、
⎢i ⎥ 、r12 = q1 a 2 =
2
2
2⎣ ⎦
⎣ −2i ⎦
1 ⎡1 ⎤
3 ⎡1⎤
= 3 2 、 q 2 = (a 2 − q1r12 ) / r22 = =
⎢ ⎥
⎢
⎥
2 ⎣i ⎦
2 2 ⎣ −i ⎦
r22 = a 2 − q1r12 =
a = [ a1
問題 13.3
= 2 、q1 =
an ] とするとき、 a 1 = a1 +
■)
+ an を a の 1 -ノルム、
T
, an } を ∞ -ノルムという。どちらのノルムに対しても平行四辺形の法則
= max{ a1 ,
⎡ a1 ⎤
⎡b1 ⎤
, b = ⎢ ⎥ , a1 ≥ b1 ≥ 0, a2 ≥ b2 ≥ 0 、なら
⎥
⎣ a2 ⎦
⎣b2 ⎦
は成り立たないことを示せ。ただし、 a = ⎢
a + b 1 + a − b 1 = 2( a 1 + b 1 ) は真であることを示せ。
2
2
2
2
⎡1⎤
⎣1⎦
⎡1 ⎤
⎥ とすれば、
⎣ −1⎦
前半の証明には反例を挙げればよい。 a = ⎢ ⎥ , b = ⎢
(略解
a 1 = b 1 = a + b 1 = a − b 1 = 2 ゆ え 、 a + b 1 + a − b 1 = 8 ≠ 16 = 2( a 1 + b 1 ) 。
2
また、 a
a+b
2
∞
∞
= b
∞
+ a−b
= 1、 a + b
2
∞
∞
= a−b
= 8 ≠ 4 = 2( a
2
∞
+ b
問題 13.4 平行四辺形の法則より a + 2b
Copyright 再履修線形代数研究会
∞
2
2
2
2
= 2 ゆえ、
2
∞
) 。後半の証明は直接計算で出る。■)
− a − 2b = 2( a + b − a − b ) が従うこと
2
2
2
12
再履修線形代数―分解定理を主軸に整理整頓
レッスン 13 内積
を示せ。ここに a, b は任意ベクトルを表す。
平行四辺形の法則により、 a + 2b
(略証
2
= (a + b) + b = 2 a + b + 2 b − a 、
2
2
2
2
a − 2b = 2 a − b + 2 −b − a 。辺々相引けば示すべき式が出る。■)
2
2
2
2
問題 13.5 (内積空間の特徴づけ) 平行四辺形の法則を満たすノルム空間は内積空間に他な
らないことを示せ(ノルム空間の定義についてはレッスン 11、11.4 節参照)
。すなわち、
与えられた複素ノルム空間 X が平行四辺形の法則
(1)
x + y + x − y = 2( x + y ) (x, y ∈ X )
2
2
2
2
を満たせば、
(2)
1
2
2
2
2
(x, y ) = { x + y − x − y + i ( x − iy − x + iy )} (x, y ∈ X )
4
は X 上の内積を表し、 ( x, x) =
(証明
まず ( x, x) =
2
x も真であることを示せ。
2
x は定義(2)より明らか。(1)を仮定し、(2)で定義される (x, y ) が内積
の 公 理 を 満 た す こ と を 示 す 。「
(x, x) = 0 ↔ x = 0 」 は (x, x) = x よ り 明 ら か 。
2
(y, x) = (x, y ) も(2)から簡単に出る。残るは次の相等関係(3)(4)の証明のみである:
(x, y + z ) = (x, y ) + (x, z ) ( x, y, z ∈ X )
(4) ( x, (α + i β ) y ) = (α + i β )(x, y ) ( α , β ∈ R, x, y ∈ X )
(3)
まず(3)を示す。簡単のため
(5)
f (x, y ) = x + y − x − y とおけば、(2)は
2
2
4(x, y ) = f (x, y ) − if (x, iy )
と書ける。ゆえに(3)は
f (x, y + z ) − if (x, iy + iz ) = f (x, y ) + f (x, z ) − i{ f (x, iy ) + f (x, iz )}
と同値である。右辺の形よりこれを示すには
f (x, y + z ) = f (x, y ) + f (x, z )
を示せば十分である。そこで y + z = 2w とおくと、
(6)
(6)の左辺=
x + y + z − x − y − z = x + 2w − x − 2w
2
2
2
2
= 2 x + w − 2 x − w (前問の結果を利用)
2
2
Copyright 再履修線形代数研究会
13
再履修線形代数―分解定理を主軸に整理整頓
(6)の右辺=
x+y − x−y + x+z − x−z
2
=(
=
レッスン 13 内積
2
2
2
x+y + x+z )−( x−y + x−z )
2
2
2
2
1
1
2
2
2
2
( 2x + y + z + y − z ) − ( 2x − y − z + −y + z ) ((1)による)
2
2
1
1
2
2
2
2
2x + 2w − 2x − 2w = 2 x + w − 2 x − w =(6)の左辺
2
2
最後に(4)を示す。まず、 ( x, y ) の定義から簡単な計算で ( x, iy ) = i (x, y ) が出る。これ
と証明済みの(3)を使って ( x, (α + i β )y ) = (x, α y ) + i ( x, β y ) が出る。ゆえに(4)を示すには
「任意の実数 α に対して ( x, α y ) = α ( x, y ) が成り立つ」を示せば十分である。まず、(3)よ
り ( x, 2y ) = (x, y + y ) = ( x, y ) + ( x, y ) = 2(x, y ) が出る。この論法を継続すれば、すべての
自 然 数 n に 対 し て ( x, ny ) = n( x, y ) の 成 り 立 つ こ と が わ か る 。 つ ぎ に 定 義 (2) よ り 、
(x, −y ) = −(x, y ) および (x, 0) = 0 が出るから、結局すべての整数 n = 0, ±1, ±2, に対して
(x, ny ) = n(x, y ) の成立することがわかる。そして、 m(≠ 0), n を整数とすれば、
=
n
n
n
n
y ) = (x, m y ) = (x, ny ) = n(x, y ) ゆえ、 (x, y ) = (x, y ) が得られる。いいか
m
m
m
m
えると、すべての分数(有理数) α に対して ( x, α y ) = α ( x, y ) が成り立つ。
最後に α が分数でない実数のときは、実数の性質より、 α k → α となる分数列
{α1 , α 2 , } ≡ {α k } がとれる。すると k の各値に対して (x, α k y ) = α k (x, y ) が成立している
m(x,
はずである。ここで k → ∞ の極限をとれば、右辺 → α ( x, y ) 。そして、ノルムの連続性に
より
左辺=
x + α k y − x − α k y + i x − iα k y − i x + iα k y
2
2
2
2
→ x + α y − x − α y + i x − iα y − i x + iα y = (x, α y )
2
(∵
2
2
2
x + α k y − x + α y ≤ (x + α k y ) − (x + α y ) = α k − α y → 0 、・・・)
すると極限値の一意性より ( x, α y ) = α ( x, y ) が従う。■)
Copyright 再履修線形代数研究会
14