レッスン 14 ノルム

再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
レッスン 14
ノルム
このレッスンでは行列解析理解の基礎となる事項を学ぶ。これらは代数と解析の境界領域
にある話題であり、行列計算の誤差解析を理解するための基礎知識である。主題は実または複
素有限次元ノルム空間上のノルムと線形変換である。このような線形変換の具体例として m × n
行列を念頭において頂くのがよい。このレッスンのキーワードは「線形変換の連続性(有界性)」
「展開係数の有界性」
「有限次元ノルム空間の完備性」
「ノルムの同値性」
「成分ごとの収束とノ
ルム収束の同値性」「演算子ノルム」
「ハーン・バナハの定理」である。
14.1
線形変換の有界性と連続性
この節では線形変換の連続性の同値な定義を学ぶ。これらの事項は次節以降で学ぶ、有限
次元ノルム空間とそれらの間の線形変換に関する基礎的な性質を理解する上で必要となる。
(I) ベクトル列の収束
与えられた有限または無限次元ノルム空間 X 内のベクトルの無限列
{x1 , x 2 , } ≡ {x n } が a ∈ X に収束する to converge とは実数列の収束 x n − a → 0 をいう。こ
のとき a を列 {x n } の極限(または極限値)limit といい、 x n → a または lim x n = a と書く。詳し
n→∞
くいえば、 x n → a とは「任意の ε
満たすすべての n に対して
> 0 に対して自然数 N (ε ) を十分大きくとれば n > N (ε ) を
xn − a < ε となる」ことである。
「極限は存在すればひとつしかない。」実際、 x n → a かつ x n → b なら、ノルムの性質よ
り0≤
a − b = (x n − b) − (x n − a) ≤ x n − b + x n − a → 0 であるから、 a − b = 0 すなわ
ち、 a − b = 0 でなければならない。
(II) 線形変換の連続性
有限または無限次元ノルム空間 X から同じ体上の第 2 のノルム空間
Y への線形変換 T について、次の各主張は互いに同値である:
(1) (有界性)すべての x ∈ X に対して
こに
Tx ≤ M x を満たすような正定数 M が存在する(こ
x は X 上のノルム、 Tx は Y 上のノルムを表す)このような T は有界である
bounded という。
(2) ( x = 0 における連続性)任意に与えられた ε
> 0 に対して δ > 0 を十分小さくとれば、
x < δ を満たすすべての x ∈ X に対して Tx < ε が成り立つ。 このような T は x = 0
において連続であるという。
Copyright 再履修線形代数研究会
1
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
(3) ( x = 0 における連続性) x n → 0 ならかならず Tx n → 0 が成り立つ。
(1)→(2)→(3)→(1)を示す。
証明
x < ε / M ≡ δ とすれば、(1)により Tx ≤ M x < M ε / M = ε
(1)→(2)
x n → 0 とする。このとき {Tx n } が 0 に収束しないとすれば、適当な ε 0 > 0 と適当な
(2)→(3)
自然数の列 n1 < n2 <
により、
をとれば、
Tx n ≥ ε 0 ( n = n1 < n2 <
x < δ 0 ならかならず Tx < ε 0 となるような δ 0 > 0 がとれるはずである。 x n → 0 ゆ
え、ある番号から先の x n はすべて
x n < δ 0 を満たし、 Tx n < ε 0 が無限に多くの n = nk の値
に対して満たされなければならない。しかしこれは
(3)→(1)
Tx n ≥ ε 0( n = n1 < n2 <
)と矛盾する。
(1)が真でなければ(3)も真でないことを示せばよい。実際、(1)が真でなければ、すべ
ての自然数 n に対して
る。 y n
)が成立するはずである。(2)
=
Tx n > n x n 、すなわち、 T
xn
n xn
> 1 を満たす x n がとれるはずであ
xn
とおけば、 y n = 1/ n → 0 、すなわち、 y n → 0 。しかし Ty n > 1 ゆえ、
n xn
Ty n → 0 は真ではあり得ない。■
(III)
(4)
(II) の各項はさらに以下の各項と同値である(証明は練習問題とする)
:
(一様連続性) a ∈ X を任意かつ特定の一点とすれば、任意 ε
小さくとれば、 x − a
> 0 に対して δ > 0 を十分
< δ を満たすすべての x ∈ X に対して Tx − Ta < ε が成り立つ。
ここに δ は ε のみに関係し、特定の a には依存しない。
(5)
a ∈ X を任意かつ特定の一点とすれば、 x n → a は Tx n → Ta を意味する。
以上を総合するとこういえる:
「ノルム空間 X より Y への線形変換 T が有界または X 内の
任意かつ特定の1点で連続なら X 上で一様連続である」
「有界性と連続性は同値である」。
この節を終える前に今後の議論によく出てくる次の 3 種の集合を定義しておく:
「点 a を中心とする半径 r
> 0 の開球 open sphere」 {x ∈ X : x − a < r} 、
「点 a を中心とする半径 r
> 0 の閉球 closed sphere」 {x ∈ X : x − a ≤ r} 、
「点 a を中心とする半径 r
> 0 の球の表面 surface」 {x ∈ X : x − a = r}
Copyright 再履修線形代数研究会
2
再履修線形代数―分解定理を主軸に整理整頓
14.2
レッスン 14 ノルム
展開係数の有界性
本節で学ぶ「
(線形変換としての)展開係数の有界性」は、有限次元ノルム空間の基本的性
質を導く上でもっとも直接的で使いやすい事実である。実際、次節以降で順次示すように
「有限次元ノルム空間内のコーシー列は収束する」
(完備性)
「有限次元ノルム空間内の有界列は収束する部分列を含む」(完備性)
「有限次元ノルム空間上の 2 種のノルムは同値である」
(ノルムの同値性)
「有限次元ノルム空間上の線形変換は連続である」
(連続性、有界性)
などの諸事実はすべて本節の事実から出てくる。
本節で示すのは次の事実である:
「 Y を与えられた n 次元ノルム空間、{b1 ,
基底で展開したものを y = g1 ( y )b1 +
(1)
α y ≤ g1 (y ) +
, b n } を Y の基底、任意ベクトル y ∈ Y をこの
+ g n (y )b n とすれば、適当な正定数 α , β に対して
+ g n (y ) ≤ β y
がすべての y ∈ Y に対して成り立つ。ここに展開係数 g1 (y ),
, g n (y ) は、それぞれ、Y からス
カラー体への線形変換(すなわち、線形汎関数 linear functional)を表し、 g1 (y )
+
+ g n (y )
自体 Y 上のノルムを表す。
」
証明「 g1 (y ),
, g n (y ) のそれぞれは Y からスカラー体への線形変換を表し、
y ' ≡ g1 (y ) +
+ g n (y ) は Y 上の一つのノルムを表す」ことの証明は練習問題とする。
さて、 y = g1 ( y )b1 +
(2)
y ≤ g1 (y ) b1 +
となる。α
= 1/ max{ b1 ,
+ g n (y )b n のノルムをとれば、
+ g n (y ) b n ≤ ( g1 (y ) +
+ g n (y ) ) max{ b1 ,
, bn }
, b n } とおけば、(1)の前半が出る。ここに α は基底 {b1 ,
, bn} と
Y 上のノルム ⋅ には依存するが、 y にはまったく依存しないことは明らかである。
不等式後半の証明に入る。証明はやや入り組んでいるが、必要となる解析学上の予備知識
は実数および複素数の完備性だけである。さて、 X = R
(3)
Tx = T [ x1
xn ] = x1b1 +
n×1
(または C
n×1
)とすれば、変換 T :
+ xn b n
T
−1
は X より Y 上への1対1線形変換を表す。ゆえに T も Y より X 上への1対1線形変換を表
す。 X 上に 1 -ノルムを与え、 S
(4) 十分小さな δ
= {x ∈ X : x 1 = 1} ( X の単位球の表面)とすれば、
> 0 をとれば、すべての x ∈ S に対して Tx ≥ δ
Copyright 再履修線形代数研究会
3
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
が真であることを示す。実際、(4)を否定すれば任意の自然数 k に対して
を満たす S 上のベクトル列 {x k } がとれるはずである。これより
界列だから、収束する部分列 {x k } ( k = n1 , n2 ,
Tx k < 1/ k( xk 1 = 1 )
Tx k → 0 。他方、 {x k } は有
→ ∞ )を含む(∵ {x k } の第 1 成分の列から
収束列を抽出し、それに対応する第 2 成分の列から収束列を抽出し、
・・を繰り返せばよい)。
その極限を x
x(0) = ⎡⎣ x1(0)
(0)
と書けば
x k − x(0) → 0 ( k = n1 , n2 ,
1
)。そこで、 x
T
xn ( k ) ⎤⎦ 、
T
xn (0) ⎤⎦ と書けば、
Tx k − Tx (0) ≤ Tx k − Tx (0) = T( x k − x (0) ) = ( x1( k ) − x1(0) )b1 +
≤ x k − x(0) max{ b1 ,
, b n } → 0 ( k = n1 , n2 ,
1
ところが仮定により、
と、1 =
≡ ⎡⎣ x1( k )
(k )
+ ( xn ( k ) − xn (0) )b n
)
Tx k → 0 である。ゆえに Tx (0) = 0 。これは x (0) = 0 を意味する。する
1 − x(0) = x k 1 − x(0)
1
1
≤ xk − x(0) → 0 。ゆえに x(0) = 1 。これは矛盾である。
1
1
ゆえに主張(4)は真でなければならない。
つぎに(4)を成立させる δ
(5)
> 0 に対して
y < δ を満たすすべての y ∈ Y に対して T−1y = g1 (y ) +
1
が成立することを示す。かりに
y 0 < δ にもかかわらず T −1y 0 ≥ 1 となるような y 0 ∈ Y が存在
−1
したとする。 T y 0 = x 0 とおけば Tx 0 = y 0 かつ
T
+ g n (y ) < 1
x0 ≥ 1 ゆえ、
Tx 0
y
x0
δ
=
= 0 < = δ となる。これは(4)と矛盾する(∵ x 0 / x 0 1 ∈ S )。ゆえに(5)
x0 1
x0 1
x0 1 1
は真でなければならない。(5)は
(6) すべての y ∈ Y に対して
g1 (y ) +
+ g n (y ) ≤ (1/ δ ) y
が成り立つことを意味する。これは証明すべき(1)の後半に他ならない。■
14.3 有限次元ノルム空間内のコーシー列は収束する
この節では前節の結果を応用し、
Copyright 再履修線形代数研究会
4
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
「有限次元ノルム空間内のコーシー列は収束する」
} ≡ {x k } がコーシー列 Cauchy sequence であ
ことを示す。ここにノルム空間内の列 {x1 , x 2 ,
るとは、どんな小さな ε
> 0 を与えても自然数 n(ε ) を十分大きくとれば、 p, q > n(ε ) を満たす
すべての自然数 p, q に対して x p − x q < ε が成り立つことをいう。
= n > 0 、 {x k } を X 内のコーシー列とす
与えられた有限次元ノルム空間を X 、 dim X
証明
+ xn ( k )b n ( k = 1, 2,
, b n } を一つとり、 x k = x1( k )b1 +
る。 X の基底 {b1 ,
)と書けば、任
意の自然数 p, q に対して、
x p − x q = ( x1( p ) − x1( q ) )b1 +
+ ( xn ( p ) − xn ( q ) )b n
前節の結果を適用すると適当な正定数 β に対して
x1( p ) − x1( q ) +
+ xn ( p ) − xn ( q ) ≤ β x p − x q
(k )
が成り立つはずである。これは各成分の列 { x1 },
,{xn ( k ) } が実数または複素数のコーシー列
→ x1(0) ,
(k )
を表すことを示す。ゆえにこれらの各列は収束し、 x1
の展開形から x k → x1 b1 +
(0)
14.4
, xn ( k ) → xn (0) とすれば、x k
+ xn (0)b n となることは明らかである。■
有限次元ノルム空間内の有界列は収束する部分列を含む
この節では 14.2 節の応用例として、列コンパクト性 sequential compactness:
「有限次元ノルム空間内の有界列は収束する部分列を含む」
を示す。
証明
問題の有限次元ノルム空間を X とし、 dim X = n ( > 0) とする。いま、
{x1 , x 2 , } ≡ {x k } を任意の有界列、すなわち、適当な正定数 α に対して x k ≤ α( k = 1, 2,
を満たすようなベクトル列、とする。 X の基底 {b1 ,
で展開したものを x k = x1 b1 +
(k )
(k )
性(14.2 節)より x1
(1)
る。各列 {xk
},
+
, b n } を一つとり、任意の x k をこの基底
+ xn ( k )b n ( k = 1, 2,
)とする。すると、展開係数の有界
+ xn ( k ) ≤ β x k ≤ βα ( k = 1, 2,
,{xk( n ) } は有界数列ゆえ、x1( k ) → x1(0) ,
ような自然数の部分列 n1 < n2 <
Copyright 再履修線形代数研究会
)
)を満たす正定数 β が存在す
, xn ( k ) → xn (0) (k = n1 , n2 , ) となる
がとれる。ゆえに対応する {x k } の部分列は
5
再履修線形代数―分解定理を主軸に整理整頓
x1(0)b1 +
14.5
レッスン 14 ノルム
+ xn (0)b n に収束する。■
有限次元ノルム空間上のノルムはどの 2 つも同値である
14.2 節の結果の応用として以下(I)(II)(III)を証明する:
(I)
⋅ と ⋅ ' を同じ n 次元ノルム空間 X 上の 2 種のノルムとすれば、すべての x ∈ X に対し
てα
x ≤ x ' ≤ β x が成り立つような正定数 α , β が存在する。これをノルムの同値性
equivalence という。
(II) 与えられたベクトル列 {x k } に対して
x k − a → 0 が成立すれば、 x k − a ' → 0 も成り立
つ。すなわち、 X 内のベクトル列が一つのノルムに関して収束すれば、他のすべてのノルムに
関して同一の極限に収束する。
(III)
いま、 {x k } を X 内のベクトル列、 {b1 ,
意かつ特定のノルム
(k )
convergence x1
, b n } を X の任意の基底とすれば、 X 上の任
⋅ に関する収束 x k − a → 0 と成分ごとの収束 componentwise
→ a1 ,
, xn ( k ) → an とは同値である。ここに x k = x1( k )b1 +
+ xn ( k )b n 、
a = a1b1 + + an b n としている。
証明 (I) {b1 , , b n } を X の基底とし、任意の x ∈ X をこの基底で展開したものを
(*) x = x1a1 + + xn a n とする。14.2 節の結果を適用すれば、すべての x ∈ X に対して
x1 +
+ xn ≤ c x を成立させるような正定数 c が存在する。一方(*)の ⋅ ' -ノルムをとれば
x ' ≤ max{ a1 ',
, an '}( x1 +
+ xn ) ≡ c '( x1 +
+ xn ) ≤ c ' c x ≡ β x が出る。両ノル
ムの役割を交換すれば適当な正定数 c '' に対して
x ≤ c '' x ' がすべて x ∈ X に対して成り立つ
ことがわかる。ゆえに、1/ c '' = α とおけば、α
x ≤ x ' ≤ β x がすべての x ∈ X に対して成
り立つ。
(II) (I)から簡単に従う。
(III)
練習問題とする。■
例1
R n×1 (または Cn×1 )上の 1, 2, ∞ -ノルム、
x 1 ≡ x1 +
+ xn 、 x 2 ≡ ( x1 +
Copyright 再履修線形代数研究会
2
+ xn )1/ 2 、 x
2
∞
≡ max xi
i
6
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
に対して次の不等式が成り立つ(ここに、 x =
[ x1 ,
x
∞
≤ x 1 ≤n x ∞、
x
∞
, xn ] ):
T
≤ x 2 ≤ n x ∞、
x2≤ x1≤ n x
最初二つの不等式は簡単に証明できる。最後の不等式中の x
n x
2
2
2
2
i< j
本節の結果(III)により、R (または C
(k )
と成分ごとの収束 x1
x k = ⎡⎣ x1( k )
14.6
≤ x 1 は明らか。また、
− x 1 = ∑ ( xi − x j ) 2 ≥ 0 より x 1 ≤ n x 2 が従う。
n×1
例2
2
2
2
→ a1 ,
xn ( k ) ⎤⎦ , a = [ a1
T
n×1
)上の任意のノルムに関する収束
xk − a → 0
, xn ( k ) → an とは同値であることがわかる。ここに
an ] としている。■
T
有限次元ノルム空間上の線形変換
14.2 節からの応用として次の事実を示す:
(I) (有界性) n 次元ノルム空間 X から有限または無限次元ノルム空間 Y への線形変換 T は有
界である。
(II)
n 次元ノルム空間 X から有限または無限次元ノルム空間 Y への任意の線形変換 T に対し
て、
x0 = 1 かつ sup{ Tx : x = 1} = Tx0 を満たす x0 ∈ X が存在する。ゆえに
sup{ Tx : x = 1} = max{ Tx : x = 1} と書いてよい。
証明
(I)
{b1 ,
x = x1b1 +
, b n } を X の基底とし、 x ∈ X をこの基底によって展開し
+ xn b n とすれば、14.2 節により x1 +
Tx = x1Tb1 +
+ xn ≤ β x を満たす正定数 β が存在し、
+ xn Tb n ≤ γ ( x1 + + xn ) ≤ γβ x ( γ ≡ max{ Tb1 ,
(II) (I)により集合 { Tx
, Tb n } )
: x = 1} ≡ S1 は実数の有界集合を表す。ゆえに実数の完備性により、
sup S1 ≡ α は 確 か に 存 在 す る 。 す る と 、 各 自 然 数 k に 対 し て α − (1/ k ) < Tx k ≤ α か つ
x k = 1 を満たすベクトル列 {x1 , x 2 , } がとれる。{x1 , x 2 , } は有限次元空間 X 内の有界列を
表すから 14.5 節の結果により収束する部分列 {x k }( k
Copyright 再履修線形代数研究会
= n1 < n2 <
)をもつ。極限を x 0 とす
7
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
= x k − x 0 ≤ x k − x 0 → 0 ( k = n1 , n2 ,
れば 1 − x 0
同じ部分列に対して Tx k
の一意性より
)ゆえ、
x0 = 1 である。しかも
→ Tx0 。ゆえに Txk → Tx0 。他方、 Txk → α は明らか。極限
Tx0 = α = sup{ Tx : x = 1} 。■
14.7
演算子ノルム
いま、T を有限または無限次元ノルム空間 X から同じ体上の有限または無限次元ノルム空
間 Y への有界線形変換とする。次の量 T を T の演算子ノルム operator norm という:
(1)
T = sup Tx = sup Tx = inf{K ≥ 0 : Tx ≤ K x }
x =1
x ≤1
ここに最後の量はすべての x ∈ X に対して Tx ≤ K x が真であるような K の値全体の下限
を表す。(1)中の等号成立の証明は練習問題とする。ゆえに、 T とは x ∈ X が単位球の表面上
(または単位閉球内)をくまなく動いたときの Tx の値の上限を表す。とくに X が有限次元
なら sup 記号は max 記号で置換可能であることは前節において証明済みである。(1)式が実際に
ノルムを定義していることは(すなわち、ノルムの公理を満たす)ことは次節において示す。
例 1 (I) R
n×1
(または C
x 1 ≡ x1 +
n×1
)上のノルム
+ xn 、 x 2 ≡ ( x1 +
2
+ xn )1/ 2 、 x
2
∞
≡ max xi ( x = [ x1
xn ] ∈ R n×1 )
T
i
は使いやすいノルムとして実務計算上重要であるが、 x
≡ ( x1 +
p
p
+ xn )1/ p ( p ≥ 1 )
p
[
もノルムを表すことが知られている(
「腕試し問題」参照)。例を挙げると、 x = 1 − i
x 1 = 1 + −i = 2 、 x 2 = (1 + −i )1/ 2 = 2 、 x
2
参考のため、 R
2×1
2
∞
]
T
なら
= max{1 , −i } = 1
における原点を中心とする単位閉球の表面の図を付す:
Copyright 再履修線形代数研究会
8
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
y
x
(上図の説明)平面は R
2×1
⎡x ⎤
⎣ y⎦
= max{ x , y } = 1 のグラフの
を現す。一番外側の正方形は ⎢ ⎥
∞
⎡x ⎤
2
2
= ( x + y )1/ 2 = 1 のグラフ、一番内側の菱形は
⎣ y⎦ 2
中間の円は ⎢ ⎥
⎡x ⎤
⎢ y ⎥ = x + y = 1 のグラ
⎣ ⎦1
フを表す。
1, ∞, 2 -ベクトルノルム対応する A = ⎡⎣ aij ⎤⎦ ∈ Cm×n の演算子ノルムは次式によって与えら
れる:
m
A 1 ≡ sup Ax 1 = max ∑ aij (“最大列和ノルム”)
(a)
1≤ j ≤ n
x 1 =1
(b)
(c)
A
∞
≡ sup Ax
x
∞
=1
i =1
n
∞
= max ∑ aij (“最大行和ノルム”)
1≤i ≤ m
j =1
A 2 ≡ sup Ax 2 = σ max ( A) =「 A* A の最大固有値の平方根」(“最大特異値ノルム”)
x 2 =1
m
証明 (a)
[
( x = x1
1≤ j ≤ n
i =1
m
m
α ≡ max ∑ aij = ∑ aik
とする。簡単な計算で
i =1
n
Ax 1 = ∑∑ aij x j ≤ α x 1 が出る
i =1 j =1
xn ] ∈ C n×1 )。これより A 1 ≤ α 。とくに x = ek =第 k 単位ベクトルをとれば
T
e k 1 = 1 かつ Ae k 1 = α が成り立つ。ゆえに A 1 ≥ α 。
Copyright 再履修線形代数研究会
9
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
n
(b)
n
β ≡ max ∑ aij = ∑ akj
1≤i ≤ m
[
j =1
とする。すると簡単に
j =1
xn ] ∈ Cn×1 )。これより A
( x = x1
Ax
T
∞
A
∞
1≤i ≤ m
n
∑a x
j =1
ij
j
≤ β x ∞ が従う
≤ β 。とくに x として、 x j = akj / akj (akj ≠ 0) 、
x j = 1 ( akj = 0) 、によって定義されるベクトルをとれば x
ゆえに
∞
= max
∞
= 1 かつ Ax
∞
= β が成り立つ。
≥β。
レッスン 11 から、 A の特異値分解を U AV = Σ ( U : m 次ユニタリ行列、 V : n 次ユ
*
(c)
⎡σ 1
⎢ σ
ニタリ行列、 Σ =
2
⎢
⎢⎣0
0⎤
⎥ (σ ≥ σ ≥
2
⎥ 1
⎥⎦
≥ 0) )とすれば、 Av 2 ≤ σ 1 ( v 2 = 1) かつ
Av1 2 = σ 1 ( v1 2 = 1) となっている。ここ v1 は V の第 1 列を表す。■
一言注意すると、 A ∈ R
m×n
の場合、 X
= R n×1 , Y = R m×1 としも、(a)(b)(c)はそのままの形
で成り立つ。すなわち、実行列の演算子ノルムの値はそれを実空間間の変換と考えても、複素
空間間の変換と見なしても同じ値となる。これはベクトルノルム ⋅ 1 、 ⋅
ム absolute norm を表す、すなわち
Y = Cn×1 への変換とみなせば、演算子ノルム x 1,1 、 x
例 2
∞
, B pq ,
∞
が絶対ノル
2,2
[ x1 ,
、
x
, xn ] 自体を X = C1×1 より
T
∞ ,∞
は、それぞれ、ベクトルノ
と全く同一となる。■
与えられた自然数 m, n に対して R
かに {B11 ,
、 ⋅
x = x (ここに x は x の各成分をその絶対値で置き換
えたものを表す)を満たすことに起因する。また、 x =
ルム x 1 、 x 2 、 x
2
m× n
または C
m× n
は mn 次元ベクトル空間を作る。明ら
B mn } は基底の一例である。ただし、 B pq は (B pq )ij = 1( (i, j ) = ( p, q ) の
とき)、 (B pq )ij = 0 (それ以外のとき)とする。そして A = ⎡⎣ aij ⎤⎦ に対して
A
(1)
≡
m,n
∑
i , j =1
m,n
aij , A
F
≡ ( ∑ aij )1/ 2 , A
i , j =1
Copyright 再履修線形代数研究会
2
(∞)
≡ max aij
i, j
10
再履修線形代数―分解定理を主軸に整理整頓
はすべて R
m× n
または C
m× n
レッスン 14 ノルム
上のノルムを表す。とくに
⋅
F
はフロベニウス・ノルム Frobenius
norm と呼ばれ、実務計算によく使われる。これはベクトルノルムの単純な拡張に過ぎない。こ
れらはすべて同値であるから(14.5 節)、「与えられた行列の列 {A k } の任意かつ特定の行列ノ
ルム
⋅ に関する収束 A k − A → 0 と成分ごとの収束 aij ( k ) → aij (i = 1,
, m, j = 1,
, n) と
は同値である」■
14.8
演算子ノルムの性質
演算子ノルムは応用上多用される。この節では演算子ノルムの重要な性質を学ぶ。
(I) A, B を有限次元ノルム空間 X からノルム空間 Y への線形変換とし、与えられたベクトルノ
ルム
⋅ に対応する演算子ノルムを同じ記号 ⋅ で表せば、次の関係が成り立つ:
(1)
A ≥ 0; A = 0 ↔ A = 0
(2)
cA = c ⋅ A ( c は任意のスカラーを表す)
(3)
A+B ≤ A + B
(4)
Ax ≤ A ⋅ x ( x ∈ X )
(1)(2)(3)は演算子ノルムが実際にノルムの公理を満たすことを示す。
(II)
X , Y , Z をノルム空間とし、 X , Y は有限次元とする。B : X → Y , A : Y → Z を線形変換
とすれば
(5)
AB ≤ A ⋅ B
(III) A を有限次元ノルム空間 X からそれ自身への線形変換とすれば、 A の任意の固有値 λ に
対して
λ≤ A
が成り立つ。ここに
A は X 上の任意のベクトルノルムに対応する演算子ノル
ムを表す。 また A の固有値とは A の(任意の)行列表現の固有値を表す(これは行列表現によ
らない量を表す)。
(IV) B を有限次元ノルム空間 X からそれ自身への線形変換とする。このとき
B < 1 なら
(I − B) −1 が存在し、 (I − B ) −1 ≤ (1 − B ) −1 および (I + B) −1 − I ≤ B /(1 − B ) が成り立つ。
Copyright 再履修線形代数研究会
11
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
⋅ は演算子ノルムを表す。
ここに
証明:(I) (1) 定義より
A ≥ 0 は明らか。 A = 0 なら当然 A = 0 である。逆に、 A = 0 なら
演算子ノルムの定義より、すべての x ≠ 0 に対して A ( x / x ) = 0 が成り立つはずである。こ
れはベクトルノルムの性質より、すべての x ≠ 0 に対して Ax = 0 であること、すなわち、A = 0
を表す。
(2) これも演算子ノルムの定義から直ちに従う。
(3) 任意の x ∈ X (
ここで
(4)
x = 1 )に対して、 ( A + B)x = Ax + Bx ≤ Ax + Bx ≤ A + B 。
x = 1 を満たすすべての x について sup をとれば A + B ≤ A + B が得られる。
x = 0 の場合は問題の不等式は明らかに成り立つ。 x ≠ 0 なら x / x = 1 ゆえ、
A ( x / x ) ≤ A が成り立つはずである。これより Ax ≤ A x が出る。
(II) 任意の x ∈ X (
ここで
x = 1 )に対して、(I)(4)により ABx = A(Bx) ≤ A Bx ≤ A B 。
x = 1 を満たすすべての x に対して sup をとれば AB ≤ A B が得られる。
(III) (必ずしも行列とは限らない)線形変換の固有値の復習から始める。dim X
= n > 0 とし、
, b n } をとり、任意の x ∈ X をこの基底で展開したものを
+ xn b n と書けば、Ax = x1Ab1 + + xn Ab n となる。ここで Ab1 , , Ab n ∈ X ゆ
X の任意の基底 {b1 ,
x = x1b1 +
え、これらも同じ基底で展開し、 Ab j =
n
n
n
n
j =1
i =1
i =1
j =1
n
∑ a b ( j = 1,
i =1
ij
i
, n )と書けば、
Ax = ∑ x j ∑ aij bi = ∑ (∑ aij x j )bi となる。以上の計算は形式的な行列積の形に書ける:
(i)
x = [b1
⎡ x1 ⎤
b n ] ⎢⎢ ⎥⎥ 、 Ax = [b1
⎢⎣ xn ⎥⎦
A の固有値とは、特定の基底 {b1 ,
⎡ a11
b n ] ⎢⎢
⎢⎣ an1
a1n ⎤ ⎡ x1 ⎤
⎥⎢ ⎥
⎥ ⎢ ⎥ ≡ [b1
ann ⎥⎦ ⎢⎣ xn ⎥⎦
, b n } に関する行列表現 A{bi } の固有値と定義する。このい
い方が許されるためには、これらの固有値が基底 {b1 ,
す必要がある。実際、他の任意の基底 {b1 ',
Copyright 再履修線形代数研究会
b n ] A{bi }x{bi }
, b n } の選び方に無関係であることを示
, b n '} をとれば、これらの基底の間には適当な可
12
再履修線形代数―分解定理を主軸に整理整頓
逆行列 V を介して
[b1 '
b n '] = [b1
れより、 x, A の、基底 {b1 ',
(ii)
x = [b1 '
Ax = [b1 '
レッスン 14 ノルム
b n ] V (これも形式的な行列積形)なる関係がある。こ
, b n '} に関する行列表現は
⎡ x1 ⎤
b n '] V ⎢⎢ ⎥⎥ = [b1 '
⎢⎣ xn ⎥⎦
−1
⎡ a11
b n '] (V ⎢⎢
⎢⎣ an1
−1
⎡ x1 ' ⎤
b n '] ⎢⎢ ⎥⎥
⎢⎣ xn '⎥⎦
a1n ⎤ ⎡ x1 ' ⎤
⎥ ⎢ ⎥
⎥ V ) ⎢ ⎥ ≡ [b1 '
ann ⎥⎦ ⎢⎣ xn '⎥⎦
b n '] A{bi '}x{bi '}
これより、二つの行列表現は互いに相似の関係にあることがわかる:
(iii)
A{bi '} = V −1A{bi }V
従って二つの行列表現は全く同一の固有値を共有する。
さて、行列の固有値-固有ベクトルの関係から、 A の任意の固有値 λ に対して Ax = λ x を
満たす固有ベクトル x ≠ 0( x ∈ X )が存在することがわかる。λ に対応する固有ベクトル x を
x = 1 を満たすようにとれば(これは常に可能)、 A ≥ Ax = λ x = λ x = λ が出る。
(IV)
B < 1 なら、 B の任意の固有値 λ は前項により λ ≤ B < 1 を満たす。 I − B の固有値は
その行列表現からかならず 1 − λ の形であるから、0 とはならない。ゆえに (I − B) は確かに存
−1
在する。 (I − B)(I − B)
−1
= I より、 (†) (I − B) −1 = I + B(I − B) −1 だから、ノルムをとれば、
(I − B) −1 ≤ I + B (I − B) −1 ≤ 1 + B (I − B ) −1 が得られる。これを (I − B ) −1 について解
けば (I − B )
−1
≤ 1/(1 − B ) が出る。また、 (†) 式を (I − B) −1 − I = B(I − B) −1 と変形し、ノル
ムをとれば、 (I − B )
−1
− I ≤ B /(1 − B ) が得られる。固有値を使わない証明法についてはレ
ッスン末「腕試し問題」参照。■
14.9 演算子ノルムの応用例
ノルムは「データに一定の変動を与えたとき答えはどう変動するか」を定量的に評価する
ための尺度として多用される。例えば、「 A を可逆行列とするとき、 B がどの程度小さければ
A + B の可逆性が保証されるか」 「 A + B の固有値は A の固有値はどれくらい近くにあるか」
「 行列方程式 Ax = b(ただし A は可逆行列)の解はデータ A , b が変動するとどう変動するか」
Copyright 再履修線形代数研究会
13
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
などの評価にノルムが使われる。 このような解析は摂動論 perturbation theory、安定性解析
stability analysis、感度解析 sensitivity analysis、などと呼ばれている。本節では前節までの
結果を利用し、このようなノルムの応用例を学ぶ。
例1
A, B ∈ R n×n (または C n×n )とし、 A は可逆行列とする。 A −1B < 1 なら、 A + B も可
逆行列を表し、
(1)
( A + B ) −1 ≤ A −1 /(1 − A −1B )
(2)
( A + B) −1 − A −1 ≤ B A −1 /(1 − A −1B )
2
が成り立つ。ここに
証明
⋅ は任意の演算子ノルムを表す。
A = I の場合は前節(IV)で証明済みである。これを応用すれば(1)(2)が得られる。実際、
A + B = A(I + A −1B) ゆえ、 ( A + B) −1 = (I + A −1B) −1 A −1 (∵ 仮定 A −1B < 1 と前節(IV)によ
B) −1 が存在する)。ノルムをとり前節(III)(IV)を利用すれば(1)式が出る。
−1
−1
−1
つぎに、 I = ( A + B)( A + B) = A (I + A B)( A + B) より
A −1 = (I + A −1B)( A + B) −1 = ( A + B) −1 + A −1B( A + B) −1 。これより
A −1 − ( A + B) −1 = A −1B( A + B) −1 = A −1B(I + A −1B) −1 A −1 が出る。ノルムをとり、再び前節
り (I + A
−1
(III)(IV)を使えば、(2)式が得られる。■
例2
バワー・ファイクの定理 Bauer-Fike theorem
⎡λ1
⎢
ルダン標準形が対角行列)、 X AX =
⎢
⎢⎣0
−1
A ∈ C n×n を対角化可能な行列とし(ジョ
0⎤
⎥ ≡ D とする。 B ∈ Cn×n とし、 A + B の任意
⎥
λn ⎥⎦
かつ特定の固有値を μ とすれば、
(3)
min μ − λi ≤ X X −1 B
i
が成り立つ。ここに
ルム(例:
⋅ は対角行列のノルムが対角成分の絶対値最大値を与えるような演算子ノ
⋅ 1, ⋅ 2, ⋅
ることに注意。数 X X
−1
∞
)を表すものとする。(3)式の右辺は B のみならず、 X にも依存す
≡ cond ( X) は X の条件数 condition number と呼ばれ、誤差解析に
よく出てくる量である(
「レッスン 11 特異値分解」で出てきている)。また、(3)はエルミート
行列の固有値単調定理「エルミート行列 A , B, C が A + B = C を満たせば、
Copyright 再履修線形代数研究会
14
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
α i + β1 ≤ γ i ≤ α i + β n ( i = 1,
, n )、ここに α1 ≤
≤ α n , β1 ≤
≤ βn , γ 1 ≤
≤ γn は
A , B, C の固有値を表す」(レッスン 8 シュール分解 Part II)が固有値ごとの比較を行ってい
るのにくらべると弱い結果である。
証明:前節(IV)を使うと簡単である。まず μ
≠ λi (i = 1,
, n) と仮定してよい。 すると
0 = det( A + B − μ I) = det X ( A + B − μ I) X = det{(D − μ I) + X −1BX} 。ところが
−1
μ ≠ λi (i = 1, , n) だから、D − μ I は可逆行列を表す。ゆえに、det(I + (D − μ I)−1 X −1BX) = 0 。
これを前節(IV)に照らすと、これは 1 ≤ ( D − μ I ) X BX を意味する。前節(III)とノルムに関
−1
−1
する仮定を使うと、 1 ≤ ( D − μ I ) X BX ≤ ( D − μ I )
−1
−1
−1
X
−1
B X =
X X −1 B
min μ − λi
。
i
分母を払えば証明すべき不等式が得られる。■
例3
行列方程式の解の摂動問題(レッスン 11、11.7 節の結果の一般化)
。 A,
たは C
n× n
)、 b,
A ∈ R n×n (ま
b ∈ R n×1 (または Cn×1 )を与えられた行列とし、 A は可逆行列、与えられた
ベクトルノルムと演算子ノルムを同じ記号
⋅ で表すものとし、 A −1
A + A = A (I + A −1 A) も可逆行列となる( ∵ A −1 A ≤ A −1
A < 1 とする。すると
A < 1 )。そこで方程式
Ax = b と ( A + A )( x + x) = b + b の解の差 x を評価してみよう。ここに x, x + x ∈ R n×1
−1
n×1
(または C )である。辺々相引けば単純な計算で x = (I + A
A) −1 A −1 ( b − Ax) が出る。
これまでにもよく使ったノルムの性質を使うと
A A −1
A A −1
x
b
A
b
A
≤
(
+
)≤
(
+
)
−1
−1
x
A
A
1− A A A x
1− A
A b
(ここに Ax = b より
(4)
x
≤
x
A x ≥ b )、すなわち、
cond ( A)
1 − cond ( A)
A
A
ここに、 cond ( A ) = A A
−1
(
A
b
)
+
A
b
は例 2 にも出てきた条件数である。この式を見ると、
cond ( A) A / A が 1 に比べて小さければ「データの相対的変動の和のほぼ A の条件数倍が
解の相対的変動として表れ得る」ことがわかる。ゆえに、条件数が大きければ、データの小さ
な変動が大きな解の相対的変動を起こし得ることになる。このようなわけで、係数行列の条件
Copyright 再履修線形代数研究会
15
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
数が大きい方程式は悪条件である ill-conditioned と呼ばれる。ただし次の例のように例もある
ことに注意:
0⎤
⎡1
⎢
⎥
2−1
⎢
⎥ の場合は、 A の p -ノルム( p = 1, 2, ∞ )条件数はいずれも 2n−1 だから、
A=
⎢
⎥
⎢
⎥
2− n +1 ⎦⎥
⎣⎢0
n 大きければいくらでも大きくなるが、 A ( x + x) = b + b ( A = 0 としている)は厳密に解
けるから、上の誤差評価式は悲観的過ぎることになる。
条件数の推定は数値計算上大事な話題であるがここでは、参考のため 2 x 2 行列の条件数の
⎡a
⎣c
例を挙げるにとどめよう:実際、 A = ⎢
b⎤
(ad − bc ≠ 0) の ∞ -条件数は簡単な計算によっ
d ⎥⎦
て
cond ( A ) = A
14.10
∞
A −1
∞
=
max{ a + b , c + d }max{ b + d , a + c }
ad − bc
ハーン・バナハの定理
(I) 次にのべる線形汎関数拡大定理をハーン・バナハの定理 Hahn-Banach theorem という:
「与えられた実または複素有限次元ノルム空間 X の部分空間 M 上で定義された(有界)
f 、すなわち、 M から対応するスカラー体への線形変換 f 、はその演算子ノルム
の値を不変に保ちつつ、 X 上で定義された線形汎関数 f 0 にまで拡大できる。すなわち、 M 上
線形汎関数
で
f 0 = f かつ f 0 = f を満たす X 上の線形汎関数 f 0 が存在する。ここに
f 0 = max{ f 0 (x) : x = 1, x ∈ X } 、 f = max{ f (x) : x = 1, x ∈ M } 」
(注意)この定理は X が無限次元であってもこのままの形で成立するが、特殊な論法(ゾーン
の補題 Zorn’s lemma)を必要とするため、ここでは X を有限次元としている。このため、 X 上
の線形汎関数は自動的に有界となる(14.6 節)
。 X が無限次元ならこの定理が意味をもつため
には
証明
f の有界性を陽に仮定する必要がある。
以下の証明は「G. F. Simmons, Introduction to Topology and Modern Analysis,
McGraw-Hill, 1963, §48, 226 – 229」をもとにしている。解析学からの予備知識は、これまで
通り、実数の完備性のみである。
M = {0} なら、 M 上の線形汎関数は f = 0 のみだから、 f 0 = 0 とすればよい。そこで M
を {0} でない真部分空間、
f を M 上で定義された線形汎関数とし、 f = 1 と仮定しておく。
Copyright 再履修線形代数研究会
16
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
こう仮定しても一般性が失われないことは明らかである。証明の核心部は次の補題である:
(補題) x 0 ∉ M とすれば、
汎関数
f は M 0 ≡ M + span{x0 } 上で定義された、 f 0 = 1 を満たす線形
f 0 に拡大できる。
X は有限次元としているから、補題の手続きを有限回繰り返せば f を X 上全体まで拡大
できることは明らかである。ゆえに、補題を証明すれば定理の証明が済むことになる( X が無
限次元の場合はこの補題と先ほど言及した「ゾーンの補題」が拡大手続きの手段となる)
。
(補題の証明)以下の証明は X が有限次元でも無限次元でも成り立つ。 X が実ノルム空間であ
る場合をまず扱い、その結果を複素ノルム空間の場合に応用する。
X が実ノルム空間の場合 M 0 内の任意ベクトルは一意的に x + α x0 ( α は実数、
x ∈ M )の形に表せる。ゆえに、 f 0 が f を M 0 上に拡大した線形汎関数を表すための必要十分
条件は f 0 ( x + α x 0 ) = f 0 ( x) + α f 0 ( x 0 ) = f ( x) + α r0 の形をもつことである。ここに
(A)
r0 ≡ f 0 (x0 )(実数!)と書いている。残る問題は r0 の値をどう選べば f 0 ≤ 1 が満たされるか、
。
だけである(∵ すでに f = 1 であるから、 f 0 ≤ 1 は f 0 = 1 を意味する)
さて、
f 0 の形から
f 0 ≤ 1 ↔ 任意の x ∈ M 、任意の実数 α ≠ 0 に対して f (x) + α r0 ≤ x + α x 0
(†)
↔ 任意の x ∈ M 、任意の実数 α ≠ 0 に対して − x + α x 0 ≤ f (x) + α r0 ≤ x + α x 0
↔ 任意の x ∈ M 、任意の実数 α ≠ 0 に対して − f (x) − x + α x 0 ≤ α r0 ≤ − f (x) + x + α x 0
x
x
x
x
↔ 任意の x ∈ M 、任意の実数 α ≠ 0 に対して − f ( ) − + x 0 ≤ r0 ≤ − f ( ) + + x0
α
α
α
α
(最後の同値性は、 α > 0 、 α < 0 の場合に分けて検算されよ)
。
この最後の条件を満たす r0 が存在することを次に示す。実際、任意の x1 , x 2 ∈ M に対して、
f (x 2 ) − f (x1 ) = f (x 2 − x1 ) ≤ f (x 2 − x1 ) ≤ x 2 − x1 (∵ f = 1 )
= (x 2 + x 0 ) − (x1 + x 0 ) ≤ x 2 + x 0 + x1 + x 0
ゆえに
− f (x1 ) − x1 + x 0 ≤ − f (x 2 ) + x 2 + x 0
x1 を固定しすべての x 2 ∈ M に対応する右辺の値の集合の下限をとれば、
− f (x1 ) − x1 + x 0 ≤ inf{− f (x 2 ) + x 2 + x 0 : x 2 ∈ M } なる。この関係はすべての x1 ∈ M に対
Copyright 再履修線形代数研究会
17
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
して成り立つから、左辺の上限をとれば
a ≡ sup{− f ( x1 ) − x1 + x 0 : x1 ∈ M } ≤ inf{− f ( x 2 ) + x 2 + x 0 : x 2 ∈ M } ≡ b
が得られる。ゆえに、 r0 を a ≤ r0
≤ b を満たすように選べば同値関係 (†) の最後の条件が成立す
ることがわかる。
(B)
X が複素ノルム空間の場合 f は複素数値をとる関数であるから、実部と虚部を g , h と
し、 f (x) = g (x) + i ⋅ h(x) と書くことにする。λ , μ を任意の実数とすれば、任意の u, v ∈ M に
対して、
g (λu + μ v) + ih(λu + μ v) = f (λu + μ v) = λ f (u) + μ f ( v )
= λ g (u) + μ g ( v) + i{λ h(u) + μ h( v )}
実部を等置すれば( λ , μ は実数ゆえ)
、 g (λ u + μ v ) = λ g (u) + μ g ( v ) が得られる。すなわち、
スカラーを実数に限定すれば、 g はノルム空間 X 上で定義された実線形汎関数と見なせる。そ
こで(A)の結果を利用して、g を M 0 上に拡大し、これを g 0(実線形汎関数)と呼ぼう。ただし、
g 0 = g 。 g (x) ≤ f (x) ≤ f = 1 ゆえ、確かに g ≤ 1 。従って g 0 ≤ 1 。
つぎに、 g (ix) + ih(ix) =
f (ix) = if (x) = i{g (x) + ih(x)} = ig (x) − h(x) から
h(x) = − g (ix) が出る。従って f (x) = g (x) − ig (ix) 。そこで
f 0 (x ') = g 0 (x ') − ig 0 (ix ') (x ' ∈ M 0 ) によって f 0 を定義すると、これが、 f 0 = 1 を満たしつつ、
f を M 0 上に拡大した線形汎関数となっていることを示そう。実際、直前の計算から f と f 0 の
値は M 上で一致していることがわかる。しかも g 0 の性質から、
任意の x ', x '' ∈ M 0 に対して、 f 0 ( x '+ x '') = f 0 ( x ') + f 0 ( x '') 、
任意の実数 α に対して、 f 0 (α x ') = α f 0 ( x ')
が成り立つことがわかる。そして後者の関係はたとえ α が複素数であっても成り立つことは次
の計算で検証できる:まず
f 0 (ix ') = g 0 (ix ') − ig 0 (i ⋅ ix ') = i{− g 0 (−x ') − ig 0 (ix ')} = if 0 (x ') (∵ g 0 (−x ') = − g 0 (x '))
ゆえに、任意の実数 λ , μ に対して
f 0 ((λ + i μ )x ') = f 0 (λ x ') + f 0 (i ⋅ μ x ') = λ f 0 (x ') + if 0 ( μ x ')
= λ f 0 (x ') + i μ f 0 (x ') = (λ + i μ ) f 0 (x ')
以上により、 f 0 は f を M 0 上に拡大した線形汎関数であることがわかる。
残るは f 0 = 1 を示すのみである。これを示すには、 x ' = 1 を満たすすべての x ' ∈ M 0 に
対して、 f 0 ( x ') ≤ 1 が成立することを示せば十分である(∵
f 0 は f を M 0 上に拡大した線形汎
。実際、x ' ∈ M 0 、 x ' = 1 、 f 0 ( x ') = re
関数であるから f 0 ≥ f = 1 はすでにわかっている)
Copyright 再履修線形代数研究会
iθ
18
再履修線形代数―分解定理を主軸に整理整頓
(極表示)とすれば、 f 0 ( x ') = r = e
− iθ
レッスン 14 ノルム
f 0 (x ') = f 0 (e −iθ x ') = g 0 (e − iθ x ') ( ∵ f 0 (e − iθ x ') は実
数!)ゆえ、
f 0 (x ') = g 0 (e− iθ x ') ≤ g 0 e −iθ x ' ≤ 1⋅ e− iθ x ' = x ' = 1(この計算から f 0 はすべての実数値
をとり、
f 0 のノルム値はその実部のノルム値に等しい、ことがわかる!)■
以上の証明をみると、各ステップは単純だが、構成は巧妙である。複素汎関数の扱いに複
素数の性質が巧みに使われていて、彼らのいう”slick proof”の好例といえる。証明の複雑さはこ
の定理のパワーを暗示している。ハーン・バナハの定理の応用は以下(II)(III))の形をとることが
多い。
(II)
X を有限次元ノルム空間とすれば、任意の 0 ≠ x 0 ∈ X に対して f 0 (x 0 ) = x 0 かつ
f 0 = 1 を満たす線形汎関数 f 0 が存在する。
証明
(I)において M
= span {x0 } ととり、 f (α x 0 ) = α x 0 によって線形汎関数 f を定義すれ
ば、明らかに f ( x 0 ) = x 0 かつ f = 1 が成り立つ。すると、ハーン・バナハの定理により、
f
は要求される性質をもつ X 上の線形汎関数に拡大できる。■
(注意) X を有限次元としているから、 f 0 = 1 を満たす任意の線形汎関数
f 0 に対して
f 0 (x 0 ) = x 0 を満たす x0 ≠ 0 が存在することはわかっている(14.6 節)。(II)はこの双対問題
も真であることをいっている。(II)は実は X が無限次元であっても成り立つ。
(III)
X = R n×1 または Cn×1 の場合 与えられた x0 ≠ 0 に対して、 aT x 0 = x0 かつ aT = 1 を
満たす a ∈ X が存在する。ここに
証明
aT = max{ aT x : x = 1} 。
(II)により f 0 ( x 0 ) = x 0 かつ f 0 = 1 を満たす X 上の線形汎関数
a = [ f 0 (e1 )
f 0 (en ) ] ( e1 ,
T
f 0 が存在する。そして
は単位ベクトル)とすれば、すべての x ∈ X に対して
f 0 (x) = aT x となる。■
= R n×1 または Cn×1 上のノルムを p -ノルム( 1 ≤ p ≤ ∞ )とする。b ∈ X
を与えられたベクトルとし( x 0 をここでは b と書いている)、(III)で存在を保証されている
例 1 (III)における X
Copyright 再履修線形代数研究会
19
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
aT b = b , aT = 1 を満たす a = [ a1
p = 1 の場合
(a)
aT
1
検算: a b = a1b1 +
(b)
= max{1,
,1} = 1 。
p = ∞ の場合
aT
満たす a の例: b
(c)
∞
= 0+
= a1 +
+ 0 +1+ 0 +
b1= a
b 1 を満たす
∞
+ ( bn / bn )bn = b1 +
+ bn = b 1 、
+ an = a 1 は既知である。aT b = aT
∞
b
∞
= a1 b ∞を
+ 0 = bk = b ∞ 、そして
+ 0 = 1。
1 < p < ∞ の場合 「腕試し問題」中で示すように、1 < p, q 、1/ p + 1/ q = 1 を満たす正数
aT b = a T
p
b
p
≡ max{ aT x : x = 1} = a q = ( a1 +
q
p, q に対して aT
p
= a
ai = bi / bi ( i = 1,
検算: a b =
T
∑( b
q
p
i
/ bi )bi = ∑ bi
p
= b
p
p
= a q = (∑ ( bi / bi ) q )1/ q = (∑ bi
ゆえに、 a b = b
p
T
14.11
p
q
b p ( pq = p + q )を満たす a の例:
= b
p −1
p
b
p
= aT
、
( p −1) q 1/ q
p
p
+ an )1/ q が成り立つ。
, n 、ただし、 bi = 0 なら ai = 0 とおく)とすればよい。
p
aT
∞
+ 0 + (bk / bk )bk + 0 +
T
1
= max bi = bk となる k を一つとり、 ai = 0(i ≠ k ), ak = bk / bk とする。
∞
検算: a b = 0 +
aT
= max ai = a ∞ は既知である。aT b = aT
+ anbn = ( b1 / b1 )b1 +
T
1
T
an = bn / bn である(ただし、 bi = 0 なら ai = 0 とおく)。
a の例は a1 = b1 / b1 ,
aT
an ] ∈ X を示そう。
)
p
= (∑ bi )1/ q = b
p
p/q
p
= b
p −1
p
b p。
ハーン・バナハの定理の応用例
本節の内容は「W. Kahan, Numerical linear algebra, Canadian Mathematical Bulletin 9
(1966), 757-801」中の定理(775 ページ)をもとにしている。つぎの事実(I)(II)が成り立つ:
Copyright 再履修線形代数研究会
20
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
0 ≠ A = ⎡⎣ aij ⎤⎦ ∈ Cm×n を与えられた行列とし、 Cm×1 、 Cn×1 上に任意のノルムを与える。す
(I)
ると、 x 0 = 1 、 y 0
= 1 を満たす適当な x0 ∈ Cn×1 、 y 0 ∈ Cm×1 をとれば、 A = y 0T Ax 0 が
T
成り立つ。ここに、 y 0
T
、 A は与えられたベクトルノルムに対応する演算子ノルムを表す:
y 0T = max{ y 0T y : y ∈ Cm×1 , y = 1} 、 A = max{ Ax : x ∈ Cn×1 , x = 1} 。
証明
まず、 Ax 0 = A を成立させる x 0 ∈ C
n×1
、 x 0 = 1 を適当にとる(14.6 節により可能)。
ハーン・バナハの定理により y 0 Ax 0 = Ax 0 かつ y 0
T
T
= 1 を満たす y 0 ∈ Cm×1 がとれる。
Ax 0 = A ゆえ、結局、 y 0T Ax 0 = A となる。■
(II)
与えられた可逆行列 A = ⎡⎣ aij ⎤⎦ ∈ C
すなわち、 A < 1/ A
中に A +
−1
なら A +
n×n
から非可逆行列までの最短距離は 1/ A
−1
に等しい。
A は必ず可逆行列であり、 A = 1/ A −1 を満たす A の
A を非可逆行列とするようなものが存在する。ここに行列ノルム A −1 、 A は与
えられたベクトルノルムに対応する演算子ノルムを表す。別の述べ方をすれば、 A / A から非
可逆行列までの最短距離は 1/( A ⋅ A
−1
) = 1/ cond ( A) によって与えられる。 cond ( A) は A
の条件数と呼ばれることはすでに述べた。ベクトルノルムの選び方に無関係に
cond ( A) ≥ AA −1 = I = 1 が成り立つことに改めて注意。
(注意)2-ノルムに限定した場合はレッスン 11「特異値分解」で証明済みである。
証明
A + A を非可逆行列とすれば、 ( A + A)x 0 = 0 を満たす 0 ≠ x0 ∈ Cn×1 がとれる。する
と、 Ax 0 = − Ax 0 ≤
A ⋅ x0 =
A ⋅ A −1Ax 0 ≤
A ⋅ A −1 ⋅ Ax 0 。これより
A ≥ 1/ A −1 (∵ Ax0 ≠ 0 )が得られる。対偶をとれば問題の主張の前半が証明される。
−1
つぎに、(I)を A に適用すれば( m = n )、 A
Copyright 再履修線形代数研究会
−1
= y 0T A −1x0 、ただし y 0T = 1 、 x 0 = 1 、
21
再履修線形代数―分解定理を主軸に整理整頓
を満たす x 0 , y 0 ∈ C
n×1
レッスン 14 ノルム
がとれるはずである。 A = −x 0 y 0 / A
T
−1
とおけば、
A = 1/ A −1 かつ A + A が非可逆行列となることを示そう。実際、 A −1 = y 0T A −1x0 ゆえ
( A + A) A −1x 0 = ( A − x 0 y 0T / A −1 ) A −1x 0 = x 0 − x 0 (y 0T A −1x0 ) / A −1 = x0 − x0 ⋅1 = 0
−1
が得られる。A x 0 ≠ 0 ゆえ、これは A + A が非可逆行列であることを示す。前半の結果から、
A ≥ 1/ A −1 のはずである。他方、 A = −x 0 y 0T / A −1 ≤ x0 ⋅ y 0T / A −1 = 1/ A −1 。
A = 1/ A −1 が結論される。■
結局、
2⎤
より ∞ -演算子ノルムに関して最短距離にある非可逆行列
4 ⎥⎦
1 ⎡ −4 2 ⎤
−1
B = A − x0 y 0T / A −1 を構築してみよう(証明参照)。A −1 = ⎢
、ゆえに A = 3(最
⎥
2 ⎣ 3 − 1⎦
例
⎡1
A=⎢
⎣3
−1
大行和ノルム)。 x 0 としては A x 0 = A
[
]
−1
および x 0 = 1 を満たすベクトルをとればよい。
[
−1
そのような x 0 の一例は x 0 = −1 1 である。そして A x 0 = 3 − 2
T
]
T
となる。 y 0 としては
y 0T A −1x0 = A −1x 0 および y 0T = 1 を満たすベクトルをとればよい。そのようなベクトルの一
[
]
例は y 0 = 1 0 である。ゆえに
T
⎡1 2 ⎤ ⎡ −1⎤
⎡1 2 ⎤ 1 ⎡ −1 0 ⎤ 1 ⎡ 4 6 ⎤
B = A − x0 y 0T / A −1 = ⎢
− ⎢ ⎥ [1 0] / 3 = ⎢
⎥
⎥
⎥− ⎢
⎥= ⎢
⎣3 4 ⎦ ⎣1 ⎦
⎣3 4 ⎦ 3 ⎣ 1 0 ⎦ 3 ⎣8 12 ⎦
また、 A より B までの距離は証明中で示したように 1/ A
B − A ≡ −x0 y 0T / A −1 =
−1
= 1/ 3 であるはずである。検算:
1 ⎡ −1 0 ⎤ 1
1
= = −1 。 A の条件数 cond ( A) を計算すると、
⎢
⎥
3 ⎣ 1 0⎦ 3 A
cond ( A) = A ⋅ A −1 = 7 ⋅ 3 = 21 。■
最後にひとこと:このレッスンの最も基礎的な結果は「線形変換の連続性(有界性)」「展開
係数の有界性」「有限次元ノルム空間の完備性」「ノルムの同値性」「演算子ノルムと性質」「ハ
Copyright 再履修線形代数研究会
22
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
ーン・バナハの定理」である。証明のために解析学からの既知事項として仮定したのは実数・
複素数の完備性だけである。ハーン・バナハの定理は一般のノルムに関して、
「与えられた可逆
行列から非可逆行列までの最短距離」を算出するために必要であった。この定理は双対問題の
解を保証することを思えばその重要性を理解できよう。
腕試し問題
問題 14.1 与えられたベクトル空間 X 上のノルム
α x ≤ x '≤ β x
⋅ 、 ⋅ ' の同値性
( x ∈ X 、 α , β は正定数)を記号で
⋅ ~ ⋅ ' で表すことにすれば、
" ~ " は同値関係を表すことを示せ。
(略解
(回帰性) X 上の任意のノルム
⋅ に対して ⋅ ~ ⋅ 、
(対称性)
⋅ 、 ⋅ ' に対して、 ⋅ ~ ⋅ ' なら ⋅ ' ~ ⋅ 、
(推移性)
⋅ 、 ⋅ ' 、 ⋅ '' に対して、 ⋅ ~ ⋅ ' かつ ⋅ ' ~ ⋅ '' なら ⋅ ~ ⋅ ''
が成り立つことを示せばよい。■)
問題 14.2(14.8節(IV)の別証明) X を有限次元ノルム空間とし、 A を X からそれ自身への
線形変換とする。演算子ノルム
在し、 (I − A )
−1
A に対して、不等式 A < 1 が満たされれば、 (I − A ) −1 が存
≤ 1/(1 − A ) が成り立つことを次の手順に従って示せ。
(1) 自然数 k に対して B k = I + A +
+ A k −1 とすれば、 (I − A )B k = B k (I − A ) = I − A k 。
(2) {B k } はコーシー列を表すことを示せ。ゆえに 14.3 節により {B k } は収束する。その極限を
B とする: B k − B → 0 。
(3) (1)において k
→ ∞ の極限をとり、 A k ≤ A → 0 を利用して (I − A )B = B(I − A ) = I 、
k
−1
すなわち、 B = (I − A ) 、を示せ。
(4)
Bk = I + A +
+A
k −1
≤ 1+ A +
Copyright 再履修線形代数研究会
+ A
k
=
1− A
k
1− A
23
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
および 0 ≤ B k − B ≤ B k − B → 0 を利用して (I − A )
−1
≤ 1/(1 − A ) を導け。
(略証:(1) 単純な計算で出る。
(2)
B p − Bq = A p +
与えられた条件
+ A q −1 ≤ A (1 +
p
+ A
q − p −1
) ≤ 2 A (ただし p ≤ q )。これに
p
A < 1 を適用すればよい。(3) 問題文中の指針に従えばよい。■)
問題 14.3 (14.4 節の逆)
「無限次元ノルム空間の単位球表面上から収束する部分列を全くもた
ないベクトル列を選ぶことができる」ことを次の手順によって示せ。 X を与えられた無限次元
ノルム空間とする。
(I) X n を任意の n 次元部分空間( n = 1, 2,
のベクトル b を一つ選び、 X n +1 ≡ span{b1 ,
表す。このとき、 d
)、{b1 ,
, b n } を X n の基底とし、 X n 外より任意
, b n , b} とすれば、 X n +1 は n + 1 次元部分空間を
≡ dist (b, X n ) ≡ inf{ b − x : x ∈ X n } (“ b より X n までの最短距離”)
= b − x (0) を満たす x (0) ∈ X n が存在することを示せ。
(II)
y (0) ≡ (b − x (0) ) / b − x (0) = (b − x (0) ) / d を定義すれば、明らかに、 y (0) ∈ X n +1 かつ
y (0) = 1 。すると、任意の x ∈ X n に対して x − y (0) ≥ 1 が成り立つことを示せ。
(III) 単位球表面 S
= {x ∈ X : x = 1} 上から、収束する部分列を全く含まない列を抽出できる
ことを示せ。
以上と 14.5 節の結果を総合すれば、
「すべての有界列が収束する部分列を含むための必要
十分条件は、その空間が有限次元であることである」
。
(注意) (I)(II)は、A. E. Taylor and D. C. Lay, Introduction to Functional Analysis, Second
Edition, Krieger, 1980, Theorem 3.5( Riesz’s Lemma ), p. 64、を多少変更したものである。
Taylor and Lay では、 X n に相当する部分空間を、有限または無限閉部分空間 X 0 としているた
め、結論は「 0 < θ
< 1 を満たす各実数 θ に対して dist (y (0) , X 0 ) ≥ θ を満たす y (0) ∈ X が存在
する」こととなっている。(III)は、Taylor and Lay、Therem 3.6 (p.65)と本質的に同じである。
(略証
(I) 各自然数 k に対して(*)d
≤ b − x k < d + (1/ k ) を満たす x k ∈ X n を選べば {x k }
は明らかに X n 内の有界列を表すから、14.5 節により、 X n 内のベクトル x
Copyright 再履修線形代数研究会
(0)
に収束する部分列
24
再履修線形代数―分解定理を主軸に整理整頓
を含む。これを(*)式に使えば d = b − x
(0)
レッスン 14 ノルム
> 0 を得る。(II) 次を検算せよ:
x − y (0) = x − (1/ d )(b − x (0) ) = (1/ d ) dx + x (0) − b ≥ (1/ d ) d = 1 (∵ dx + x (0) ∈ X n )。
(III) b1 ∈ S を 任 意 に 取 り 、 span{b1} ≡ X 1 と す る 。 (II) に よ り 、 b 2 ∈ S を 適 当 に と れ ば
dist (b 2 , X 1 ) = 1 となる。 span{b1 , b 2 } ≡ X 2 とする。以下同様の手続きにより、 S 上のベクト
ル列 {b1 , b 2 , } ≡ {b k } が得られる。ここに
dist (b k +1 , X k ) = 1 ( k = 1, 2,
)。これより任意の自然数 m ≠ n に対して、
b m − b n ≥ 1 が成
り立つ。このような S 上の列は収束する部分列を全く含まないことは明らか。■)
問題 14.4 (行列ノルム計算問題)次の行列の 1-ノルムと ∞ -ノルムを計算せよ:
⎡ −1
P = [ −1 2i 1 − i ] , PT , P* , Q = ⎢
⎣1 − i
P 1 = PT
(答:
Q 1 = QT
∞
= P*
∞
= Q*
∞
∞
=2、 P
= 4、 Q
∞
p
∞
= QT
問題 14.5 (行列ノルムに関する問題)
ば、 B
2⎤ T *
,Q ,Q
2i ⎥⎦
= PT
1
1
= P* = 3 + 2 、
1
= Q* = 2 + 2
1
■)
A ∈ C m×n 、 B を A の任意小行列(ブロック)とすれ
≤ A p が成り立つ。ここに p = 1, 2, ∞ のいずれかとする。
(略証: p -ノルムの定義より、任意の列ベクトル y の数個の成分を 0 で置き換えたものを y ' で
表せば、明らかに y '
p
≤ y p が成り立つ。そこで B を、 A より第 i1 ,
, i p 行、第 j1 ,
, jq 列を
削除して得られる小行列とすれば、
B
p
≤ max{ Ax p : x
p
= 1& x j = 0, j = j1 ,
, jq } ≤ A
⎡B 0 ⎤
⎡ 0 B⎤
または A = ⎢
A=⎢
⎥
⎥ なら、 A
⎣C 0 ⎦
⎣0 C⎦
示せ。ここに p = 1, 2, ∞ のいずれかとする。
問題 14.6
(略証:
p
p
■)
= max{ B p , C p } が成り立つことを
A 1 =最大列和、 A ∞ =最大行和、 A 2 =最大特異値 = AT A の最大固有値の平方
T
⎡ BT B
根、ここに A A = ⎢
⎣0
⎡CT C 0 ⎤
0 ⎤
または
、を考慮すれば直ちに出る。■)
⎥
⎢
T ⎥
CT C ⎦
0
B
B
⎣
⎦
Copyright 再履修線形代数研究会
25
再履修線形代数―分解定理を主軸に整理整頓
レッスン 14 ノルム
0 ≠ c ∈ R n×1 , B ∈ R n×n とすれば、 B(I −
問題 14.7
(注意) I −
ccT
)
cT c
ccT
T
は平面 c x = 0 上への正射影を表す。 ⋅
T
c c
= B
2
− Bc 2 / cT c
2
F
F
F
はフロベニウス・ノルムを表す。
n
(略証
一般に
X
F
≡ ( ∑ xij 2 )1/ 2 = (tr ( XT X))1/ 2 、ここに tr ( ) はトレースを表す。一般に
i , j =1
tr ( P + Q ) = tr ( P ) + tr (Q ), tr (cP ) = c ⋅ tr ( P ), tr ( PQ ) = tr (QP ) が成り立つ(ここに P, Q は正
方行列、 c はスカラー)
。以上から
ccT
B (I − T )
c c
2
F
= tr (BT B(I −
= B
2
F
−
Bc
ccT T T
ccT
ccT 2
T
= tr ((I − T ) B B(I − T )) = tr (B B(I − T ) )
c c
c c
c c
ccT
ccT T
(Bc)T (Bc)
T
T
=
tr
B
B
−
tr
B
B
=
tr
B
B
−
tr
))
(
)
(
)
(
)
(
)
cT c
cT c
cT c
2
ここに、 Bc は n ×1 ゆえ、
2
cT c
問題 14.8 任意の a ∈ R
abT
≤ a
∞
∞
m×1
Bc 2 = Bc F 。■)
, b ∈ R n×1 に対して abT
F
= abT
2
= a
2
b 2 および
b 1 が成立することを示せ。
(注意) すでに学んだように、 p = 1, 2, ∞ 、 a ∈ R
m×1
(または C
m×1
)に対して、 a
p
を演算
子ノルムと見なしてもベクトルノルムと見なしても、値は一致する。
(略証
まず ab
abT
2
abT
2
F
2
2
2
2
2
b 2。
= (abT )T (abT ) の最大固有値= (aT a) ( bbT の最大固有値)。ここで bbT の固有
T
2
を計算すると(前問略解参照)
、
F
= tr ((abT )T abT ) = aT a ⋅ tr (bbT ) = aT a ⋅ tr (bT b) = aT a ⋅ bT b = a
値は b b, 0,
abT
T 2
, 0 であることより、 bbT の最大固有値は bT b である。ゆえに
= (aT a)(bT b) = a
2
2
2
b 2 = abT
後半の証明:演算子ノルムの性質から
問題 14.9
2
F
abT
∞
≤ a
∞
bT
∞
=
a
∞
b 1 ■)
0 ≠ a ∈ R n×1 , b ∈ R m×1 とするとき、 Xa = b を満たすすべての X ∈ R m×n のうち、
Copyright 再履修線形代数研究会
26
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
X = X 0 ≡ baT / aT a は最小の 2-ノルム b / a をもつことを示せ。( ⋅ 2 を単に ⋅ と書く。)
(略証
Xa = b を満たす任意の X ∈ R m×n をとる。ノルムをとれば X a ≥ b が得られる。こ
X ≥ b / a 。一方、 X 0 = baT / aT a ∈ R m×n は確かに X0a = b を満たし、前問の結果
れより
を利用すれば、
X0 = baT / aT a = b a / a = b / a が得られる。■)
2
問題 14.10 任意の A ∈ R
(略証
A
F
m×n
に対して
A
F
rank ( A)
≤ A 2 ≤ A F が成立することを示せ。
= trace( AT A) 、 A 2 = 「 A の最大特異値」を使う。 A の特異値分解を
A = UΣV T とする。ここに U , V は直交行列、 Σ = diag{σ 1 ,
(σ 1 ≥
≥ σ r > 0, r ≡ rank ( A) ) 、σ 1 ,
て、 A
2
F
= trace( AT A ) = σ 12 +
, σ r , 0,
, σ r , 0,
, 0} ( m × n 行列)、
, 0 は A の特異値を表す。簡単な計算によっ
+ σ r 2 。また、 A
2
2
= σ 12 はすでに知っている。問題の不
等式はこれらから得られる。■)
問題 14.11 (ベクトル p -ノルム)
p -ノルム a
= ( a1 +
p
p
[
an ] ∈ R n×1 (または Cn×1 )の
この問題では a = a1
T
+ an )1/ p が実際にノルムの公理を満たすことを示す。 p = 1, 2, ∞
p
の場合はすでにわかっているから、 p > 1 、
p ≠ ∞ の場合のみを考える。三角不等式以外の要
請が満足されることは単純な計算で確認できるから、この問題では三角不等式(別名、)
a+b
a
(I)
p
p
≤ a p + b p のみの証明を考える。さらに p − ノルムの単調性および極限定理
→ a
∞
( p → 0) の証明を行う。
a, b ≥ 0 なら a1/ p b1/ q ≤
a b
1 1
+ (ただし、 p, q > 1, + = 1 )を示せ。これは「相乗平均
p q
p q
≤ 相加平均」すなわち、「 ab ≤ ( a + b) / 2 」の一般化を表す。
n
(II) ヘルダーの不等式 Hoelder’s inequality:
∑ ab
i =1
Copyright 再履修線形代数研究会
i i
≤ a
p
b q を示せ
27
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
[
an ] , b = [b1
( a = a1
bn ] )。 p = q = 2 はコーシー・シュワルツの不等式に還元する。
T
T
三角不等式(ミンコフスキーの不等式 Minkowski’s inequality)
: a+b
(III)
[
(IV) 単調性:1 ≤ s < t なら、任意の a = a1
p
≤ a p+ b
an ] ∈ R n×1(または Cn×1 )に対して、 a
T
t
t
≤ a
p
s
s
が成り立つことを示せ。
(V)
a
→ a
p
∞
= max ai ( p → ∞ ) を示せ。
(I) a , b > 0 としてよい。 0 < k
< 1 とし、関数 f ( x) = kx + 1 − k − x k ( x > 0) を定義す
k −1
る と 、 x ≥ 1 の と き f ( x ) ≥ 0 ( ∵ f (1) = 0 、 x ≥ 1 な ら f '( x) = k (1 − x ) ≥ 0 )。 直 線
y = kx + 1 − k は点 (1,1) における曲線 y = x k への接線となっていることに注意。つぎに、a ≥ b
なら x = a / b(≥ 1), k = 1/ p とし、 a < b なら、 x = b / a , k = 1/ q とせよ。
(略証
(II) a, b ≠ 0 としてよい。 ai ' = ( ai / a
ai bi
a
p
(III)
≤
b
p
ai
p
a
q
p
bi
+
p
) p , bi ' = (bi / b q ) q とおいて(I)の結果を利用すれば、
q
q
b
p
q
が出る。 i について和をとれば問題の不等式が出る。
q
a + b ≠ 0 としてよい。
a+b
p
p
n
= ∑ ai + bi
p
i =1
n
≡ ∑ ai si
n
≤ a p (∑ si
p −1
n
+ ∑ bi si
p −1
i =1
( p −1) q 1/ q
)
i =1
n
≤ ∑ ai ai + bi
i =1
i =1
p −1
i =1
n
= ∑ ai + bi ai + bi
p −1
n
+ ∑ bi ai + bi
p −1
i =1
( si ≡ ai + bi )
n
+ b p (∑ si
( p −1) q 1/ q
)
(ヘルダーの不等式による)
i =1
n
≤ ( a p + b p )(∑ si )1/ q
p
(∵ ( p − 1) q = p )
i =1
≤ ( a p + b p) a +b
両辺を
(IV)
a+b
a1 ,
p −1
p
p (1/ q )
p
≤ ( a p + b p) a +b
p −1
p
(∵ p − 1 = p / q )
で割れば問題の不等式が出る。
, an を与えられた正数とすれば、関数 f ( x ) ≡ ( a1x +
+ an x )1/ x は x > 0 で単調減少
関数を表すこと、すなわち、「 x > 0 なら f '( x ) < 0 」を示せば十分である。実際、
log f ( x ) = (1/ x) log( a1x +
+ an x ) ( log は自然対数を表す)を微分し、整理すれば
Copyright 再履修線形代数研究会
28
レッスン 14 ノルム
再履修線形代数―分解定理を主軸に整理整頓
x 2 ( f '( x ) / f ( x)) = u1 log u1 +
+ un log un 、ただし ui ≡ ai x /(a1x +
られる。x > 0 であるから、0 < u1 ,
(V) (補題) (b + ε k )
1/ k
+ an x ), i = 1,
, n が得
, un < 1 。ゆえに右辺は負の実数を表す。ゆえに f '( x ) < 0 。
→ 1 ( k → 0) ここに b ≥ 1, ε k ≥ 0 、 ε k → 0 ( k → ∞ ) 、 k は自然数値
のみを採るものとする。実際、 (b + ε k )
1/ k
− 1 = xk とおけば xk ≥ 0 。ゆえに 2 項定理により
1 + kxk ≤ (1 + xk ) k = b + ε k 。これより 0 ≤ xk ≤ (b − 1 + ε k ) / k → 0 。ゆえに xk → 0 、すなわち、
(b + ε k )1/ k → 1(補題証了)。つぎに a p は a
= (b + ε p )1/ p ⋅ max ai ( b は高々 n の自然数、
p
ε p は p → ∞ のとき、 ε p → 0 となるような量)の形に書けることを確かめよ。すると、補題
と(IV)から a
→ max ai = a p が得られる。■)
p
問題 14.12 (行ベクトルの
p -演算子ノルム) 与えられた aT = [ a1
an ] ∈ R1×n(または C1×n )
の 1-、 ∞ -、2-ノルムは、既知の行列演算子ノルムに関する結果を利用すれば、
aT
1
= max ai = a ∞ 、 aT
一般に、p, q > 1 、(1/
演算子ノルムは
(略証
aT
p
= max ai = a ∞ 、 aT
p) + (1/ q) = 1 なら、 aT
= max{ aT x : x
p
p
2
= aT a = a 2 によって与えられる。
= a q が成立することを示せ。ここに aT の p -
= 1} によって定義される。
前問で証明したヘルダーの不等式を使う。実際、
意の x に対して、 a x =
T
これより
1
aT
∑a x ≤ ∑ a x
i i
i i
≤ a
q
≤ a q が得られる。ここで xi = ai /(ai a
ば、 p + q = pq により、
x
p
p
= [ x1
xn ]
= 1 を満たす任
T
p
x p (ヘルダーの不等式による) = a q 。
q −1
q
p
x
q
)(ai ≠ 0) 、 xi = 0(ai = 0) とすれ
= 1 、aT x = a q が成り立つ。上の結果と合わせると aT
p
= a
q
が出る。■)
Copyright 再履修線形代数研究会
29