Document 666724

3. ポアソン過程
確率過程論基礎
笠原
指数分布の性質
指数分布
定義 3.1 非負の確率変数 X の確率分布 F (x) が


0,
F (x) = P (X ≤ x) =
 1 − e−λx ,
x < 0,
x ≥ 0,
で与えられるとき,X は率 λ をもつ指数分布 (exponential distribution) に従う
といい,X ∼ exp(λ) と書く.
特徴
• 密度関数 f (x) は次式で与えられる.


0,
d
f (x) =
F (x) =
 λe−λx
dx
x < 0,
x ≥ 0.
2
確率過程論基礎
• ラプラス-スティルチェス変換 F ∗ (s) は次式で与えられる.
∫ ∞
λ
F ∗ (x) =
e−sx f (x)dx =
.
s+λ
0
笠原
• 平均 E[X],分散 V [X],変動係数 C[X] はそれぞれ次の式で与えられる.
1
E[X] = ,
λ
1
V [X] = 2 ,
λ
C[X] = 1.
問題 3.1 率 λ の指数分布に従う確率変数 X の n 次モーメント E[X n ] を求めよ.
3
確率過程論基礎
笠原
無記憶性
ある機械が稼動し始めてから故障するまでの稼動期間を確率変数 X で表す.あ
る機械が s 時間の間,故障なく稼動し続けたとき,さらに t 時間経っても稼動し
続ける確率 P (X > t + s|X > s)w を考える.
X が指数分布に従っているとき,P (X > t + s|X > s) は
P (X > t + s|X > s) =
=
P (X > t + s, X > s)
P (X > s)
P (X > t + s)
P (X > s)
e−λ(t+s)
=
e−λs
= e−λt = P (X > t).
すなわち
P (X > t + s|X > s) = P (X > t)
(1)
を得る.
4
確率過程論基礎
笠原
定理 3.1 無記憶性を持つ連続な確率変数は指数分布に従う.
証明 X を無記憶性を持つ確率変数とし,その補分布を
F c (x) = P (X > x)
とする.式 (1) より F c (·) は F c (x + y) = F c (x)F c (y) を満足する必要がある.
ここで
( )
1
1
c
c
2
c
c
F (2) = (F (1)) ,
F
= (F (1)) 2
2
に注意すると,一般にすべての正の実数 a に対してが成立することがわかる.
F c (a) = (F c (1))a = e(ln F
c
(1))a
= e−λa
最後の変形において λ = − ln F c (1) とおいた.F c (a) は確率補分布となるため
には

 1,
a < 0,
c
F (a) =
 e−λa , a ≥ 0,
とならなければならず,これは X が指数分布に従う確率変数であることと等価
である.
5
確率過程論基礎
笠原
代表的な性質
1. X1 と X2 は互いに独立で,それぞれ率 λ1 , λ2 の指数分布に従う確率変数と
する.このとき
λ1
P (X1 < X2 ) =
.
λ1 + λ 2
2. n 個の独立な指数確率変数 Xi ∼ exp(λi ) (i = 1, 2, . . . , n) に対し,
∑n
Z = min{Xi : i = 1, 2, . . . , n} を定義すると,Z は率 i=1 λi の指数分布に
従う.また Z = Xi のとき N = i となるような確率変数を定義すると,次
式が成立する.
λk −λx
e
P (Z > x, N = k) =
.
λ
3. Xi (i = 1, 2, . . . , n) を,率 λ を持つ n 個の独立同一な指数分布に従う確率
変数とする.このとき確率変数 Z を Z = X1 + X2 + · · · + Xn で定義する.
Z の確率分布を求めるため,Z のラプラス-スティルチェス変換を考えると
(
)n
λ
E[e−sZ ] =
s+λ
6
確率過程論基礎
笠原
が得られる.逆変換より Z の密度関数 f (t) が


0,
x < 0,
f (x) =
n−1
 λe−λx (λx) , x ≥ 0,
(n−1)!
が得られ,結果として Z の確率分布は
P (Z ≤ x) = 1 −
n−1
∑
k=0
(λx)k
,
e−λx
k!
で与えられる.これは n 次アーラン分布(またはパラメタ (n, λ) をもつガ
ンマ分布)である.
4. Xi (i = 1, 2, . . . , n) を,率 λi を持つ n 個の独立な指数分布に従う確率変数
とする.このとき確率変数 Z を Z = X1 + X2 + · · · + Xn で定義すると Z
のラプラス-スティルチェス変換は次式で与えられる.
E[e−sZ ] =
n
∏
λi
.
s + λi
i=1
7
確率過程論基礎
笠原
ここでもしすべての λi が異なるとき,逆変換形 fZ (t) は次式で与えられる.
fZ (t) =
n
∑
−λi t
αi λ i e
,
i=1
ただし
αi =
∏
j̸=i
λj
.
λj − λi
問題 3.2 上記の性質 1 と 2 を示せ.
8
確率過程論基礎
笠原
ポアソン過程
計数過程
連続時間においてあるランダムな事象が発生する回数を計測することを考える.
{Xn }n≥1 を時間間隔を表す確率変数の系列とし,{Sn }n≥0 を
S0
=
0,
Sn
= X1 + X2 + . . . + Xn ,
で定義すると,Sn は n 番目の事象が発生した時刻を表している. ここで
N (t) = max{n ≥ 0 : Sn ≤ t} t ≥ 0,
を定義すると,N (t) は時間間隔 (0, t] の間に発生する事象の数を表し,計数過
程 (counting process) とよばれる.
9
確率過程論基礎
笠原
ポアソン過程の定義
定義 3.2 (ポアソン過程の定義 1)
{Xn }n≥1 が独立同一な率 λ の指数確率変数ならば,計数過程 {N (t), t ≥ 0} は
率 λ をもつポアソン過程 (Poisson process) とよばれる.
N(t)
4
3
2
1
S0
S1
S2
S3
S4
t
N (t) の標本路
10
確率過程論基礎
笠原
命題 3.1 時刻 t(≥ 0) までの事象数 N (t) の確率分布は次式で与えられる.
(λt)k −λt
P (N (t) = k) =
e .
k!
証明
N (t) ≥ k ⇔ Sk ≤ t
に注意すると
P (N (t) ≥ k) = P (Sk ≤ t).
Sk = X1 + X2 + · · · + Xk より,Sk はパラメタ (k, λ) のガンマ分布に従うこと
に注意すると
P (N (t) = k)
= P (N (t) ≥ k) − P (N (t) ≥ k + 1)
= P (Sk ≤ t) − P (Sk+1 ≤ t)
{
} {
}
k−1
k
r
r
∑ (λt)
∑ (λt)
(λt)k −λt
=
1−
− 1−
=
e .
r!
r!
k!
r=0
r=0
11
確率過程論基礎
笠原
命題 3.2 ある実数定数 s ≥ 0 に対し
Ns (t) = N (t + s) − N (s),
t ≥ 0,
なる Ns (t) を定義する.このとき {Ns (t), t ≥ 0} は率 λ のポアソン過程となり,
かつ {N (u), 0 ≤ u ≤ s} とは独立となる.
証明 Ns (t) は時間間隔 (s, s + t] に起こった事象数を表していることに注意す
る.また下図より,SN (s) は時刻 s 直前の事象生起時点を,SN (s)+1 は時刻 s 直
後の事象生起時点を表していることがわかる.
N(t)
Ns(t)
exp(λ)
S0
SN(s)
s
SN(s)+1
t
N (t) と Ns (t) の標本路
12
確率過程論基礎
笠原
Xk+1 の無記憶性に注意すると
P (SN (s)+1 − s > y|N (s) = k, SN (s) = x, N (u) : 0 ≤ u ≤ s)
= P (Sk + Xk+1 − s > y|N (s) = k, SN (s) = x, N (u) : 0 ≤ u ≤ s)
= P (Xk+1 > s + y − x|Xk+1 > s − x)
= e−λy .
したがって Ns (·) における最初の事象は発生するまでの時間間隔は率 λ の指数
分布に従うことがわかる.最初の事象以降の発生間隔は率 λ の指数分布に従う
ことから,命題が示された.
13
確率過程論基礎
笠原
定義 3.3 確率過程 {N (t), t ≥ 0} に対して
1. N (t + s) − N (s) が s とは独立であり,かつ
2. 0 ≤ s ≤ t ≤ u ≤ v をみたす任意の s, t, u, v において,N (t) − N (s) と
N (v) − N (u) が独立である
とき,{N (t), t ≥ 0} は定常かつ独立な増分 (stationary and independent
increments) の性質を有しているという.
命題 3.3 ポアソン過程 {N (t), t ≥ 0} は定常かつ独立増分の性質を有している.
証明 命題 3.1, 3.2 より
(λt)k −λt
P (N (t + s) − N (s) = k) =
e
k!
となり,上式が s に依存しないことから,定常的な増分性を持つことがわかる.
次に 0 ≤ s ≤ t ≤ u ≤ v において N (v) − N (u) は命題 3.2 より
{N (t), 0 ≤ t ≤ u} とは独立であり,よって N (t) − N (u) とも独立となる.
以上より,命題が示された.
14
確率過程論基礎
笠原
定理 3.2 (ポアソン過程の定義 2)
確率過程 {N (t), t ≥ 0} がポアソン過程となるための必要十分条件は以下の二つ
を満足することである.
1. {N (t), t ≥ 0} が定常かつ独立な増分の性質を有している.
2. t ≥ 0, k = 0, 1, 2, . . . に対して
(λt)k −λt
P (N (t) = k) =
e .
k!
証明 必要性は命題 3.1 と 3.3 より示されているので,以下では十分性を示す.
項目 2 から,確率 1 で N (0) = 0 となることは明らか.また N (t + s) − N (s) も
またポアソン分布に従う確率変数であることから,ほとんどすべての
{N (t), t ≥ 0} の標本路は非減少かつ一度に 1 つだけ増加する.
S1 = inf{t ≥ 0 : N (t) = 1} とすると
P (S1 > t) = P (N (t) = 0) = e−λt
より,S1 は率 λ の指数分布に従う.同様に Sk = inf{t ≥ 0 : N (t) = k} とする
と,項目 2 より,{Xk = Sk − Sk−1 } (S0 = 0) が独立同一な率 λ の指数分布に
従っていることが言える.
15
確率過程論基礎
笠原
命題 3.4 {N (t), t ≥ 0} を率 λ のポアソン過程とし,0 ≤ t1 ≤ t2 ≤ . . . ≤ tn を
固定した実数,0 ≤ k1 ≤ k2 ≤ . . . ≤ kn を固定した整数とする.このとき結合分
布 (N (t1 ), N (t2 ), . . . , N (tn )) は以下で与えられる.
P (N (t1 ) = k1 , N (t2 ) = k2 , . . . , N (tn ) = kn )
−λtn
= e
(λt1 )k1 (λ(t2 − t1 ))k2 −k1
(λ(tn − tn−1 ))kn −kn−1
···
k1 !
(k2 − k1 )!
(kn − kn−1 )!
証明
P (N (t1 ) = k1 , N (t2 ) = k2 , . . . , N (tn ) = kn )
=
P (N (t1 ) = k1 ) × P (N (t2 ) − N (t1 ) = k2 − k1 ) × · · ·
×P (N (tn ) − N (tn−1 ) = kn − kn−1 )
=
=
−λt1
kn −kn−1
(λt1 )k1 λ(t2 −t1 ) (λ(t2 − t1 ))k2 −k1
λ(tn −tn−1 ) (λ(tn − tn−1 ))
·e
···e
k1 !
(k2 − k1 )!
(kn − kn−1 )!
−λtn
(λt1 )k1 (λ(t2 − t1 ))k2 −k1
(λ(tn − tn−1 ))kn −kn−1
···
k1 !
(k2 − k1 )!
(kn − kn−1 )!
e
e
16
確率過程論基礎
笠原
系 3.1 {N (t), t ≥ 0} を率 λ のポアソン過程とすると,t ≥ 0, s ≥ 0 に対して
Cov(N (t), N (t + s)) = λt.
証明
E[N (t)N (t + s)]
= E[N (t) {N (t + s) − N (t)} + N (t)2 ]
= E[N (t) {N (t + s) − N (t)}] + E[N (t)2 ]
= E[N (t)]E[N (t + s) − N (t)] + E[N (t)2 ] (独立増分性)
= λt · λs + (λ2 t2 + λt)
よって
Cov(N (t), N (t + s)) =
E[N (t)N (t + s)] − E[N (t)]E[N (t + s)]
= λt · λs + (λ2 t2 + λt) − λt · λ(t + s)
= λt.
注意
• 共分散が t のみに依存することに注意.
• 一般に Cov(N (t), N (s)) = λ min(t, s) で表すことができる.
17
確率過程論基礎
笠原
定義 3.4 関数 f : R → R が
f (h)
lim
=0
h→0 h
を満足するとき,f を o(h)(スモールオーダ h)の関数とよび,f (h) = o(h) と
書く.
例 3.1
1. f (x) = x2 + x3 は o(h) の関数である.
2. f (x) = ax (a ̸= 0) は o(h) の関数ではない.
3. f (x) と g(x) が o(h) 関数のとき,f (x) + g(x) も o(h) の関数である.
問題 3.3 f (x) = e−λx − (1 − λx) は o(h) の関数か?
18
確率過程論基礎
笠原
定理 3.3 (ポアソン過程の定義 3)
計数過程 {N (t), t ≥ 0} が率 λ のポアソン過程となるための必要十分条件は以下
の 2 つを満足することである.
1. {N (t), t ≥ 0} が定常かつ独立な増分性を有している.
2. N (0) = 0 かつ次式が成立する.
1 − λh + o(h),
P (N (h) = 0)
=
P (N (h) = 1)
= λh + o(h),
P (N (h) = j) = o(h),
j ≥ 2.
(2)
19
確率過程論基礎
笠原
証明 条件 2 が定理 3.2 の条件 2 と等価であることを示す.
最初に本定理の条件 2 が必要条件となっていることを示す.{N (t), t ≥ 0} を率
λ のポアソン過程と仮定する.このとき
(λt)k −λt
P (N (t) = k) =
e
k!
である.これより N (0) = 0 であり,また
e−λh − 1 + λh
P (N (h) = 0) − 1 + λh
= lim
= 0.
lim
h→0
h→0
h
h
よって P (N (h) = 0) = 1 − λh + o(h) が示された.式 (2) の残りの式も同様に示
すことができる.
次に十分性を示す.表記の便宜上,pk (t) = P (N (t) = k) を定義する.このとき
k ≥ 1 に対して
20
確率過程論基礎
笠原
pk (t + h) = P (N (t + h) = k) =
k
∑
P (N (t + h) = k|N (t) = j)P (N (t) = j)
j=0
=
k
∑
P (N (t + h) − N (t) = k − j|N (t) = j)pj (t)
j=0
=
k
∑
P (N (t + h) − N (t) = k − j)pj (t)
(独立増分性)
j=0
=
k
∑
P (N (h) − N (0) = k − j)pj (t)
(定常増分性)
j=0
=
k
∑
P (N (h) = k − j)pj (t)
(∵ N (0) = 0)
j=0
= {1 − λh + o(h)}pk (t) + {λh + o(h)}pk−1 (t) +
k
∑
o(h)pk−j (t)
j=2
= (1 − λh)pk (t) + λh}pk−1 (t) +
k
∑
j=0
o(h)pk−j (t).
21
確率過程論基礎
笠原
上式を変形して両辺を h で割ることにより,次式を得る.
k
∑
o(h)
pk (t + h) − pk (t)
= −λpk (t) + λpk−1 (t) +
pk−j (t).
h
h
j=0
h → 0 とすることにより
p′k (t) = −λpk (t) + λpk−1 (t),
k ≥ 1.
(3)
k = 0 のときも同様に考えて次式を得る.
p′0 (t) = −λp0 (t).
(4)
初期条件 p0 (0) = 1 より,(4) の解は
p0 (t) = e−λt
で与えられる.(3) を k について帰納的に解くことにより,(3) の解は
(λt)k −λt
pk (t) =
e
k!
となり,定理 3.2 の条件 2 が得られる.
22
確率過程論基礎
笠原
ポアソン過程の重畳と分岐
定理 3.4 (ポアソン過程の重畳過程) {Ni (t), t ≥ 0} (1 ≤ i ≤ n) をそれぞれ独
立で率 λi をもつポアソン過程とするとき,
N (t) = N1 (t) + N2 (t) + . . . + Nn (t)
は率 λ = λ1 + λ2 + . . . λn をもつポアソン過程となる.
∑n
{pi , 1 ≤ i ≤ n} を pi > 0 かつ i=1 pi = 1 をみたす数とし,{N (t), t ≥ 0} を率
λ をもつポアソン過程とする.このポアソン過程に対し,発生する事象毎に独立
に確率 pi で別の確率過程 Ni (t) に分類することを考える.このとき
∑n
N (t) = i=1 Ni (t) となっていることに注意する.このような分岐の仕方をベ
ルヌイ分岐 (Bernoulli splitting) とよぶ.
定理 3.5 (ポアソン過程の分岐過程) ベルヌイ分岐で生成された {Ni (t), t ≥ 0}
(1 ≤ i ≤ n) は率 pi λ をもつポアソン過程となる.
問題 3.4 定理 3.4 と 3.5 を証明せよ.
23