ひょんなことから、クロムウェルのルール〈Cromwell's rule〉というものを知りました。クロムウェルのルールを確率の議論に適用すると、「確率 0 の事象なんてない」ってことになるようです。僕の感想は、「そんなバカな。確率 0 の事象なんていくらでもあるでしょ」。例えば、明日の朝、太陽が西から昇る確率は 0 でしょ。
しかし、タチのよい確率空間に限定した話にすると、次の形でクロムウェルのルールをある程度は正当化できます。
- 確率 0 の“非空な事象”がない確率空間だけを考えてもよい。
この正当化は、もともとのクロムウェルのルールの意図を捻じ曲げているかも知れませんけどね。
内容:
- クロムウェルのルール
- 確率空間と確率保存写像
- 確率保存写像のあいだの同値関係
- ホムセット上の同値関係と圏の構造
- 確率空間の2-圏
- 確率空間の同値
- 強いクロムウェルのルールを守る確率空間
- 強いクロムウェルのルールを守る代替物
- 箴言としてのクロムウェルのルール
クロムウェルのルール
クロムウェルのルールに関する説明は英語版Wikipediaしか見てません。それによると、クロムウェルの次の言葉が語源のようです。
I beseech you, in the bowels of Christ, think it possible that you may be mistaken.
よく分かりません。"in the bowels of Christ" って何のこと? 分からないのでこの句を無視すると、「あなたが間違っている可能性だってゼロとは言えないのじゃないの」みたいなことでしょう。
別な引用として、次の言葉もあります。
leave a little probability for the moon being made of green cheese;
月がグリーンチーズからできているという僅かな可能性〈確率〉も残す、とのこと。どうやら、この世に絶対に起きない(あるいは絶対に起きる)事象はないと主張したいようです。
現実世界では絶対なんてないのだから、太陽が西から昇る僅かな可能性〈確率〉も残すべきってことです。なんか腑に落ちないな、僕は。
確率に関する強いクロムウェルのルール〈a strengthened version of Cromwell's rule〉だと、事象 A の確率 Pr(A) に次の制限を設けるとのこと。
- 0 < Pr(A) < 1
Pr(A) = 0 と Pr(A) = 1 は認めないわけです。なんか腑に落ちないな、僕は。
上記の強いクロムウェルのルールって、確率の議論に適用していいもんなんでしょうか? 次節以降で考えてみます。
確率空間と確率保存写像
を確率空間〈probability space〉とします。ここで:
- 台集合: は集合
- シグマ代数: は、台集合 のベキ集合 の部分集合であるシグマ代数
- 確率測度: は、シグマ代数 上の測度であって を満たすもの
記号の乱用を用いずに、確率空間とその台集合は区別しています。が、この方針を徹底する気はありません。例えば、シグマ代数がベキ集合の部分集合であることを と書くのは不正確で、シグマ代数の台集合を使って と書くべきでしょう*1が、そこまではやりません(めんどうだから)。
台集合 の部分集合 が (ここは記号の乱用)のとき、 を可測集合〈measurable set〉または事象〈event〉と呼びます。(確率空間の可測集合を特に事象と言うようです)。 と は事象で、次の確率を持ちます。
を2つの確率空間として、台集合のあいだの写像 が次を満たすとき可測写像〈measurable map〉といいます。
可測であるだけでなく、さらに次の条件も満たすときは測度を保存する〈preserve measure | measure-preserving〉といいます。
確率空間に備わっている測度 は確率測度なので、測度を保存する可測写像は確率保存写像〈probability-preserving map〉とも呼びます。
確率空間を対象として、確率保存写像を射とする圏を構成できるので、この圏を と書きます。確率保存写像は、圏論的な言葉で確率空間射〈morphism of probability spaces〉ともいえます。
確率空間の圏には他の定義もあって、射として可測写像ではなくてマルコフ核を使うバージョンもあります。が、ここでは使いません。
確率保存写像のあいだの同値関係
確率空間 の事象 が次を満たすときゼロ事象〈null event〉と呼びます。
ゼロ事象の別な定義もあるようですが、ここでは割り切った上記の定義を採用します。確率空間 のゼロ事象の全体を とします。
議論を簡単にするために、以下、次の性質を仮定します。
ゼロ事象の部分集合はゼロ事象で、対角集合 は直積集合内の可測集合になるってことです。十分タチのよい確率空間なら、この性質が成立しているとしていいでしょう。
確率空間のあいだの可測写像 がほとんど等しい〈almost equal | almost surely equal〉とは次のことです。
がほとんど等しいことを と書くことにします。
とは、 がホントに等しいとは限りませんが、等しくない点はゼロ事象なので“無視できる例外点”ということです。別な言い方をすると、確率 1 の部分集合上で等しいことが“ほとんど等しい”ことです。
“ほとんど等しい”に関する議論を簡略化するために、述語(真偽値を値とする写像) に対して、次の記法を導入します。
が可測集合〈事象〉になるとき、述語は可測述語〈measurable predicate〉だと言うことにします。述語が可測な場合は、その確率を次のように書きます。
単に丸括弧を省いていいというルールを設けただけです。
さて、対角集合が可測であるという仮定のもとでは、可測写像 に対する は事象〈可測集合〉になります。なぜなら:
これと、 が可測なら が可測なこと、可測写像による可測集合の逆像は可測なこと(定義)を使います。
今述べたセッティングでは、 がほとんど等しいことは次のように言い換えられます。
( が等しい確率は 1)
あるいは、同じことですが、
( が等しくない確率は 0)
この形の定義は、心理的に自然で運用しやすいのではないかと思います。例えば、“ほとんど等しい”の推移律を示してみましょう。
を仮定して計算してみます。
“ほとんど等しい”の反射律と対称律は明らかなので、“ほとんど等しい”関係 は、 から への可測写像の集合上の同値関係になります。確率保存写像は可測写像なので、“ほとんど等しい”関係を確率保存写像の集合上に制限してもかまいません。
ホムセット上の同値関係と圏の構造
圏論の習慣に従うと、確率空間 から のすべての射(確率保存写像)の集合は と書き、ホムセット〈homset〉といいます。前節の結果より、各 ごとに“ほとんど等しい”という同値関係が入ったわけです。
異なるホムセット上の“ほとんど等しい”を区別したいときは次のように書きます。
各ホムセットごとに与えられた“ほとんど等しい”という同値関係は、圏の構造と整合性〈互換性 | compatibility〉を持ちます。それは次のことです。
ここで、セミコロンは射の結合の図式順記号です。反図式順記号は白丸 です。
上記の命題は、 の仮定のもとで、次の集合の確率を計算すればわかります。
計算してみましょう。まず次の事実に注意します。(共通部分がない集合の合併にはプラス記号を使っています。)
これを使うと次が言えます。
足し算している二番目の項を見ると:
したがって、一番目の項だけ計算すればOKです。一番目の項の引数を変形します(下に補足あり)。
上記集合の確率測度は、 が確率保存写像であることを使って*2計算します。
結局:
自明に見える人もいれば戸惑う人もいるかもしれません。
一番目の命題は次の4つの命題に分解できます。
それぞれは明らかでしょう。よって、先の一番目の命題は成立します。
次に、集合 について考えます。
これで、 が言えました。
[/補足]
確率空間の2-圏
ここまでで、各ホムセット上に都合がいい同値関係が載った圏 を構成できました。 という写像間の同値を2-射とみなすことにより、 を2-圏とみなすことにします。2-圏とは、対象(点で図示)と射(矢印で図示)以外に、2-射(二重矢印で図示)も持つ圏論的構造物です。
を次のように書きます。
通常は、写像間の同値にいちいち名前を付けたりしませんが、ここでは と名付けています。 が同値関係であることを、この書き方に書き換えてみます。
反射律:
次のように書き換えます。射〈1-射〉に対する恒等2-射があるとします。
対称律:
次のように書き換えます。2-射には必ず逆があると想定しています。
推移律:
次のように書き換えます。2-射の縦結合(演算記号は 、下に図あり)があると想定しています。
前節の“ほとんど等しい”と圏の結合との整合性も書き換えましょう。
これは次のように書けます。2-射の横結合(演算記号は 、下に図あり)になります。
2-射の縦結合と横結合を理解するには次の図が役立つかも知れません。上が横結合の状況、下が縦結合の状況です。
以上で、圏 の1-射のあいだの2-射が定義できて、恒等2-射、2-射の逆、2-射の縦結合、2-射の横結合が定義できました。2-圏であるためには、幾つかの法則を要求されますが、それは割愛します。
の各ホムセットに2-射も付け加えることにより圏が形成されます。これをホム圏〈homcategory〉といいます。ホム圏も と書きますが、今後は圏として扱います。次のことに注意してください。
同値関係“ほとんど等しい”から作ったホム圏は非常に特殊な圏で次の特徴を持ちます。
- ホム圏のすべての射は可逆である。同値関係の対称律に相当します。
- ホム圏のホムセットは単元集合または空集合。このような圏をやせた圏〈thin category〉といいます。
確率空間の同値
の2-圏構造を利用して、2つの確率空間が同値〈equivalent〉であること(記号は )を定義します。定義内に出てくる はホム圏内の同型です。似た記号 を区別してください。
2-圏 におけるホム圏内の同型 とは、確率保存写像のあいだの“ほとんど等しい”関係のことでした。よって、次のように書いても同じです。
2つの確率空間の同値性 は、同型性 よりゆるい分類を与えます。同型ではくても同値になる確率空間のペアがあります。まったくつまらない例ですが、同型ではないが同値である確率空間 の例を挙げます。
確率空間 を次のように定義します。
確率空間 を次のように定義します。
写像 を次のように定義します。
写像 を次のように定義します。
は確率保存写像になります。そればかりではなく次が成立します。
なので一番目は自明に成立しています。二番目に関しては、確率空間 のゼロ事象 を考えます。このゼロ事象に関して、次が成立します。
これは、次のように書き換えてみれば明らかですね。
ゼロ事象 を除いた部分(それが 0 だけ)で等しいので“ほとんど等しい”のです。
以上から、 が分かりました。しかし、 にはなりません。そもそも、集合としての1:1写像 が存在しないので。
[/補足]
強いクロムウェルのルールを守る確率空間
最初の節で引用した強いクロムウェルのルール〈a strengthened version of Cromwell's rule〉をもう一度述べると、事象 A の確率 Pr(A) は 0 < Pr(A) < 1 を満たすことでした。この制約を、確率空間 に対して定義すれば次のようになるでしょう。
この制約を満たす確率空間を強いクロムウェルのルールを守る〈respects strong Cromwell's rule〉ということにします。
強いクロムウェルのルールを守る確率空間では、空事象以外のゼロ事象はありません。逆に、空事象以外のゼロ事象がなければ、強いクロムウェルのルールを守ります。
空事象以外のゼロ事象がないという条件は、実際にはなかなか守れません。例えば、おそらくは最もおなじみの確率測度である実数直線上のガウス確率測度〈正規分布〉を考えると、一点だけの事象〈単元事象 | 根本事象〉は空でないゼロ事象になります。一点だけの集合を事象〈可測集合〉から除くことも、積分やシグマ代数を構成する都合で無理そうです。
強いクロムウェルのルールを守れそうな確率空間とはどんなものでしょうか? 台集合が有限の場合なら守れそうです。確率空間 の台集合 が有限集合で、シグマ代数がベキ集合で与えられる場合なら、空でないゼロ事象を持たないことは次のように書けます。
これが強いクロムウェルのルールになります。一方、強いクロムウェルのルールを守れてない確率空間は次の性質を持ちます。
強いクロムウェルのルールについて考えるにあたって、台集合が有限集合である確率空間に限定した確率空間の2-圏 を舞台にすることにします。
強いクロムウェルのルールを守る代替物
冒頭で述べたこと:
タチのよい確率空間に限定した話にすると、次の形でクロムウェルのルールをある程度は正当化できます。
- 確率 0 の“非空な事象”がない確率空間だけを考えてもよい。
これの話をします。
具体的に言えば、有限な確率空間 に対して、次のような が存在します。
- は強いクロムウェルのルールを守っている。
同値な確率空間は同類とするなら、同類のなかで強いクロムウェルのルールを守っている確率空間を見つける、あるいは作ることができるわけです。
では、与えられた に対して次のモノを構成しましょう。
まず確率空間 の構成。
一言でいえば、 から確率ゼロの点を取り除いて作った確率空間が です。定義から次が成立するので、 は強いクロムウェルのルールを守っています。
写像 は包含写像として定義します。 が可測なのは明らかなので、確率を保存することを示します。次がターゲット命題です。
であることから、次を示せばいいことになります。
次の計算で示せます。
今度は写像 の定義です。 は空ではないので、要素 を選んで固定します。 は次のようです。
この が確率を保存することを示します。次がターゲット命題です。
2つのケースに場合分けします。
ケース1のときは なので、示すべきことは自明な等式です。ケース2のときは、 なので、次のように計算できます。
“ほとんど等しい”関係 は、 から明らかです。残る“ほとんど等しい”関係は です。
と置くと、 は確率空間 のゼロ事象になります。次の2つの等式は同じことで、成立する等式です。
二番目の等式は を意味します。
以上で、確率空間 から構成した確率空間 は次の性質を持つことが分かりました。
- は強いクロムウェルのルールを守っている。
箴言としてのクロムウェルのルール
クロムウェルのルールは、ベイズ確率の事前確率を選ぶ際の指針のようです。前節の結果は、最初に選んだ事前確率(が載った確率空間)がクロムウェルのルールを守ってなくても、別な同値な確率空間に置き換えればいいことを示唆します。
しかし、“別な同値な確率空間”は、起こり得ないことは削除してしまうことで作っています。この世に絶対に起きない事象はあるけど考えないことにしよう、という態度です。
これは、「月がグリーンチーズからできているという僅かな可能性」「太陽が西から昇る僅かな可能性」も残す発想とは違いますね。
もとのクロムウェルの言葉には、「この世に絶対などない、だから僅かな可能性も考慮すべき」という教訓が含まれている気がします。だとすれば、「起こり得ないことは削除してしまう」は教訓に沿った手法とは言えません。
僕は教訓に沿う気がないから別にいいけどさ。