図式順記法について少し - 檜山正幸のキマイラ飼育記 (はてなBlog)

昨日の記事「アイレンベルグ／ムーア圏その3:Maybeモナドのとき」の注釈に次のように書きました。

型パラメータを明示的に書くプログラミング言語風の記法が、圏論の記述には向いてないのかも知れません。圏論に最適化された記法や絵図を使うと、もっと単純な記述ができます。

「圏論に最適化された記法や絵図」とはなんでしょうか。まず、絵図（picture, diagram）としては、グロービュラー図（globular diagram）とストリング図（string diagram）が典型的です。1次元のときのグロービュラー図*1は、通常のドット＆アロー図となります。ストリング図は、グロービュラー図のポアンカレ双対となります。ストリング図のほうが図形的直感*2が効くので、実際の計算にはストリング図が便利でしょう。

高次圏（n-圏）では、絵図は「便利な表現法」ではなくて、定義の一部になります。そのへんの事は以前少し書いたことがあります。

今日は絵図の話ではなくて、テキスト記法について少し述べます。

内容

反図式順記法と図式順記法
図式順テキスト記法
要素や関数適用は存在しない
自然変換の計算

反図式順記法と図式順記法

テキストで書かれる普通の数学的記法、あるいはテキストで書かれるプログラミング言語風の記法は、圏論の記述や計算にはあんまり向かないのじゃないか、と僕は思っています。

「fの後にgを結合する」を、g $\circ$ f と書くことがあるのですが、これが図式の方向とも時間的順序とも逆ですごくイヤ。やはり、f;g がイイです。f;g のスタイルは図式順（diagrammatic order）記法といいます。もっとも、バックハウス（Roland Backhouse）、ウィラートン (Simon Willerton) 、ツビタノビッチ（Predrag Cvitanovic）などは、矢印を g:C←B, f:B←A と書いて、g $\circ$ f に合わせようとしてますがね。

図式順を採用してもストレスがたまるのは、(f;g)(x) = g(f(x)) のようなときに、結局は反図式順が混じってしまい、バイダイレクショナルな行ったり来たりが発生することです。この「行ったり来たり」が積み重なると、すごく負担になります。左右の区別が苦手な僕にはもう耐え難い。

そこで、反図式順をまったく含まない記法として、図式順テキスト記法というのをだいぶ前から使っています。これは僕（檜山）のローカル記法なんで表立っては使いませんが、自分で計算するときはコレでやっています。ストレスは少ないです。「テキスト記法」と呼んでいるのは、ギリシャ文字は例外としてアスキーの範囲内の記号だけを使うからです。

図式順テキスト記法

図式順テキスト記法を系統的に説明することはしませんが、その特徴と注意点をバラバラと挙げます。

圏の対象は、大文字A, Bではなくて小文字a, bで表します。
圏の対象と射は英字小文字、圏と関手は英字大文字、自然変換はギリシャ文字小文字と決め打ちなので一目瞭然。
複数文字からなる語は使わず、一文字を使います。ただし、f, f', f'' などのプライム（ダッシュ）は許します。
f(x) のように、丸括弧を適用に使うことは絶対にしません。f(x) は xf と書きます（後述）。
射の結合（合成）、関手の結合、自然変換の横結合（スター席）は標準的な演算と考えて、演算記号を省略することがあります。
上記以外の演算記号は省略しません！

要素や関数適用は存在しない

圏の対象は集合ではない（一般的には、集合だと仮定してはいけない）ので、「対象の要素」という概念はありません。圏の射は関数ではない（一般的には、関数だと仮定してはいけない）ので、関数に引数を渡す「適用」もありません。ですから、x∈A に対する f(x) という記法は出て来ません。不要だし無意味です。

とはいっても、「要素と適用が欲しい」と思う人は多いでしょう。ご安心ください； f(x) を xf と書けばいいだけです。以下に説明しましょう。

圏Cに終対象とかモノイド単位があるとして、それを 1 と書きます。aが圏の対象だとして、x:1→a をaの要素のごとく扱います。f:a→b があれば、xとfはこの順で結合できるので、x;f が意味を持ちます。射の結合を表す「;」を省略することは許すので、x;f = xf と書いてもいいわけです。対応をまとめておくと次のとおり。

集合の概念	圏の概念
集合A	対象a
x∈A	x:1→a
関数 f:A→B	射f:a→b
適用した値 f(x)	結合 xf

(f;g)(x) = g(f(x)) は、x(fg) = (xf)g と、単なる結合律として書けます。

自然変換の計算

F:C→D が関手のとき、Fによる対象aの値は a.F と書きます。これは aF とは書きません。f:a→b を関手Fで写すと f.F:a.F→b.F となります。F:C→D、G:D→E の結合は、F;G です*3が、FG と書いてもいいので、a.(FG) = (a.F).G が成立します。ドット（.）は左結合的とすれば、(a.F).G は a.F.G と書けます。

αが自然変換 α::F⇒G:C→D のとき、α_a は a.α と書きます。こうすれば、面倒な下付き添字を使わずに書けます。関手のときと同じ記法で問題ないのか？と言うとヘイキです。むしろ、どちらもドットを使うと具合がいいのです。

α::F⇒G:C→D、β::G→D:C→D のとき、αとβの縦結合（垂直結合）は、α|β と書きます。このときのパイプ記号は省略できません。自然変換は成分射を与えれば決まるので、α|β は次のように定義されていると思ってかまいません。

a.(α|β) := (a.α);(a.β)

ドットがセミコロンより優先度が高いと約束すれば、(a.α);(a.β) は a.α;a.β と書けます。

α::F⇒G:C→D、β::H→K:D→E のとき、αとβの横結合（水平結合）は、α;β または αβ と書きます。α*β と書くこともあります -- これは、横結合をスター積と呼ぶ習慣があるからです。縦結合のほうを αβ と書く流儀もありますが、縦結合と横結合を混同するのは極めてマズイので、縦結合のほうは必ずパイプ記号を付けることにします。

自然変換の計算では、関手と自然変換の横結合がよく出てきます。α::F⇒G:C→D、H:D→E のとき αH::FH⇒GH:C→E は次のように定義されます。