変換手意味論とブラケット記法 - 檜山正幸のキマイラ飼育記 (はてなBlog)

変換手意味論が何であるかを説明し、変換手空間の便利な略記法であるブラケット記法を紹介します。$`\newcommand{\mrm}[1]{ \mathrm{#1} }
\newcommand{\cat}[1]{ \mathcal{#1} }
%\newcommand{\op}{ \mathrm{op} }
\newcommand{\In}{\text{ in }}
\newcommand{\dimU}[2]{ {{#1}\!\updownarrow^{#2}} }
%\newcommand{\Imp}{\Rightarrow}
%\newcommand{\u}[1]{\underline{#1}}
%\newcommand{\o}[1]{\overline{#1}}
%\newcommand{\twoto}{ \Rightarrow }
%\newcommand{\id}{ \mathrm{id} }
\newcommand{\hyp}{\text{－} }
`$

内容：

n-圏
「空間」という言葉
変換手意味論
ブラケット記法と変換手空間の変種

n-圏

「n-圏」という言葉の使い方の流儀が幾つかあります。まず、次の伝統的流儀があります。

単に「n-圏」と言うと厳密n-圏の意味で、弱n-圏を表すにはギリシャ語／ラテン語に由来する倍数接頭辞を使う。

この流儀だと：

bicategory = weak 2-category = maximally weak 2-dimensional categorical structure
tricategory = weak 3-category = maximally weak 3-dimensional categorical structure
tetracategory = weak 4-category = maximally weak 4-dimensional categorical structure

僕は、この流儀は採用せず、「n-圏」は弱n-圏であり、「弱」は考えられる限り最も弱い〈maximally weak〉範囲で考えています。厳密n-圏には形容詞「厳密」を付けます。

このような言葉／言い回しの意味と使用法は、以下の過去記事で話題にしています。

「モナド、双圏、変換手」への補遺

すべてのn-圏達の集まりを対象集合〈set of objects〉とする(n + 1)-圏があり、それを $`n{\bf Cat}`$ と書きます。小さい $`n`$ に関しては：

$`{\bf 0Cat}`$ ：小さい集合達の圏（$`{\bf 0Cat} = {\bf Set}`$）
$`{\bf 1Cat}`$ ：小さい圏達の2-圏（$`{\bf 1Cat} = {\bf Cat}`$）
$`{\bf 2Cat}`$ ：小さい2-圏達の3-圏

サイズに関しては、宇宙〈グロタンディーク宇宙〉のレベルを $`r`$ として、レベル $`r`$ の宇宙で定義された“n-圏達の(n+1)-圏”は次のように書きます。

$`\quad n{\bf Cat}_{\#r}`$

デフォルトの宇宙レベルを決めて、文字種〈フォント〉により宇宙レベル（サイズの基準）を区別する書き方も使います。以下は、「ファミリー構成モナド：大規模構造の事例として // 一般化されたファミリーとその圏」からコピーした表です。

	$`r = d `$	$`r = d + 1`$	$`r = d + 2`$
$`n = 0`$	$`{\bf Set}`$	$`{\bf SET}`$	$`\mathbb{SET}`$
$`n = 1`$	$`{\bf Cat}`$	$`{\bf CAT}`$	$`\mathbb{CAT}`$
$`n = 2`$	$`{\bf 2Cat}`$	$`{\bf 2CAT}`$	$`\mathbb{2CAT}`$

$`d`$ はデフォルトの宇宙レベルです。文字種〈フォント〉では対応できないときや不適切なときは、次の記法も使います。

$`\quad n{\bf Cat}_{\#+s} := n{\bf Cat}_{\#(d + s)}\\
\quad n{\bf Cat}_{\#-s} := n{\bf Cat}_{\#(d - s)}
`$

$`\#\pm s`$ は次の形容詞でも表現します。バランスが良くないですが、それは言ってもしょうがない。

$`\#+0`$ ：（対象が）小さい〈small〉
$`\#+1`$ ：（対象が）大きい〈large〉、小さいとは限らないが、とても大きくはない。
$`\#+2`$ ：（対象が）とても大きい〈very large〉、大きいとは限らないが、とてもとても大きくはない。
$`\#+3`$ ：（対象が）とてもとても大きい〈very very large〉、とても大きいとは限らないが、とてもとてもとても大きくはない。
$`\#-1`$ ：（対象が）とても小さい〈tiny〉、小さいより小さい。

例えば、$`\mathbb{2CAT} = {\bf 2Cat}_{\#+2}`$ は、とても大きい2圏達の3-圏です。$`\mathbb{2CAT}`$ 自体は、とてもとても大きい3-圏達の4-圏の対象です。

厳密n-圏なら、n が大きくなっても定義を書き下せます。量的には大変ですが、質的な変化は起きません。しかし、一般のn-圏の場合、大きな n に対するn-圏の定義を書き下すのはとんでもなく難しいです。3-圏 $`{\bf 2Cat}`$ でさえ、定義を書き下すのは容易ではないです。「変換手2-圏の代数構造とストリング図表現」で記述を試みてます（完全には実行できてない）。

参考になりそうなn-圏に関する過去記事を古い順に挙げます。「等式的2-グラフ（2-圏の記述のために） // 具象指標、コンピュータッド、グラフ」の過去記事リストとは重複していません。

「空間」という言葉

言葉づかいの注意をひとつしておきます。「空間」という言葉を、「構造を持つかも知れない（持たなくていい）ナニカ達の集合」という曖昧な意味で使います。

例えば「関数空間」は、「構造を持つかも知れない（持たなくていい）関数達の集合」です。単なる集合であっても「関数空間」を使います。関数の集合がベクトル空間になったり、位相空間になったり、位相ベクトル空間になったりもするでしょう。そのときも、もちろん「関数空間」を使います。

構造がn-圏である場合も「空間」を使います。関手空間は圏の構造を持ちます（関手圏です）。関手圏の対象集合（単なる集合）も関手空間と呼べます。曖昧性があるので不正確になりますが、便利な言い回しでもあります。

他に、次のように「空間」を使います。

ホム空間 ：ホムセット、ホム圏などを曖昧に総称する。
変換手空間 ： $`n{\bf Cat}_{\#r}`$ のホム空間は変換手〈transfor〉達の集まりになるので、それを変換手空間と呼ぶ。
モデル空間 ：なんらかの形式意味論〈formal semantics〉におけるモデル達の集まり。

変換手意味論

変換手意味論〈transforial semantics〉とは、インスティチューション理論において抽象的・公理的に要請されるモデル関手を、具体的に構成するための手法です。また、ローヴェア〈William Lawvere〉の関手意味論〈functorial semantics〉の拡張でもあります。全般的な枠組みの解説は以下の過去記事にあります。

構文付き変換手インスティチューション 1/n

まずは、指標という概念を具体化します。具体的に定義された指標を（抽象的・公理的な場合と対比して）具象指標〈concrete signature〉と呼びます。いろいろな具象指標が考えられますが、汎用性がある具象指標は等式的2-グラフでしょう。等式的2-グラフに関しては以下の記事で定義・説明しています。

等式的2-グラフ（2-圏の記述のために）

$`\Sigma`$ を、等式的2-グラフのような“2次元の”具象指標だとして、この指標のモデル空間を次のようにホム空間により与えます。

$`\quad \mrm{Model}(\Sigma , \cat{T}) := {\bf 2Cat}_{\#r}(\Sigma^*, \cat{T})`$

ここで $`\Sigma^*`$ は、指標から作られた2-圏です。$`\cat{T}`$ はターゲット〈標的環境〉となる2-圏です。

2-圏達の3-圏 $`{\bf 2Cat}_{\#r}`$ のホム空間は2-圏となることから、次が言えます。

$`\quad \mrm{Model}(\Sigma , \cat{T}) \in |{\bf 2Cat}_{\#r}|`$

2-圏とみなしたモデル空間 $`\mrm{Model}(\Sigma , \cat{T})`$ は変換手空間です。つまり：

モデル空間の0-射〈対象〉は、0-変換手である。
モデル空間の1-射〈射〉は、0-変換手のあいだの1-変換手である。
モデル空間の2-射は、1-変換手のあいだの2-変換手である。
モデル空間の3-射は、2-変換手のあいだの等式である。

変換手に関しては、以下の過去記事達で書いています。

次元がひとつ低い場合は、等式的1-グラフ $`\Gamma`$ と1-圏 $`\cat{C}`$ に関して、

$`\quad \mrm{Model}(\Gamma , \cat{C}) := {\bf 1Cat}_{\#r}(\Gamma^*, \cat{C})\\
\quad \mrm{Model}(\Gamma , \cat{C}) \in |{\bf 1Cat}_{\#r}|`$

となり、モデル空間 $`\mrm{Model}(\Gamma , \cat{C})`$ は関手空間です。これは、従来の関手意味論です。

ブラケット記法と変換手空間の変種

変換手空間（変換手意味論のモデル空間）を、「変換手n-圏のブラケット記法」で述べたブラケット記法で書くことにします。基本は次の約束です（$`\dimU{\hyp}{n}`$ に関しては「圏の次元調整」を参照）。

$`\quad [X, Y]_{n,\#r} := n{\bf Cat}_{\#r}(\dimU{X}{n}, \dimU{Y}{n}) \; \in |n{\bf Cat}_{\#r}|`$

$`n`$ が大きくなるとどうにもならないので、現実的には $`n = 0, 1, 2`$ です。

$`\quad [X, Y]_{0} := 0{\bf Cat}(\dimU{X}{0}, \dimU{Y}{0}) = {\bf Set}(|X|, |Y|)\\
\quad [X, Y]_{1} := 1{\bf Cat}(\dimU{X}{1}, \dimU{Y}{1}) = {\bf Cat}(\dimU{X}{1}, \dimU{Y}{1})\\
\quad [X, Y]_{2} := 2{\bf Cat}(\dimU{X}{2}, \dimU{Y}{2})
`$

$`n`$-圏 $`[X, Y]_{n,\#r}`$ を、$`j`$次元に切り落とし〈truncation〉した$`j`$-圏を次のように書きます。

$`\quad {_j [X, Y]_{n,\#r}} := \dimU{n{\bf Cat}_{\#r}(\dimU{X}{n}, \dimU{Y}{n})}{j}`$

例えば、$`\cat{C}, \cat{D}`$ を圏〈1-圏〉だとして：

$`\quad {_0 [\cat{C}, \cat{D}]_{1}} := |{\bf Cat}(\cat{C}, \cat{D})|`$

$`n = 2`$ のときは、0-変換手〈関手〉に種類があります。0-変換手の種類が違うと、変換手空間の構造が違ってきます。0-変換手の種類は、ブラケットの右肩に書くことにします。

$`[X, Y]_2^{\mrm{str}}`$ ： 0-変換手は、厳密2-関手とする。
$`[X, Y]_2^{\mrm{pseu}}`$ ： 0-変換手は、スード2-関手とする*1。
$`[X, Y]_2^{\mrm{lax}}`$ ： 0-変換手は、ラックス2-関手とする。
$`[X, Y]_2^{\mrm{oplax}}`$ ： 0-変換手は、反ラックス2-関手とする。

今まで述べた記法は組み合わせて使えます。例えば：

$`\quad {_1[X, Y]_{2,\#+2}^{\mrm{pseu}} }`$

とても大きい2-圏のあいだの変換手空間である。
変換手空間の0-変換手はスード2-関手である。
次元1で切り落としているので、対象である0-変換手（スード2-関手）と射である1-変換手（2-自然変換）からなる1-圏である。等式以外の2-変換手はない。

*1:pseudo の略記は psd が多いかも知れません。