「パンダ用法と用語・用法図」で用語・用法図を導入しました。用語・用法図の目的は、ややこしい用語の用法を図解で示すことです。同義語や曖昧多義語、意味的な包含関係などを、グラフ（正確に言えば、ラベル付き属性付き有向グラフ）として視覚的に表現したものが用語・用法図です。
この記事で、記号的な記法にも同様な用法図を導入することにします。それが記法・用法図です。記法・用法図を描くことにより、同義な記法や曖昧な記法が炙り出されます。曖昧な記法に関しては、そのコノテーション（記号の見た目だけでは判断しにくい意図やニュアンス）を分析することにしましょう。
この記事で使う記号的記法の具体例は $`\mathrm{Pow}(X)`$ です。集合 $`X`$ のベキ集合〈powerset〉を表す記法ですが、曖昧多義性があり、用法ごとに異なるコノテーションを持ちます。$`\newcommand{\cat}[1]{\mathcal{#1}}
\newcommand{\mbf}[1]{\mathbf{#1}}
\newcommand{\mrm}[1]{\mathrm{#1}}
%\newcommand{\msf}[1]{\mathsf{#1}}
\newcommand{\mbb}[1]{\mathbb{#1}}
\newcommand{\mcal}[1]{\mathcal{#1}}
%\newcommand{\msc}[1]{\mathscr{#1}}
%\newcommand{\u}[1]{\underline{#1} }
\newcommand{\In}{\text{ in } }
\newcommand{\hyp}{\text{－} }
\newcommand{\T}[1]{ \text{#1} }
\newcommand{\op}{\mathrm{op} }
%\newcommand{\id}{\mathrm{id} }
%\newcommand{\dto}{\looparrowright} % dependent to
%\newcommand{\hto}{\rightsquigarrow} % hetero to
%\newcommand{\parto}{\supset\!\to}
%\newcommand{\BR}[1]{ \big[\!\big[ {#1} \big]\!\big] } % BRacket
\newcommand{\Pow}[1]{ {{}^{#1}\mathrm{Pow}} }
`$
内容：
同義か？ そうでないか？
用語・用法図の描き方は、次の過去記事を読めばわかるでしょう。
記法・用法図〈notation usage diagram〉の描き方も同じです。さっそく実例を挙げます。
$`\T{記法・用法図 1}\\
\quad \xymatrix{
{}
&{\mrm{Pow}(X)} \ar@{=}[dr] \ar@{=}[dl]
&{}
\\
{\mrm{Pow}^*(X)}
&{}
&{\mrm{Pow}_*(X)}
\\
{}
&{\mrm{Pow}[X]} \ar@{=}[ul] \ar@{=}[ur]
&{}
}`$
記号的記法 '$`\mrm{Pow}(X)`$' の意味は、集合 $`X`$ のベキ集合、つまり「$`X`$ のすべての部分集合達からなる集合」です。上の記法・用法図が言っていることは； $`\mrm{Pow}`$ に上付き・下付きの星印〈アスタリスク〉を付けても、丸括弧を角括弧に変えても意味は変わらない、ということです。
ここで考えなくてはならないのは、星印や角括弧が、まったく無意味に無駄に使われているのか？ ということです。実際には、星印や角括弧にも意味はあるのです。4つの記法 $`\mrm{Pow}(X)`$、 $`\mrm{Pow}^*(X)`$、 $`\mrm{Pow}_*(X)`$、 $`\mrm{Pow}[X]`$ が同じ意味であることは確かです。しかしそれは直接的・明示的な意味が同じであるだけで、暗示されている意味はそれぞれ違うのです。
記号的な記法の直接的・明示的な意味をデノテーション〈denotation〉と呼びます。デノテーション以外の暗示されている意味／言外の意味をコノテーション〈connotation〉と呼びます。
自然言語による会話におけるコノテーション*1には次のようなものがあります。
- 言葉に表していない話し手の意図、想定している暗黙の背景など
- 聞き手が言葉から連想するイメージ・感覚・ニュアンスなど
- 話し手・聞き手が会話している場面・環境・状況など
比喩的表現や皮肉などは、言葉の直接的な意味（辞書にのっている意味）とは別なコノテーションを持ちます。
記号的記法にもコノテーションがあります。とはいえ、会話におけるコノテーションに比べれば格段に簡単です。記号的記法で皮肉は言わないし、話し手と聞き手（書き手と読み手）の社会的立場なんてのも関係ありません。注意力と分析力を少し駆使すれば、コノテーション（暗黙の意味）をデノテーション（明示的意味）に変換することができます。
さて、“記法・用法図 1”の $`X`$ を、無名な変数であるハイフン（'$`\hyp`$'）に置き換えた記法達は、違う意味を持ちます。そのことは、次の記法・用法図として描けます。
$`\T{記法・用法図 2}\\
\quad \xymatrix{
{}
&{\mrm{Pow}(\hyp)} \ar@{.}[dr]|{|} \ar@{.}[dl]|{|} \ar@{.}@/^/[dd]|<(0.3){-}
&{}
\\
{\mrm{Pow}^*(\hyp)} \ar@{.}[rr]|<(0.3){|}
&{}
&{\mrm{Pow}_*(\hyp)}
\\
{}
&{\mrm{Pow}[\hyp]} \ar@{.}[ul]|{|} \ar@{.}[ur]|{|}
&{}
}`$
$`\cdots|\cdots`$ は、違う意味であることを表します。“記法・用法図 2”は、見た目上のちょっとした違いである“星印の有り無し”／“丸括弧か角括弧か”が、意味としても違うと言っています。これは、“記法・用法図 1”と矛盾するわけではありません。次節で引き続き説明します。
曖昧性と推測
使う記法は人により違います。$`\mrm{Pow}`$ は powerset の先頭三文字 pow にちなんでいます。僕は $`\mrm{Pow}(X)`$ を使ってますが、フラクトゥール文字を使った $`\mathfrak{P}(X)`$ のほうが多数派かも知れません。同様に、$`\mrm{Pow}(\hyp)`$、 $`\mrm{Pow}_*(\hyp)`$、 $`\mrm{Pow}^*(\hyp)`$、 $`\mrm{Pow}[\hyp]`$ の使い分けも、僕がたまたま使っている（もちろん僕だけではないですが）基準に基づく話です。広く合意された一般論ではないことに注意してください。そもそも、記法に関して「広く合意された一般論」が不在なことが多いです。
同じ記号 $`\mrm{Pow}`$ で様々な意味・用法があるので、それらを区別するために左肩の番号を使うことにします。$`\Pow{1}, \Pow{2}`$ などです。思いつく $`\mrm{Pow}`$ の意味には以下のようなものがあります。
- $`\Pow{1} : |\mbf{Set}| \to |\mbf{Set}| \In \mbf{SET}`$
- $`\Pow{2} : \mbf{Set} \to \mbf{Set} \In \mbf{CAT}`$
- $`\Pow{3} : \mbf{Set}^\op \to \mbf{Set} \In \mbf{CAT}`$
- $`\Pow{4} : \mbf{Set}^\op \to \mbf{Ord} \In \mbf{CAT}`$
- $`\Pow{5} : \mbf{Set}^\op \to \mbf{Cat}_1 \In \mbf{CAT}`$
- $`\Pow{6} : {\mbf{Set}_2}^\op \to \mbf{CAT} \In \mbb{2CAT}`$
もっとあるでしょうが、とりあえずこの6種類にしておきます。これらを少し説明すると：
- $`\Pow{1}`$ は、小さい集合に小さい集合を対応させる関数。$`\mbf{SET}`$ は大きい集合（$`|\mbf{Set}|`$ は大きい）も含む集合圏。
- $`\Pow{2}`$ は、共変関手としてのベキ集合。$`\mbf{CAT}`$ は大きい圏（$`\mbf{Set}`$ は大きい圏）も含む“圏達の2-圏”
- $`\Pow{3}`$ は、反変関手としてのベキ集合。
- $`\Pow{4}`$ は、順序集合達の圏（$`\mbf{Ord}`$）に値をとる反変関手としてのベキ集合。ベキ集合は包含順序により順序集合となる。
- $`\Pow{5}`$ は、“小さな圏達の1-圏”（$`\mbf{Cat}_1`$）に値をとる反変関手としてのベキ集合。順序集合としてのベキ集合はやせた圏とみなせる。
- $`\Pow{6}`$ は、インデックス付き圏〈indexed category〉としてのベキ集合。$`\mbf{Set}_2`$ は2-圏とみなした集合圏（2-射は写像のあいだの等式）。
4つの記法 $`\mrm{Pow}(\hyp)`$、 $`\mrm{Pow}^*(\hyp)`$、 $`\mrm{Pow}_*(\hyp)`$、 $`\mrm{Pow}[\hyp]`$ が、上の6つの選択肢のどれを意味しているか？ 正確に言い当てることはできませんが、次のような推測はできます。
- $`\mrm{Pow}^*(\hyp)`$ は、$`\Pow{3}`$ の意味だろう。
- $`\mrm{Pow}_*(\hyp)`$ は、$`\Pow{2}`$ の意味だろう。
- $`\mrm{Pow}[\hyp]`$ は、$`\Pow{4}`$ か $`\Pow{5}`$ か $`\Pow{6}`$ だろう。$`\Pow{6}`$ の可能性が一番高そうだ。
- $`\mrm{Pow}(\hyp)`$ はどれもありそうで判断が難しいが $`\Pow{1}`$ が一番ありそう。
この曖昧だが多少は見当がつく状況を記法・用法図に描くと次のようです。
$`\T{記法・用法図 3}\\
\quad \xymatrix{
{}
&{\Pow{1}}
&{}
\\
{}
&{\Pow{2}}
&{\mrm{Pow}_*(\hyp)} \ar@{|->}[l]
\\
{\mrm{Pow}(\hyp)} \ar@{|->}[uur] \ar@{|->}[ur] \ar@{|->}[r]
\ar@{|->}[dr] \ar@{|->}[ddr] \ar@{|->}[dddr]
&{\Pow{3}}
&{\mrm{Pow}^*(\hyp)} \ar@{|->}[l]
\\
{}
&{\Pow{4}}
&{}
\\
{}
&{\Pow{5}}
&{\mrm{Pow}[\hyp]} \ar@{|->}[ul] \ar@{|->}[l] \ar@{|->}[dl]
\\
{}
&{\Pow{6}}
&{}
}
`$
推測の根拠
推測は推測に過ぎず、確実性はまったくありません。定義を確認する以外に正確に判断する方法はありませんが、参考までに推測の根拠を述べておきます。曖昧性解決の“あたりを付ける”ときに推測を利用することもあるので。
関手が反変か共変かを字面で判断することはできませんが、なんらかの印を上付きで付ければ反変、下付きにすれば共変というゆるい習慣はあります。この習慣に従うならば、$`\mrm{Pow}^*`$ は反変関手、$`\mrm{Pow}_*`$ は共変関手でしょう。
注意すべきは、反変関手 $`F`$ による値 $`F(f)`$ を $`f^*`$ と書き、共変関手 $`G`$ による値 $`G(f)`$ を $`f_*`$ と書く習慣もあることです。関手に作用する関手 $`F, G`$ があって、$`\mrm{Pow}^* = F(\mrm{Pow})`$、 $`\mrm{Pow}_* = G(\mrm{Pow})`$ という可能性もなきにしもあらずです。
インデックス付き圏 $`\mcal{F}: \cat{C}^\op \to \mbf{CAT}`$ の場合、$`\mcal{F}(\hyp)`$ の代わりに $`\mcal{F}[\hyp]`$ を使うことがあります（強い習慣ではないですが）。これを鑑みると、$`\mrm{Pow}[\hyp]`$ はインデックス付き圏としてのベキ集合かも知れない、と推測できます。$`\Pow{6}`$ はインデックス付き圏ですが、$`\Pow{5}, \Pow{4}`$ もインデックス付き圏と言えなくもないです。
$`\mrm{Pow}(\hyp)`$ は一番単純な $`\Pow{1}`$ の可能性が高いですが、他の意味で使っている可能性も否定できません。
コアージョン
コアージョン〈coercion〉とは、ひとつの名前・記号を、それが出現する文脈・状況に応じて解釈を変えることです。気まぐれで解釈が変わるのは困るので、コアージョンを支配している規則があると想定します。
圏論の場合、関手とそのの対象パート／射パートはオーバーロード（同じ名前・記号を使用）しているので、関手を写像〈関数〉に強制〈コアース | coerce〉することはよくあります。破線矢印に「強制」とラベルして強制を示すとして、次のように図示できます（ちょっと分かりにくいかも、下に説明あり）。
$`\T{記法・用法図 4}\\
\quad \xymatrix{
{}
&{}
&{\Pow{1}}
\\
{\T{【曖昧】}\mrm{Pow}} \ar@{|->}[urr] \ar@{|->}[r] \ar@{|->}[drr]
&{\Pow{2}} \ar@{-->}[ur]_{強制}
&{}
\\
{}
&{}
&{\Pow{3}} \ar@{-->}[uu]_{強制}
}
`$
この記法・用法図で言いたいことは； $`\mrm{Pow}`$ という記法は、$`\Pow{1}`$ か $`\Pow{2}`$ か $`\Pow{3}`$ かハッキリしません（曖昧多義である）。$`\Pow{2}`$ の意味は $`\Pow{1}`$ に強制可能で、$`\Pow{3}`$ の意味も $`\Pow{1}`$ に強制可能です。曖昧多義な記法（ここでは $`\mrm{Pow}`$）の意味がハッキリしないのは当然ですが、曖昧性がないと思った記法（$`\Pow{2}`$ や $`\Pow{3}`$）でも、コアージョンにより他の意味で解釈されるかも知れないのです。
背後にある構造によりコアージョンが遂行されることもあります。次の図は記法・用法図ではなくて可換図式です。
$`\quad \xymatrix{
{}
&{\mbf{Set}}
\\
{\mbf{Set}^\op} \ar[ur]^{\Pow{3}} \ar[r]^{\Pow{4}} \ar[dr]|{\Pow{5}}
\ar@{=}[d]
&{\mbf{Ord}} \ar[u]_{\mrm{U}} \ar[d]^{\mrm{T}}
\\
{{\mbf{Set}_2}^\op} \ar[dr]_{\Pow{6}}
&{\mbf{Cat}_1} \ar@{_{(}->}[d]^{\mrm{J}}
\\
{}
&{\mbf{CAT}}
}\\
\quad \T{commutative }\In \mbb{2CAT}
`$
図の説明をしておくと：
- $`\mrm{U}`$ は、順序集合に台集合を対応させる忘却関手。
- $`\mrm{T}`$ は、順序集合をやせた圏とみなす関手。
- $`\mrm{J}`$ は、“小さい圏達の1-圏”を“大きい圏達の2-圏”に埋め込む関手。
- $`\mrm{Set}^\op`$ と $`{\mrm{Set}_2}^\op`$ は事実上同じなので、イコールで結んでいる。
- $`\Pow{3}`$、$`\Pow{4}`$、$`\Pow{5}`$、$`\Pow{6}`$ は、反変関手としてのベキ集合。
この図から、次のようなコアージョンが誘導されます。
- $`\Pow{4}`$ は、$`\mrm{U}`$ を介して $`\Pow{3}`$ とみなされる〈強制可能〉。
- $`\Pow{4}`$ は、$`\mrm{T}`$ を介して $`\Pow{5}`$ とみなされる〈強制可能〉。
- $`\Pow{5}`$ は、$`\mrm{J}`$ （と $`\mbf{Set}`$ と $`\mbf{Set}_2`$ の同一視）を介して $`\Pow{6}`$ とみなされる〈強制可能〉。
おわりに
自然言語や自然言語由来の用語は曖昧だが、記号的表現なら曖昧性はないだろう -- そんなことは全然期待できません。記号的表現・記法でも曖昧性や言外の意味はあり、推測や解決をしながら解釈する必要があります。
形式体系の言語は、曖昧性や言外の意味がないように設計されているかも知れませんが、実際に使うときは、記号の乱用／オーバーロード／省略にまみれて厳密性は崩れている場合がほとんどです。また、人間は曖昧性や言外の意味がない言語に耐えられない、という事情もあります。
曖昧性や言外の意味は、記法・用法図を描いて分析するのは良いアプローチかと思います。
*1:ここでの「コノテーション」は広い意味で使います。デノテーション以外は何でもコノテーションです。
