バンドルと層の記法追加 - 檜山正幸のキマイラ飼育記 (はてなBlog)

「バンドルと層の記法まとめ」に対する追加記事です。用語と記法を少し追加修正し、整理します。

内容：

サイトとその上の層
関数、関手、自然変換の適用記法
前層におけるバッククォート記法
セクション層関手
この記事で参照した過去記事

追記：ℓΓ記法

サイトとその上の層

サイト〈site〉は、被覆系付き圏〈category with coverage〉と同じ意味で使います。被覆系〈coverage〉については、次のnLab項目を参照してください。

https://ncatlab.org/nlab/show/coverage

「ビッグサイトから巨大サイトへ」という記事で、リトルサイト〈little site〉、ビッグサイト〈big site〉、巨大サイト〈giant site〉という言葉を出しました。その後の記事「グロタンディーク流サイトについて調べてみた」では、何人かの著者達の用語法を比較しました。比較した表を引用します。1., 2., 3., 4. は、論文の番号、その横は論文著者の名前です。

nLabの分類	little	big
檜山記事での分類	リトル	ビッグ	巨大
1. Xu	small on Man		big on Man
2. de Carvalho	Zariski on Top		étale on Top
3. Roberts-Vozzo			O, C, Subm on Man
4. Nikolaus-Schweigert			open, sub on Man

「グロタンディーク流サイトについて調べてみた」より：

nLabの意味でのビッグサイトは、あんまり使われないようです。使っているのは、従来型のリトルサイトか、巨大サイトです。となると、nLabの用法とは食い違いますが、巨大サイトをビッグサイトと呼んでもいい気がします。実際、Xuのビッグサイト／ビッグ層は、巨大サイト／巨大層の意味です。

そういう事情なので、リトル／ビッグ／巨大という分類はやめて、リトル／ビッグの二種類にします（用語法を変更します）。

リトルサイト〈little site〉：位相空間Xに対する、開集合の圏 Open(X) 上に被覆系を載せた構造
ビッグサイト〈big site〉：任意の圏（大きな圏も許す）上に被覆系を載せた構造

ビッグサイトの台圏〈underlying category〉は任意の圏なので：

ビッグサイトとサイトは同義である。形容詞「ビッグ」は、「大きな圏も許す」ことを強調しているだけ。

となると、一見語義矛盾している「小さなビッグサイト」は「小さなサイト」のことであり問題ありません。「小さなビッグサイト」は、“サイズが小さい圏＝小圏”を台圏とするサイトのことです。

リトルサイトは、その台圏が小さくやせた圏〈small thin category〉になります。位相空間の圏Topや、多様体の圏Manを考えると、対象ごとにリトルサイトが割り当てられます。リトルサイトの圏をLittleSiteとすると、Open: Top^op→LittleSite または Open:Man^op→LittleSite という反変関手になります。つまり、Openはインデックス付きリトルサイト〈indexed little site〉です。

リトルサイト、ビッグサイト（単にサイトでも同じ）、インデックス付きリトルサイトは区別されないことが多いみたいですが、今後は区別します。それぞれのタイプのサイト上で定義された層を、リトル層〈little sheaf〉、ビッグ層〈big sheaf〉（単に層でも同じ）、インデックス付きリトル層〈indexed little sheaf〉と呼びます。

ビッグ層とインデックス付きリトル層を行き来するメカニズムがありそうですが、それが（僕は）よく分かってないので、当面はビッグ層とインデックス付きリトル層を併用します。

関数、関手、自然変換の適用記法

関数への引数渡し〈argument passing〉、あるいは引数への関数の適用〈application〉、評価〈evaluation〉の標準的記法は f(a) です。それ以外に：

f[a]
f a
a.f
f・a
f_a
f^a
a_f
a^f

などもあります。どのような記法を使うかは、偶発的に決められ、習慣〈convension〉として守られます。しかし、記号・記法の選択は、必然性がない根拠なき選択です。特定の記法に拘るべきではないし、臨機応変に変更すべきです。

例えば、自然変換αへの引数〈パラメータ〉渡しは α_A が標準的（習慣として定着していることであり、"canonical"という意味ではない）です。が、次のように書いても何ら不都合はないし、ときにはより便利です。

α(A)
α[A]
α^A
^Aα
A.α

習慣を破りたくない、習慣を破ることに違和感・抵抗感・不快感が生じるのは、どうも人間の本能に近いようです。が、記法に関しては、習慣よりは“その場その場での便利さ”を優先させるべきだと思います。

次の記事にも、似たような主張が書いてあります。

前層におけるバッククォート記法

Cが圏で、F, G などはC上の（集合値の）前層とします。つまり、F, G:C^op→Set in CAT です。前層は単なる（反変）関手のことなので、A∈|C| への適用は F(A) が標準的記法です。

関手をあえて「前層」と呼ぶときは、Cをなんらかの“空間”とみなして、F:C^op→Set を、“空間上に広がった集合”とみなしています。このようなキモチがあるとき、対象Aにバッククォート記号を前置することにします。つまり、F(`A) と書きます。

バッククォートが前置された `A は、空間の一部〈portion | piece〉とみなします。その“みなし〈キモチ | ココロ〉”をバッククォートで表現します。バッククォートを付けるなら、丸括弧は冗長になるので、F`A とも書きます。こう書くと、バッククォートは適用を表す中置演算子記号とも解釈できます。ただし、前層における適用にだけ使われる適用記号です。

前層のあいだの準同型〈homomorphism〉は自然変換です。α ::F⇒G :C^op→Set in CATのとき、α_A も、α_`A と書きます。前節で述べた事情により、次のような書き方を適宜使います。

α`A : F`A→G`A in Set
α^`A : F`A→G`A in Set
^`Aα : F`A→G`A in Set
`A.α : F`A→G`A in Set

無名ラムダ変数であるハイフンやアンダースコアにおいても、`-, `_ を使います。F`- や α_`- のようになります。

セクション層関手

層は、サイト上で定義された前層で層条件〈sheaf condition〉を満たすものです。よって、層に対しても、前層に対するバッククォート記法を使います。特に、Fがリトル層のとき、F`U と書いたときのUは位相空間の開集合です。

「セクション空間関手がとても便利な理由」で、ベクトルバンドルにセクション空間*1を対応させる関手が便利で重要であると言いました。当該記事では、“セクション空間”を話題にしていて、“セクション層”には言及していません。セクション層関手について補足説明します。

Eが多様体M上のベクトルバンドルのとき、そのセクション空間は Γ_M(E) と書くのでした。開集合 U⊆M に対して、Γ_M(U, E) := Γ_M(E|_U) と定義します。ここで、E|_U は、ベクトルバンドルEのUへの制限〈restriction〉です。Open(M)∋U $\mapsto$ Γ_M(U, E) という対応は関手に拡張できて、さらにリトルサイト Open(M) 上の層になります。

開集合Uのところ〈place〉に無名ラムダ変数を入れると Γ_M(-, E) 、この書き方は層の記述として便利です。バッククォート付き無名ラムダ変数を使うなら、Γ_M(`-, E) です。バッククォートが目印になるので、開集合変数の出現位置を変えても混乱はないので Γ_M(E)`- でもいいでしょう。

(ベクトルバンドルEが定義するセクション層) = Γ_M(E)'- = Γ_M(E)

こうすると、以前の記法と若干不整合が生じて、

以前の記法： Γ_M(E) は大域セクションの空間
新しい記法： Γ_M(E) はセクション層

Γ_M(E) の意味が曖昧になることには、次のようにして対処しましょう。

大域セクションの空間は、Γ_M(E)`M と書く。
セクション層は、Γ_M(E)`- と書く。

文脈でどちらか明らかなら、Γ_M(E) の使用を禁止しません。

[追記]
Γ(E) を、Eの大域セクション空間として使っている例が多いので、記号'Γ'の意味を変えるのは難しいかも。局所セクション空間〈local section space〉の場合は'ℓΓ'とかに変えたほうが無難ですね。

ℓΓ(E)`U := Γ(E|_U) = Γ(U, E)

とすれば、従来の'Γ'の用法は一切変更しないで、新しい記号'ℓΓ'により局所セクション空間／前層／層を表すことができます。

この記事の記述は修正しませんが、たぶん'ℓΓ'にすると思います。
[/追記]

「拡張された係数を持つ微分形式の空間の書き方」において、次の略記を導入しました。

Ω_M(E) := Γ_M(E $\otimes$ T^*M)

左右を新しい記法の意味で解釈するなら：

Ω_M(E)`- := Γ_M(E $\otimes$ T^*M)`-

開集合 U⊆M に対しては：

Ω_M(E)`U := Γ_M(E $\otimes$ T^*M)`U

特定の記法に拘る必要はないので、例えば、「Mを角括弧に入れて、`Uは下付きにする」と約束するなら：

Ω[M](E)_`U := Γ[M](E $\otimes$ T^*M)_`U

こうしても、開集合がどこにあるかはバッククォートにより明らかです。

ベクトルバンドルのコジュール接続（「コジュール接続の圏その2」参照）を X = (E, ^X∇)、Xのベクトルバンドルを E = (E, M, π) とします。共変微分 ^X∇ は、層 Γ_M(E) から層 Ω_M(E) へのライプニッツ射（加群射ではない）となります。これは例えば次のように書けます。