「最急降下法機械学習の圏 // 使えるのか？」で言及した、単一ニューラルネットの形状の圏 SNNS （the category of Single Neural Network Shapes）からパラメータ付き関数の圏 Para(AES) への実現関手〈実装関手〉について説明します。何はともあれ、しりと…
フォング／スピヴァック／トゥイーラス*1の次の論文が面白そうなので話題にします。 Title: Backprop as Functor: A compositional perspective on supervised learning Authors: Brendan Fong, David I. Spivak, Rémy Tuyéras Submitted: 28 Nov 2017 (v1),…
は、可逆で微分可能な写像〈関数〉だとしましょう。この関数の逆関数の微分は、次の公式で与えられます。 は“fの微分”を与える2×2の行列値関数（ヤコビ行列）です。この公式を見たある人が、次のように“式変形”してから公式を使おうとしました。そして、「ん…
細かい差異をいちいち区別していると煩雑でやってられないし、かといって、味噌もクソも一緒にしてしまうとグッチャングッチャンで意味不明になるし。良いバランスの妥協点を探すのは難しいですね。内容： 同一視されがちな概念 マルコフ核と、ジリィ空間へ…
「統計的反転の圏論的セットアップ 1/2」の続きっちゃ続きの話です。が、この話が「2/2」（全2回の2回目）になるかというと、そうはならない（まだ続く）ので、タイトルは「2/?」にしました。全部で何回になるかは不明になりました。統計的反転を一般的に議…
バート・ジェイコブス〈Bart Jacobs〉達のチャンネル理論（「ベイズ確率論、ジェイコブス達の新しい風」参照）では、チャンネルに対する演算に独自の記号を割り当てています。それがどうにも使いにくくて、結局僕は使うのをやめてしまったのですが、「使いに…
次はイバン・パターソンの学位論文です。 Title: The algebra and machine representation of statistical models Author: Evan Patterson Submitted: 16 Jun 2020 Pages: 224p URL: https://arxiv.org/abs/2006.08945 Youtube動画で、上記学位論文の主に3章…
ベイズ反転〈Bayesian {inversion | conversion}〉と尤度関数の構成はなんとなく似てますが、その関係がハッキリとは分かりません（僕には）。また、ベイズ反転や尤度関数の利用場面では、実際に観測されたデータを使いますが、観測データは測度なのか述語な…
ひとつ前の記事「n次元空間の境界の向き」で、n次元ベクトル空間 の向きが決まっていても、(n - 1)次元部分ベクトル空間 の向きは必然的には決まらないし、決める方法〈アルゴリズム〉の優劣も判断できない、という話をしました。親のベクトル空間の向きから…
向き付きn次元多様体の境界である(n - 1)次元多様体に向きを誘導する、って話がありまして、思っていた以上にややこしいです。何が恣意的選択で何が必然的法則なのか？ 僕は混乱してしまいました。多様体をベクトル空間にしても向きの議論は同じ（少なくとも…
未定義値、あるいは項目の欠損を許すようなリストを歯抜けリスト〈list admitting missing values〉と呼ぶことにしましょう。2つの歯抜けリストのジップ操作を考えると、それはラックス・モノイド関手になります。ラックス・モノイド関手は、プログラミング…
確率的独立性〈統計的独立性〉が難しい理由のひとつは、「‥‥は独立である」「独立な‥‥」というときの「‥‥」の部分がハッキリしないことでしょう。述語としての「独立」の主語、形容詞（修飾語）としての「独立」の被修飾語がハッキリしないのです。確率変数…
1月末から始める僕のセミナー（「確率論のカリー／ハワード／ランベック対応」参照）のトピックのひとつに「確率的論理」という言葉を入れておいたのですが、「確率的論理」ではひどく漠然としていて、何のことか分からないですね。より具体的に言えば、ファ…
ベック／シュバレー条件〈Beck-Chevalley condition〉の一般的な記述（例えば、nLab項目）は抽象的で何を言ってるのか分かりにくいです。ベック／シュバレー条件の具体例として、述語論理における限量子と代入〈substitution | 置換〉の交換可能性があります…
昨日、依存型に関連してΣ-Δ-Π随伴〈随伴トリオ〉の話をしたのですが、たまたま（ほんとに偶然に）別な文脈でもΣ-Δ-Π随伴が話題にのぼりました。そんなことがあったので、思いつくΣ-Δ-Π随伴の事例をザッと述べます。記事タイトルどおり、短い注釈です。内容：…
