情報幾何の統計多様体と、多様体論の統計多様体は別物と思ったほうがいいようだ。 情報幾何の統計多様体： パラメータ空間Θから確率分布の空間へのなめらかな写像。確率分布の空間における“なめらかさ”はうまく定義する必要がある。あくまで写像で、像である…

n次元の射影空間 (Rn+1＼{0})／≡ を考える。≡は同じ射線上に乗っていれば同値とする同値関係。(x0, x1, ..., xn)・(y0, y1, ..., yn) = (x0y0, x1y1, ..., xnyn) で定義される積（アダマール積）は、射影空間に掛け算の構造を与える。各成分が非零な部分集合…

Eθ[ψ(X)] という記号がある。これを解釈する。やっぱり用語記号が分からない - 檜山正幸のキマイラ飼育記 メモ編 と 検定関数の汎関数 - 檜山正幸のキマイラ飼育記 メモ編 にも出てくる表現だ。まず、測度μに対する可測関数fの積分 I(f, μ) を次の2つの記号…

まず、「正則パラメトリック統計モデル＝パラメータ空間から分布空間への埋め込み＝パラメトライズされた部分多様体」は共通認識のようだ。pθ(x) = p(x, θ) と書かれるので、カリー化／アンカリー化が暗黙に行われている。p(x, θ) は、p(x;θ), p(x:θ), p(x|θ…

Measを可測空間の圏とする。実際にはMeasの部分圏で考えるのが普通だが、ここではMeas全体を使う。CをMeasに忘却関手 U:C→Meas を持つ圏とする。可測空間Aに対して、A上の確率測度の全体をProb(A)とする。Prob(A)は可測空間に出来るので、Probはモナド（ジリ…

難しいのはしょうがないが、難しさがハッキリとしてないのは辛い。心情的に辛い。データを分布（経験分布、観測分布）と考えて、分布全体の空間に埋め込んでそれを観測点と呼ぶ -- これはいいと思ったが、やはりハッキリしない。http://www.ism.ac.jp/~eguch…

AがR上の可換環で期待値（トレース）E[-] を持ち、統計独立性の概念が定義されているとする。X, Yの（代数的な）統計独立性は、多項式f, gに関して、 E[f(X)] = 0, E[g(Y)] = 0 ならば E[f(X)g(Y)] = 0 として定義できそう。複数の要素の統計独立性も同様。f…

http://matsuzoe.web.nitech.ac.jp/infogeo/seminar_130306_v2_public.pdf は70ページまでに基本が書いてある。4upなら、20枚はいかない。

甘利先生の本はけっこう間違いがあるかもしれない。指数分布族の定義：exp(Σθixi + r(x) - ψ(θ)) とあるが、exp(ΣθiFi(x) + r(x) - ψ(θ)) がより正確。xiを定義しなおせばいいので、これは趣味の問題とも言えるが、正規分布の自然パラメータ表示（アフィン座…

離散分布を指数分布族に、1次元の例 - 檜山正幸のキマイラ飼育記 メモ編の話。 q = p0 θ = log(p1/pp) なので、curve(log (x/(1- x)) を描いてみる。これは、θ = θ(q) のグラフのはず。どうもシグモイド関数の逆のように見える。シグモイド関数の逆をロジッ…

ちょっとした計算も追えなかった。理由は、例によって用語法／記号法。まず、 確率変数xは、離散確率変数 x = 0, 1, ..., n とする。 「確率変数」と書いてあったら、「確率を考えるな！」というメッセージだと思ったほうが良い。解釈すると； なんらかの確…

概念 元 双対 ベクトル空間 V W = V* 座標 θ η ポテンシャル関数 ψ φ 座標変換 ∇ψ ∇φ η = ∇φ(θ) θ = ∇ψ(η) φ = ψ* （ルジャンドル変換） ψ = φ* （ルジャンドル変換） ψ(θ) + φ(η) = θ・η （・はスカラー積）

http://arxiv.org/pdf/1108.2874.pdf で、ルジャンドル変換を次の形に書いてある。 g(α) := Σ(x∈A| xα/f(α)) fがもとの関数で、gがそのルジャンドル変換。注目すべきはxαという書き方で、gの独立変数αは、ベキ指数としてxの空間Aに作用している。

参考： http://www.lix.polytechnique.fr/~nielsen/CompGeom-DuallyFlatSpaces-JGA2009.pdf ベースにする凸関数（劣アフィン関数）をポテンシャル関数と呼んでいる例がある。ポテンシャル関数と双対ポテンシャル関数がペアになって、相互に規定しあう。 φが…

情報幾何の入り口で出てくる双対構造が分からなかった。甘利先生が「ルジャンドル変換」と言っているのはどうも間違いみたいで、一般化されたガウス写像だと思う。もともとのガウス写像は、Jを実数直線の区間として、ユークリッド空間に値を取る曲線 c:J→E …