基本概念・用語
ベースにする凸関数(劣アフィン関数)をポテンシャル関数と呼んでいる例がある。ポテンシャル関数と双対ポテンシャル関数がペアになって、相互に規定しあう。
- φがポテンシャル関数としてナブラ記法∇φで導関数(一般化ガウス写像)を書く場合が多い。
- ポテンシャル関数は強劣アフィン(strictly convex)かつ微分可能とするらしい。
- ポテンシャル関数をブレグマン母関数(Bregman generator)と呼ぶ例もある。
- ポテンシャル関数から定義されるダイバージェンスがブレグマン・ダイバージェンス(Bregman divergence)(たぶん)
- ダイバージェンスはそれ自体で公理化されており、KLダイバージェンス(カルバック/ライブラーのダイバージェンス; Kullback-Leibler divergence)が有名。
- KLダイバージェンスに関して、クラメール/ラオ(Cramér–Rao)の不等式があるらしい。
- 凸共役(凸随伴、凸双対)に関してルジャンドル/フェンシェル変換(Legendre-Fenchel transform)があるらしい。
次のような用語を使うことにする。
- 凸空間、凸開集合(凸領域)、凸結合、重心、順序アフィン空間、順序凸空間、アフィン、劣アフィン、強劣アフィン、優アフィン、強優アフィン、ポテンシャル関数、ブレグマン・ダイバージェンス