資料詳細

目次

第1章 確率と確率分布

  1.1 確率

  1.2 確率分布

  1.3 ベクトル形確率変数

  1.4 多次元正規分布

第2章 最尤推定と正則化ミニマムノルム解

  2.1 線形離散モデル

  2.2 最尤原理と最小二乗法の導出

  2.3 線形最小二乗法の解

  2.4 L2ノルム正則化を用いた解

  2.5 劣決定系での最小二乗推定

  問題

第3章 ベイズ推定の基礎

  3.1 ベイズ定理

  3.2 線形離散モデルでの未知量推定

  3.3 未知量xの点推定

  3.4 線形正規モデルでの事後確率分布の導出

  問題

第4章 EMアルゴリズム

  4.1 未知量xとハイパーパラメータの推定

  4.2 ハイパーパラメータに対する尤度

  4.3 平均データ尤度

  4.4 線形正規モデルにおけるEMアルゴリズム

  4.5 L2正則化ミニマムノルム解のベイズ的導出

  4.6 EMアルゴリズムの汎関数を使った導出

  問題

第5章 スパースベイズ推定

  5.1 確率モデル

  5.2 推定の定式化

  5.3 周辺尤度関数の導出

  5.4 ハイパーパラメータαの更新式

  5.5 凹関数の性質を用いたアルゴリズム

  5.6 どうしてスパースな解が得られるのかについての考察

  問題

第6章 ベイズ因子分析

  6.1 因子分析モデル

  6.2 確率モデル

  6.3 EMアルゴリズム

  6.4 ベイズ因子分析:まとめ

  問題

第7章 変分ベイズ法

  7.1 変分近似による事後分布の導出

  7.2 VBEMアルゴリズムの導出

  7.3 VBEMアルゴリズム-スカラー変数の例

  7.4 VBEMアルゴリズム-L2正則化ミニマムノルム解への適用

第8章 変分ベイズ因子分析

  8.1 混合行列に対する事前確率分布

  8.2 VBEMアルゴリズム

  8.3 自由エネルギーの計算式

  8.4 変分ベイズ因子分析のまとめ

  問題

第9章 ベイズ判別分析

  9.1 フィシャーの線形判別

  9.2 確率的な判別法

  9.3 判別パラメータの最尤推定

  9.4 スパースベイズ判別

  問題

第10章 数値実験

  10.1 海底電線の位置推定

  10.2 時空間信号からのベイズ因子分析を用いたノイズ除去

付録 数学的補足

  A.1 凹関数の例

  A.2 ガンマ分布

  A.3 ベクトルのノルム定義

  A.4 汎関数微分

  A.5 KLダイバージェンス

  A.6 ラプラス近似

  A.7 スカラーのベクトルあるいは行列での微分

  A.8 逆行列に関するいくつかの公式

ページの先頭へ