並列タイトル等Stochastic Complexity of Complete Bipartite Graph-type Boltzmann Machines
一般注記特異モデルの学習においてベイズ学習の有効性が示されている.しかしながらベイズ事後分布の実現は難しい.ベイズ事後分布を少ない計算量で実現する近似方法として,統計物理学で知られる平均場近似が用いられる.平均場近似を利用したアルゴリズムは実問題への有効性が確認されている.近年,平均場近似の近似精度について理論的な研究がされている.理論的な研究によって,正則モデルとの比較を可能にし,モデル選択への応用の基礎にもつながる.本論文では完全2部グラフ型ボルツマンマシンにおいて,平均場近似自由エネルギーの漸近形の上界を理論的に導出する.
In the learning of singular learning machines, the superiority of Bayesian learning is shown. However, it requires huge computational costs to realize the Bayesian a posteriori distribution. To overcome this problem, the mean field approximation, which is originally known in statistical physics, is used in the practical information systems. Recently, the theoretical properties such as generalization error or free energy in the mean field approximation have been studied. The theoretical results give us the comparison with the regular statistical model and the foundation of a model selection. In this paper, we treat the complete bipartite graph-type Boltzmann machines and derive the upper bound of asymptotic free energy of the mean field approximation.
identifier:oai:t2r2.star.titech.ac.jp:50000658
連携機関・データベース国立情報学研究所 : 学術機関リポジトリデータベース(IRDB)(機関リポジトリ)