一般ボルツマンマシンにおける平均場近似自由エネルギーの漸近的挙動

Material type: 文書・図像類

Author: 西山, 悠ほか

Publisher: 電子情報通信学会

Publication date: 2006-07

Material Format: Paper

Capacity, size, etc.: -

NDC: -

View All

Notes on use

Note (General)：: 人工神経回路網，混合分布，ベイジアンネット等の特異モデルの学習に，ベイズ学習の有効性が示されている．計算困難なベイズ学習に対し，平均場近似を利用したアルゴリズムが用いられ，実問題への有効性が確認されている．近年，平均場近似学習について，汎化誤差，自由エネルギーの理論的な研究がされている．理論的な研究...

Search by Bookstore

Holdings of Libraries in Japan

This page shows libraries in Japan other than the National Diet Library that hold the material.

List of Cooperating Institutions and Databases

Please contact your local library for information on how to use materials or whether it is possible to request materials from the holding libraries.

other

Tokyo Tech Research Repository
Paper
You can check the holdings of institutions and databases with which Institutional Repositories DataBase(IRDB)(Institutional Repository) is linked at the site of Institutional Repositories DataBase(IRDB)(Institutional Repository).
Tokyo Tech Research Repository

Search by Bookstore

Bibliographic Record

You can check the details of this material, its authority (keywords that refer to materials on the same subject, author's name, etc.), etc.

Paper

Material Type: 文書・図像類
Title: 一般ボルツマンマシンにおける平均場近似自由エネルギーの漸近的挙動
Author/Editor: 西山, 悠
渡邊, 澄夫
WATANABE, SUMIO
Author Heading: 西山, 悠
渡邊, 澄夫
WATANABE, SUMIO
Publication, Distribution, etc.: 電子情報通信学会
Publication Date: 2006-07
Publication Date (W3CDTF): 2006-07
Alternative Title: Asymptotic Behavior of Free Energy of General Boltzmann Machines in Mean Field Approximation
Periodical title: 電子情報通信学会技術研究報告
No. or year of volume/issue: 106 No.163
Volume: 106
Issue: No.163
Pages: 1-6
Text Language Code: jpn
Subject Heading: 特異モデル
Singular Learning Machines
自由エネルギー
Free Energy
平均場近似
Mean Field Approximation
ボルツマンマシン
Boltzmann Machines
Target Audience: 一般
Note (General): 人工神経回路網，混合分布，ベイジアンネット等の特異モデルの学習に，ベイズ学習の有効性が示されている．計算困難なベイズ学習に対し，平均場近似を利用したアルゴリズムが用いられ，実問題への有効性が確認されている．近年，平均場近似学習について，汎化誤差，自由エネルギーの理論的な研究がされている．理論的な研究によって，平均場近似のベイズ学習に対する近似精度が明らかとなり，モデル選択への応用の基礎にもつながる．本論文では，一般のボルツマンマシンを考え，特異モデルにおいて一般に縮退するフィッシャー情報行列に対し，零でない固有値の個数を数えることにより，平均場近似学習における自由エネルギーについて，漸近形の上界を理論的に導出する．
In the Bayesian learning, which generally requires huge computational costs, the algorithms based on the mean field approximation have shown us the effectiveness in the practical information systems. Recently, the generalization error or free energy in the mean field approximation has been theoretically studied. The theoretical results enable us to know the accuracy of the approximation and contribute to the foundation of a model selection in statistical singular machines. In this paper, we show that the upper bounds of the asymptotic free energies are theoretically obtained by counting the number of non-0 eigenvalues of Fisher information matrices and derive the upper bound in the learning model of general Boltzmann machines.
identifier:oai:t2r2.star.titech.ac.jp:50000661
Data Provider (Database): 国立情報学研究所 : 学術機関リポジトリデータベース（IRDB）（機関リポジトリ）
https://irdb.nii.ac.jp
Original Data Provider (Database): 東京工業大学 : 東京工業大学リサーチリポジトリ