本書は、渡辺澄夫氏によって提案されたWAICおよびWBICの理論的根拠を与えるとともに、ベイズ統計学のためのソフトウェアStanによる実装を導入し、解析関数、経験過程、代数幾何、状態密度の公式などの数学をできる限りやさしく解説したものである。特に、代数幾何は例を数多く掲載した。対象読者は大学基礎課程の統計学の知識がある方、WAICやWBICの本質を知りたい方、『統計的機械学習の数理100問 with Python』程度の知識がある方を想定している。 「渡辺澄夫ベイズ理論」という言葉は、渡辺氏の30年来の友人である著者が、本書を執筆するにあたって命名したものである。そこには「WAICの正当化」をはるかに超えるドラマがあった。赤池の情報量規準、甘利の情報幾何とならぶ日本統計学の偉業として渡辺澄夫氏の業績を多くの方に知っていただきたいというのが本書の願いである。 第0章　やさしく学べる渡辺澄夫ベイズ理論 0.1　頻度論的な統計学 0.2　ベイズ統計学 0.3　事後分布の漸近正規性 0.4　モデル選択 0.5　WAICやWBICがなぜベイズ統計なのか 0.6　「正則」とは何か 0.7　WAICやWBICの理解になぜ代数幾何が必要なのか 0.8　広中の特異点解消，恐るに足らず 0.9　代数幾何の λ は，ベイズ統計でどのような意味をもつのか 第1章　渡辺ベイズ理論入門 1.1　事前分布，事後分布，予測分布 1.2　真の分布と統計モデル 1.3　正則性を仮定しない一般化に向けて 1.4　指数型分布族 問題1〜13 第2章　MCMCとStan 2.1　MCMCとMetropolis-Hastings法 2.2　Hamiltonianモンテカルロ法 2.3　Stanの実際 付録：命題の証明 問題14〜26 第3章　数学的準備 3.1　基礎的な数学 3.2　解析関数 3.3　大数の法則と中心極限定理 3.4　Fisher情報量行列 付録：命題の証明 問題27〜41 第4章　正則な統計モデル 4.1　経験過程 4.2　事後分布の漸近正規性 4.3　汎化損失と経験損失 付録：命題の証明 問題42〜53 第5章　情報量規準 5.1　情報量規準によるモデル選択 5.2　AICとTIC 5.3　WAIC 5.4　自由エネルギー，BIC，WBIC 付録：命題の証明 問題54〜66 第6章　代数幾何 6.1　代数的集合と解析的集合 6.2　位相空間 6.3　多様体 6.4　特異点とその解消 6.5　広中の定理 6.6　渡辺ベイズ理論における局所座標 問題67〜74 第7章　WAICの本質 7.1　状態密度の公式 7.2　事後分布の一般化 7.3　WAICの性質 7.4　クロスバリデーション的な方法との等価性 付録：命題の証明 問題75〜86 第8章　WBICと機械学習への応用 8.1　WBICの性質 8.2　学習係数の計算 8.3　深層学習への応用 8.4　混合正規分布への応用 8.5　無情報事前分布 付録：命題の証明 問題87〜100 参考文献 索引