EMアルゴリズムって何？隠れ変数が存在するモデルに対して、モデル変数を変化させた時に尤度関数を最大化させる方法の事．隠れ変数って何？実際に観測されないけれど、観測される値がどういう分布に従うのかを決定する変数のこと． 具体例で言うと、 回帰問…

前提条件 まず初めに目的変数は、ある重みのベクトルと、dataから得られた特徴ベクトルの線形結合であらわされるとします。 要するに となっているわけです。このとき、の事前分布が で与えられているとすると、ガウス分布の線形和もガウス分布なので、yの分…

pythonでグラフを書きたいときに、[-1,1]の範囲で等間隔にメッシュを切りたいなと思うことがあると思いますがそれのやり方メモ。 ## numpy.meshgridを使うやり方 ## (始まり、終わり、個数) X,Y = numpy.meshgrid(numpy.linspace(-1,1),numpy.linspace(-1,1)…

統計の計算とかをやろうとすると、サンプリングという方法をとって計算をさせるという場面がよく起こります。どういうときに使うのかというと、例えば確率密度関数に従う確率変数zを引数に取るある関数の期待値が計算したい場合などです。この場合計算するべ…

一様分布からガウス分布を作るアルゴリズムとして有名なBox-Muller法というのがあります． 式としては、とした時に という変換を行う．これがBox-Muller ボックス＝ミュラー法 - Wikipedia それと似たもので、一様分布する変数の範囲がちょっと変わってとし…