PRML第3章では、線形回帰モデルを扱っています。 その後半で、これまで固定だとしていた、重みwの分布の精度パラメータと、実際に観測される値tのモデルであるに現れるノイズの精度を表すの値もいい感じの数値にしちゃいましょうという話が出てきます。これ…

EMアルゴリズムって何？隠れ変数が存在するモデルに対して、モデル変数を変化させた時に尤度関数を最大化させる方法の事．隠れ変数って何？実際に観測されないけれど、観測される値がどういう分布に従うのかを決定する変数のこと． 具体例で言うと、 回帰問…

前提条件 まず初めに目的変数は、ある重みのベクトルと、dataから得られた特徴ベクトルの線形結合であらわされるとします。 要するに となっているわけです。このとき、の事前分布が で与えられているとすると、ガウス分布の線形和もガウス分布なので、yの分…

pythonでグラフを書きたいときに、[-1,1]の範囲で等間隔にメッシュを切りたいなと思うことがあると思いますがそれのやり方メモ。 ## numpy.meshgridを使うやり方 ## (始まり、終わり、個数) X,Y = numpy.meshgrid(numpy.linspace(-1,1),numpy.linspace(-1,1)…

統計の計算とかをやろうとすると、サンプリングという方法をとって計算をさせるという場面がよく起こります。どういうときに使うのかというと、例えば確率密度関数に従う確率変数zを引数に取るある関数の期待値が計算したい場合などです。この場合計算するべ…

一様分布からガウス分布を作るアルゴリズムとして有名なBox-Muller法というのがあります． 式としては、とした時に という変換を行う．これがBox-Muller ボックス＝ミュラー法 - Wikipedia それと似たもので、一様分布する変数の範囲がちょっと変わってとし…

ニューラルネットワークのところを読んでいますが詰まりました．ニューラルネットワークでは、最終的な出力がという風になっていて、そこで疑問なのが、 例えばKクラスの分類問題をニューラルネットワークに説かせようと思った時、 この最後のの部分をソフト…

先週から読み始めてようやく第四章までたどり着きました。噂には聞いていたのですが、ここまで重たいものだとは正直予想外で、なんとかかんとか頑張ってついていっているのか、はたまたわかったような気になっているのかは謎ですが、とりあえずちょっとづつ…

PRMLを読んでいます。とりあえず出てくる式はすべて自分で追って、変形とかもやってるのでなかなか進まなくてもどかしいですが、もう多分確率密度関数とかを復習することは無いだろうし…と思いながらやってます。今日は二章のおわりまで行きました。 ノンパ…

ついに来たかというか、もう逃げられなくなったというか、機械学習について研究をするわけではないけれどそれの周辺分野を扱うんだから、一回は読んどかないとねと思っては居たのだけれど、やっぱりまとまった時間を取らないとクリアできない本であるし、な…

タイトルのとおりです。詰まりました。一応どうやったらどうなったかを書いておこうと思うのですが、なぜそうなったのか文字コードについてほとんど全くわかっていない、それはすなわちASCIIだのunicodeだのShiftJISだのの違いがいまいちわかっていないって…

print "Hellow World" 僕が今所属している研究室では、だれが言い出したか知りませんが、なんとなーくpythonが流行りのようで、数値実験にはみんなpythonを使っているみたい．僕はプログラム言語の中身についてまで詳しくしらないので、何が早いだとか、内部…