脳内スキャナ

推測されるデータＸ１　Ｘ２、、、Ｘｎ
観測データｘが以下の場合
入力信号ｚがあって、これに応じて観測データｘが時系列的に決まると
Ｍ＝（ｐ（ｘ|z:θ））
未知の（ベクトル）のパラメータθ、は応用される
ｚを入力信号とし、xは雑音ξ
パラメータθを含むｚの非線形関数
x＝f（ｚ）＋ξ
であるとするξは平均０分布分散１のガウス分布とする
この時パラメータθを含むｚの非線形関数f（f、θ）を用いて
多数の観測データＤ＝』{（z,,x1x１,:::（Ｚn、Ｘｎ）}からパラメーターθを推定するのが
非線形回帰問題である。
この時信号ｚはある（未知の）確率分布に従うとする
ｆ（f、θ）によってｘの条件付確率分布
ｐ（ｘ|z;θ）＝１／√2π（ー１／２exp{x-f(z,θ}{(z,θ)）
が定まる、この入出力関係を規定する統計モデル
Ｍ　＝{. p(x|z.θ) }
である。
ｆの関数形によっていくつかの確率分布モデルが考えられる
多層パーセプトロンは関数ｆとして
f（ｚ、θ）＝　Σ(1=1-n)Ｖiψ(Ｗi-z)
のようなものを用いる
ここで」zm、Wiもベクトルでその成分を
Wi、Σm(WimZm
このモデルでは入力信号ｚに対してｋ個のニューロン（中間層のニューロン）がまず
パラメーターＷiを用いて計算を行う
ψは定まった関数でシゴモンドの関数
例えば
ψ=tanh(u)などが用いられる