Simon Haykinの本とか見ると、線形推定理論は、最小二乗法と最急勾配法がメイン。 カルマンフィルタの導出においても最小二乗法が基本になっている。 それだけでCloseした説明だと面白みがなく発展性を含めた記載をしたいところ。