ワタタツの日記

☆ 機械学習第3週の続き

今日も如法会の Swiftと機械学習おうちでもくもく会(number: 2) に参加しました。

やったこと・わかったこと

基本的に昨日の機械学習のコース第3週の続きをしました。昨日は息子と寝てしまったので続きが多いです。

logistic regression ですが、hypothesis function も cost function も その関数でなくてもいいのではないかという疑問があった。 しかし実は最尤推定から来るという説明がちょっとあった。

gradient descent よりいいアルゴリズムらしいという、

• conjugate gradient
• BFGS
• L-BFGS

についてはこのコースでは解説されないとのこと。しかしNg先生も大規模になってきたら使うこともあるということ。

overfitting が起こるのでどうしましょうかということで regularization が登場。normalization ではない。 regularization は、コスト関数にパラメータの2乗の項を足すことによって、要らなそうなパラメータを小さくしていこうというものらしい。

小テストでは "Check all that apply." という指示の問題に手こずります。"always" と書かれていたら、「いや〜、絶対とは限らないのではないかなぁ」と疑ってしまいます。

途中で Swift の勉強もしました。 すると、Swift-AI というSwift製の機械学習ライブラリを見つけました。まだ試していません。

次にしたいこと

次は、機械学習のコースをさらに進めて、ついでに習ったことを生かして Swift-AI を試してみたいです。