jwata blog

勉強の記録や思ったことなど

2018-08-01から1ヶ月間の記事一覧

RL勉強記録: Policy Gradient Methods

www.youtube.com Slides, Notes 7回目の講義はPolicy Gradient Methods。様々なActor-Criticの紹介でした。 今回は大分理解が追いつかなかったが、途中で動画止めて日本語の解説記事で補足して聞いていました。 この方のブログが強化学習について簡潔に解説…

RL勉強記録: Value Function Approximation

www.youtube.com Slides, Notes Value functionの線形/非線形近似。DQNの解説まであり、やっと通常のRLからDQNまでの流れが理解できてきた。 ただ2018年8月現在、DQNも古いという風潮があるので更に勉強していかないと。 重要な授業にしては駆け足の説明でち…

RL勉強記録: Model-Free Control

www.youtube.com Slides, Notes David Silver先生のRLの講義、第5回目はModel-Free Control やっとoptimal policyを求める手法まで来ました、ここまでちょい長かったです。 今回の講義では下記の手法が紹介されました。やっとQ-Learningまできましたね。 こ…

RL勉強記録: Model-Free Prediction

www.youtube.com Slides, Notes 今日は Model-Free Prediction 、Control は次回のレクチャーとのこと。以下内容 Monter-Carlo (MC) Learning エピソードの最後まで見て、value function を更新 Temporal-Difference(TD) Learning TD(0)では次のステップまで…

RL勉強記録: Planning by Dynamic Programming

今日はDavid Silver先生のUCL Course on RLのLecture3を見ました。 www.youtube.com [Slides],[Note] 内容的にはこんな感じでした。 Policy evaluation Policy iteration Value iteration プラス計算効率化のアイデア Udacity DeepLearning Nanodegreeでやっ…

RL勉強記録: Markov Decision Processes

UCL Course on RL by David Silver のLecture2はMarkov Decision Processesの定義について。 いつも混同してしまっていたので、おさらいに良かった。 www.youtube.com Slides ノート https://www.evernote.com/l/ADy-blY1XhZMyYgwME5IaI5y2dhQ4piSqDs

RL勉強記録

前々からReinforcemant Learning / Deep RL を勉強しようとしているけど、 中途半端に止まってしまっていたので再開。 今まで勉強したことは Udacity Deep Learning Nanodegree の中で、OpenGymのCartPoleとかFlying copterの制御の演習 UC Berkeley, CS294 …