aidiary https://blog.hatena.ne.jp/aidiary/ 人工知能に関する断創録 https://aidiary.hatenablog.com/ 強化学習 強化学習における人とエージェントの相互作用（2004/1/14）の続き。Isbellの論文を元にまとめておく。 適切な状態空間の選択 これは、Cobotの例に限らず強化学習一般に言えると思う。適切に状態を設定しないと学習が収束しないこともある。 複数の報酬源と矛盾の可能性 Cobotのようにいろんな人と相互作用して学習させようとすると報酬源（ユーザ）がたくさんになる。その結果、与えられる報酬に一貫性がなくなり矛盾する可能性がある。例えば、ユーザAは行動Aに報酬を与えるが、ユーザBは罰を与えるかもしれない。これは難しい問題だが別に変なことじゃないと思う。動物や人でも矛盾する指示をされれば混乱する… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Faidiary.hatenablog.com%2Fentry%2F20040116%2F1124074583" title=" 報酬をエージェントの学習過程で与えるのが難しい理由 - 人工知能に関する断創録" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2004-01-16 11:56:23 rich https://aidiary.hatenablog.com/entry/20040116/1124074583 1.0 100%