fanta_orange_grape https://blog.hatena.ne.jp/fanta_orange_grape/ AIうぉ－－！(ai-wo-katsuyo-shitai !) https://ai-de-seikei.hatenablog.com/ 【1】この記事（2018)が理解できれば、Transformerが理解できたと言えるのでは？ コメント 進捗 元記事 【1】この記事（2018)が理解できれば、Transformerが理解できたと言えるのでは？ xtech.nikkei.com コメント 『・・・もし、学習の結果、その要素から値を読み込んだ方がよければ対応するクエリとキーは近づくように更新され』のあたりが、仕組みがよくわからない。 『・・・位置情報が使えない。そのため、入力に位置情報を表すチャンネルを追加する。例えば、』、位置情報が入れられることはわかるが、それが上手く利用できる仕組みがわからない。 ちょっと、理解できる気がし… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fai-de-seikei.hatenablog.com%2Fentry%2F2024%2F07%2F06%2F140408" title="自己注意Self-Attention の解説でわかりやすいと思った記事N選　(N＝21）（🏆 勝手に。。。リピート） - AIうぉ－－！(ai-wo-katsuyo-shitai !)" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-07-06 14:04:08 rich https://ai-de-seikei.hatenablog.com/entry/2024/07/06/140408 1.0 100%