YutakaSasaki https://blog.hatena.ne.jp/YutakaSasaki/ Open Notebook NLP https://yutakasasaki.hatenablog.com/ 自然言語処理の論文で、外部知識を使っていない方法の中では、我々の方法が一番スコアが高い、という主張をしたいことがある。ただ、よく考えると今は多くの研究でBERTを使っているので、厳密には外部知識を使っていないとは言い難い。 タスクによりますが、場合によってはテストデータに含まれる文でBERTを学習していて、そのことが（気が付かないうちに）性能に影響している可能性もあります。この場合は期せずしてトランスダクティブな評価になっている。最悪のケースでは、例えば、英文の穴埋め問題をBERTを使って解かせたときに、実はテスト文と同じ文でBERTの学習をしているということもありうる。この場合は、トランスダ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fyutakasasaki.hatenablog.com%2Fentry%2F2022%2F09%2F19%2F104946" title="BERTは外部知識か？ - Open Notebook NLP" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2022-09-19 10:49:46 rich https://yutakasasaki.hatenablog.com/entry/2022/09/19/104946 1.0 100%