e4exp https://blog.hatena.ne.jp/e4exp/ 学んだことメモ https://e4exp.hatenablog.com/ DeepLearning GPT NLP Transformer 論文読み SGPT: GPT Sentence Embeddings for Semantic Search 2022/02 https://arxiv.org/abs/2202.08904 モデル・コード https://github.com/Muennighoff/sgpt 提案手法の構造図．左(a)がSGPTクロスエンコーダ，右(b)がSGPTバイエンコーダ． BEIRでのre-ranking 性能比較(クロスエンコーダ) GPTをバイエンコーダやクロスエンコーダとして対称検索や非対称検索に適用するためのSGPT-BEとSGPT-CEを提案 GPTは利用可能な最大の言語モデルであるが、意味探索はこ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fe4exp.hatenablog.com%2Fentry%2F2022%2F03%2F03%2F153420" title="SGPT: 意味検索のためのGPTによる文章埋め込み - 学んだことメモ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/e/e4exp/20220303/20220303152808.png Hatena Blog https://hatena.blog 2022-03-03 15:34:20 rich https://e4exp.hatenablog.com/entry/2022/03/03/153420 1.0 100%