morphotech https://blog.hatena.ne.jp/morphotech/ Morpho Tech Blog https://techblog.morphoinc.com/ 文献紹介 こんにちは。CTO室リサーチャーの鈴木です。今回は、深層学習の分野でここ数年盛り上がっているContrastive Learning系の手法について、主だった論文を系統的にまとめて紹介したいと思います。 はじめに 近年発展した自己教師あり学習（Self-Supervised Learning：SSL）は、アノテーション情報を人の手ではなく機械的に付与することで、データセットの構築にかかる時間やコストを軽減し、深層学習モデルの精度向上を目指した手法です。自然言語処理分野におけるSSLは大きな成功を収め、ChatGPT等の超高性能なチャットボットの出現にも影響を与えました。 SSLは主に深層学習モ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftechblog.morphoinc.com%2Fentry%2F2023%2F05%2F08%2F113000" title="Contrastive Learningの最新動向のレビュー - Morpho Tech Blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/m/morphotech/20230329/20230329002709.png Hatena Blog https://hatena.blog 2023-05-08 11:30:00 rich https://techblog.morphoinc.com/entry/2023/05/08/113000 1.0 100%