bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ 論文からローカルLLMを使ってデータセット作成をちまちまと続けています。ローカルLLMだと平気でダブルクォートが欠落したたりするのは良い方で、予想もしない出力をしてくれやがります。前処理・後処理は勉強になります。論文や技術文書が本命なのですが、個人では扱える文書に限界があるため、寄り道ばかりです。 データセット（kunishou/databricks-dolly-15k-ja） から3000sampleを抽出して、テキストの語調をギャル風とツンデレのツン風に変更します。キャラ濃い方が分かりやすいため、面白がって変換します。Colabのローカルランタイム(RTX 3050/12GB)で、それぞれ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2024%2F10%2F11%2F223108" title="Colabでデータセットを作成してファインチューニングしてみる。＃０２ - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-10-11 22:31:08 rich https://bwgift.hatenadiary.jp/entry/2024/10/11/223108 1.0 100%