ayousanz https://blog.hatena.ne.jp/ayousanz/ yousanのメモ https://ayousanz.hatenadiary.jp/ AI 初めに 開発環境 データ準備 datasetsを使ったローカルのjsonのロード 初めに 以下のようにQLoRAを使ってfine turningを行いましたが、独自データを使いたい場合の適当方法についてやってみます ayousanz.hatenadiary.jp 開発環境 cuda:12.2.0-base-ubuntu22.04 NVIDIA-L4 データ準備 まずは独自データを使う場合、以下のようなデータフォーマットを作ります {"instruction": "指示内容(質問内容)", "input": "", "output": "回答テキスト", "text": ""} datasets… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fayousanz.hatenadiary.jp%2Fentry%2F2024%2F02%2F21%2F143326" title="独自データを使用してQLoRAでfine turningする - yousanのメモ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-02-21 14:33:26 rich https://ayousanz.hatenadiary.jp/entry/2024/02/21/143326 1.0 100%