bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ AI IT Python お勉強 自然言語処理 LLM 弱々環境でもどうにか動いて結構賢そうだったphi3の追加学習したモデルでもう少し遊んでみました。モデル作った方々ありがとうございます。 huggingface.co ggufモデルは、こちらの方が良いようなので、こちらがらモデルをダウンロードしました。 huggingface.co GPUは NVIDIA GeForce GTX 1650 (4GB)で、動作中は3677MiB/4096MiBと言った利用率でした。フレームワークはstreamlitを使いました。OpenWebuiとか使うとコードを書く必要ありませんが、今回は勉強のためにlangchainを使ってみました。こんな感じで正解なのかど… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2024%2F05%2F07%2F182757" title="Phi-3-mini-4k-instruct-dpoを動かしてみる #2 - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-05-07 18:27:57 rich https://bwgift.hatenadiary.jp/entry/2024/05/07/182757 1.0 100%