bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ 1-bit LLMsで話題になったBitNet。microsoftがフレームワークを公開したので、お試しします。話題になっていますが、自分で試すの精神で、ColabのCPUのみで動かしますが、最小構成だとRAMが足りなかったので、RAM増量(51.0 GB)モードとしました。 ライブラリのバージョンを合わせてから、実行していきます。最初にモデル変換に時間がかかりますが、サンプルコードのままで動きました。CPUでも結構な速度で動作します。モデルを入れ替えて動作をさせてみると面白いかもしれません。 github.com ウォーミングアップです。 Who is the cutest in Madok… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2024%2F10%2F18%2F225547" title="ColabでBitNetをためしてみる。 - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-10-18 22:55:47 rich https://bwgift.hatenadiary.jp/entry/2024/10/18/225547 1.0 100%