bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ Colaboratory AI LLM 自然言語処理 aya-expanse-8bを4bit量子化してColabT4環境で試しました。CC-BY-NC 4.0 Licenseです。量子化しても日本語も大きな問題はありませんでしたが、日本の知識は限度がありそうです。計算もそつなくこなし、さすがCohere社のモデルです。進歩するOSSモデルの中で、基本的な速度やコンテキスト長、得意なタスクで、他のモデルに埋もれてしないように、今後も進歩していくといいですね。 huggingface.co まどか☆マギカで一番かわいいのは？ 「まどか☆マギカ」は、2011年に放送された人気のアニメ作品です。キャラクターの好みは人それぞれなので、"一番かわいい"という… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2024%2F10%2F25%2F230531" title="CohereForAI/aya-expanse-8bをColabで試す。 - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-10-25 23:05:31 rich https://bwgift.hatenadiary.jp/entry/2024/10/25/230531 1.0 100%