bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ LLM Colab Python 自然言語処理 OpenAIのSLMであるgpt-oss:20bをColabのL4環境で試してみます。VRAM占有率は15207MiB / 23034MiB です。モデルはollama公式で提供されているgpt-oss-20bを利用します。楽しみです。 今の時点では、このサイズ感でタスクに使いやすいのはQwenのモデルかも・・・という印象でした。 生成した結果を見ると、一般的な会話や簡単な計算はさすがです。が、langchainで要約させると要約させすぎの短文回答でした。ここまで極端な回答のモデルはありませんでした。また、「寿限無とは？」で生成された文章はかなり面白文章に仕上がっています。量子化の影響だからか… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2025%2F08%2F06%2F070834" title="gpt-oss:20bをollamaとColabで試してみる。 - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-08-06 07:08:34 rich https://bwgift.hatenadiary.jp/entry/2025/08/06/070834 1.0 100%