<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<oembed>
  <author_name>bwgift</author_name>
  <author_url>https://blog.hatena.ne.jp/bwgift/</author_url>
  <blog_title>地平線まで行ってくる。</blog_title>
  <blog_url>https://bwgift.hatenadiary.jp/</blog_url>
  <categories>
    <anon>LLM</anon>
    <anon>Colaboratory</anon>
    <anon>Python</anon>
    <anon>自然言語処理</anon>
  </categories>
  <description>Googleから公開されたGemma3 270M。FineTuringの方法も記載されています。そちらを利用してColabのL4環境で（雑な）自作データで学習をさせます。databricks-dolly-15kをローカルLLMでギャル語風に変換したデータです。 1h20mの学習時間でそれらしい出力が得られるようになりました。返答のキャラクター付けにはある程度成功しています。270mなので「賢く」はありませんが、もともとのモデルを大きく破綻させてもいないようで安心しました。実際は、何かのタスク系に特化させるようなチューニングが面白そうです。 手順と生成結果： developers.googleb…</description>
  <height>190</height>
  <html>&lt;iframe src=&quot;https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2025%2F08%2F22%2F080903&quot; title=&quot;gemma-3-270m-itを自作データでColabでファインチューニングしてみる。 - 地平線まで行ってくる。&quot; class=&quot;embed-card embed-blogcard&quot; scrolling=&quot;no&quot; frameborder=&quot;0&quot; style=&quot;display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;&quot;&gt;&lt;/iframe&gt;</html>
  <image_url>https://cdn-ak.f.st-hatena.com/images/fotolife/b/bwgift/20250822/20250822075506.png</image_url>
  <provider_name>Hatena Blog</provider_name>
  <provider_url>https://hatena.blog</provider_url>
  <published>2025-08-22 08:09:03</published>
  <title>gemma-3-270m-itを自作データでColabでファインチューニングしてみる。</title>
  <type>rich</type>
  <url>https://bwgift.hatenadiary.jp/entry/2025/08/22/080903</url>
  <version>1.0</version>
  <width>100%</width>
</oembed>
