espio999 https://blog.hatena.ne.jp/espio999/ Technically Impossible https://impsbl.hatenablog.jp/ AI IT RAGのembedさえ整えば、1B級モデルでも精度維持できるのではないか？というアイデアが浮かんだ。たとえ話として擬人化すれば、体系化された知識に乏しい書生に資料を渡し、考える前に資料を調べて話をさせる、といったところだろうか。前回*1示したのは、SML (Small Language Model)のおかげで、GPU無し、RAM=8GBの環境でも現実的に推論実行できることだった。今回示したいのは、同様の環境でRAG (Retrieval-Augmented Generation)にも対応できることだ。 特定領域における生成AIからの回答を改善するために、強化学習を実施することは無理でも、RAG… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fimpsbl.hatenablog.jp%2Fentry%2FAnythingLLM" title="GPU無し、RAM=8GBのRAG - LM Studioの場合、AnythingLLMの場合 - Technically Impossible" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/e/espio999/20250915/20250915182823.png Hatena Blog https://hatena.blog 2025-09-16 00:00:00 rich https://impsbl.hatenablog.jp/entry/AnythingLLM 1.0 100%