y_daigo https://blog.hatena.ne.jp/y_daigo/ HapInS Developers Blog https://blog.hapins.net/ テックブログ はじめに Alpaca.cppとは MacでAlpaca.cppを試す おわりに はじめに こんにちは、山本です。最近(2023/3/28)のChatGPTのブームには目を見張るものがありますね。毎日、何かしらのChatGPTやLLMのニュースを目にします。 そのようなニュースの中で筆者が一番驚いたものはLLMをRasberry Pi 4で動かしたという内容です。 I've sucefully runned LLaMA 7B model on my 4GB RAM Raspberry Pi 4. It's super slow about 10sec/token. But it looks w… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblog.hapins.net%2Fentry%2F2023%2F03%2F29%2F080347" title="Macで動くLLMのAlpaca.cpp - HapInS Developers Blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/y/y_daigo/20230329/20230329074926.jpg Hatena Blog https://hatena.blog 2023-03-29 08:03:47 rich https://blog.hapins.net/entry/2023/03/29/080347 1.0 100%