espio999 https://blog.hatena.ne.jp/espio999/ Technically Impossible https://impsbl.hatenablog.jp/ Android IT AI Android NDKを用いてコンパイルすることで、C/C++プログラムをAndroidで実行することができる。つまり、Alpaca.cppのchatプログラムも実行可能ということだ。この投稿では、そのビルドから実行までの作業を紹介する。しかし注意が一つ。作業前にAndroid端末のRAM容量を調べて欲しい。chatプログラムの実行に際し、言語モデルをメモリにロードしようとする。これを保持するために8～12GBのRAMが必要なのだ。この投稿末尾に掲載した動画は、プログラムがAndroidによって強制終了されている様子だ。これはエラーでもバグによるクラッシュでもなく、RAMの容量不足によるロード… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fimpsbl.hatenablog.jp%2Fentry%2FGPTonAndroid" title="Androidで動かすGPT、しかしRAM=6GBでは動かない。 - Technically Impossible" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2023-04-03 00:00:00 rich https://impsbl.hatenablog.jp/entry/GPTonAndroid 1.0 100%