コストやプライバシーの観点からローカルLLM(自宅PCで動かすAI)が注目されつつあります。 「とはいえ、最新の強力スペックなPCが必要なんでしょ・・・？」 と思われがちですが、工夫次第で古いマシンでも動かせる楽しさがあります。 しかし、そこには常 ...

ローカル環境で大規模言語モデル（LLM）によるテキスト生成を実行できるオープンソースのツールです。 もともとはAIによる物語創作支援で知られるKoboldAIプロジェクトに触発されて開発されたそうです。 Facebook社のLLM「LLaMA」をローカルで動かすための llama ...