AI・チャット新着
手元でAIを動かす、いちばん下の土台
llama.cpp
こんな人に → Ollama では細かい調整ができなくて困った人
無料WindowsMacLinux
13万★★★設定が多い9/20確認
こんなことができます
手元のAIを、ほかのプログラムや複数人から使える形にする道具があります。外部のAIサービスと同じ呼び出し方に揃えられるものもあるので、あとから乗り換えやすくなります。
準備の目安が少ない順に並べています。全3件。
| こんな人に | ツール | 準備の目安 | 料金 | 日本語 | 専用GPU | 対応環境 |
|---|---|---|---|---|---|---|
| Ollama では細かい調整ができなくて困った人 | llama.cpp | ★★★ 設定が多い | 無料 | 日本語なし | 必須でない | Windows / Mac / Linux |
| 作ったAIのものを、社内や利用者に開放する段階の人 | vLLM | ★★★ 設定が多い | 無料 | 日本語なし | 必須でない | Linux |
| 外部のAIで作ったものを、手元のAIに切り替えたい人 | LocalAI | ★★★ 設定が多い | 無料 | 日本語なし | 必須でない | Linux / Windows / Mac / ブラウザ |
ツールみっけ!が各ツールの公式情報をもとに整理したものです。確認日は各ツールのページに書いています。
準備の目安が少ない順に並べています。紹介ページで、必要なものと手順を比べてみましょう。
llama.cpp
こんな人に → Ollama では細かい調整ができなくて困った人
vLLM
こんな人に → 作ったAIのものを、社内や利用者に開放する段階の人
LocalAI
こんな人に → 外部のAIで作ったものを、手元のAIに切り替えたい人
A使うAIの大きさで変わります。小さいモデルを数人で使う程度なら、計算用の部品のないパソコンでも動きます。大きいモデルや同時利用が増えると、相応の機材が要ります。