本文へスキップ
AI・チャット#ローカルAI#土台#定番

llama.cpp

手元でAIを動かす、いちばん下の土台

Ollama など多くの道具が、中でこれを使っています。直接使うと細かく調整できます。

llama.cppの資料を見る（GitHub） ↗

GitHubのスター数 13万GitHub上の更新 2026年9月20日当サイトの確認日：2026年9月20日

まず、ここだけ見れば分かります

料金
無料ソフト自体に料金はかかりません
日本語
日本語なし説明と画面は英語です。日本語で会話できるモデルは選べます。
対応環境
Windows / Mac / Linux
準備の目安
★★★設定が多い複数のソフトや接続先などを準備します。設定に慣れた人の手助けがあると進めやすい道具です。
計算用の部品
専用のGPUは必須ではありませんGPUは、画像やAIなどの計算にも使われる部品です。必要な性能や処理時間は、使う機能・設定で変わります。
必要なもの
AIのデータ（モデル）を別に用意すること / 文字入力で操作する画面

自分に合う進め方を選ぶ

料金だけでなく、最初の準備と、使い続ける手間も比べてみましょう。

llama.cppを使ってみる ↓必要な準備と操作手順を確認ほかのサービスと比べる ↓Ollamaとの違いを確認

これは何？

手元のパソコンでAIを動かすための基礎になっている道具です。このサイトで紹介している Ollama や llamafile も、中でこれを使っています。直接使うと、メモリの使い方や速さの調整を細かく指定できます。

できること・できないこと

できること

  • 手元のパソコンでAIを動かす
  • 計算用の部品がなくても動かす
  • メモリの使い方や速さを細かく指定する
  • OpenAI と同じ呼び出し方の窓口を立てる
  • スマホやラズパイでも動かす

できないこと

  • モデルの用意（自分でダウンロードします）
  • 画面をクリックするだけの操作
  • 最新の大きな商用モデルと同じ賢さを出すこと

こんな人に向いています

  • Ollama では細かい調整ができなくて困った人
  • 性能を限界まで引き出したい人
  • 手元でAIが動く仕組みを理解したい人

こんなふうに使えます

  • 非力な機械で動かす

    メモリの使い方を細かく指定できるので、Ollama では動かなかった環境でも動くことがあります。

  • AIの窓口として立てる

    OpenAI と同じ呼び出し方の窓口を立てられるので、既存のプログラムから差し替えやすくなります。

使いはじめるまで

llama.cppを使うための案内

手順は上から順番に進めます。「入力例」がある場合は、どの画面へ入力するか、どの名前で保存するかを本文で確認してください。

llama.cppの開発資料（GitHub） ↗

上のリンクはllama.cppの開発資料です。GitHubというサイト自体の見方は、共通のGitHub入門で説明しています。

  1. 1配布ファイルを取る

    GitHub の Releases から、自分のパソコンに合うものを落とします。自分で組み立てることもできます。

  2. 2AIのデータを用意する

    GGUF という形式のファイルを、配布元からダウンロードします。まず小さいものから試してください。

  3. 3動かす

    ファイル名は実際のものに置き換えます。書き方の一覧は -h を付けると出ます。

    この手順で使う入力例

    ./llama-cli -m models/model.gguf -p "こんにちは"

つまずいたときはAIに手伝ってもらう聞き方を見てください。使っているパソコンと、どの手順で止まったかを伝えましょう。

いいところ・気になるところ

いいところ

  • 動く環境の幅が非常に広い
  • 細かく調整できる
  • 更新が非常に速い
  • 多くの道具の土台になっている

気になるところ

  • 初心者には情報が難しい
  • 英語のみ
  • 更新が速く、書き方が変わることがある
  • まず Ollama を試したほうが早いことが多い
ALTERNATIVE

似たことができるサービス

どちらが自分に合うかは、目的によって変わります

似たことができるサービス

Ollama

これを使いやすくしたもの

中身は同じ仕組みです。特別な理由がなければ、まず Ollama から始めてください。こちらは、調整が必要になってからで十分です。

Ollamaでできること
コマンド1行で動く。モデルの管理も自動。
llama.cppでできること
メモリや速さを細かく指定できる。動く環境の幅が広い。
このサイトの詳細を見る →

llama.cppの開発情報・出典

GitHub上で公開されているllama.cppのプログラムに関する情報です。スター数はGitHubで関心を示した数で、llama.cppの利用者数を表すものではありません。

GitHubのスター数
128,933（2026年9月20日時点）
ライセンス
MIT
主な言語
C++
GitHub上の更新
2026年9月20日直近3か月以内に更新されています
開発資料（GitHub）
https://github.com/ggml-org/llama.cpp
当サイトでの確認日
2026年9月20日

スター数・ライセンス・主な言語・最終更新は、2026年9月20日に GitHub から自動で取得した値です。ライセンスの補足と、説明文・準備の目安の判定は当サイトが書いています。 ライセンスや料金は変わることがあるので、使う前に必ず公式の情報をご確認ください。

NEXT

次に見るなら

READ

このツールが出てくる記事

SIMILAR

似たツール

同じことができる、または一緒によく使われるもの