本文へスキップ

自分のPCで動かすAIのはじめ方。準備と通信の設定を確認しよう

ローカルモデルを選ぶと、文章を自分のパソコンで処理できます。初回のダウンロードと、外部へ送信する機能の確認から案内します。

ツールみっけ! 編集部2026年9月20日 更新10分で読めます

先に結論

Ollamaを入れ、自分のパソコンで動く小さいモデルから試します。初回の準備には通信が必要です。外部へ出せない文章を扱う前に、クラウドモデル・Web検索・外部サービスとの連携を使わない構成か確かめます。必要なメモリや待ち時間は、モデルとパソコンによって変わります。

まず、公開しても困らない短い文章で試してみましょう。ローカルモデルは、自分のパソコンで計算するAIです。Ollamaには提供元のサーバーで計算するクラウドモデルもあるため、どちらを選んだかを確認します。

自分のパソコンで処理するための条件

  • 必要なソフトとローカルモデルを先にダウンロードする。初回は通信と空き容量が必要です。
  • クラウドモデルやWeb検索を使わない。これらの機能は外部サービスに接続します。
  • Open WebUIやAnythingLLMを追加するときも、接続先が自分のパソコンのOllamaになっているか確認する。外部AIを選べるアプリもあります。
  • ローカルでの計算自体に従量課金はありませんが、パソコン・電気・必要な保存容量の費用はかかります。
  • 会社の資料は、ソフト導入と資料の扱いについて、会社のルールを確認してから使う。

必要なもの

確認するもの見ておくこと
パソコンWindows・Mac・Linuxの対応条件を公式資料で確認します。
メモリと空き容量使うモデルで異なります。モデルのダウンロード容量に加え、計算用のメモリと作業用の余裕が必要です。
GPU専用GPUなしで動かせる構成もあります。処理時間は機種とモデルで変わります。
インターネットソフト・モデルの取得や更新で必要です。取得後のローカル処理と分けて考えます。
特定のメモリ容量や所要時間を、すべてのモデルに共通する条件としては示していません。

手順

  1. 1Ollamaを入れる

    この記事の「入れるもの」からOllamaの紹介を開き、公式サイトでパソコンに合う方法を確認します。インストール後、WindowsではPowerShell、Mac・Linuxではターミナルという文字で操作する画面を開きます。

  2. 2クラウド機能を使わない設定にする

    外部送信を避けたい場合は、下のOllama公式FAQの「How do I disable Ollama Cloud features?」を確認します。環境変数OLLAMA_NO_CLOUDを1にする方法などが案内されています。設定後はOllamaの再起動が必要です。追加する別のアプリの外部接続まで止める設定ではありません。

  3. 3ローカルモデルを動かす

    下の1行をPowerShellまたはターミナルへ入力してEnterを押します。gemma3:4bは例です。初回はモデルのダウンロードを待ちます。質問を入力できる表示になったら「短い自己紹介を日本語でしてください」と入力してみましょう。

    この手順で使う入力例

    ollama run gemma3:4b
  4. 4重かったら、小さいモデルで比べる

    会話画面で /bye と入力すると元の操作画面へ戻ります。下の例をそこで実行すると別の小さいモデルを取得して試せます。モデル名の数字だけで必要な容量や速さを比較せず、実際の反応を確認してください。

    この手順で使う入力例

    ollama run qwen3:1.7b
  5. 5必要に応じて操作画面を追加する

    Open WebUIなどを追加するとブラウザの画面から会話できます。接続先に外部AIを設定すると、そのサービスへ入力が送られます。手元で処理したい場合は、ローカルのOllamaへの接続とモデルの選択を確認します。

入れるもの

つまずきやすいところ

  • ダウンロードが終わらない:通信状況と空き容量を確認します。
  • パソコンが重くなる:ほかのアプリを閉じ、小さいモデルで短い文章から試します。
  • 日本語の答えが不自然:モデルごとの得意分野を確認し、同じ短い質問で比べます。
  • クラウド機能を止めたのに外部送信が心配:連携アプリの接続先も確認します。設定を判断できないうちは機密資料を入力しません。
Q有料AIサービスを解約できますか?

A使っている作業をローカルモデルで試し、答えの質・処理時間・必要な機能が足りるか比べてから判断してください。必ず置き換えられるとは限りません。

Q先にGPUを買うべきですか?

Aまず手元のパソコンで小さいモデルを試します。用途に必要なモデルと対応する部品が分かってから、買い足すか検討できます。

Q会社のパソコンに入れていいですか?

Aソフトの導入と資料の利用について、会社の規程や管理担当者に確認してください。ローカル処理を選んだことだけで、機密資料を扱ってよいと判断はできません。

確認した公式資料

知っておきたい

Ollama公式FAQ

ローカル実行・クラウド実行の違いと、クラウド機能を止める設定

提供元の説明です。利用する版と、ご自分のパソコンでの条件を確認してください。

紹介先:docs.ollama.com(別のタブで開きます)

知っておきたい

Ollama公式CLIガイド

文字を入力してモデルを動かす方法

提供元の説明です。利用する版と、ご自分のパソコンでの条件を確認してください。

紹介先:docs.ollama.com(別のタブで開きます)

TOOLS

この記事で出てきたツール

NEXT

次に読むなら