自分のPCで動かすAIのはじめ方。準備と通信の設定を確認しよう
ローカルモデルを選ぶと、文章を自分のパソコンで処理できます。初回のダウンロードと、外部へ送信する機能の確認から案内します。
ツールみっけ! 編集部2026年9月20日 更新約10分で読めます
先に結論
Ollamaを入れ、自分のパソコンで動く小さいモデルから試します。初回の準備には通信が必要です。外部へ出せない文章を扱う前に、クラウドモデル・Web検索・外部サービスとの連携を使わない構成か確かめます。必要なメモリや待ち時間は、モデルとパソコンによって変わります。
まず、公開しても困らない短い文章で試してみましょう。ローカルモデルは、自分のパソコンで計算するAIです。Ollamaには提供元のサーバーで計算するクラウドモデルもあるため、どちらを選んだかを確認します。
自分のパソコンで処理するための条件
- 必要なソフトとローカルモデルを先にダウンロードする。初回は通信と空き容量が必要です。
- クラウドモデルやWeb検索を使わない。これらの機能は外部サービスに接続します。
- Open WebUIやAnythingLLMを追加するときも、接続先が自分のパソコンのOllamaになっているか確認する。外部AIを選べるアプリもあります。
- ローカルでの計算自体に従量課金はありませんが、パソコン・電気・必要な保存容量の費用はかかります。
- 会社の資料は、ソフト導入と資料の扱いについて、会社のルールを確認してから使う。
必要なもの
| 確認するもの | 見ておくこと |
|---|---|
| パソコン | Windows・Mac・Linuxの対応条件を公式資料で確認します。 |
| メモリと空き容量 | 使うモデルで異なります。モデルのダウンロード容量に加え、計算用のメモリと作業用の余裕が必要です。 |
| GPU | 専用GPUなしで動かせる構成もあります。処理時間は機種とモデルで変わります。 |
| インターネット | ソフト・モデルの取得や更新で必要です。取得後のローカル処理と分けて考えます。 |
手順
1Ollamaを入れる
この記事の「入れるもの」からOllamaの紹介を開き、公式サイトでパソコンに合う方法を確認します。インストール後、WindowsではPowerShell、Mac・Linuxではターミナルという文字で操作する画面を開きます。
2クラウド機能を使わない設定にする
外部送信を避けたい場合は、下のOllama公式FAQの「How do I disable Ollama Cloud features?」を確認します。環境変数OLLAMA_NO_CLOUDを1にする方法などが案内されています。設定後はOllamaの再起動が必要です。追加する別のアプリの外部接続まで止める設定ではありません。
3ローカルモデルを動かす
下の1行をPowerShellまたはターミナルへ入力してEnterを押します。gemma3:4bは例です。初回はモデルのダウンロードを待ちます。質問を入力できる表示になったら「短い自己紹介を日本語でしてください」と入力してみましょう。
この手順で使う入力例
ollama run gemma3:4b4重かったら、小さいモデルで比べる
会話画面で /bye と入力すると元の操作画面へ戻ります。下の例をそこで実行すると別の小さいモデルを取得して試せます。モデル名の数字だけで必要な容量や速さを比較せず、実際の反応を確認してください。
この手順で使う入力例
ollama run qwen3:1.7b5必要に応じて操作画面を追加する
Open WebUIなどを追加するとブラウザの画面から会話できます。接続先に外部AIを設定すると、そのサービスへ入力が送られます。手元で処理したい場合は、ローカルのOllamaへの接続とモデルの選択を確認します。
入れるもの
- AI・チャット編集部イチオシ
自分のパソコンで、AIに質問や文章の整理を頼む
Ollama
こんな人に → 社内資料をAIに投げたいが、外部サービスに出せない人
無料日本語は一部WindowsMacLinux18万★★★準備少なめ9/18確認 - AI・チャット編集部イチオシ
自分で用意したAIと、会話の画面でやり取りする
Open WebUI
こんな人に → Ollama を入れたが、ターミナルでの会話が不便な人
無料日本語OKWindowsMacLinux15万★★★準備あり9/18確認 - AI・チャット初心者向け
パソコンにアプリを入れて、AIと会話する
Jan
こんな人に → ターミナルを開きたくない人
無料日本語は一部WindowsMacLinux4.5万★★★準備少なめ9/18確認 - AI・チャット編集部イチオシ
自分の資料について、AIに質問できるようにする
AnythingLLM
こんな人に → 分厚いマニュアルを何度も引いている人
無料日本語は一部WindowsMacLinux6.6万★★★準備あり9/18確認
つまずきやすいところ
- ダウンロードが終わらない:通信状況と空き容量を確認します。
- パソコンが重くなる:ほかのアプリを閉じ、小さいモデルで短い文章から試します。
- 日本語の答えが不自然:モデルごとの得意分野を確認し、同じ短い質問で比べます。
- クラウド機能を止めたのに外部送信が心配:連携アプリの接続先も確認します。設定を判断できないうちは機密資料を入力しません。
Q有料AIサービスを解約できますか?
A使っている作業をローカルモデルで試し、答えの質・処理時間・必要な機能が足りるか比べてから判断してください。必ず置き換えられるとは限りません。
Q先にGPUを買うべきですか?
Aまず手元のパソコンで小さいモデルを試します。用途に必要なモデルと対応する部品が分かってから、買い足すか検討できます。
Q会社のパソコンに入れていいですか?
Aソフトの導入と資料の利用について、会社の規程や管理担当者に確認してください。ローカル処理を選んだことだけで、機密資料を扱ってよいと判断はできません。
確認した公式資料
Ollama公式FAQ
ローカル実行・クラウド実行の違いと、クラウド機能を止める設定
提供元の説明です。利用する版と、ご自分のパソコンでの条件を確認してください。
紹介先:docs.ollama.com(別のタブで開きます)
Ollama公式CLIガイド
文字を入力してモデルを動かす方法
提供元の説明です。利用する版と、ご自分のパソコンでの条件を確認してください。
紹介先:docs.ollama.com(別のタブで開きます)
この記事で出てきたツール
- AI・チャット編集部イチオシ
自分のパソコンで、AIに質問や文章の整理を頼む
Ollama
こんな人に → 社内資料をAIに投げたいが、外部サービスに出せない人
無料日本語は一部WindowsMacLinux18万★★★準備少なめ9/18確認 - AI・チャット編集部イチオシ
自分で用意したAIと、会話の画面でやり取りする
Open WebUI
こんな人に → Ollama を入れたが、ターミナルでの会話が不便な人
無料日本語OKWindowsMacLinux15万★★★準備あり9/18確認 - AI・チャット初心者向け
パソコンにアプリを入れて、AIと会話する
Jan
こんな人に → ターミナルを開きたくない人
無料日本語は一部WindowsMacLinux4.5万★★★準備少なめ9/18確認 - AI・チャット編集部イチオシ
自分の資料について、AIに質問できるようにする
AnythingLLM
こんな人に → 分厚いマニュアルを何度も引いている人
無料日本語は一部WindowsMacLinux6.6万★★★準備あり9/18確認 - AI・チャット
複数のAIへの質問を、ひとつの画面でまとめる
LibreChat
こんな人に → 複数のAIサービスを契約していて、行ったり来たりしている人
無料日本語OKLinuxブラウザWindows4.4万★★★準備あり9/18確認 - AI・チャット
プログラムを書く画面で、AIに説明や修正を頼む
Continue
こんな人に → 有料の補完サービスの代わりを探している人
無料日本語は一部WindowsMacLinux3.6万★★★準備あり9/18確認



