Photo by Khalid Boutchich on Unsplash
毎月のAI課金、じわじわきつくなってきてませんか。
副業でClaude・ChatGPT・Geminiを使いまくっていると、月末に課金額を見てぎょっとすることがあります。私も先月、API代だけで思ったより使ってしまって、ちょっと反省しました。そこで最近ハマっているのが「小規模LLM」「ローカルLLM」と呼ばれる、手元で動かせるAIモデル。今日はこれを副業に組み込んでみた体験を正直に話します。
小規模LLMって何?ざっくり説明
難しく考えなくて大丈夫。簡単にいうと「自分のPCで動かせるAI」です。ChatGPTみたいなクラウドAIはOpenAIのサーバーで処理が走るけど、ローカルLLMは自分のパソコン上で全部完結します。なのでAPIコストがかからない。月に何千円も払わなくてよくなる。機密情報をクラウドに送らなくてすむ。これが最大のメリットです。デメリットは、超高性能モデルに比べるとちょっと賢さが落ちる点と、動かすのにある程度のスペックのPCが必要なこと。でも最近のモデルは性能が上がっていて、「副業の補助ツール」として使うには十分なレベルになってきました。
副業で実際に小規模LLMを使えるシーン
私が試してみて「これはいける!」と思ったのがこのあたり。まずテキストの要約・分類。ブログのネタ出しや、リサーチした情報のまとめ作業は、大型モデルじゃなくても十分にこなせます。次に問い合わせ文の初稿作り。クライアントへの連絡文のたたき台を作るのに使うと、時間短縮になります。あとコードのちょっとした補助。プログラマーじゃなくても、Pythonの簡単なスクリプトを書いてもらったり、エラーの原因を調べてもらったりするのに使えます。逆に「複雑なコンサルレベルの思考」「最新情報の回答」は小規模LLMには向いていません。そこは素直にクラウドAIを使うのが正解です。
実際に試したモデルの正直レビュー
2026年時点でおすすめされているのはQwen3シリーズ(日本語が得意)とPhi-4(コーディング補助に強い)あたり。私はQwen3の日本語モデルを試してみましたが、日常的な文章生成はかなり自然。「副業のブログ記事の見出し案を10個出して」みたいなライトな作業なら本当に問題なし。ただ、「このビジネスモデルの収益シミュレーションをして」みたいな複雑な分析は、やっぱりClaudeに頼りたくなります。モデルの賢さより「タスクのむずかしさ」で使い分けるのが正解だと思いました。
クラウドAIとローカルLLMの使い分け術
私が今やっている使い分けはこんな感じです。毎日の繰り返し作業(要約・分類・初稿作り)→ローカルLLM。重要な判断・複雑な思考・最新情報が必要なこと→Claude・ChatGPT。機密情報を含む処理(契約書の確認など)→ローカルLLM。この使い分けをするだけで、月のAPI代をかなり節約できるようになりました。節約した分をNISAの積み立てに回せると思ったら、モチベーションが上がりました(FIRE目指してるので)。
よくある質問
Q: ローカルLLMを動かすのに必要なPCのスペックは?
A: 目安として、メモリ16GB以上・GPUありのPCがあると快適です。ただし、軽量モデルならメモリ8GBのPCでも動きます。MacのM系チップは特に相性がよく、快適に動作します。
Q: 初心者でもセットアップできますか?
A: 「Ollama」というツールを使えば、コマンド数行でモデルをインストールして動かせます。技術的な知識がなくても、調べながら1時間以内にセットアップできるレベルです。
Q: 副業でどのくらいAPIコストを節約できますか?
A: 使い方によりますが、繰り返し作業をローカルLLMに任せることで、月2,000〜5,000円程度の節約ができる人が多いようです。
使ってみた正直な感想
「AIは全部クラウドに任せればいい」と思ってたけど、ローカルLLMを試してみて考えが変わりました。副業のコストを下げながらAIを使い続けるために、ローカルとクラウドを賢く組み合わせるのが今のベストプラクティスだと思います。FIRE目指して副業コストも削減、一石二鳥でいきましょう!
📚 関連記事もチェック!
🎙️ カオリより
AI議事録・文字起こしに使っているツール
副業の打ち合わせやオンライン会議の議事録を自動で作ってくれるNotta Memo。日本語の精度が高くて、会議しながらリアルタイムで文字起こし&要約までしてくれるので時短になってます。AI副業に必須な一本。
💡 カオリより
このブログもConoHa WINGで動いています
AI副業ブログを運営するなら、安定したサーバーが必須。私が使っているのはConoHa WING。月891円〜で高速・安定、WordPressとの相性も抜群です。副業ブログを始めたい方にも◎
