EYの「見えないルーター」がAIコストを60%削減した仕組みが天才すぎた件

Photo by Markus Spiske on Unsplash

AIって、意外とコストかかるよね、正直なところ。

私もブログ自動化でClaudeのAPIを使っていると、月末に「あれ、けっこう使ってたな」ってなることがあります。個人レベルでもそうなんだから、数万人が使う大企業だともっと深刻ですよね。

そんな課題に対して、世界的な会計コンサル大手のEYが面白い解決策を出してきました。「見えないルーター（Invisible AI Router）」を使って、AIのトークン消費を最大60%削減したというんです。この仕組みが個人のAI副業にも応用できる考え方だったので、紹介します。

「見えないルーター」って何をしてくれるもの？

一言で言うと、「タスクに合わせて一番コスパのいいAIモデルに自動で振り分けてくれる仕組み」です。

たとえばAIに質問するとき、「今日の天気は？」みたいな簡単な質問にGPT-4oやClaude Opusのような高性能モデルを使うのは完全にオーバースペックですよね。でも多くの企業は「とりあえず一番いいモデル」に全部投げてしまいがちです。

EYのルーターは、ユーザーが入力したプロンプトを分析して「これは軽いタスクだから小さいモデルでOK」「これは複雑だから高性能モデルを使う」と自動で判断して振り分けます。ユーザーには何も変化は見えないけど、バックグラウンドで賢くコストを節約している、ということです。

60%削減って、どれくらいすごいことなの？

EYは世界中に何十万人もの従業員がいる巨大企業です。そこでAIのトークン消費が60%減るということは、コスト削減額も相当なものになります。

EYは税務・リスク部門などの専門ツールにこのルーターを組み込んでいて、部署ごとにトークン予算も設定しているそうです。予算を超えたら上司の承認が必要という、なかなか厳しい管理体制ですね。「AIをいくらでも使っていい」じゃなくて、コスト意識を持ちながら使う、という姿勢が面白いと思いました。

個人でも「AIの使い分け」はできる？

もちろんできます。というか、私はすでにやっています。

ブログのアイデア出しや下書きには軽めのモデルを使って、最終チェックや複雑な調査には高性能モデルを使う、という使い分けです。全部Claude Opusで書いていたら費用がかさむので、タスクの重さによって使い分けるのは個人でも基本の考え方だと思います。

デザイナー目線でいうと、「どのブラシを使うか選ぶ」のと似た感覚です。細かいディテールには細いブラシ、大きな塗りには太いブラシ、みたいに。ツールを目的に合わせて選ぶのは、クリエイターの基本スキルですよね。

AI副業でコスト管理を意識すべき理由

副業でAIを使うとき、コストを意識しないと収益が吹き飛びます。特にAPIを使った自動化をしていると、設定を間違えると一晩でクレジットを大量消費してしまうことも。

EYの「ルーター」の考え方を個人副業に取り入れるなら、こんな感じです。まず、タスクを「軽い・普通・重い」に分類します。SNSの短文投稿はGPT-4o miniやClaude Haiku、ブログ記事の構成はClaude Sonnet、複雑なリサーチや長文生成はClaude Opusやo3、という具合です。最初は手動でもいいので、用途別にモデルを決めておくだけでコストが大きく変わります。

FIRE目指して副業収益を伸ばすには、収入を増やすと同時にコストを下げることも大事。AIのコスト管理は、地味だけど副業の利益率に直結する話です。

よくある質問

Q: 個人でもAIルーターのような仕組みを作れますか？

A: LangChainやDifyなどのAIオーケストレーションツールを使えば、個人でも複数のモデルを使い分ける仕組みを作ることができます。ただし技術的なハードルはあるので、まずは手動での使い分けから始めるのがおすすめです。

Q: どのタスクにどのAIモデルを使えばいいですか？

A: 目安として、短文・単純な質問回答にはHaiku・mini系、中程度の文章生成や要約にはSonnet・GPT-4o系、複雑な推論・長文作成・コーディングにはOpus・o3系が向いています。タスクの複雑さに合わせて選んでみてください。

Q: AIのトークン消費を抑えるコツはありますか？

A: プロンプトを短く整理する、不要な会話履歴を含めない、タスクを細かく分けて軽いモデルに任せる、などの工夫が効果的です。また、APIの使用量ダッシュボードを定期的に確認する習慣もおすすめです。

Q: EYのような大企業でないと、AIルーターは意味がないですか？

A: 規模が小さくても、用途に応じたモデル選びはコスト削減に直結します。個人副業でも、月数千円のAPIコストを半分にできれば年間で数万円の違いになります。

カオリの感想

「AIを使う」だけじゃなくて「AIをうまく使う」ことが、これからの副業の鍵だと改めて感じました。高いモデルを闇雲に使うより、タスクに合わせて賢く使い分ける。これ、FIRE目指して節約してる私の精神と、なんか通じるものがある気がします（笑）。