連載「温故知新マーケティング実験室」· 第10編/全13編
いくらで回す?
AIパイプラインのコスト設計(連載 10)
AIを回す費用、ダッシュボードの数字をそのまま信じていませんか。実額はその3倍でした。高くついた犯人は意外な所に。品質を保ったまま半分に削った設計を、実際の記録から一緒に。
連載「温故知新マーケティング実験室」· 第10編/全13編
AIパイプラインのコスト設計(連載 10)
AIを回す費用、ダッシュボードの数字をそのまま信じていませんか。実額はその3倍でした。高くついた犯人は意外な所に。品質を保ったまま半分に削った設計を、実際の記録から一緒に。
AIに何かを任せてみたいけれど、使った分だけお金がかかると思うと、こわくて踏み込めない。料金の見当がつかなくて、二の足を踏む。そんなこと、ありませんか。派手に使ったら、月末に思わぬ請求が来るんじゃないか。その不安は、とてもよく分かります。
前回までお話ししてきた温故知新マーケティング実験室は、1日およそ100円という、はっきりした予算のなかで回そうとしています。今日は、その予算を見張っていて気づいた、ちょっと背筋の伸びる出来事を、あなたと分け合いたいのです。じつはわたしのアプリは、自分のコストを実際の3分の1ほどしか表示していませんでした。メーターが嘘をついていた、というほうが近いかもしれません。なぜそうなったのか、どう気づいて、どう半分に削ったのか。あなたがAIを使うときのコストの考え方として持ち帰れる形で、一緒にほどいていきましょう。
きっかけは、料金の請求元――AIモデルをまとめて呼べる中継サービスの管理画面でした。そこに出ていた1日あたりの金額が、こちらのアプリが自前で集計して出していた数字と、まるで合わない。アプリ内のレポートは1サイクルでおよそ$0.7(2026/6/26 現在)と言っているのに、請求元の実額は$2.5前後。3倍以上の開きです。どちらかが間違っている。そして、間違っていたのは自分のほうでした。
理由を辿ると、単純で、こわい話でした。実験室の中心には、性質の違う複数のモデルに同じ問いをじっくり考えさせて、審判役がまとめる、重い使い方があります。前に何度か触れた、発想と批評のところで使っている、あの念入りな方式ですね。アプリはこの重い処理を「1回呼んだ」として、コストをひとまとめに記録していました。ところが請求元から見ると、その1回の裏で、実体は162件もの細かい生成が走り、それぞれに課金されていたのです。
つまり、アプリは1回分として数え、請求元は162件として数える。数える単位そのものが食い違っていたのです。そのうえ、記録の27%は使用量がうまく取れず、$0として数えられていました。数えるものさしが現実とズレていれば、ダッシュボードは平気で実額の3分の1を表示します。ここから持ち帰れるのは、ひとつ目の教えです。自分のコストメーターを、無条件で信じてはいけない。真実は、自分の集計ではなく、課金元にしかありません。
ものさしを請求元の実額に合わせて、初めて「どこで高くついているのか」が見えてきました。そして、その内訳は、わたしの直感とは違っていました。
最初に疑ったのは、批評のパネルでした。複数のモデルで審議するのだから、そこが重いのだろう、と。ところが実額を一本ずつ積み上げてみると、いちばん高かったのは、議論を取りまとめる審判役のモデルでした。1サイクルでおよそ$0.9。みんなの意見を全部読んで束ねる役なので、毎回いちばん大きな入力を飲み込んでいたのです。目立つ働き手ではなく、裏方の取りまとめ役が、最大の支出でした。
もうひとつ、思いもよらない出費がありました。web検索です。この重い処理は、審議のたびに裏で勝手にウェブを検索しにいく仕様になっていて、それだけで全体の38%、1サイクルでおよそ$1.0を使っていました。発想にも批評にも、毎回その検索がついて回る。便利だからと足した機能の副作用が、いちばん大きな塊のひとつになっていたわけです。支出のかたちは、ログを実額で積み上げてみるまで、見えていませんでした。
ここで、ありがちな身構え方をしそうになります。コストを下げるなら、審議のモデルを減らすしかない。つまり品質を落とすしかない、と。でも、よく見ると、そうではありませんでした。
審判役を、高いモデルから、同じくらいの実力で半額ほどの別のモデルに替える。パネルからは、1本だけ飛び抜けて高かったモデルを外して、残り2本で議論させる。これだけで、複数モデルで多視点に審議するという構造はそのままに、1サイクルおよそ$2.5が$1.1〜1.3まで下がる見込みになりました。
つまりこれは、「品質 対 コスト」の二択ではなく、純粋な無駄取りだったのです。高いから効いている、とはかぎらない。いちばん高い審判役を替えても、議論の多視点は保たれる。飛び抜けて高い1本を外しても、残り2本で十分に視点はぶつかる。値段と働きは、いつも一致するとはかぎらなかった。判断したのはわたしで、その差し替えをコードに落としたのはAIですが、決め手になったのは「実額を一本ずつ見た」という、ただそれだけのことでした。
なぜ、わざわざここを掘ったのか。背中を押したのは、もうひとつの数字でした。
この実験室は、AIが書いた記事をAIの批評役が点検し、合格したものだけを公開する仕組みです。そしてこの批評役が、なかなか首を縦に振らない。観察しているあいだ、公開可と判定された記事は0%のままでした。1本も世に出ていないのに、フル装備の重い審議と、裏のweb検索を、毎日$2.5ぶん回し続けていた。観察のための実験ランだから許せるものの、本番前には効率化が欠かせない――その当たり前が、実額を見て初めて腹に落ちました。見えていないと、人は重さに気づけません。
ちなみに、もうひとつ削った判断があります。批評で「直してから出そう」と言われた案を、AIが修正し、もう1度批評にかける。この再批評は1サイクルでおよそ$0.7かかるのに、1度の修正では合格率がゼロから動かないと分かっていました(前回までの観察)。なので、観察ランのあいだは再批評を止める、と決めました。効くかどうか分からない出費は、確かめてから足す。これも、実額が見えていたからできた判断です。
今日は、自分のコストメーターに裏切られて、そこから実額に立て直すまでを見てきました。最後に、あなたがAIを使うときにも効く形で、3つにまとめます。
1つ、自分のコスト集計を、無条件で信じない。集計の単位が、課金の単位とずれていないか。重い処理の裏で、自分が数えていない呼び出しが走っていないか。確かめる先は、いつも課金元です。2つ、高い犯人は、目立つ場所にいるとはかぎらない。実額を1本ずつ積み上げると、たいてい直感とは違う場所に塊があります。今回でいえば、裏方の取りまとめ役と、勝手に走る検索でした。3つ、削るときは「品質か、コストか」と身構える前に、純粋な無駄がないか先に探す。値段と働きが一致していない場所は、質を落とさずに削れます。
もしあなたが、AIの料金がこわくて踏み出せずにいるなら――まず、自分の使い方のなかで「いちばん高い1回」を、自分の集計ではなく課金元の数字で見つけてみてください。そこさえ実額で握れば、残りは多少ざっくりでも、お金は読めるようになります。こわいのは、見えないコストです。どこで高くつくかが見えてしまえば、AIは、思っているよりずっと安く付き合えるようになります。
次回は、いよいよ最終回。ここまで全部AIに任せてきて、では結局、人は何をするのか――観察者としての関わり方を、一緒に見つめます。
この実験のプロジェクト概要は 温故知新マーケティング実験室 に。AIエージェント群の構成や設計思想を、もう少し詳しくまとめています。