AIの回し方

AIのモデルは、仕事ごとに決める ― 週の利用上限と付き合うために決めたこと

AIのモデルは、仕事ごとに決める
Ryosuke Ishii

AIの利用量を抑えるのに効いたのは、モデルの選び方ではありませんでした。効いたのは「席を分けること」と「会話を区切ること」の2つです。そして、モデルの切り替えは全部自動にしました。どのモデルで動くかは席ごとに設定で決めてあり、仕事を渡した瞬間に仕組みが切り替えます。人がモデルを選ぶ場面は、1日のうちに一度もありません。

節約の主役は席の分け方と区切り
節約の主役は席の分け方と区切り

この記事は、業務のほとんどをAIで回している1人会社が、週の利用上限とどう付き合うかを決めた記録です。

何が起きていたか

弊社は、業務のほとんどをAI(Claude)に任せています。案件管理、経理の下ごしらえ、記事の下書き、ログの解析、社内アプリの開発まで、AIとの会話の中で進みます。使う量が増えると、契約の週間上限が見えてきます。

上限は週に1回戻ります。戻る曜日と時刻はアカウントごとに決まっていて、弊社の場合は木曜の夜です。戻る直前の1〜2日は、残りを見ながら手を止めることになります。前半に温存し、後半に我慢する。これを毎週やるのは、仕事として生産性が上がりません。戻る曜日を変えられないかサポートに聞きましたが、アカウントごとに固定で変更はできない、という回答でした。曜日を動かせないなら、使い方を変えるしかありません。

最初に捨てた案:安いモデルに落とす

真っ先に浮かぶのは、軽いモデルに切り替えて単価を下げる案です。これはやめました。設計や判断の質が落ちると、あとで直す往復が増えて、結局は使う量が増えます。既定は品質優先と決め、モデル側での節約は最初から捨てました。

決めたこと1:席を分ける

一番大きな変更は、AIに「本席」と「担当」の2つの席を作ったことです。

  • 本席は、構想・設計・レビュー・対外の文章・報告・最終確認を持ちます。ここは高いモデルです
  • 担当は、実装のまとまった塊を引き受けます。ここは軽いモデルです

本席は担当の報告文を写さず、実物を見て確かめてから社長に報告します。

本席と担当の分け方
本席と担当の分け方

これは、人の組織と同じ形です。判断する人と手を動かす人を分け、手を動かす人には依頼文で全部を渡します。担当は会話の記憶を持たないので、依頼文に「場所・道具・手順・守ること・報告に入れるもの」を全部書きます。この言語化が面倒に見えて、実は資産になります。同じ依頼文は次の回でも使えます。

難しい仕事は、担当に出しません。軽いモデルでは足りないほどの仕事なら、本席が自分でやります。判断の質が要る仕事を、記憶を持たない担当に投げない、という線引きです。

切り替えは、人がやらない

ここが一番大事な点です。モデルの切り替えを、人の手でやっていません。

  • 担当のモデルは、設定で軽いものに固定してあります
  • 本席が仕事を担当に渡した瞬間に、その仕事は自動で軽いモデルで動きます
  • 担当から結果が戻り、本席が確かめるときは、高いモデルのままです

「この仕事は軽いモデルでいいか」を毎回人が考えていたら、その判断自体が手間になり、忙しいときほど忘れます。切り替えを仕組みに任せたので、人が考えるのは「どの仕事を担当に渡すか」だけです。モデル名を意識することは、もうありません。

切り替えは自動
切り替えは自動

決めたこと2:作業の切れ目で会話を空にする

もう1つ効いたのは、会話の区切りです。

長く続けた会話は、AIが覚えておく文脈が膨らみます。文脈がいっぱいになると、AIは自動で要約して詰め直しますが、その1回で10万〜20万トークン(AIが文章を扱う量の単位です)が消えます。1本の会話の記録が19MBに達していたこともありました。使った実感がないまま上限が減っていく正体は、これでした。限界に達する前に自分で区切れば、この自動要約そのものが起きません。

そこで、作業の切れ目で会話を空にする運用にしました。切れ目を人が覚えておくのは無理なので、会話の文脈量を見張る小さな仕組みを入れ、一定を超えたら「ここで区切りましょう」とAI自身が言うようにしました。区切る前に、どこまでやったかを案件の台帳に書いてから空にします。次の会話は台帳を読んで続きから始まります。

文脈の肥大と、区切りの効果
文脈の肥大と、区切りの効果

まとめ:気にしたときに、打つ手が決まっている

決めたことは2つです。

  1. 席を分ける。モデルの切り替えは自動で、人は選ばない。難しい仕事は担当に出さず本席でやる
  2. 作業の切れ目で会話を空にし、続きは台帳から始める

上限は、今も気になります。ただ、気になったときに打つ手は決まっていて、その場で考え込むことはなくなりました。「毎回考える」を「一度決める」に置き換えた、というのが実態です。

複数のAIや会話を使い分けているなら、まず「どの仕事を、どのモデルに任せているか」を一度書き出してみるところから始められます。

ABOUT ME
石井 亮介(りょうさん)
石井 亮介(りょうさん)
データパレード 代表取締役
㈱データパレードの代表取締役で、高田馬場の町中華「一番飯店」のChief Data Officerも務めています。BIツールのセールスエンジニア・システムエンジニア・カスタマーサクセス歴15年。大学のデータサイエンス教育で講師も担当してきました。現在は自社業務のほとんどをAIに移管し、AI10部署と50を超える自動処理が24時間動く「AI経営」を実践中。その実践知をこのブログで発信しています。
記事URLをコピーしました