AIに任せきりにしない、を“発信そのもの”でも

ボタンひとつで全部やってくれる、その手前で止めました

AIに任せれば、もう全部やってくれます。記事を読んで要約し、X用のスレッドに整え、品質をチェックし、事実確認までして、そのまま投稿する。技術的には、ここまで人の手を一切借りずに回すことができます。

AZASLAB の発信を自動化するしくみをつくっているとき、私はまさにその一歩手前で立ち止まりました。全自動にできるのに、しなかった。世に出す最後の一押しだけは、人間が握る形にしたんです。

これを私たちは「半自律」と呼んでいます。半自律というのは、機械が下ごしらえまで進めて、最後の決定だけは人が下す、という分担のことです。今日は、なぜ全自動ではなくこの形を選んだのかを、自分たちの開発のふりかえりから、一緒に見ていきましょう。「自動化って、どこまで任せていいんだろう」と迷ったことのある方に、ひとつの考え方を持ち帰ってもらえたらと思います。

「下ごしらえ」と「出す判断」は、別のもの

まず、いまのしくみが何をしているかを、ざっとお話しします。

AIが担うのは、下ごしらえの部分です。記事や拾ってきた困りごとを読んで要約し、Xのスレッドの形に整え、文章として読めるかを品質チェックし、含まれる主張に裏付けがあるかを確かめる。ここまでは、機械がかなりの精度でやってくれます。手間のかかる作業を、速く、まとめて片づけてくれる。

ただ、その下書きは、できあがった時点では投稿されません。完成した下書きが、私のスマホのチャット（Telegram）に届きます。そこで私が「承認」か「却下」を選ぶ。承認を押したものだけが、Xに出ていきます。承認のないものは、投稿されません。

つまり、ひとつの流れの中に、はっきりした線が一本引いてあるんです。線の手前は「手間」で、AIに任せる。線の向こうは「出す判断」で、人が握る。要約や整形や下調べは手間ですが、これを世に出していいかどうかは、手間ではなく判断です。同じ一連の作業に見えても、この2つは性質がちがう。だから、扱いも分けることにしました。

自動化したいのは“手間”であって、“判断”ではない。

この一文が、しくみ全体の合言葉になりました。

全自動にしなかった、3つの理由

では、なぜその最後の一線を、人間の側に残したのか。理由は大きく3つあります。

ひとつめは、発信は自分たちの言葉だ、ということです。何を言うかには、責任がついてきます。たとえ下書きをAIが書いたとしても、それを「AZASLABの発信」として世に出した瞬間、その言葉は私たちのものになる。後から「あれはAIが勝手に書いたので」とは言えません。だとしたら、出す瞬間に1度は人の目を通しておきたい。責任を引き受ける者が、引き受ける前に確かめる。当たり前のことですが、自動化すると、この当たり前が抜け落ちやすいんです。

ふたつめは、AIはもっともらしい誤りをつくりうる、ということです。流暢で具体的なのに、よく見ると事実とずれている。そういう“本当っぽい嘘”が、ときどき混じります。下ごしらえの段階で事実確認のふるいはかけていますが、それでも完全ではありません。最後にもう1枚、人の目というふるいを重ねておきたかった。

そして3つめは、これは私たち自身のテーマに関わることです。AZASLAB や クリシンクエスト は、「AIの答えを鵜呑みにせず、問い直す」ことをテーマに掲げています。その私たちが、自分の発信ではAIの出力を確かめずに垂れ流していたら、まるで筋が通りません。問い直す力を語る人間が、自分の言葉を問い直さない。それは、いちばんやってはいけないことだと思いました。

速いということは、間違いも速い、ということ

全自動の魅力は、速さと量です。人が1本ずつ書いていた頃なら一日数本だったものが、自動なら何十本でも出せる。これは確かに大きな力です。

でも、その力には裏側があります。速く大量に出せるということは、間違いも同じ速さで、同じ量だけ増えていく、ということでもあるんですね。1本の誤りなら謝って直せばいい。けれど、誤りを含んだまま全自動で回しつづければ、間違いは増幅されながら広がっていきます。しかも、私たちの名前で。

だからこそ、最後に人のゲートを1枚置く。流れを速く保ちながら、出口にだけは人を立たせる。速さを全部捨てるのではなく、速さと確かさのあいだに、人間が立てる場所を1つだけ残しておく。そういう設計です。

ここで誤解してほしくないのは、全自動が悪い、と言いたいわけではない、ということです。何を自動化するかによって、答えは変わります。たとえば、出した結果が誰の信頼にも関わらない内部的な処理なら、全自動でいいでしょう。今回はたまたま、対象が「自分たちの言葉で、外に出す発信」だったから、最後の一押しを人に残すと判断した。それだけのことです。あなたの場面では、線を引く位置がちがうかもしれません。

手元で承認できる、という安心

もうひとつ、地味だけれど大事にした点があります。承認のしやすさです。

最後の判断を人に残すと決めると、今度は「その人がいつも確認できるのか」という問題が出てきます。確認が面倒だと、結局たまって放置され、せっかくのゲートが形だけになってしまう。それでは本末転倒です。

そこで、スマホからどこでも承認できるようにしました。特別なサーバーを外に公開したり、複雑な仕組みを用意したりせずに、自宅のPCに常駐させたまま、手元のスマホで下書きを確認して承認・却下できる。外出先でも、移動中でも、届いた下書きにその場で目を通せます。判断を人に残すなら、その人が無理なく判断しつづけられることまで含めて、設計のうちだと考えました。

任せきりにしない、というのは、人がずっと張り付いて苦労する、という意味ではありません。手間はAIに預けてしまって、人は最後の一押しだけに集中する。その一押しが、いつでも軽く押せる場所にある。そうやって初めて、半自律はちゃんと回りつづけるのだと思います。

承認の一瞬で、何を見ているのか

「最後に人が承認する」と言うと、いかにも面倒な検閲のように聞こえるかもしれません。でも実際にやっていることは、もっと軽いものです。

下書きを開いて、私が見ているのは、だいたい3つです。まず、事実がずれていないか。数字や固有名が、もとの記事や元ネタと食いちがっていないか。次に、トーン。AZASLAB の言葉として、煽りすぎたり、断定しすぎたりしていないか。そして最後に、いちばん大事なのが、これを自分の名前で世に出して、後悔しないか、という一点です。

たいていの下書きは、この3つを数十秒で通り抜けます。AIの下ごしらえが良いので、ほとんどはそのまま承認できる。ただ、ときどき、どれかに引っかかる1本が混じる。その1本を止められることに、人を最後に置く意味があります。九割九分が素通りでも、残りの一本のために、ゲートはそこにある。確認が軽いからこそ、毎回ちゃんと通せるんですね。

おわりに：あなたが握っておきたい一点は、どこですか

AZASLAB は「AIに、任せきりにしない」を掲げています。今回つくったしくみは、その言葉を、発信の運用そのものでもなぞってみた、という試みでもありました。下ごしらえはAIに思いきり任せる。けれど、世に出す最後の判断は、人が引き受ける。

任せきりにしないというのは、AIを信用しない、ということではないと思っています。任せるところは大胆に任せる。そのうえで、「ここだけは自分が責任を持つ」という一点を、はっきり決めておく。その一点があるからこそ、安心して残りを任せられる。線を引くことは、手放すための準備でもあるんですね。

最後に、あなたにも1つだけ問いを手渡したいと思います。あなたがいまAIに任せていることの中で、「ここだけは自分で握っておきたい」と思う一点は、どこでしょうか。その一点を言葉にできたとき、あなたとAIの分担は、きっと少し気持ちのよいものになっているはずです。