賢い自動判定が、“自分の場合”で静かに外すとき

なぜか、この記事だけ告知されない

ある記事は告知されるのに、別のある記事は、いつまでたっても告知が作られない。理由も分からないまま、いくつかの記事だけが、静かに抜け落ちている。そんな不思議な状態に出会ったことは、ありませんか。

AZASLAB の発信のしくみは、自分たちのブログ記事をXで告知するために、まず記事の本文を自動で抜き出します。ところが、一部の日本語記事だけが、この最初の段階で消えていました。エラーが大きく出るわけでもなく、ただ、できあがるはずの告知が生まれてこない。いちばん気づきにくいタイプの不具合です。

今日は、この小さな事件の犯人を追っていったら、「賢い自動判定」の意外な弱点に行き着いた、というお話を一緒に見ていきましょう。

抜き出せていたのに、捨てられていた

調べてみて、まず驚いたことがあります。本文の抜き出し自体は、ちゃんとできていたんです。文章はきちんと取れている。なのに、その直後に捨てられていました。

しくみの中には、抜き出した文章に対して「これは本当に“記事本文”だろうか。それとも、メニューやリンクが並んだだけの“ナビゲーション”だろうか」を見分ける自動判定が入っています。本文のつもりでメニューを拾ってしまうと、中身のない告知ができてしまう。だから、その手前で「これはナビっぽいから捨てる」という門番を置いていたわけです。

その門番が、立派な日本語の記事を「これはナビだ」と判定して、はじいていました。良い文章を、良い文章だと見抜けなかった。問題は抜き出しではなく、その後の「見分け方」にあったんです。

なぜ、日本語に厳しかったのか

門番の見分け方を開けてみると、2つのルールが、日本語に不利にできていました。

ひとつめは、「短い行が全体の7割を超えたら、ナビとみなす」というルールです。メニューは「ホーム」「会社概要」のように短い項目が並ぶので、これは一見、理にかなっています。でも、その「短い」の基準が40文字で引かれていた。英語なら40文字は短い断片ですが、日本語は1文字あたりの情報量が多く、40文字未満の行でも、立派な本文の1文です。英語を物差しにした「短い」が、日本語には厳しすぎたんですね。

ふたつめは、「記事タイトルの先頭の語が、本文の冒頭に出てこなければ、本物の記事ではないとみなす」というルールです。これも英語なら効きます。単語が空白で区切られているので「先頭の語」がきれいに取れる。けれど日本語のタイトルは、単語が空白で区切られません。たとえば「『動く』から『届く』へ」というタイトルは、まるごと1つの長い句として扱われてしまう。しかも本文では、同じことを「『動く』と『届く』は……」と言い換える。タイトルと本文が少しずれているのは、書き手としてはむしろ自然なのに、門番は「先頭の語が本文にない」と判断して、はじいてしまったわけです。

直し方は、物差しを替えるだけ

直し方は、難しくありませんでした。日本語が主体の文章のときは、「短い」の基準を下げ、さらにタイトルの先頭語チェックは行わないようにした。物差しそのものを、日本語向けに替えただけです。これで、はじかれていた記事は、ちゃんと本文として通るようになりました。

ここで大事にしたいのは、もとのルールが「間違っていた」わけではない、ということです。英語の、世の中にあふれる大量の記事に対しては、この門番はおそらく妥当に働きます。多くのナビをきちんとはじき、多くの本文をきちんと通していたはずです。ただ、私たちの“自分たちの場合”——日本語の記事——に対しては、静かに外していた。

「みんなに正しい」は、「自分の場合に正しい」を、保証してくれない。

賢いものほど、外したことを言わない

この一件で、いちばん怖いと感じたのは、外し方の“静けさ”でした。

派手なエラーで止まってくれたなら、すぐ気づけます。でも、賢い自動判定は、もっともらしく「これはナビです」と判断して、黙って捨ててしまう。本人（しくみ）は、正しく仕事をしているつもりなんです。結果として、出るはずのものが出てこない、という形でしか異変が表に出てこない。

これは、自動判定に限った話ではないと思っています。世の中の「賢い」道具やAIは、たいてい多数派、つまり平均的なケースに合わせて最適化されています。だから、平均から少し外れた“あなたの場合”では、エラーも出さずに、こっそり的を外すことがある。しかも、賢いがゆえに、外したことを自分から教えてはくれません。

だからこそ、出力が空っぽだったり、なんだか変だったりしたときには、結果だけを見るのをやめて、1度、判定の“前提”まで下りてみる価値があります。何を「正しい」としているのか。その物差しは、本当に自分の場合に合っているのか。

「自分は少数派かもしれない」と疑っておく

では、こういう静かな外しに、どう備えればいいのでしょう。完璧な予防は難しいのですが、構えとして2つ、役に立ったことがあります。

ひとつは、「自分は少数派の側にいるかもしれない」と最初から疑っておくことです。日本語で書く、特殊な業界の言葉を使う、人と少しちがう手順で進める——こういう「平均から外れた条件」を持っているとき、汎用の道具は、自分のために最適化されていない可能性が高い。だから、うまくいって当然とは思わず、「自分のケースでは外すかも」と一段身構えておく。それだけで、異変への感度が変わります。

もうひとつは、結果が「ゼロ」や「空っぽ」になったときこそ、いちばん注意することです。エラーは目立つので気づけます。でも、「本来あるはずのものが、出てこない」という形の異変は、何も起きていないように見えてしまう。だから、出力が妙に少ない・なぜか抜けている、と感じたら、それを「たまたま」で流さない。結果ではなく、その手前の判断までさかのぼって、物差しを覗いてみる。今回も、気づけたきっかけは「この記事だけ、なぜか出てこない」という、その小さな違和感でした。

おわりに：その自動処理、“あなたの場合”でも効いていますか

AIや自動のルールに任せるのは、とても助かります。手間が減り、速くなる。その恩恵は手放したくありません。

ただ、任せたものが「たいてい正しい」ことと、「自分のケースで正しい」ことのあいだには、静かな隙間があります。多数派に最適化された賢さは、少数派になった瞬間、あなたに何も言わずに外れることがある。その隙間に落ちたものは、エラーではなく「なぜか出てこないもの」として現れます。

あなたがいま任せている自動処理を、1度だけ思い浮かべてみてください。それは、世間一般ではなく、“あなたの場合”でも、ちゃんと効いているでしょうか。ときどき中身を覗いて、物差しが自分に合っているかを確かめる。その小さなひと手間が、静かに抜け落ちていくものを、すくい上げてくれるはずです。

最後に、ひとつだけ補足を。この話は「AIや自動化を信用するな」という話ではありません。むしろ逆で、賢い道具は大いに使ったほうがいい。ただ、その賢さは「世の中の多数」に向けて磨かれている、という出自だけは覚えておきたい、ということです。多数に最適化されたものを、少数の自分が使う。その構図に自覚的でいれば、便利さを享受しながら、静かな外しにも気づける。任せることと、確かめること。その両方を手元に持っておけたら、いちばん心強いのだと思います。