本文へスキップ
AZASLAB
← Journal
6 min read AI協働開発健康

連載「carb-icr 開発日誌」· 第1編/全14編

手計算の代行が、医療機器になるとき

個人開発と薬機法のはざまで(開発日誌 1)

個人で作った便利な道具を、そのまま人に配っていいのか。無償・免責・デフォルトOFF——「対策したつもり」がほとんど効いていなかった話と、情報を渡すことと道具を渡すことを分ける一本の線を、一緒に。

安宅春樹 (Ataka Haruki)

— AZASLAB代表 ・ AIエージェント開発ディレクター

— Shimizu Fumio Architects Co., Ltd. 取締役

「動くもの」と「公開していいもの」は、別のことかもしれない

個人で作った便利な道具を、そのまま誰かに配っていいのか——そこで立ち止まったこと、ありませんか。

これまでの連載で、血糖や食事やインスリンを記録するアプリを作ってきました。実測データからインスリンカーボ比(ICR)を逆算する機能も付けて、無料で公開していました。外部ライブラリなし、通信なし、データは端末内だけ。個人開発の道具としては、われながら筋がいいと思っていました。ただ一点、最初から喉に刺さっていた問いがあります。これは薬機法でいう医療機器に、当たらないと言い切れるのか。今回からは「開発日誌」として、その問いに正面から向き合った記録を書いていきます。以前「止まるべきところで止まる」と書きましたが、それを本気で確かめたのが、今回でした。

「対策したつもり」が、ほとんど効いていなかった

厚生労働省のガイドラインと、医療機器への該当性の判断事例を読み込んで、最初に分かったのは、わりと身も蓋もない事実でした。私が安心の根拠にしていた対策が、判断にはほぼ関係なかったのです。

  • 無償であることや非商用であることは、該当性の判断要素ではない。該当するかどうかは、使用目的とリスクで決まる。
  • 免責表示や同意画面は、該当性を変えない。機能と何を掲げているかから、客観的に判断される。
  • 「目安計算は既定でオフ」も意味をなさない。機能として存在すれば、その機能を含めて判断される。しかも治療に関わる機能が分けられない形で入っていれば、アプリ全体が該当と見なされうる。

「免責を入れたし、無料だし、既定でオフだから大丈夫」。その感覚は、一次情報に当たらないまま安心するための装置でしかありませんでした。

記録は大丈夫、でも「指標の算出」は線を越える

判断事例には、糖尿病まわりのケースもありました。読み比べて見えてきた線は、思っていたよりはっきりしています。記録して、表示して、グラフにして、平均や中央値といった一般的な統計処理をするところまでは、患者向けの管理アプリとして問題になりにくい。一方で、記録したデータを加工してインスリン投与量を決めるための指標を算出するとなると、評価は変わってきます。後者は、私のアプリのICR逆算機能の説明として、そのまま使えてしまうくらい一致していました。

これは日本が特別に厳しいわけでもないようです。調べた範囲では、米国でも患者向けのインスリン用量計算は審査を経て世に出る医療機器ソフトウェアの領域にあり、欧州でも治療判断に関わるソフトウェアは高いリスク区分に置かれています。インスリンの投与量を計算するという機能は、どうやら世界共通で、規制の本丸に近いところにありました。

なぜ「手計算の代行」が、わざわざ規制されるのか

ここで1つ、腹に落ちるまで時間のかかった疑問があります。このアプリの計算は、その気になれば手でもできます。糖質を単位で割る。それだけです。手作業の置き換えにすぎない道具が、なぜ規制の対象になるのか。

調べて納得したのは、規制されているのは「計算という行為」ではなく、「治療に使われる道具を世に出す」という行為のほうだ、ということでした。患者が自分の投与量を自分で手計算するのは、自己管理であって誰の規制対象でもありません。でも同じ計算をするプログラムを不特定の人に配れば、それは製造物を世に流すことになる。注射器を自分の手で押すのは自由でも、自動で押す装置を配れば医療機器になる——その構造と同じなんですね。

機械にすることを狙って線が引かれている理由も、わかると腑に落ちます。手計算の間違いはその人1回きりですが、プログラムの間違いは全ての利用者に同時に、静かに広がる。しかも人は、機械が出した数字をいちいち検算しません。ありふれた計算だからこそ、それを肩代わりする製品には品質を保証する責任が問われる、という設計になっていました。面白い対比があります。同じ計算式を解説した本は規制されません。情報を渡しているだけだからです。けれど同じ式をあなたの数字で計算してくれるソフトは、規制の対象になりうる。情報を渡すことと、道具を渡すこと。線は、そこに引かれていました。

自動化バイアスという言葉に、自分でも思い当たることがあります。画面にそれらしい数字がぱっと出ると、それを疑う気持ちが、ふっとゆるむ。作った本人ですら、自分のプログラムが返した値を、つい正しいものとして受け取ってしまうんです。手で計算していたときには働いていた「本当に合っているかな」という小さなブレーキが、機械に任せた瞬間に外れる。便利さは、たいてい警戒心とセットで差し出されます。だからこそ、人の体に関わる数字を機械に出させる側には、利用者がゆるめてしまうその警戒心を、品質で肩代わりする責任が求められるのだと思います。

学んだのは、「公知の式にすれば安全」ではない、ということ

いちばんの学びは、計算式を有名な教科書どおりのものに差し替えれば安全になる、という発想が的を外していたことでした。該当性は、独自のアルゴリズムかどうかと、個別の治療判断に寄与するかどうか、その2つで見られます。たとえばよく知られた目安計算の式は教科書レベルの公知の式ですが、だからといって個人の数値を入れて候補を出せば、それは個別の治療パラメータの提案になる。式がどれだけ有名かではなく、その出力が誰の何を決めるのか。問われていたのは、そちらでした。

この「式の有名さではなく、出力が誰の何を決めるのか」という見方は、医療を離れても効く物差しだと感じています。たとえば同じ平均値を出す計算でも、ただ過去を振り返るために見せるのか、これからの行動を1つに決めさせるために見せるのかで、道具の重みはまるで違う。あなたが何かを自動で計算して人に手渡すときも、その数字が相手の次の一手をどれくらい縛るのかを1度測ってみると、どこまで慎重に作り込むべきかの見当がつきます。同じ計算でも、振り返りの材料と、判断の代行とでは、背負うべき責任が変わるのですから。

もう1つ、地味だけれど大きかったのは、一次情報の軽さです。ガイドラインも判断事例も無料で公開されていて、読めば数時間で自分のプロダクトと突き合わせられます。やらなかったのは、たぶん、答えを知るのが少し怖かったからでした。

もしあなたも、医療や健康の道具をつくるなら

今回は、自分のアプリを規制の物差しに当ててみたら、安心の根拠がほとんど崩れた、という話でした。無償も、免責も、既定オフも、該当性そのものは動かさない。動かすのは、その機能が誰の治療判断に効くのか、でした。

もしあなたも医療や健康に触れる道具を作っているなら——該当性の判断事例とガイドラインは、厚労省のサイトで無料で読めます。相談窓口も無料です。「動くものができた」と「公開していい」のあいだには、思っていたより太い線が引かれています。私はその線を、公開したあとに知りました。これを読んでいるあなたは、公開する前に確かめられます。

次回は、この線に合わせて、公開しているアプリから何を外し、残したものをどう作り変えたのか——具体的な手の動かし方を、一緒に見ていきます。


アプリは carb-icr(無料・通信なし・ブラウザで動くPWA)。プロジェクトの概要は carb-icr のプロジェクトページ に。

本記事は個人開発者としての調査と判断の記録であり、法的助言ではありません。本アプリは記録と集計の補助で、表示される値はすべて参考です。診断・治療や投与量の決定は行いません。投与量・治療方針は必ず主治医の指示に従ってください。