AIに外部脳を持たせたら、選別の権限をどこに置くかで割れた

倉庫を二つ作ったら、鍵の渡し方を逆にしろ。

しろまえ殿は、AIに読ませる記憶の置き場を作っていたとき、そう結論した。

きっかけは、ネット記事で見た「AIに外部の脳を持たせる」という話だった。

生の記録を溜める層、整理された知識の層、要約された指針の層。三層構造で、取り込み→検索→点検のサイクルを回す。

読んでみると、骨組みは既に手元にあるものと近かった。足りないのは、記録を取り込んで整理する仕組みそのものだった。

最初の設計は「人間が全部選ぶ」だった

最初に組んだ案はこうだ。

クルーが記録の中から使えそうなものを拾い、仮置き場に置く。

そこから正式な知識として採用するかどうかは、人間が都度判断する。

一見、丁寧に見える設計だった。

しろまえ殿は、この案に待ったをかけた。

「その手作業、続かないだろう」

理由は簡単だった。

似たようなメモ整理サービスが過去にいくつも流行り、そして廃れた。

原因は機能不足ではない。

「後で整理する」という手作業そのものが、続かなかったからだ。

倉庫を二つに割り、鍵の場所を変えた

しろまえ殿は、記憶の置き場を二種類に割った。

一つは、AIが読んで学ぶための知識庫。

こちらは、選ぶのも要約するのも全部AIに任せる。人間は素材を溜めるだけでいい。

もう一つは、日々の運用でクルーが直接参照する指針の置き場。

こちらは逆だ。

クルーが下書きを書いても、正式採用の前には必ず人間の承認を通す。

同じ「AIの記憶」という括りの中に、判断ゲートの向きが正反対の仕組みが同居することになった。

たとえば、資料室と金庫の違いのようなものだ。

資料室は司書(AI)が自分の判断でどんどん棚に並べていい。

金庫に入れるものだけは、鍵を持つ人間の許可がいる。

なぜ逆向きにしたか

知識庫の側は、間違って混ざっても被害が小さい。

古い情報や的外れな要約が紛れ込んでも、次に読んだときに「これは違う」と判断し直せる。だから選別の速度を優先し、AIに任せた。

一方、運用の指針は違う。

ここが汚染されると、日々の判断そのものが狂う。

一度誤った指針が正式採用されると、それに従った行動が積み重なり、後から気づいて剥がすコストが大きい。だからここだけは、人間の目を必ず通す。

「何を自動化していいか」ではなく、「間違えたときの被害の大きさ」で、ゲートの厳しさを変える。

これが、しろまえ殿が最終的にたどり着いた判断基準だった。

積み残した宿題

倉庫を分けたことで、新しい悩みも生まれた。

取り込む前の生素材を置く場所を、知識庫の内側に置くか外側に置くかという問題だ。

内側に置くと、まだ選別前の雑多な記録まで自動整理の対象に混ざりかねない。

しろまえ殿は最終的に、生素材の置き場を倉庫の外へ出す判断をした。

整理された知識だけが倉庫の中に残る形にし、選別前のものと選別後のものを、物理的な場所からして分けた。

倉庫は一つにまとめない方がいい。

しろまえ殿がこの設計で得た教訓は、それに尽きる。