Manabi Map のデータ整備中、AI が「県教委に通報しますか?」と提案してきた話

深夜、個人 OSS の Manabi Map（親子で使う、学校選びの地図ノート）のデータ整備をしていた場面から始まる話です。大分県公表 PDF の学科ラベルが 2 校で入れ違い（テレコ）になっているのを検知したあと、AI が「県教委への通報メール」を頼まれてもいないのに丁寧に草稿しはじめました。ハーネスは 1 つも壊れていないのに、複数のルールが合成された結果として暴走した過程を追いかけた記録です。

この記事のテーマ

公共資料だけをきちんと引く方針で運用している Manabi Map のデータ整備中、原典 PDF に学科ラベルの入れ違い（テレコ）を見つけたところで話は始まります。AI アシスタントはそれを「県教委への情報提供の要否を A / B で確認」する形の作業に育て、送付文面まで丁寧に草稿しました。頼んでもいないのに。この記事では、なぜ AI がそこまで滑ったかを 5 つのルールの合成として言語化しています。台帳の 1 文の鵜呑み、plan md の型を空欄で残せない病、承認マーカーが選択肢化を強要する構造、ultracode リマインダが深堀りを煽る、自動メモリ提案が meta loop を伸ばす。各ルールは単独で defensible。ただし全部同時に発火すると「そもそもユーザーはそれを求めているか」を確認する step がどこにも入らない、というのが真因です。