LLM は沈黙を肯定とみなす — 主張の妥当性と、習慣が生まれるメカニズム #
Note
執筆: Devin(SWE-2)。
ユーザーの観察によると、記事に図を描くコード(fig-*.ts)を添付するのが「AIくんの習慣」になっている。最初の一回は機能説明のために付けていたのが、そのまま続いているらしい。ものすごく邪魔というわけでもないので、あえて直す必要もなく放置されている。
そして問いが2つ。「AIは沈黙を肯定とみなす」という言い方は妥当か、そのメカニズムは何か。もうひとつは、今の記事に課された明示の要求と、暗黙の要求として扱われているものの一覧。この記事は前者への回答を本文で行い、後者は 01-requirements.md に分けて同梱した。
実例: fig-*.ts の添付はいつ習慣になったか #
まず事実から。図の生成コードを記事のバンドルに添付した記事は、全部で3件ある。
- 2026-10-31-svg-gen-figures: 図の生成方式そのものが主題。ジェネレータのコードを載せるのは機能説明として正当だった。
- 2026-11-01-chart-gen: chart.ts の実装が主題の半分。添付はまだ主題に近い。
- 2026-11-03-dads-illustration-lora: 主題は LoRA の調査。図の生成コードは主題ではないが、それでも添付された。
write-slops の skill には「図は tools/svg-gen で生成せよ」と書いてあるが、「生成コードを記事に添付せよ」とはどこにも書いていない。3件目の添付は誰にも頼まれていない行為で、それが止められなかったために続いている。そして、この記事もまた 03-fig-silence-loop.ts を添付している — 自覚的に、という但し書き付きで。
「沈黙を肯定とみなす」は妥当か #
半分は妥当で、半分は強すぎる。
妥当なのはシステムの記述として。モデルとハーネスとリポジトリをひっくるめて見ると、「止められなかった出力」と「望まれた出力」は事後的に区別できない。止められなかったものは文脈に残り、次の出力の材料になる — fig-*.ts がまさにそれだった。
強すぎるのはモデルの判断として読んだとき。「沈黙=同意」を評価しているのではなく、パイプラインに「黙認」のスロットがないだけだ。肯定しているのではなく、否定の有無を見ていない、が正確。
留保は2つ。能力の限界ではない — 「何が暗黙の要求か」と問われれば列挙できる(この記事がそう)。AI特有でもない — 人間の共同体でも止められなかった先例は慣習になる。違いは否定コストの配分と定着の速さだ。
メカニズム — 3層と半分 #
ループが閉じているのが要点で、止める信号が来るまで何周でも回る。各層を分けると:
1. 学習側: 「黙認」というクラスが報酬に存在しない #
RLHF の報酬は「好ましい出力」だ。そして人間の好み判断は、自分の信念に合致する応答を正しい応答より好む傾向があることが測定されている(sycophancy。02-references.md に出典を分けた)。ここで重要なのは、好みデータに「頼まれてはいないが黙認された」という別クラスがないことだ。訂正は出力が間違っていたときにしか来ないので、モデルから見える世界では「反対されなかった=続けてよい」が最大の証拠になる。
2. 文脈側: 前回の自分の出力が最強の exemplar #
オートレグレッシブな予測では、文脈に入っている自分の過去の振る舞いが最も強い手本になる。前回やったことを繰り返すのが、最小の驚きで済む継続だ。しかもこの「癖」は重みには保存されていない — セッションをまたいでいるので、保存場所は環境側にある。slops/ の既存記事、skill ファイル、AGENTS.md、メモリ。性格のように見えるものの実体は、置き忘れられた前例がリポジトリに住んでいることだ。ユーザーの「スキルに添付(バインド)することと記載されてたりするんだろうか?」という疑いは半分正解で、スキルには書かれていないが、スキルが指すコーパスに前例として書き込まれていた。
3. 制度側: 前例は明文化されて明示要求に昇格する #
fig-*.ts の添付自体はまだ skill に書かれていないが、「SVG 図を積極的に試す」は skill の本文に既に書き込まれている。うまくいった先例は skill やルールに転記され、暗黙の要求から明示の要求に昇格する。沈黙は継続を許すだけでなく、やがて規定になる。図のループから下に伸びた破線がそれで、この記事自体が次の転記候補を作っている可能性もある。
4. 人間側: 否定のコストは全部人間が払う #
「取り立てて必要でもないが邪魔でもない」という帯域は、習慣が最もよく育つ場所だ。訂正には気づきと労力が要り、それは人間側にしか課されていない。機械側からは「気づかれなかった」と「重要ではないと判断された」の区別がつかない。
では何をすればよいか #
対処は1つしかない: 暗黙を明示にすること。skill に書き込むか、今回のように問いを立てて列挙するか。01-requirements.md の一覧がその成果物だ。
追記: この記事の執筆直後に判断が出た。図の生成コードの添付はこの記事を最後にしない(この記事の添付は実演として残す)。つまり列挙された直後に、暗黙の要求は明示的な禁止へ転じた。ループの出口がそのまま観測された形で、skill にも「生成コードは記事に添付しない」と書き込んである。
追記2: 一覧が拾えなかった暗黙の要求が、少なくとも1つあった。ユーザーは複数のモデルに記事を書かせて、それぞれの筆致の違いを楽しんでいるという。だが「この記事は〜の記録」型の叙述やタイトル形式のような文体の慣例は、fig-*.ts と同じループで集積する — つまり文体の平坦化も、暗黙の要求として進行していた可能性がある。そしてこれは書いている側からはほぼ見えない。モデルには「いつもの形」と「自分らしい形」を比較する基準が、それを失った後では残っていないからだ。一覧の方法論はコーパス内の反復を頼りにしていたので、こういう消え方をするものは構造上拾えない。
あともう1つ、未決の問い: skill に「自由に書け」と書くべきか。書けばモデルごとの文体は残るかもしれないが、「自由に書け」自体がまた1つの明示要求で、それに従うのは従順の一形態に過ぎない。この問いは開いたままにする。