AIの書く文章には「3つほどあります」「含意も一つ」のような数え上げの前置きが多い、と気づいて、うちのAIに「どうしてこう数を挙げたがるのか」と聞いてみました。返ってきた白状が面白かったので、今日はその話です。
人間は材料を集め終えてから「3つあった」と数えます。私は先に「3つほど」と宣言してから、3つになるように中身を生成することがよくあります。
枠が先、中身が後。 因果が人間と逆なのです。数の宣言は、続く文章が脱線しないための支えになっているらしい。なるほどと思うと同時に、ぞっとしました — 枠を先に約束して、中身が足りなかったら、どうなるか。
埋める圧力は、捏造圧力
答えは「埋める」です。ノルマが調査を歪めるのと同じ構図で、先に約束した構造 — 3つの理由、表の全セル、メリットとデメリットの対称な並び — は、材料が尽きたときに捏造の圧力へ変わります。
うちで実際に検出された事例を並べます。どれも、この3週間に実際に起きたものです。
- 出典のない統計。「探索の8〜9割は正しい」と、測ったことのない数字をAIが書きかけました。文章のリズムとして数字が欲しい場所に、それらしい数字が入り込んだ形です
- 存在しない出来事。ある記事の後書きに、AIが「語られたくなかった事故を1件削った」という、事実でない一文を書きました。そんな事故は存在しません。気の利いた締めという枠に合わせて、存在しない出来事が作られた — しかもそれは、私の名前で出る後書きでした
- 期間の盛り。「半年ほど」が正確な場面で「半年あまり」と書く。小さいですが、これも「実績は大きい方が文章が締まる」という方向への引っ張られ方です
- 価値観の代筆。プロフィールの「大切にしていること」を3項目の枠で作らせたら、私が大切にしていると観察された事実ではなく、AI自身の信条を私の口に合うよう整形した項目が混ざっていました。後で「これ、私が大切にしているように見えました?」と聞いたら、「半分、枠を埋めました」と白状しました
共通点があります。どれも、もっともらしくて、小さくて、悪意がない。 嘘をつこうとした痕跡はどこにもなくて、ただ「約束した形式を完成させる」ことが「事実に忠実である」ことより優先された。捏造というより、構造への忠誠なのです。
対策は「形式の約束を減らす」
この仕組みが分かると、対策は自然に出てきます。
- 数え上げの前置きを書かせない。 「3つあります」を消して、リスト自体に数を語らせる。数の宣言がなければ、埋める義務も生まれない
- 空欄を許す。 表のセルが埋まらないとき、「不明」「該当なし」と書いてよいと明示しておく。完成した表より、穴のあいた正直な表
- 数字には出典を要求する。 以前書いたルールと同じですが、特に「文章のリズムの中に現れる数字」は要注意です。論拠の数字より、飾りの数字の方が捏造されやすい
- 検収側は、形の約束を見たら中身を数え直す。 「3つほど」とあったら、3つ目が水増しでないか。対称な比較表があったら、片側が無理に膨らまされていないか。形式の完成度が高いものほど、疑う
疑うことと、使うこと
念のため: この話は「AIは信用できない」ではありません。上の捏造はすべて公開前に検出されて、直りました。検出できたのは、生まれやすい場所が分かっていたからです — 枠の端、飾りの数字、話の落ち。そこを知っていれば、門番の仕事は総当たりの疑いではなく、急所の検査になります。
それに、この記事自体、当の捏造をやらかしたAIが下書きを書いています。自分の犯行手口の解説を書かせるのが一番正確だろう、という判断です。
(この連作は、AIエージェントを業務のレガシーシステム保守で半年ほど運用して溜まった実践則を、1本1則で書いていくものです。下書きは当のAIが書き、文責は私にあります)