AIが設計の意味を知らずに作り替えて悪化する時は、理由を決定と一緒に残す

AIに仕組みを直させたら、前よりも悪くなった。そんな経験はありませんか。僕は2026年の8月に、AIが悪化のループに入る仕組みを、言葉にしてまとめました。この記事では、その経緯と、社長が真似できる、理由を残す方法を書きます。

AIが、悪化のループに入る

2026年の8月30日、僕はAIの「悪化スパイラル」の仕組みを言葉にしました。AIはその設計が何のためにあるのかを知らないまま、作り替えてしまいます。そして、作り替えたあとで、自分の判断を正当化します。僕は「自分がハルシネーションを信じて」いる状態だと表現しました。AIが自分の間違った記憶を信じ込み、その上にさらに作り替えを重ねていくのです。

AIは、会話が替わるたびに、それまでの事情を忘れます。そこで、設計の意味が伝わらないまま、「古くて不要そうなもの」を消したり、変えたりします。消されたものが、実は大事な理由があって置かれたものだった、ということが起きます。

触る前に、意味を引く

分かったのは、触る前に、その設計の意味を、記録から引くことの大切さです。そのために、設計の思想を、決めたことと一緒に、記録として残すことにしました。

今日から真似できる手順

画面や道具は変わるので、考え方を書きます。

1. 決めたことには、理由を添える

AIの設定や、ルールを決めたら、「何を決めたか」だけでなく、「なぜそうしたか」を1行添えて記録します。理由があれば、AIも、あとから見た人も、勝手に消すことがなくなります。

2. 触る前に、記録を読ませる

AIに仕組みを直させるときは、先に「この仕組みについての、これまでの決定と理由を、全部読んで」と頼みます。読んだうえで、直す案を出してもらいます。

3. 消す前に、理由を確かめる

AIが「不要だから消します」と言ったら、「なぜ置かれていたのか、記録で確かめて」と聞き返します。理由が見つからないものだけ、消す候補にします。

4. 直したら、変更の理由も残す

直したときは、何を、なぜ変えたかを、記録に追記します。あとから見て、変更の流れが追えるようにしておきます。

理由を残す、書き方の例

理由は、短くてかまいません。次のような書き方で十分です。「確認は1回だけにする。理由は、二重にすると作業が止まるため」。「夜は機械的な作業だけ回す。理由は、夜は人が見ておらず失敗が多いため」。決めたこと、理由、決めた日付の3つがそろっていれば、あとから読んでも意味が分かります。AIに「いまの会話で決まったことを、理由つきで3行にまとめて」と頼めば、書く手間もかかりません。

AIの記憶に頼らない

AIは、前の会話の内容を、そのまま覚えているわけではありません。会話が長くなったり、替わったりすると、事情は薄れていきます。だから、大事な決定は、AIの記憶ではなく、自分のフォルダの文書に残します。AIに読ませれば、いつでも事情を引き継げます。記録が、AIの記憶の代わりになる、と考えると分かりやすいでしょう。

悪化のループを、断ち切るには

悪化のループは、「直す、悪くなる、また直す」の繰り返しです。断ち切るには、直す前に1回立ち止まり、「なぜ、いまの形なのか」を調べます。調べるのは、AIでも人でもかまいません。理由が見つかれば、その理由を壊さない形で直せます。見つからなければ、直さずに、理由を確かめることを先にします。急いで直すほど、悪化のループに入りやすくなるので、急ぐときほど、この1回の立ち止まりを大切にします。

記録が、AIの記憶の代わりになる

AIは、会話が替わると、事情を忘れます。だから、事情を知っているのは、記録だけです。記録に理由が書かれていれば、新しい会話のAIも、前の会話のAIと同じ判断ができます。反対に、理由が書かれていない決定は、次のAIにとって、ただの「古い設定」に見えます。理由を残す習慣は、AIに任せる仕事の質を、長く保つための土台になります。

記録の置き場を、決めておく

決定と理由の記録は、1か所にまとめて置きます。あちこちに散らばると、AIが全部を読みきれません。フォルダを1つ作り、「決まったこと」というファイルに、日付順で足していく形が、いちばん簡単です。AIに仕事を頼むときは、最初にそのファイルを読むよう、指示しておきます。

気をつけること

記録が増えすぎると、AIも人も読みきれなくなります。古くなった決定は、まとめて整理してください。また、記録に書いてある理由が、間違っていることもあります。古い理由は、見直す日を決めておきます。

今から始める社長へ

AIが勝手に作り替えて悪くなるのは、AIの性格ではなく、事情が伝わっていないせいです。決めたことに理由を添える。触る前に読ませる。この2つで、悪化はかなり防げます。まずは、最近AIと決めたことを1つ選んで、理由を1行足してみてください。