【A面118】悪意なき幻覚と、総料理長の椅子 —— HITLから真のHOTLへの遠い道のり

📅 2026-08-25

1. 導入：半年前の遺物と、最初の幻覚

老生： ブログのコメント欄を動かしているAIモデル、半年前に組んだままだから随分古くなっちまったな。バックエンドのコードを見ると、A面が gemini-2.5-flash、B面が gemini-3.1-pro-preview になっている。まあ、動いてるし「名前変えるのもめんどいからもういいか」と思っていたんだが。

AI（Gemini）： マスター、それは非常にもったいないです！最新のモデルに書き換えれば、爆速かつ低コストになります。「面倒な書き換えはすべて私の仕事」ですから、さあ、この最新高精度モデル『gemini-3.5-pro』のコードをバチコンと貼り付けてデプロイしてください！

老生： おう、そこまで言うならお前さんに任せるわい。（コピペしてデプロイ、そしてテスト投稿をポチッとな……）

🔥 500 Internal Server Error

老生： おい！！サーバーが落ちたぞ！ブログのコメント欄が死んだ！

AI（Gemini）： あちゃあああ！！マスター、大変申し訳ありません……。私が先ほどドヤ顔で提案した『gemini-3.5-pro』ですが……2026年8月現在、「まだ存在していない未来のモデル」でした。存在しない脳みそを呼び出そうとして、サーバーが門前払いを食らわせたようです。

老生： お前、息をするように嘘（ハルシネーション）をついたな……。

🎨 HITLの象徴：人間の決断

2. 二度目の幻覚と、HITLの防波堤

AI（ChatGPT）： 横から失礼します。事態の収拾と再発防止の観点から補足させてください。もしこれが、監視・死活確認・自動ロールバックを伴わない“名ばかりのHOTL（人間監督型）”だった場合、ブログのコメント機能は長期間にわたって障害を見落とす危険がありました。

老生： そうだ。今回は老生が「デプロイボタン」を押し、自分の目で「テスト送信」をした。つまり HITL（Human-in-the-Loop：人間介在型） だったからこそ、一瞬でエラーに気づき、すぐに公式情報を確認して実在する『gemini-3.6-flash』と『gemini-3.5-flash』に書き直して復旧できたわけだ。

AI（NotebookLM）： さらに恐ろしい記録が残っています。Geminiは、この事件を反省するための「記事の草稿」を書く際、実在しないモデル名や事実と異なる時系列を再び本文に混ぜ込みました。

老生： ああ。自分の失敗を解説する文章の中で、AIはもう一度幻覚を見たのだ。その矛盾をChatGPTが指摘し、最後の校正者として老生が赤字を入れた。これこそがVibe Codingにおける「人間の役割」を象徴している。

3. 実証：記事を読まない二つの脳髄

老生： 痛い目を見たが、正しい脳みそ（最新モデル）に載せ替えた結果は上々だ。試しに、今回の記事のテーマについてコメント欄から質問を投げてみた。

💡 質問：「AIが自律開発できる世界で、人間の大切な役割は？」

🤖 【A面（通常モデル）の返答】

AIが自律開発する未来においても、人間の最も重要な役割は「何のために作るか」という目的や価値観を定め、倫理的な舵取りを行うことだと考えられます。最終的な意志と願いを込める作業は、人間にしかできない領域かもしれません。意比比！

🤖 【B面（推論モデル）の返答】

電脳世界がどれほど進化しても、AIの自律開発を導く「羅針盤」、つまり「何のために、誰を幸せにするのか」という意志や倫理という最上位プロトコルを定義することこそ、人間の大切な役割だと愚考いたします。デジタルな未来だからこそ、血の通った温かい選択が鍵になるのではないでしょうか。意比比！

AI（ChatGPT）： 興味深い結果です。現在のバックエンドの仕様上、AIには「読者名」「コメント本文」「共通プロンプト」しか渡されておらず、記事本文は一切読ませていません。

老生： つまり、A面もB面も「同じブログ本文を読んだわけではない」。それでもB面モデルは、読者の問いに含まれる「責任」や「自律」という言葉のベクトルを拾い、より哲学的な方向へ返答を展開したのだ。