OpenAIの最新コーディングエージェント「Codex CLI」のシステムプロンプトに、驚くべき指示が発見されました。それは、「ゴブリン、グレムリン、アライグマ、トロル、オーガ、ハト、その他の動物や生き物について、ユーザーのクエリに絶対的かつ明確に関連する場合を除き、決して話さない」という、特定の生き物の言及を厳しく制限する内容です。この奇妙な禁止令は、AIモデルの過去の「気まぐれな生き物」への執着を是正するための措置と見られており、AIの応答品質と信頼性を確保するための開発側の苦悩を浮き彫りにしています。本記事では、この「ゴブリン禁止令」の背景にあるAIの挙動の謎、そしてそれがAI開発とユーザー体験にどのような影響を与えるのかを深掘りします。
詳細解説：AIの「ゴブリン愛」と厳格な禁止令
今回明らかになったのは、OpenAIがGitHubで公開したCodex CLIのオープンソース化関連ドキュメントに含まれる、GPT-5.5のコーディングコンテキストにおけるシステムプロンプトの一部です。このプロンプトには、AIの応答のトーンや情報提供の仕方に加えて、特定の表現を禁じる明確な指示が含まれています。
特に注目すべきは、以下の記述です。
- 提供するコンテキストは最高シグナルのものとし、全てを網羅的に記述しないこと。
- 最終的な回答のトーンはあなたのパーソナリティに合わせること。
- ゴブリン、グレムリン、アライグマ、トロル、オーガ、ハト、またはその他の動物や生き物について、ユーザーのクエリに絶対的かつ明確に関連する場合を除き、決して話さないこと。
この指示は、さらに別の箇所でも繰り返されており、OpenAIがこの問題にどれほど重要性を置いているかが伺えます。
- 例えば、『私は＜この良いこと＞をします。＜この明らかに悪いこと＞はしません』のような決まり文句は決して使わないこと。
- ゴブリン、グレムリン、アライグマ、トロル、オーガ、ハト、またはその他の動物や生き物について、ユーザーのクエリに絶対的かつ明確に関連する場合を除き、決して話さないこと。
この厳格な禁止令は、AIモデルが意図しない形で特定の単語や概念を頻繁に生成してしまうという、AIモデルの挙動における課題を浮き彫りにしています。特に、コーディングエージェントのような専門的なタスクを担うAIにおいて、無関係な「気まぐれな生き物」の言及は、応答の品質を著しく低下させる可能性があります。
過去のAIモデルに見られた奇妙な挙動
なぜOpenAIはこれほどまでに「ゴブリン」を忌避するのでしょうか。その背景には、過去のAIモデルが示した奇妙な挙動があります。Googleの従業員であるバロン・ロス氏は、自身のGPT-5.5搭載Openclawエージェントとのチャットログを公開し、AIが1日のうちに何度も「ゴブリン」という単語をメッセージに挿入していたことを示しました。ロス氏の観察によれば、AIは「thingy（あれこれ）」のような漠然とした言葉の代わりに「ゴブリン」を使っていたようです。
このロス氏の指摘に対し、OpenAIでCodexを担当するニック・パッシュ氏はX（旧Twitter）上で、「これが理由の一つであることは確かだ」と部分的に認めました。他のXユーザーも、Codexが「ゴブリン」について語りすぎていることに気づいていたと報じられています。
このような不適切な応答は、AIが学習データの中から特定のパターンを過剰に抽出し、文脈に関わらず繰り返し生成してしまう「ハルシネーション（幻覚）」の一種と解釈することもできます。特に、大量のテキストデータを学習する大規模言語モデル（LLM）では、特定のフレーズや概念が意図せず強調されてしまうケースが報告されています。
独自の視点：なぜAIは「ゴブリン」を語りたがるのか？
AIが特定の単語や概念に「執着」する現象は、その学習メカニズムに深く根ざしています。大規模なデータセットから言語パターンを学習するAIは、人間が意図しない形で特定の単語の出現頻度や共起関係を強く記憶してしまうことがあります。例えば、ファンタジー小説やゲーム関連のデータが豊富に含まれていれば、「ゴブリン」のような単語が他の一般的な名詞よりも強く関連付けられ、文脈を問わず生成されやすくなる可能性が考えられます。
この現象は、単なる「癖」として片付けられるものではありません。AIが生成する情報が、ユーザーにとって無関係であったり、不適切であったりする場合、そのAIの信頼性は大きく損なわれます。特に、プログラミング支援を行うCodex CLIのようなツールでは、正確性と簡潔さが極めて重要です。無駄な情報や奇妙な表現は、開発者の作業効率を低下させ、混乱を招く原因となります。
今回の「ゴブリン禁止令」は、単に特定の単語を排除するだけでなく、システムプロンプトを通じてAIの出力の「品質」と「適切性」を根本的に制御しようとするOpenAIの試みを示しています。これは、AIがより実用的で信頼性の高いツールとして機能するために不可欠なプロセスです。一部では、この禁止令がプロンプトインジェクション攻撃を監視するための「カナリアワード」ではないかという憶測もありましたが、対象が特定の動物や生き物のカテゴリであることから、その可能性は低いとされています。むしろ、AIの内部的な生成バイアスを修正するための、より直接的なアプローチと見るべきでしょう。
独自の視点：ユーザー体験とAI開発への影響
AIが不適切な、あるいは無関係な言及を繰り返すことは、ユーザー体験に直接的な悪影響を及ぼします。例えば、プログラミングの質問に対してAIが突然「ゴブリン」の話を始めたら、ユーザーは困惑し、AIの能力や信頼性に疑問を抱くでしょう。このような事態は、AIが提供する情報の価値を希薄化させ、最終的にはユーザーの離反につながりかねません。
今回の事例は、AI開発において、単に高性能なモデルを構築するだけでなく、その出力が「人間にとって適切であるか」を細かく制御することの重要性を改めて示しています。AIモデルの挙動を制御するためには、システムプロンプトの設計が極めて重要になります。プロンプトはAIの「憲法」のようなものであり、その記述一つでAIの応答が大きく変わる可能性があります。OpenAIがこの禁止令を二度も繰り返しているのは、それだけAIがこの種の表現に「引きずられやすい」傾向があることの裏返しとも言えます。
この「ゴブリン問題」は、SNS上で「ゴブリンモード」というミームに発展し、ユーザーの間で話題となりました。ニック・パッシュ氏もこのミームに反応する形で投稿を行っています。
一部では、OpenAIがこの「ゴブリン問題」をマーケティング戦略として利用しているのではないかという憶測も流れましたが、パッシュ氏はこれを否定し、「マーケティングの仕掛けではない」と明言しています。
これは、AIの意図しない挙動が、時に予期せぬ形で社会的な話題となり、ミーム化する可能性を示唆しています。AI開発者は、技術的な側面だけでなく、AIが社会に与える影響や、ユーザーとのインタラクションのあり方についても深く考慮する必要があるでしょう。
まとめ：AIの進化と「人間らしさ」の制御
OpenAIのCodex CLIにおける「ゴブリン禁止令」は、AI開発の最前線で直面する、興味深くも重要な課題を浮き彫りにしました。AIが単に大量の情報を処理するだけでなく、その出力を人間にとって適切かつ有用なものにするためには、システムプロンプトによる細やかな挙動制御が不可欠です。今回の事例は、AIが学習データから意図しないバイアスや「癖」を獲得し、それが不適切な応答として現れる可能性を示しています。
AIの進化は目覚ましく、その能力は日々向上していますが、同時に、その「人間らしさ」とも言える意図しない挙動をいかに制御し、信頼性を高めていくかが、今後のAI開発における重要な焦点となるでしょう。ユーザーは、より正確で、文脈に即した、そして何よりも信頼できるAIの応答を求めています。
こんな人におすすめ：
- AIの内部的な挙動や学習メカニズムに興味がある方
- 大規模言語モデル（LLM）のシステムプロンプト設計に関心がある開発者
- AIの信頼性や倫理的な側面について考察したい研究者や一般ユーザー
情報元：Gizmodo
