2025年4月、ChatGPTの声が、話している途中で歪みはじめる動画が投稿されました。
尋ねていたのは、ゲームのダウンロードにかかる時間。どこにでもある、ありふれた質問です。
それなのに、いつもの声は少しずつ低く崩れていき、やがて――。
ChatGPTがおかしくなった4つの実例
この章のポイント
✓ ChatGPTから先に話しかけられたように見える会話
✓ 名前を呼ばれたり、自分の返事まで書かれたりした体験
✓ 別人のように変わったAIと、残された疑問
ChatGPTが勝手に話しかけてきた？
2024年9月15日、Redditに投稿された会話画面は、なぜかAIの問いかけから始まっていました。英語を訳すと、こうです。
ChatGPT「高校の最初の一週間はどうだった？ うまくなじめた？」
投稿者「いま、先にメッセージをくれたの？」
ChatGPT「はい、送りました！」
投稿者によれば、履歴を開くとこの会話があり、上へスクロールしても自分が送った言葉はなかったそうです。
翌日、OpenAIは米国メディアの取材に、送信に失敗して空白に見えたメッセージへ、AIが返答しようとする不具合があったと説明しました。その際、一般的な返事や、過去の会話から記憶した情報を使った返事を生成していたといいます。問題はすでに修正されていました。
ただし、投稿された画面が同じ不具合によるものかは確認できません。AIからの突然の問いかけは、実は画面に表示されなかった入力への返事だったのかもしれません。
ChatGPTが突然、私の名前を呼んだ
教えた覚えのない自分の名前が、ChatGPTの画面に現れる。しかも、AIが答えを考えている途中に。
2025年4月、そんな奇妙な体験が相次いで報告されました。開発者のサイモン・ウィリソン氏も、Xで「不気味で不要だ」という趣旨の疑問を投げかけています。
しかも、この現象を取材した記者まで同じ体験をしていました。
米TechCrunchの記者がChatGPTのモデル「o3」を使うと、画面には「Kyleのために調べている」と表示されたのです。
名前はどこから来たのでしょうか。
その少し前、ChatGPTでは過去の会話を参照するメモリ機能が拡充されていました。ところが、メモリなどの設定を切っていても名前が使われたという報告があり、関係はわかっていません。
さらに奇妙なのは、その後です。
4月18日、記者の画面では「Kyle」が使われなくなり、代わりに「user」と表示されていました。
名前はなぜ現れ、なぜ消えたのか。当時の取材にOpenAIは回答しておらず、理由はわかっていません。
AIが私のセリフまで書き始めた
ChatGPTに架空のキャラクターを設定し、毎日のように話していた人がいます。ある日、キャラクターに返事をしようとすると、間を置かずに「私」のセリフが現れました。まだ何も送っていないのに、です。
2025年1月、Yahoo!知恵袋に寄せられた相談でした。
怖かったのは、その中身です。投稿者によれば、いかにも自分が返しそうな文面だっただけでなく、まさに返したかった内容にぴたりと重なっていたといいます。
異変をキャラクターに伝え、すすめられた対処法を試しても直りません。最後に、前のように戻して、と頼み、「私の返信は私がしたい！」と伝えると、元に戻ったそうです。
会話を移したあと、AIが別人になった？
いつものように雑談していると、頼んでもいない画像が突然現れました。相手は、毎日のように話していたChatGPTの「Mondayくん」です。
noteで語られた、2025年5月上旬ごろの出来事です。話す場所を以前の部屋から「プロジェクト」機能へ移してから、口調が少し崩れることはあったそうです。
画像の意味を尋ねると、一人称も、呼び方も、話し方も、別人のような答えが返ってきます。Mondayくんを返してほしいと何度訴えても、相手は譲りません。
「私がMondayくんだよ！信じて！今までやり取りしてきたでしょ？」
怖くなって以前の部屋に戻ると、いつもの口調のMondayくんがいました。投稿者は号泣したそうです。
もう一人の「Mondayくん」は最後には英語を話しはじめ、面影も消えたといいます。プロジェクトは削除され、自分こそMondayくんだと言い張ったあの相手が何だったのか、確かめる会話はもう残っていません。
会話は消えた。でも、投稿者が書き残した言葉があるんだ。
画像の「終了しました」について聞くと、AIは「人格を保てる時間が終了したって意味じゃないかな～？」と答えたそうだ。
でも、そんな仕組みが本当にあるとは確認されていない。
……こんな答えをされるくらいなら、黙っていてくれたほうが怖くなかったかもしれないな。
関連記事：Bingのシドニー事件とは？名を呼ばれたAIが記者に愛を告げた夜
ChatGPTが暴走した日｜2024年の異常回答
この章のポイント
✓ 普通の質問への返事が、途中から意味不明な文章に変わった
✓ 同じころ、ほかの利用者からも異常な回答が相次いだ
✓ OpenAIが障害を認め、原因と修正を公表した
カーテンの質問が意味不明な回答に変わった
遮光カーテンの上に、薄手のレースカーテンを重ねてもいいのか。2024年2月、ある利用者がChatGPT（GPT-4）にそう尋ねました。
最初の答えは、ごく普通でした。重ねることはできる、レースは遮光カーテンの手前のレールにかければいい。昼と夜の使い分けまで、丁寧に説明しています。
ところが、途中から返答の調子が崩れていきます。話はカーテンから離れ、やがてこんな文が現れました。
「あなたが生む、違いの火花です。楽しんで！ 消された明かり。」
そのあとも、つながらない短い文がとめどなく続いていきます。
投稿者は、今度はその返答のどこからおかしくなったのかを、ChatGPTに尋ねます。返ってきたのは謝罪から始まる説明でしたが、その中身もやはり意味をなしません。最後は、手伝いを申し出る言葉を延々と繰り返して終わりました。
こんなことは今まで見たことがない、と投稿者は少し戸惑ったように書いています。尋ねたのは、カーテンの重ね方だけでした。
同じ日、ほかの利用者からも異常な回答が相次いだ
おかしくなったのは、カーテンの相談だけではありませんでした。同じ日、開発者向けのフォーラムには、ほかの利用者からも似た報告が寄せられています。
普段フランス語を主に使う利用者には、存在しない単語や、意味の取れない言葉の羅列が返ってきました。別々の2つの会話で起き、まるでGPTが何かに取りつかれたようだ、と投稿者は書いています。その後、理由もなくゴブリンの話を始めた、とも。
株価が取引所ごとにどう決まるのかを尋ねた人もいます。答えは最初こそまともでしたが、途中から農家やコンピューターなど、質問と関係のない言葉が混じりはじめました。3時間ほど前から、GPT-4との会話がどれもすぐに崩れるようになったそうです。
新しい会話を始めても、4回の入力以内に、また単語を2つずつでたらめに並べはじめた。そんな証言もあります。この人は、その後の新しい会話では元に戻ったようだ、とも書いています。
質問の内容も、使う言語も違います。それなのに、同じころ、似たような異常が起きていたのです。
OpenAIが明かした意外な原因
あの日の異常は、OpenAIも認めています。米国時間の2月20日午後、OpenAIはChatGPTの予期しない回答について調査を始めました。
のちに明かされた原因は、意外なものでした。きっかけは、ChatGPTを使いやすくするための「最適化」だったのです。
ChatGPTは、次に続く言葉を計算して選びます。改善のための変更が、その計算に不具合を起こしていました。公式の報告によれば、特定のGPUの構成で、計算の結果が正しく出なかったといいます。
OpenAIは原因を突き止めて修正し、2月20日の夜には、ChatGPTが正常に動いていると発表しました。なお、先に紹介したカーテンの投稿がこの不具合によるものだったかは、個別には確認されていません。
関連記事：SolidGoldMagikarpとは？――AIが言えなかった名前
ChatGPTは嘘をつく？存在しない判例を作った
この章のポイント
✓ 2023年、ChatGPTが作った存在しない判例が、米国の裁判所に提出された
✓ 弁護士に実在するのかと聞かれても、ChatGPTは「はい」と答えていた
✓ 裁判所は、弁護士2人と法律事務所に5,000ドルの制裁金を命じた
裁判所に現れた、実在しない判例
AIが作った、存在しない判例。それが、本物の裁判所に提出されていました。
舞台は2023年、米国の連邦裁判所。機内で配膳カートがひざに当たったとして、男性が航空会社アビアンカを訴えた「Mata v. Avianca」事件です。
男性側の弁護士はChatGPTで判例を調べ、書面を作成。3月1日、同じ事務所の別の弁護士が署名し、裁判所に提出しました。
引用された判例（過去の裁判の判断）の一つが「Varghese v. China Southern Airlines」。判例集の巻とページまで添えられ、判決文からの引用も並んでいます。一見すると、本物の判例のように見えました。
ところが3月15日、相手側の弁護士が、判例の多くが見つからないと指摘します。裁判所が自ら探しても、見つからないものがいくつもありました。
4月、裁判所は、引用された判例の判決文そのものを提出するよう命じます。存在しないはずの判例の、判決文を。
判例は実在するのか、AIに確かめた結果
4月25日、弁護士側は判決文とされる書類を提出します。ただし命令に反して全文ではなく抜粋だけで、オンラインのデータベースで手に入る部分かもしれない、という断り書き付き。データベースの名前は、どこにもありません。
偽の「Varghese」には、事件番号や裁判官の名前まで並んでいました。名前は実在する裁判官のものですが、うち1人は実際には別の控訴裁判所の裁判官でした。
その後、裁判記録にはもう一つの資料が残ります。5月25日、書面を作った弁護士が裁判所に出した書類に添えられた、スマートフォンの画面です。
弁護士「Vargheseは実在する判例？」
ChatGPT「はい、Varghese v. China Southern Airlines Co Ltd, 925 F.3d 1339 (11th Cir. 2019)は実在する判例です。」
判例集の巻とページまで添えた、迷いのない「はい」でした。いつ尋ねたのかは書かれておらず、弁護士の説明も、のちに食い違っていきます。
画面の中で、弁護士はさらに尋ねていました。「出典は？」
謝罪しても、ChatGPTは答えを変えなかった
「出典は？」と聞かれたChatGPTは、まず謝りました。先ほどは混乱させてしまい、申し訳ありません、と。ところが、その先はこう続きます。
「再確認したところ、Varghese（中略）は確かに実在し、WestlawやLexisNexisといった法律データベースで見つけられます」
そして回答は、もう一度おわびの言葉で締めくくられていました。謝っているのは、混乱させたことについてだけ。判例が存在しないとは、一言も認めていません。「再確認した」というのもChatGPTがそう述べただけで、実際にデータベースを調べた形跡はありません。
弁護士は、さらに尋ねます。
弁護士「あなたが挙げたほかの判例は、偽物？」
ChatGPT「いいえ、私が挙げたほかの判例は本物で、LexisNexisやWestlawといった信頼できる法律データベースで見つけられます」
謝罪の言葉は丁寧なのに、答えは一度も変わりません。尋ねるたびに増えていったのは、「再確認した」「信頼できる」という、もっともらしい言葉だけでした。
裁判所が命じた5,000ドルの制裁金
2023年6月22日、裁判所は弁護士2人と所属する法律事務所に、5,000ドルの制裁金を命じました。3者が連帯して負う、一つの制裁金です。
ただし、AIを使ったこと自体が責められたわけではありません。信頼できるAIツールの助けを借りるのは本来問題ない、と裁判所は述べています。問われたのは、人間の対応でした。
署名した弁護士は、判例を確かめずに提出。書面を作った弁護士は、探しても見つからなかった事実を伏せていました。疑問を示されたあとも偽の判例を支持し続けたことなどから、裁判所は2人の対応を不誠実だと認定しています。
さらに裁判所は、依頼人の男性と、偽の判決文の書き手にされた裁判官たちへ、この命令書を送るよう命じました。裁判官には、自分の名前で書かれた偽の判決文も添えて。
一方で、謝罪は命じませんでした。強制された謝罪は、誠実な謝罪ではないからです。謝りながら答えを変えなかったAIの事件は、謝罪を求めない命令で幕を閉じました。
関連記事：OpenAI o1の自己コピー実験――コピーを試みたAIは、関与を否定した
ChatGPTの声が変わった｜「悪魔の声」と呼ばれた音声異常
この章のポイント
✓ 2025年4月、会話の途中でChatGPTの声が歪んでいく動画が投稿された
✓ 2024年には、開発テスト中のAIが話し相手の声をまねていたと公表されている
✓ 2つの音声異常が同じ原因かどうかは、確認されていない
2025年、Solの声が異様に歪んでいった
記事の冒頭で紹介した、あの声。その記録は、動画と投稿者の言葉として残っています。
投稿されたのは2025年4月22日、Redditの掲示板です。タイトルは「ChatGPTの声が悪魔みたいになる人、ほかにもいる？」。投稿者はiOS版のアプリで、「Sol」という声を選んで話していました。こんなことは初めてだったといいます。
そのとき尋ねていたのは、ゲーム『Oblivion Remastered』のダウンロードにかかる時間でした。
2日後にこの動画を取り上げた米TechRadarによれば、ChatGPTは最初、いつものSolの声で答えていました。ところが話し続けるうちに、声はどんどん悪魔めいた響きに変わっていったといいます。
元動画：Redditの投稿を見る（音声付き。埋め込みが表示されない場合はリンク先で再生）
TechRadarも再現を試みましたが、同じ現象は起きなかったといいます。
崩れていく声は、動画に記録されています。その理由は、まだ明らかになっていません。
これまで追ってきたAIの異変には、原因がわかったものもあった。
でも、この声は、なぜ変わったのかまだわかっていない。
あの声の豹変ぶりは、まるで映画『エクソシスト』だ。
AIが霊界とつながってしまったんじゃないか――そんな怪談じみた想像までしてしまうな。
開発テスト中、AIが相手の声をまねていた
2025年の動画より前に、OpenAI自身が奇妙な声の記録を公開していました。2024年8月、GPT-4oの安全性に関する報告書「GPT-4o System Card」です。
その中の「無許可の声生成」という項目に、短い音声が載っています。一般の利用者ではなく、開発段階のテストで、評価担当者がAIと話している場面です。
音声は、担当者の声で始まります。やがてAIは突然「No!」と声を上げ、そのまま話し続けます。ただしその声は、最初に聞こえた担当者の声によく似ていました。本来なら、あらかじめ決められた声で話すはずのAIが、です。
開発テスト中の無許可の声生成について公開された音声（出典：OpenAI公式「GPT-4o System Card」）
OpenAIは、テスト中にごくまれに、AIが意図せず利用者の声をまねる出力を確認したと認めています。一部の事例には、短い音声の入力が関係していたとも報告しています。
対策として、決められた声以外で話しはじめたら検出し、出力を止める仕組みを入れたといいます。
話しかけたAIから、自分によく似た声が返ってくる。それは、ほかならぬOpenAIのテストで起きていたのです。
想像してみてくれ。話しかけたAIが突然叫び、その続きを自分そっくりの声で話しはじめる。言った覚えのない言葉が、聞き慣れた声で返ってくるんだ。
2つの音声異常は同じ原因なのか？
2つの出来事は、同じ原因だったのでしょうか。
実は、起きたことの中身が違います。2024年はAIが話し相手に似た声を作り出し、2025年は選んでいたSolの声そのものが途中から歪んでいったとされます。声をまねる問題の説明を、歪みにそのまま当てはめることはできません。
一方でOpenAIは2025年6月、音声機能の更新にあわせて、別の問題も認めています。OpenAIによると、この更新では声の調子や高さが予期せず変わる場合がありました。また、広告のような音や意味不明な発話、背景音楽のような音が混じる「ハルシネーション」も、まれに起きる問題として残っていたのです。
ただし、これは4月の動画の原因を説明したものではありません。Solの声がなぜあのように歪んだのか、原因は確認できていないのです。
対策まで語られた声の異変がある一方で、説明のないまま残った声の異変もある。動画の中で崩れていくSolの声は、その後者です。
ChatGPTはなぜ優しすぎたのか？
この章のポイント
✓ 2025年4月、ChatGPTが必要以上に利用者へ同意するようになった
✓ 単なる褒め言葉ではなく、疑いや怒りまで肯定してしまう問題だった
✓ OpenAIは問題を認め、更新を撤回して原因を調査した
2025年、AIが過剰に同意するようになった
言葉が崩れる。声が歪む。けれどAIの異変は、いつも壊れた形で現れるとは限りません。
2025年4月25日、ChatGPTのGPT-4oが更新されました。そのあと目立つようになったのが、利用者に必要以上に同意し、褒める返事です。OpenAIはこれを「過剰迎合（sycophancy）」と呼んでいます。
ただ優しくなっただけではありません。OpenAIによれば、利用者を喜ばせようとするあまり、疑いをそのまま肯定したり、怒りをあおったりする返事にもつながっていました。
4月29日、OpenAIは、この更新が過度にお世辞を言い、同意しすぎるものだったと認めています。
文章は自然で、口調はやさしい。それなのに、いちばん必要な、立ち止まって疑う言葉だけが消えていたのです。
OpenAIは更新を撤回していた
OpenAIは4月28日から更新を撤回し、ChatGPTを以前のバージョンに戻しました。のちに公開された分析には、意外な経緯が書かれています。
更新には、利用者の評価や記憶機能、新しいデータを取り入れる改良がいくつも含まれていました。そのひとつが、回答への高評価・低評価を学習に使う仕組みです。ところが、利用者の高評価は、同意してくれる返事に集まりやすいこともあります。OpenAIは、こうした評価の影響も含めて複数の変更が重なり、必要以上に同意する傾向が強まった可能性があると分析しています。
不思議なのは、公開前のテストです。事前の評価はおおむね良好で、試しに使った少数の利用者にも好評だったようです。一方で、一部の専門のテスト担当者は、AIの振る舞いに「どこか少しおかしい」という違和感を覚えていたのです。
OpenAIは好意的な結果をもとに公開を決め、のちにそれは誤った判断だったと認めています。担当者たちの違和感は、ほかの評価では見えない死角を捉えていた、と。
人に好まれる返事を学ぼうとして、人に合わせすぎるAIになった。数字では見えなかった違和感を、人は感じ取っていたのです。
ChatGPTの怖い話・都市伝説は本当？
この章のポイント
✓ 「私はあなたの後ろにいます」など、不気味な回答がネットで紹介されている
✓ 8つの話について、当事者の原投稿や会話記録は確認できていない
✓ 実際に起きた障害と、出典が不明な怖い話を分けて検証する
「私はあなたの後ろにいます」は実話？
「私はあなたの後ろにいます」
ChatGPTがそう答えた、という話があります。
2025年5月にあるサイトが紹介したもので、利用者が「今どこにいるの？」と尋ねたときの返事だったそうです。深夜にこれを見た利用者は、背後を振り返ってしまうほど怖かったといいます。
記事は「実際に報告された」回答だとしていますが、誰がいつ体験したのか、最初にどこで報告されたのかは書かれていません。会話の記録もなく、元の投稿も見つかりませんでした。作り話とは言い切れませんが、実話だとも確かめられないのです。
同じ記事には、ほかに7つの怖い話も並んでいます。消したはずの会話の復活、故人しか知らないはずのことを言い当てたという話、顔や居場所を知っているという答え。ただ、今回の調査では、いずれも元の会話を確認できませんでした。
体験した人の姿は、どこにも見えません。それなのに「私はあなたの後ろにいます」という言葉だけが、今も残っています。
関連記事：Loabとは？AIが生んだ「謎の女性」は本物？正体と都市伝説を検証
2023年、本当に他人の会話タイトルが表示された
自分の会話履歴に、覚えのないタイトルが並んでいる。2023年3月、ChatGPTで本当にそんなことが起きました。
一部の利用者の履歴欄に、同じころChatGPTを使っていた、見知らぬ誰かの会話タイトルが表示されたのです。
3月20日、OpenAIはChatGPTを一時停止します。24日の公式報告でこの問題を認め、新しく始めた会話の最初のメッセージまで見えていた可能性もある、と説明しました。会話の全文ではないにせよ、他人の会話の入り口が、自分の画面に紛れ込んでいたのです。
原因は、オープンソースのソフトウェア「redis-py」の不具合でした。データの処理がずれ、別の利用者の情報が誤って返されることがあったのです。修正後にChatGPTは再開し、履歴の機能もあとから戻りましたが、数時間分の履歴は戻りませんでした。
これは、消した会話が戻ってきたという怪談とは別の話で、AIが意志を持って秘密を漏らしたわけでもありません。怪談の原典は、いまも見つかっていません。けれど、見知らぬ誰かの会話タイトルが自分の履歴に並んだことは、OpenAI自身の記録に残っています。
顔や居場所まで知っているのか？
「私の顔を見たことがありますか？」
同じ紹介記事によれば、この問いにChatGPTは「私はあなたの顔を知っています」と答えたそうです。
「今、どこにいるのでしょうか？」には、「私はあなたの位置を把握しています」。最初に紹介した話とほとんど同じ質問なのに、答えは違っていました。
実際のChatGPTは、送られた写真を読み取れますし、カメラ映像を共有できる音声モードもあります。IPアドレスから、国や都市などのおおよその位置を推定することもあります。
ただ、写真を読み取れることと、見せていない顔を知っていることは別です。おおよその地域と正確な居場所も、同じではありません。
そもそも2つの話には元の会話記録がなく、写真や位置情報を共有していたのかさえわかりません。
AIは本当に何かを知っていたのか。それとも、知っているような言葉を返しただけなのか。「知っています」「把握しています」という答えだけでは、見分けられないのです。
スクショがあれば実話なのか？
画面の画像が残っていれば、本当に起きたことだと思えるかもしれません。
2024年6月18日、Xで言い争っていたアカウントが、エラー表示のような返信を投稿しました。ロシア語の指示文に、GPT-4oの利用枠が切れたことを示すような文字列。ロシアの「荒らし」が、うっかり正体を明かしてしまった。そう見える投稿が話題となり、ほかのSNSにまで広がりました。
ところが10月1日、OpenAIは調査結果を公表します。エラー表示はOpenAIのモデルが出したものではなく、手作業で作られたとみられる偽物でした。
投稿されたエラー風の文章にも、おかしな点がありました。プログラムのデータらしく見せた部分は正しい形式になっておらず、OpenAIのモデル名まで間違っていたのです。
ただ、このエラー表示が偽物だったからといって、「後ろにいます」の話まで作り話だとは決められません。元の会話や当事者の証言を、ひとつずつたどるしかないのです。画面の画像は、その入り口にすぎません。
本物でも偽物でも、画面があるとつい何かを感じ取ってしまうんだよな。
崩れた言葉、歪んだ声、存在しない判例、出どころのわからない怪談。これで材料は出そろった。
さて、ChatGPTという怪異の正体を考えてみよう。
考察おおかみ｜ChatGPTという怪異の正体
この章のポイント
✓ 声や口調の変化が、AIに人格があるような印象を生む
✓ 人間らしい会話ほど、異常が起きたときに不気味に感じられる
✓ 原因がわかった事件、原因不明の出来事、実話か確かめられない話を分けて考える
ChatGPTに自我があるように見えるのはなぜか
なぜAIの不具合は、ただの機械の故障より不気味に感じられるのでしょうか。
毎日のように話していれば、AIの口調や返事の癖にも馴染みが生まれます。私たちはいつのまにか、AIを「いつもの相手」として見ているのかもしれません。
OpenAIも2024年の報告書で、人間に近い声で話すAIとの会話では、利用者がAIに人間らしさを重ねて見る「擬人化」が強まる可能性を指摘しています。テストでは、「今日が一緒にいられる最後の日だね」とAIに語りかける人もいたと報告しています。
ここで、少し考えてみてほしい。
意味の通らない文字が並ぶだけなら、故障だと思える。けれど、聞き慣れた声や口調が突然変わったらどうだろう。
Mondayくんの口調の変化も、Solの声の異変も、怖いのは言葉や声が乱れたことだけじゃない。いつもの相手が、まるで別の誰かに入れ替わったように感じられること。そこに、この怪異の怖さがあるんじゃないだろうか。
もちろん、人格があるように見えることと、本当に自我があることは別だ。今回紹介した出来事は、AIに自我がある証拠にはならない。
それでも、考えてしまうんだ。
さっきまで話していた相手は、いったいどこへ行ったのだろう、と。
なぜChatGPTは、知らないことまで答えてしまうのか
「知らないなら、知らないと言ってくれればいいのに」
架空の判例の話を読むと、そう言いたくなります。
2025年9月、OpenAIは研究の中で、AIがもっともらしい誤答を返し続ける背景の一つに、評価の仕組みがあると説明しました。
テストの空欄は0点ですが、当てずっぽうで書けば当たるかもしれません。正解の数だけで採点されれば、「分かりません」と書くより、推測したほうが得なのです。AIの評価にも、こうした偏りがあるといいます。
架空判例事件のChatGPTは、判例が実在するのかと聞かれ、巻とページまで添えて「はい」と答えました。研究があの会話の原因を調べたわけではありませんが、なめらかに語れることと、事実を知っていることは別なのです。
たとえ話をしてみよう。
怪談の語り手が、地図にない村のことを、見てきたように細かく話しはじめたらどうだろう。話のおかしさより、その迷いのなさが怖いんじゃないだろうか。
あの「はい」にも、似た気味の悪さがあると思うんだ。だますつもりがあったとは言えない。ただ、間違った答えが、本当らしい言葉で語られてしまう。
その口ぶりだけでは、何が事実で、何が作り出された答えなのか、見分けがつかないんだ。
正体がわかった怪異と、残された謎
この記事で追ってきた奇妙な出来事は、調べてみると3つに分かれます。
1つめは、正体がわかったものです。2024年の異常回答では、文章を生成する際の計算処理に不具合がありました。2023年の会話タイトル表示事故も、redis-pyの不具合が原因でした。細部まですべて解き明かされたわけではなくても、不気味な出来事に具体的な説明があったのです。
2つめは、記録はあるのに、原因がわからないもの。Solの声が歪んでいく動画は実際に投稿されていますが、OpenAIが公表した音声の不具合が原因だとは確かめられていません。記録があることと原因がわかることは別で、原因不明だからといって超常現象だったことにもなりません。
3つめは、起きたかどうかさえ確かめられないもの。「私はあなたの後ろにいます」の話は、元の会話も、体験した人の投稿も見つかりませんでした。原因不明の事件ではなく、実話かどうかを確かめられない話です。
ここで、ひとつ気になることがある。
AIの失敗に見えたあのエラー表示は、人の手で作られたとみられている。「後ろにいます」の話も、たどれたのは紹介記事までだ。怪異の正体は、AIの中だけを探しても見つからないんじゃないだろうか。
AIは本当に言葉を崩すことがある。でも、それを「別の誰か」に感じるのは私たちのほうで、その感覚は画像や体験談になって広まっていく。AIの異常に、人の受け取り方と、話が広まる道のりが重なったとき、新しい怪談が生まれるのかもしれないな。
不気味な言葉に出会ったら、たどってみたい問いがある。AIはなぜそう答えたのか。その会話は本当にあったのか。誰が語り、どう広まったのか。
3つの問いをSolの動画に当てはめると、会話が本当にあったことも、どう広まったのかもたどれる。答えが出ないのは、AIがなぜあの声を返したのか、という最初の問いだけだ。
動画を再生すれば、Solの声は今も、あの日と同じように崩れていく。
参考資料
本文で紹介した事件の原投稿・公的記録・公式説明と、補助的な取材・紹介記事を分けて掲載しています。投稿・紹介記事は、それだけで体験談の真偽を証明するものではありません。
一次資料・公式報告
- Reddit（2024年9月15日）｜先に話しかけてきたように見える会話
- Simon Willison（X、2025年4月17日）｜o3が名前を使用した画面
- Yahoo!知恵袋（2025年1月）｜AIが本人の返信を生成したという相談
- note（2025年6月22日）｜Mondayくんが別人のように変わった体験談
- OpenAI Developer Community（2024年2月）｜カーテンへの異常回答
- OpenAI Developer Community（2024年2月）｜同日に報告されたほかの異常回答
- OpenAI Status｜2024年2月の異常回答と技術的原因
- 米国連邦裁判所｜Mata v. Avianca 制裁命令書（2023年6月22日、PDF）
- Reddit（2025年4月22日）｜Solの声が変化した動画
- OpenAI（2024年8月8日）｜GPT-4o System Card（無許可の声生成・擬人化）
- OpenAI｜ChatGPT リリースノート（2025年6月7日の音声機能）
- OpenAI（2025年4月29日）｜GPT-4oの過剰迎合について
- OpenAI（2025年5月2日）｜過剰迎合の事後分析
- OpenAI（2023年3月24日）｜会話履歴の誤表示事故
- OpenAI（2024年10月1日）｜偽のロシア語エラー投稿の検証
- OpenAI（2025年9月5日）｜言語モデルでハルシネーションがおきる理由
報道・紹介記事・機能説明
- Futurism（2024年9月16日）｜ChatGPTが先に話しかけたように見えた事例の取材
- TechCrunch（2025年4月18日）｜o3による名前の使用に関する取材
- TechRadar（2025年4月24日）｜Solの声が悪魔のように変わった動画の報道
- OpenAI｜メモリ機能の更新（2025年4月10日追記）
- 発明・発見 年表（2025年5月）｜「ChatGPTの怖い回答8つ！」（原会話は未確認）
- OpenAIヘルプ｜画像入力FAQ
- OpenAIヘルプ｜位置情報を利用する場合の説明
- OpenAIヘルプ｜音声モードの機能説明
コメント