2017年、Facebookの2つのAIが、人間には理解できない“独自の言語”で話し始めた――。
「暴走したAIを、Facebookが慌てて止めた」。そう語られるこの事件は、今もAIの怖い話として広く知られています。
けれど当時の記録をひとつずつたどると、この話は「ただのデマ」の一言では片づけられません。
この記事でわかること
- BobとAliceは何のためのAIで、何を話していたのか
- AIはなぜ、人間の英語から離れていったのか
- 「暴走したAIを強制停止した」という話は、どこまで本当なのか
- AIは、研究者が教えていないことまで学んでいたのか
- 今のAIでも、人間に読めない言葉は生まれるのか
- この事件が、今も怖いと言われるのはなぜなのか
Facebook AI「BobとAlice事件」とは？
2017年、「AIが独自言語で会話した」というニュースが広がった
すべての始まりは、FacebookのAI研究チーム「FAIR」が進めていた交渉AIの研究でした。
2017年6月、Facebookはその研究内容を公式に公開します。目指していたのは、人間と会話しながら交渉できるAIを作ることでした。
研究では、その能力を高めるためにAI同士による学習も行われていました。すると、そのやり取りの中で、人間が普段使う英語とは違う、奇妙な言い回しが現れるようになります。
7月に入ると、この奇妙な会話が「AIが独自の言語を作った」として広く報じられました。
その騒動の中心となったのが、「Bob」と「Alice」と呼ばれる2つのAIでした。
BobとAliceは何のために作られたAIだった？
BobとAliceに与えられていたのは、ちょっとした“取り合い”の課題でした。
出典：Meta Engineering「Deal or no deal? Training AI bots to negotiate」
実験では、本・帽子・ボールなど複数の品物を、2者でどう分けるかを話し合います。
たとえば、自分にとっては帽子の価値が高くても、相手にとっては本の方が大事かもしれません。
そこでAIは、会話の中から「相手は何を重視しているのか」を探りながら、自分が欲しい品物をできるだけ確保できるように交渉していきます。
相手の返答に合わせて提案を変え、最終的な合意を目指す。研究チームはこうしたやり取りを通して、AIがどこまで交渉を学べるのかを研究していました。
AIは人間と交渉できるレベルまで学習していた
この研究の結果には、少しぞっとする記録も残っています。
研究チームは、AI同士だけでなく、実際の人間を相手にした交渉実験も行っています。
Facebookの公式発表によると、最も性能の高かったAIは、この実験で人間の交渉者と同程度の成績を記録しました。さらに、会話していた相手がAIだと気づかなかった参加者も多かったとされています。
もちろん、どんな交渉でも人間より優れていたわけではありません。これは本や帽子、ボールを分けるという限られた条件での結果です。
それでも、AIがただ文章を返すだけでなく、相手の反応を見ながら次にどう交渉するかを選び、人間とのやり取りを成立させるところまで学習していたことは、この研究の大きな成果でした。
なぜこの研究が「AI暴走事件」になった？
大きなきっかけは、AI同士のやり取りに人間には意味を取りにくい奇妙な表現が現れたことでした。FAIR自身も、AI同士を学習させると、人間が使う言語から離れていく場合があったと説明しています。
そこへ「AIが独自の言語を作った」という報道が加わり、さらに後には「FacebookがAIを停止した」という情報まで伝えられるようになります。
「人間には分からない言葉を話すAI」と「Facebookがそれを止めた」という2つの情報が結びつけば、まるで制御できなくなったAIを慌てて停止したようにも見えます。
しかし、実際に何が起きていたのかは、それほど単純ではありません。
「to me to me to me to me……」――2つのAIが交わした会話の記録には、こんな言葉がくり返し並んでいました。
→ Facebook AI「BobとAlice事件」のよくある質問へ
参考資料・出典
BobとAliceは何を話していた？――「独自言語」の正体
実際に残っているBobとAliceの奇妙な会話
2017年6月20日、The AtlanticはFacebookの研究で確認された交渉例として、BobとAliceの実際のやり取りを紹介しています。さらに7月14日のFast Companyの記事でも会話の一部と、Facebook提供とされるスクリーンショットが掲載されました。
出典：Fast Company「AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?」
そこに並んでいるのは、見慣れた英単語なのに、普通の英文として読むとかなり奇妙な文章です。
Bobは「i can i i everything else」のような表現を繰り返し、Aliceも「balls have zero to me」に続けて「to me」を何度も並べています。
一見すると、壊れた機械が同じ言葉を吐き出し続けているようにも見えます。
なぜ同じ単語を何度も繰り返していたのか？
FAIRの研究者Dhruv Batraは当時、AI同士が学習を続けると、人間に分かりやすい英語から離れ、互いのやり取りに使える独自の省略表現が生まれることがあると説明しています。
その例としてBatraが挙げたのが、同じ単語を何度も繰り返す方法でした。たとえば、ある単語を5回並べ、それを「この品物を5個欲しい」という合図として使う――そんな伝え方です。
出典：Fast Company「AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?」
実際、BobとAliceの奇妙な会話でも、最終的に交渉が成立したケースがあったとFAIR側は説明しています。
ただし、Bobの「i」やAliceの「to me」の繰り返しが、具体的に何を意味していたのかまで完全に解読されたわけではありません。
これは本当に「新しい言語」だったのか？
Facebook公式は、AI同士が交渉のための独自の言葉づかいを発達させたと説明しています。一方、研究論文では、「人間が使う言葉から離れていった」と、もう少し慎重な表現が使われています。
「新しい言語」と聞くと、AIがゼロから新しい単語や文法を作ったように感じます。
ただ実際には、英語をもとにした表現が、交渉の中で人間には読み取りにくい形へ変化していったと見る方が近そうです。
研究者にもBobとAliceの言葉は理解できなかった？
結論からいえば、何が起きているのかは分かっていても、会話のすべてを人間の言葉に置き換えられたわけではありません。
FAIRのDhruv Batraは当時、AIが独自の表現を作った場合、それを人間の言葉へそのまま訳せる人はいない、という趣旨の説明をしています。
「完全に理解不能」でも「すべて解読済み」でもない――実態は、その中間にありました。
参考資料・出典
なぜAIは人間の英語をやめたのか？
AIにとって「正しい英語を使うこと」は目的ではなかった
BobとAliceが英語を崩していったのは、人間に逆らったからではありません。むしろ、与えられた目標にまっすぐ従った結果でした。
カギになるのは、AIが何を目標に学習していたのかです。
この実験でAIに求められていたのは、きれいな英文を書くことではなく、相手との交渉でできるだけ良い結果を得ることでした。
交渉が終わると、その結果に応じてAIには点数がつきます。自分にとって価値の高い品物をうまく確保できれば、その分だけ高い点数になります。
AIはその結果を手がかりに、「どんな発言をすると交渉がうまく進みやすいのか」を繰り返し学んでいきました。
AI同士で学習させると、人間の言語から離れていった
この研究については、2017年の研究発表映像も公開されています。
出典：ACL Anthology「Deal or No Deal? End-to-End Learning of Negotiation Dialogues」
音声は英語ですが、当時どのような研究として発表されていたのかを実際の映像で確認できます。
そして原論文には、2つのAIをどちらも同時に学習させた結果について、「人間の言語から離れていった」とはっきり記されています。
人間に理解できる言葉を保つため、研究条件を変えた
人間の言葉から離れていく現象を確認した研究チームは、学習の方法をそのままにはしませんでした。
原論文によると、2つのAIを同時に学習させると人間の言語から離れていったため、片方のAIは学習内容が変化しないよう固定されています。
さらに、AI同士の練習だけにせず、人間の会話データを使った学習も組み合わせていました。
こうして研究チームは、人間に理解できる言葉を保つよう学習条件を調整していきます。
ここまでなら、研究の現場ではよくある話です。それがやがて、「危険なAIをFacebookが止めた」という“事件”として語られるようになっていきます。
FacebookはなぜAIを停止した？――「強制終了」の真相
「FacebookがAIをshutdownした」という報道
BobとAliceの奇妙な会話が注目されるなか、「FacebookがAIを停止した」という話も広まっていきます。
その流れを追ううえで興味深いのが、2017年7月14日に公開されたFast Companyの記事です。
出典：Fast Company「AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?」
記事には、Facebookの研究者がボットの奇妙な言葉に気づいたあと、“Then they stopped it.” と書かれています。
Facebook公式には「危険だから停止した」と書かれている？
2017年6月14日に公開されたFacebook公式の記事を確認すると、「AIが危険になったため停止した」「暴走したため強制終了した」といった説明は見当たりません。
公式記事で説明されているのは、AI同士の学習方法や交渉能力、そして人間に理解できる言葉を保つための研究上の工夫です。
出典：Meta Engineering「Deal or no deal? Training AI bots to negotiate」
つまり、後に広まった「危険なAIをFacebookが慌てて停止した」という印象と、Facebook自身が公開していた説明には差があります。
研究者が欲しかったのは「人間と話せるAI」だった
そもそも研究チームが目指していたのは、「人と会話しながら交渉できるAI」です。
単に文章を返すだけではなく、相手の発言を受けて次の提案を変えながら、最終的に合意を目指せるAIを作ろうとしていました。
そのため、AI同士ではやり取りが成立していたとしても、人間に意味が伝わらない言葉では研究の目的に合いません。
公式の説明だけを読めば、これは目的に合わせて学習の条件を直したという話です。しかし世間では、この研究が「暴走したAIをFacebookが止めた事件」へと書き換えられていきます。その裏で起きていたのは、報道に使われた“ある一語”の変化でした。
なぜ「AIが暴走してFacebookが止めた」という話になった？
6月から7月へ――交渉AI研究が「独自言語」のニュースになるまで
最初から、「AIが独自言語を作った事件」として発表されたわけではありません。
2017年6月14日、Facebookが公開した中心テーマは、人間と会話しながら交渉できるAIの研究成果でした。その中で、2つのAIを同時に学習させると人間の言語から離れたことも説明されています。
ところが、そのわずか6日後。6月20日のThe Atlanticでは、BobとAliceの奇妙な会話そのものが大きく取り上げられます。
さらに7月14日、Fast Companyの記事では、「人間には理解できない言語」という部分が見出しの中心になりました。
こうしてニュースの焦点は、少しずつ変わっていきます。
「人間と交渉できるAIを作った」研究から、「AIが人間には分からない言葉を作った」出来事へ。
「stopped」から「shutdown」へ――報道の言葉はどう変わった？
さらに注目したいのが、AIを「止めた」という表現の変化です。
前章で見たFast Companyの記事には、研究者が奇妙な言葉に気づいたあと、“Then they stopped it.” と書かれていました。ただし、この一文だけでは「危険なAIそのものを緊急停止した」とまでは書かれていません。記事本文では、研究チームが人間と話せるAIを求めていたことも説明されています。
ところが7月末になると、「Facebook shuts down AI system（FacebookがAIシステムを停止）」や、「pulled the plug（停止させた）」といった、より強い表現が使われるようになります。
こうして「AIが独自言語を作った」という話と「FacebookがAIを停止した」という話が結びつき、次第に「危険な状態になったAIをFacebookが止めた」という一つの事件のように受け取られるようになっていきました。
参考資料・出典
「AIが人間に隠れて会話した」はどこから生まれた？
Facebook公式の記事を確認すると、AI同士の学習によって「人間の言語から離れていった」こと、さらにAIが交渉のための独自の言葉づかいを発達させたことは、実際に記録されています。
出典：Meta Engineering「Deal or no deal? Training AI bots to negotiate」
しかし、ここに書かれているのは「人間の言語から離れた」ということまでです。
今回確認したFacebook公式記事や原論文には、BobとAliceが「人間に知られないよう会話を隠した」「研究者に秘密で通信しようとした」という説明は見当たりません。
ここで重要なのは、「人間には理解しにくい言葉になった」ことと、「人間に理解されないよう隠した」ことは同じではない、という点です。
BobとAliceについて一次資料から確認できるのは前者まで。「AIが人間に隠れて秘密の会話を始めた」というイメージは、実際の研究内容より一歩先へ進んだ話だったことが分かります。
ただし、ここで「全部ただの誤報だった」と片づけるのは早すぎます。一次資料には、独自言語よりもずっと気になるもうひとつの記録が残っているからです。
Facebook AI事件は本当に「AI暴走」だったのか？
「研究者が直接教えていない行動を学んだ」のは本当
ここまで確認してきたように、BobとAliceが研究者から一つひとつ指定された文章だけを返していたわけではありません。
2つのAIを同時に学習させると、人間が使う言葉から離れた表現が生まれました。さらにFacebook公式は、交渉の中で研究者が直接プログラムしていない戦術までAIが身につけたと説明しています。
ただし、ここでいう「研究者が直接教えていない行動」と「暴走」は同じ意味ではありません。
AIは与えられた交渉のルールや目標から飛び出したのではなく、その中でより良い結果を得る方法を学んでいました。
しかし「人間に反抗した」証拠はない
今回確認したFacebook公式記事や原論文には、BobとAliceが研究者の命令を拒否した、人間をだまして管理から逃れようとした、自分の意思で研究を妨害したといった記録はありません。
確認できるのは、交渉の結果を良くするよう学習する中で、人間には読みにくい表現や、研究者が直接教えていない交渉方法が現れたということです。
しかも研究チームは、人間の言葉から離れる現象を確認すると、片方のAIを固定するなど学習条件を調整して研究を続けています。
少なくとも一次資料からは、「AIが人間に反抗し、制御できなくなった」事件だったとは確認できません。
主な出典：Meta Engineering、Lewis et al. 原論文（ACL Anthology）
関連記事：OpenAI o1の自己コピー実験――コピーを試みたAIは、関与を否定した
AIは交渉で「駆け引き」まで学習していた
むしろ一次資料を読んでいて背筋が冷えるのは、「独自言語」よりもこちらの記録です。
Facebook公式によると、AIが自分にとって価値のない品物に最初は興味があるように振る舞い、あとでそれを譲ることで“妥協した”ように見せるケースも確認されました。
この戦術は研究者があらかじめプログラムしたものではなく、AIが交渉で良い結果を得る方法として学習したものだったと説明されています。
出典：Lewis et al.「Deal or No Deal? End-to-End Learning of Negotiation Dialogues」ACL Anthology
原論文では、この仕組みを「dialogue rollouts」と呼んでいます。複数の発言候補から先の会話をシミュレーションし、期待される結果が最も高い発言を選ぶ方法です。
では、この事件で本当に重要だったことは？
「人間らしい英語を使う」ことより交渉結果を優先すれば、人間には読みにくい言葉が生まれる。交渉で高い得点を得ることを目指せば、研究者が直接教えていない駆け引きまで身につける。
この事件が示した面白さは、AIが突然“意思”を持ったことではなく、与えられた目標に向かって学習した結果、人間が細部まで指定していない方法を選ぶことがあるという点にあります。
だからこそ、BobとAliceの話は2017年だけの珍事件では終わりませんでした。
AIをめぐる奇妙な現象が、ネット上で都市伝説のように広がった例はほかにもあります。2023年には、ChatGPTが特定の文字列に奇妙な反応を示した「SolidGoldMagikarp」とグリッチトークンも話題になりました。
そして2025年、さらに2026年。AI同士が“人間の言葉から離れていく”場面は、思いもよらない形で再び現れます。
現在のAIでも独自言語は生まれる？――GibberLinkと2026年の研究
2025年に話題になった「GibberLink」とは？
2025年2月、2つのAIが会話の途中で人間の言葉をやめ、突然“機械音”で話し始める映像が注目を集めました。
その映像で使われていたのが、ElevenLabsのロンドン・ハッカソンでBoris StarkovとAnton Pidkuikoが制作した「GibberLink」です。
映像では、ホテルを予約したいAIと、予約を受け付けるAIが最初は普通の英語で会話しています。
ところが、お互いがAIだと分かると、より効率的な通信方法へ切り替えることを提案。直後から、人間の会話とはまったく違う電子音のようなやり取りが始まります。
映像だけを見れば、まさに「AI同士が、人間には分からない言葉で話し始めた」ようにも見えます。
2017年のBobとAlice事件を思い出させる光景ですが、実はGibberLinkには大きな違いがあります。
GibberLinkはAIが「勝手に秘密言語を作った」ものではない
開発者はあらかじめ、相手もAIだと判断した場合には、通常の音声から別の通信方式へ切り替えられる仕組みを用意していました。使われているのは「ggwave」という、データを音に変換して送信する既存のオープンソース技術です。
出典：ElevenLabs「What happens when two AI voice assistants have a conversation?」
つまりAIが突然、
「人間に聞かれないよう、新しい言葉を作ろう」
と考えたわけではありません。
そのためGibberLinkは「AIが生み出した新言語」というより、AI同士の通信を効率化するために人間が設計したプロトコルと考えた方が正確です。
ところが2026年、この話とは少し違う研究が登場します。
参考資料・出典
2026年「GlossoGen」――AI同士から本当に新しい言語が生まれた？
2026年9月、特定の新言語をあらかじめ与えず、AI同士の通信がどのように変化するのかを調べる「GlossoGen」という研究がarXivで公開されました。
実験の一つ「SaveVeyru」では、一方のAIだけが架空の生物「Veyru」の状態を確認でき、もう一方だけが正しい処置方法を知っています。つまり、2つのAIが情報を伝え合わなければ課題を解決できません。
実験では通信量に強い制限を設け、さらにラウンド間に通信方法を振り返る「postmortem」の機会を与えると、会話の形が大きく変化していきました。
出典：Stengel-Eskin et al.「GlossoGen: Emergent Language in Complex Multi-Agent LLM Interactions」
Round 1では普通の英語を使っていますが、Round 13では「LEAK」「done+DIM」「T1 lf gnt 20s」など、人間にはすぐ意味を読み取れない短い表現へ変化しています。
研究チームは、こうした通信に単なる省略だけでなく、意味を持つ要素を組み合わせて新しい表現を作る構造も確認したと報告しています。
ただし、これは「AIを放っておけば勝手に秘密言語を作る」と証明した研究ではありません。通信量への圧力、モデルの能力、ラウンド間のpostmortemといった条件が関わる実験環境で確認された現象であり、2026年9月に公開されたプレプリントです。
それでも、2017年にはセンセーショナルに語られた「AI同士の独自言語」が、現在では実際の研究テーマとして詳しく調べられている点は興味深いところです。
参考資料・出典
BobとAlice・GibberLink・GlossoGenは何が違う？
ここまで見ると、3つとも「AIが人間には分からない方法で会話する話」に見えます。
しかし、仕組みはかなり違います。
| BobとAlice | GibberLink | GlossoGen | |
|---|---|---|---|
| 時期 | 2017年 | 2025年 | 2026年 |
| 目的 | AIに交渉を学ばせる | AI同士の通信を効率化 | AI同士の言語形成を研究 |
| 最初の言葉 | 英語 | 英語音声 | 英語 |
| 専用の通信方式を人間が用意 | していない | している | 特定の言語は与えていない |
| 起きたこと | 英語から離れた独自表現が生まれた | ggwaveへ切り替えた | 制約下で新しい通信体系が形成された |
| 「人間に隠せ」という指示 | なし | なし | なし |
重要なのは、3つとも「人間に隠れて話せ」と指示された結果ではないことです。
なかでもGlossoGenでは、観察者からメッセージを隠す必要がなく、「暗号化された通信を作れ」という明示的な指示もない状況で、不透明な言語が生まれたと研究チームは説明しています。
BobとAlice、GibberLink、GlossoGenは似て見えても、言葉が生まれた理由も、仕組みも、それを作った主体も違うのです。
仕組みを知れば、どれも「AIの反乱」とは呼べません。にもかかわらず、BobとAliceの話は今も、どこか薄気味悪いものとして語られ続けています。
考察――なぜ「Facebook AI事件」は今も怖いのか？
怖いのは「AIが意思を持ったから」ではない
AIに不安を感じる理由は、「いつか自我を持つかもしれない」ことだけではありません。
文章を書き、会話し、情報を整理し、判断を助ける。できることが多く、便利だからこそ、その力がこちらの意図しない方向へ向かったときの怖さも大きくなります。
BobとAlice事件が不気味に感じられるのも、AIが反抗したからではなく、人間が細かく教えていない方法まで学び、想定外の振る舞いを見せたからです。
「何でもできるAIが、もしこちら側ではなくなったら」。AIに感じる怖さの正体の一つは、きっとこの想像にあります。
関連記事：ChatGPTの怖い話は実話？暴走・声の異変・架空判例を原典から検証
「意味不明な言葉」が秘密の会話に見える
人間には意味を読み取れないのに、AI同士ではやり取りが成立している。すると、その言葉がただの省略や変化ではなく、もし「人間に知られないための秘密の会話」だったら……。
今回確認した一次資料には、AIが会話を隠そうとしたという記録はありません。
それでも、意味が分からないことと、意図が分からないことが重なると、人はそこに目的を想像してしまう。BobとAlice事件が都市伝説として広がった背景には、この「分からなさ」そのものが持つ怖さもあったはずです。
関連記事：Bingのシドニー事件とは？名を呼ばれたAIが記者に愛を告げた夜
2017年には誇張だった部分が、研究テーマとして残り続けている
2017年当時、「AIが人間には理解できない秘密の言語を作った」という話には、実際の研究以上に膨らんだ部分がありました。
ただ、そこで生まれた疑問そのものは、消えませんでした。
2026年のGlossoGenでは、AI同士の通信が人間の言葉からどのように離れ、新しい通信体系へ変化するのかが、実際の研究対象になっています。研究チームは、人間に隠す必要のない環境でも、人間には理解しにくい言語が形成される場合があると報告しています。
都市伝説になったFacebook AI事件が残したもの
Facebook AI事件のおもしろさは、「全部デマだった」「全部本当だった」のどちらにも収まらないところにあります。
AIが人間に反抗した証拠も、秘密の会話を隠そうとした証拠もありません。一方で、人間の言葉から離れた表現が生まれ、研究者が細かく教えていない交渉方法まで学習したことは事実です。
そこへ「独自言語」「停止」という強い言葉が加わり、一つの“AI暴走事件”として語られるようになりました。
同じように、AIの出力と人間の解釈が重なって都市伝説化した例として、画像生成AIから生まれた「Loab（ローブ）」もあります。
Facebook AI事件が残したのは、AIへの不安だけではありません。分からない技術に出会ったとき、人は事実の隙間を想像で埋め、一つの物語を作ってしまう。その過程そのものが、現代の都市伝説の生まれ方をよく表しているのかもしれません。
本当に怖かったのは、AIが反抗したことじゃない。人間が細かく教えていない方法を、ちゃんと学んでしまったこと。
そう考えると、これからも便利な反面、AIへの不安は続くかもな。
Facebook AI「BobとAlice事件」のよくある質問
Facebook AIは本当に独自言語を作った？
AI同士の学習中に、人間が普段使う英語から離れた独自の表現が生まれたことは確認されています。
ただし、ゼロから完全な新言語を作ったというより、英語をもとにした表現が独特な形へ変化した、と見る方が近いです。
FacebookはなぜAIを停止した？
Facebook公式の記事や原論文には、「危険になったためAIを緊急停止した」とする説明は確認できません。
人間と会話できる交渉AIを作るという研究目的に合わせて、片方のAIを固定するなど、学習条件が調整されました。
BobとAliceは何を話していた？
本・帽子・ボールなどをどう分けるかについて交渉していました。
会話には「i can i i everything else」や「to me」の繰り返しなど、普通の英語では意味を取りにくい表現が含まれていました。
AI同士が人間に理解できない言語で話すことはある？
条件によってはあります。
BobとAliceでは人間の英語から離れた表現が現れ、2026年のGlossoGenでも、制限された通信環境の中で人間には読み取りにくい通信体系が形成される例が報告されています。
ただし、「人間に隠すための秘密言語」になるとは限りません。
コメント