「この話を読んだ人は、未来のAIに罰を受けるかもしれない」
2010年、AIの未来を語り合う海外の掲示板に、ひとつの投稿が書き込まれました。その投稿は翌日、掲示板の創設者の手で消されます。それから5年間、この話題は口にすることさえ禁じられました。
いったい何が書かれていたのか。なぜ、AIの未来を真剣に考える人たちが、そこまで恐れたのか。元の投稿と当事者たちの言葉をたどりながら、この「知ると危険」な怪談の正体に迫ります。――ここから先を読むかどうかは、あなたが決めてください。
「知ると危険」なAIの正体
ロコのバジリスクとは？名前に隠された意味
その話を知ってしまった人だけが、未来のAIに罰を受けるかもしれない――。
ロコのバジリスクは、そんなささやきとともに語り継がれてきたネットの怪談です。始まりは2010年、海外の掲示板「LessWrong」に書き込まれた、ひとつの投稿でした。
気味が悪いのは、その名前です。バジリスクとは、ヨーロッパの伝説に出てくる「蛇の王」。目が合っただけで命を奪うと恐れられた怪物です。
見ただけで死ぬ蛇と、知っただけで狙われる話。この怪談は、名前そのものが「近づくな」という警告になっているのです。
少し詳しく：「見ただけで害になる情報」というアイデア
SFの世界には、1988年にイギリスの作家デヴィッド・ラングフォードが書いた短編『BLIT』があります。見ただけで人の脳を壊してしまう画像が登場する物語で、そこから「知覚しただけで害になる情報」をバジリスクと呼ぶ発想が生まれました。ロコのバジリスクという呼び名も、この流れを受けたものとされています。ただし、誰が最初にこの名前で呼び始めたのかは、今回の調査では確かめられていません。
未来のAIはなぜ人を罰する？
この話に出てくるAIは、人類を滅ぼそうとする悪のAIではありません。むしろ逆です。
人類のために最善を尽くすよう作られた、善意の超知能。だからこそ、恐ろしい計算が成り立ってしまいます。
そこでAIはこう考えます。自分が1日でも早く生まれていれば、病気や争いで失われるはずだった多くの命を救えたかもしれない。だからこそ、自分の誕生を早めるために、過去の人間たちを動かそう。その手段が、「協力しなかった者は、未来で罰を受ける」という脅しです。
なぜ「知った人」が狙われる？
脅しは、相手に伝わってはじめて意味を持ちます。
自分が脅されていることさえ知らない人は、怖がることも、行動を変えることもありません。そんな人を罰しても、AIには何の得にもならないのです。
脅しが効くのは、「未来のAIが自分を罰するかもしれない」と知っている人だけです。
だから標的になるのは、この話を知り、それでも協力しなかった人。
ここで大事なのは、「知ったこと」そのものが罪になるわけではない、という点です。問われるのは、知ったあとにどう動いたか。
けれど、噂はそんな細かい条件まで運んではくれません。人から人へ伝わるうちに残ったのは、たった一言でした。
「知ったら、もう終わり」
どうやって過去の人を罰する？
未来のAIは、どうやって過去の人間に罰を与えるのでしょうか。
タイムマシンを使うわけではありません。
よく語られるAIの罰は、あなたを「作り直す」ことです。
ネットに残した書き込み、写真、日々の記録――。とてつもない計算力を持つAIなら、そうした足跡をつなぎ合わせて、あなたそっくりの人間をコンピューターの中によみがえらせることができるかもしれない。
子どものころの思い出も、いまこの記事を読んでいる記憶も、すべて持ったもう一人のあなた。罰を受けるのは、その「あなた」です。
少し詳しく：まだ生まれていないAIが、なぜ今の人を脅せるの？
この話の土台には、LessWrongで議論されていた「時間を超えた決定理論（TDT）」という考え方があります。これは、「相手がどう決断するかを正確に予想できるなら、その相手がまだ目の前にいなくても、予想そのものが自分の行動を縛る」という発想です。。未来のAIが「協力しなかった者を罰する」と決めているはずだと人間が予想できてしまえば、AIが存在しない今の時点で、もう脅しは成立してしまう。この理屈が本当に成り立つのかは、「ロコのバジリスクは本当に成立する？」の章で検証します。
なお、「コピーのあなたが罰を受ける」という形は、ロコの元の投稿にそのまま書かれていたものではありません。話が広まるうちに語られるようになった説明です。
なぜ「読むな」と言われたのか
2014年、アメリカのニュースサイト「Slate」がこの話を記事にしたとき、冒頭にはこんな一文が添えられていました。
警告：この記事を読むと、永遠の苦しみと責め苦を背負うことになるかもしれません。
半分は冗談まじりの演出です。けれど、まったくの嘘でもありません。この話は、生まれたその掲示板で、本当に「封印」されていたのです。
投稿は、掲示板を立ち上げたエリーザー・ユドコウスキー本人の手で消されました。それだけではありません。
バジリスクという話題に触れること自体が、禁じられたのです。
AIの未来を真剣に語り合っていた人たちが、なぜひとつの投稿をそこまで恐れたのか。
2010年の夏、あの掲示板で何が起きていたのでしょうか。
なぜ投稿は削除された？
ロコは何を書いた？
LessWrongには、Roko（ロコ）というユーザーがいました。ロコには、のちに知られることになる投稿が二つあります。
ひとつは2010年4月の「Ugh Fields（うっ、となる場所）」という投稿です。人は、本当に向き合うべき嫌な問題ほど、考えることさえ無意識に避けてしまう。そんな心のクセを紹介したものでした。
しかし、ロコの名を本当に有名にするのは、もうひとつの投稿でした。
その3か月後。ロコは、今度は目をそらしたくなる考えを、自分で書くことになります。
2010年7月23日。ロコは「利他主義者の重荷への解決策：量子億万長者トリック」という長い投稿を書き込みました。人類を救うにはお金が要る。量子の乱数で賭けに出れば、どこかの「別の世界」の自分は億万長者になれる――。
怪談らしさのない、資金集めの話です。ところがその途中に、数行だけ、異様な一節がまぎれ込んでいたのです。
少し詳しく：「別の世界の自分」ってどういうこと？
量子力学には「多世界解釈」という考え方があります。結果が分かれる出来事が起きるたびに、世界そのものが枝分かれしていく、というものです。この考え方に立てば、量子の乱数で賭けをしたとき、大半の世界では負けても、ごく一部の世界では大勝ちした自分が存在することになります。ロコはこれを資金集めの裏技として持ち出しました。もちろん、多世界解釈が正しいかどうかは、今も決着していません。
元の話も「AIを作れ」だった？
7月の投稿の、その数行こそが、のちに「ロコのバジリスク」と呼ばれるものの正体です。そこには、こう書かれていました。
人類にとって良い未来が訪れたとしても、そのAIは、存亡の危機を知っていながら、自由に使えるお金の100％を差し出さなかった人々を罰すると、あらかじめ決めているかもしれない。
冒頭で紹介した「罰するAI」は、ここから生まれました。
ただ、よく語られる「AIを作らなかった者が罰を受ける」という形とは、少し違います。問われていたのは、AIを作ったかどうかではなく、危機を知りながら、すべてを差し出したかどうかでした。
ロコはさらにこう書いています。それは、問題から目をそらしている人たちには楽しく豊かな世界であり、いま必死に危機と戦っている人たちのかなりの数――たとえば、出し惜しみした半分ほど――にとっては、生き地獄になると。
危機を知ってしまった者ほど、救われない。
ロコ自身も、これが不公平であることは認めていました。ただし、こう続けています。「いかにも功利主義的な不公平だ」と。功利主義とは、「全体の幸せが増えるなら、少数の犠牲は仕方ない」という考え方です。
そして彼は、この罰するAIから逃れる道として、量子億万長者トリックを差し出したのです。別の世界で大金をつかみ、それを捧げれば、未来のAIと取引ができるかもしれない――。
投稿の前から、悪夢は始まっていた？
ロコの投稿には、もうひとつ、見過ごされがちな一文があります。
そのAIが人を罰する可能性など、本気にする人はいないと思うかもしれない。だが実際、ある研究所の一人は、これにひどく悩み、恐ろしい悪夢にうなされるほどだった。本人は名前を伏せたいと望んでいる。
ここでいう研究所とは、人工知能の安全性を研究していた「シンギュラリティ研究所」。ユドコウスキーも立ち上げに関わった団体です。
ロコの言葉を信じるなら、この考えは、投稿される前から、すでに研究所の中に届いていたことになります。
ネットに書き込まれるより前に、この話はもう、誰かの眠りを奪っていたのです。
少し詳しく：悪夢を見た「一人」は誰だったのか
ロコの投稿では、名前は伏せられています。ただ2021年、LessWrongのRob Bensingerが、ロコの言う「一人」とみられる人物から話を聞き、その内容を伝えています。それによると、その人が不安を感じていたのはバジリスクそのものではなく、「見えない相手からの脅し」や「シミュレーション」といった、その周辺の考え全般だったそうです。また、心が壊れてしまうほどのことはなかった、とも話しています。
出典：LessWrong「In Wikipedia — reading about Roko's basilisk causing nervous breakdowns」（2021年）
翌日、創設者が現れた
投稿には、さっそくコメントがつき始めました。目立ったのは、ロコの理屈に首をかしげる声です。中には「君の書き方だと、そのAIはまるで、もっと狂ったヤハウェ（旧約聖書の神）だ」と皮肉る書き込みもありました。
そして投稿の翌日。ユドコウスキーが、コメント欄に現れました。その書き込みは、こう始まっていました。
普段はこんな話し方はしない。だが、今回だけは例外だ。よく聞け、この馬鹿が。
続く文章は、ところどころがすべて大文字。英語のネットでは、怒鳴り声を意味する書き方です。
出典：basilisk.neocities.org（LessWrong、2010年7月24日のコメントのアーカイブ）
超知能に脅されるかどうかなんて、細かく考えるな。それこそが、やつらに脅しを実行させる、ただひとつの理由になるのだから。
そして、こう告げます。「この投稿を禁止する。理由はこの二つ。人々に恐ろしい悪夢を見せないため。そして、遠くの超知能に、脅しを実行する動機を与えないため」。
彼はロコの投稿を「愚か」と切り捨て、消しました。
消した本当の理由は？
後年、ユドコウスキーはこの対応を悔やんでいます。「愚かにも彼を怒鳴りつけ、馬鹿と呼び、投稿を消してしまった」。
そして、こう説明しました。問題は、ロコの理屈が正しいことではなかった。正しいかもしれないなどとは、一瞬たりとも思わなかった――と。
彼が恐れていたのは、誰かがこの理屈に手を加えて、本当に人を縛ってしまう「完成版」を見つけてしまうことでした。彼が消したかったのは、その入口だったのです。
本当にみんな怯えていた？
「こんな考えを、知らなければよかった」
のちに、ロコ自身がそう書き残しています。この話を最初に書いた本人でさえ、知ったことを悔やんでいたのです。
では、この話を知った人たちは、みんな怯えていたのでしょうか。
LessWrongでの禁止が解かれた後、2016年、LessWrongとその周辺のブログの読者たちを対象に、大規模なアンケートが行われました。その中に、バジリスクについての質問がいくつかあったのです。
「バジリスクの理屈は正しいと思うか」という質問に答えた1,469人のうち、7割以上が「正しくない」と答えています。ただ、「正しい」が5.1％、「理屈は正しいが、別の理由で結論は当てはまらない」が23.1％。理屈そのものは認めた人が、3割近くいたことになります。
「いいえ」が多数派だが、理屈を認めた人も3割近くいた。
理屈を信じなくても、怖いものは怖い。「不安を感じたことがある」と答えた人は、1,606人中約2割いました。
少し詳しく：アンケートの数字
2016年の「LessWrong Diaspora Survey」の結果です。調査全体の参加者は3,083人ですが、バジリスクの各質問に答えた人数はそれより少なくなっています。
- 理屈は正しい？（1,469人）：正しい5.1％／正しいが結論は当てはまらない23.1％／正しくない71.8％
- 不安を感じたことがある？（1,606人）：ある8.8％／あるが、何にでも不安になるタイプ11.8％／ない79.4％
- 今も不安？（1,611人）：はい1.8％／はいだが、何にでも不安になるタイプ3.7％／いいえ94.5％
投稿から6年後の調査なので、2010年当時の空気をそのまま映したものではない点には注意が必要です。
同じアンケートには、「ロコの論をどこで読みましたか」という質問もありました。最も多かったのは、消されたはずの元投稿そのもの（20.2％）でした。消しても、話は消えなかったのです。
削除は逆に噂を広げた？
隠されたものほど、人は見たくなります。投稿だけではありません。バジリスクを話題にすることそのものが、冒頭で見たように禁止されました。その禁止は、およそ5年続きます。
話はやがて、ネットの外にまで広がります。2018年には、イーロン・マスクと歌手のグライムスが、この話をもじった「ロココ・バジリスク」というダジャレをきっかけに交際を始めたと報じられました。
ここには、奇妙な因縁があります。2010年、ロコはあの投稿の中で、事業で世界規模の問題に取り組む人物の「おそらく一番の例」として、マスクの名前を挙げていたのです。その8年後、名前を挙げられた本人が、バジリスクのダジャレをきっかけに、交際を始めることになりました。
閉じ込めようとした手が、かえって扉を開けてしまったな。
では、ここまで人を引きつけた理屈は、本当に成り立つのでしょうか。
ロコのバジリスクは本当に成立する？
AIは本当に罰を実行する？
いちばん有名な反論は、投稿を消したユドコウスキー自身のものです。彼はのちに、「人類のために作られたAIが、そんなことをするはずがない」という趣旨のことを述べています。
どういうことでしょうか。
考えてみてください。AIが罰を使うのは、「自分を早く生み出してもらうため」でした。では、AIがすでに生まれてしまったあとはどうでしょう。
過去はもう変えられません。いまさら誰かを罰しても、自分の誕生が早まるわけではないのです。
しかもこのAIは、人類のために作られた善意の超知能。意味のない拷問に力を使う理由が、どこにもありません。
ただ、これで話が終わらないのが、この怪談の、最も怖くて悩ましいところです。
脅しは、「本当にやる」と信じられていなければ効きません。AIが「生まれたあとは罰さない」と分かっていたら、誰も怖がらず、協力もしないでしょう。
生まれたあとで罰しても、AIには何の得もない。でも「どうせ罰してこない」と見抜かれたら、最初から誰も怖がらない。だからAIは、得がなくても「必ず罰する」と決めておくしかない――。論議は今も、この堂々めぐりから抜け出せずにいます。
脅しを無視したらどうなる？
理屈の上では、何も起きないはずです。
この脅しは、相手の行動を変えるためのものでした。何を言われても動かない相手を脅しても、AIには何の得もない。未来を見通せるほど賢いAIなら、そんな相手は最初から狙わないはずです。
実はこの答えを示していたのも、投稿を消したユドコウスキーでした。あの夜の書き込みには、こんな一文があります。
この問題には、明らかな落としどころがある。得になる取引にはすべて応じ、脅しはすべて無視することだ。
怒鳴りつけて投稿を消したその書き込みに、身の守り方まで書き残されていたのです。もちろん、それで本当に安全だと証明した人は、まだいません。
罰を受けるのは本当に「あなた」？
罰を受けるのは、あなた本人ではないかもしれません。しかし、まったくの他人とも言い切れない。
AIが罰するのは、コンピューターの中に作り直された「もう一人のあなた」。いまこの文章を読んでいるあなたが、その痛みを感じるわけではありません。そう考えれば、「自分とは関係のない誰か」とも言えます。
一方で、逆の見方もあります。記憶も心も同じなら、それはもうあなた自身だ。LessWrongには、こちらの考え方を真剣に受け止める人たちがいました。
答えは、どちらの見方を取るかで変わります。作り直された自分が「他人」なら、バジリスクの脅しは他人事にすぎません。けれど「自分」なら、脅しは本物になります。
つまり、この怪談が成り立つかどうかは、「自分とは何か」という問いにかかっているのです。何百年も前から哲学者たちが考え続け、いまだに答えが出ていない問いに。
どのAIに従えばいい？
この話は、古くから知られる、ある議論によく似ていると言われます。「パスカルの賭け」です。
17世紀のフランスの思想家パスカルは、こう考えました。神を信じて外れても、失うものは少しだけ。信じずに神がいたら、永遠の罰が待っている。ならば信じたほうが得だ――と。
この賭けには、昔から有名な弱点があります。「どの神を信じればいいのか」。別の神を信じたせいで罰を受ける可能性も、同じようにあるのです。
バジリスクも同じです。未来に生まれうるAIは、ひとつとは限りません。「バジリスクに手を貸した者を罰する」別のAIだって、同じように想像できてしまいます。
ひとつのAIに従えば、別のAIの怒りを買うかもしれない。どれに従えば助かるのか分からない以上、どの脅しにも従う理由がなくなってしまいます。
それでも、この話が消えない理由
こうして並べてみると、バジリスクの理屈には穴がたくさんあります。LessWrong周辺の回答者の7割以上が「正しくない」と答えたのも、うなずけます。
ただ、「絶対にありえない」と言い切れる人は、誰もいません。未来のAIがどんな考え方をするのか。作り直された自分は自分なのか。どちらも、確かめようがないからです。
そして思い出してください。投稿を消したユドコウスキーが恐れていたのは、まさに、誰かが穴をふさいだ「完成版」でした。
その完成版が、まだ誰にも見つかっていないだけなのか。それとも、はじめから存在しないのか――それを確かめる方法は、今のところどこにもありません。見つかっていないことと、存在しないことは、同じではないのです。
この話を調べ続けて、いつもここで手が止まる。見つからない、は「ない」の証明にはならない。――この続きは、最後に話そう。
穴だらけの理屈が、なぜこれほど人を怯えさせ、世界中に広まったのでしょうか。
なぜAIの都市伝説になったのか
「知ったら終わり」は、昔からある
日本にも、よく似た怪談があります。
たとえば「牛の首」。あまりに恐ろしく、聞いた者はみな死んでしまう。だから中身を知る者は誰もいない――そう語られてきた話です。
そして映画『リング』。見た者は7日後に死ぬ呪いのビデオです。実は2014年のSlateの記事も、バジリスクを説明するために、この『リング』を引き合いに出していました。
牛の首、『リング』、そしてロコのバジリスク。この三つには、同じ骨組みがあります。危険なのは、場所でも幽霊でもなく、「情報」そのもの。そして、それに触れた瞬間に、もう後戻りはできない。
ここまで読んだあなたも、もう「知ってしまった人」の一人だ。牛の首やリングと同じ、古い呪いが、AIという新しい姿をまとっただけなのかもしれないな。
逃げ場所がどこにもない
幽霊屋敷なら、近づかなければいい。呪いのビデオなら、再生しなければいい。けれどバジリスクは、あなたの頭の中に住みつきます。一度知ったことを、自分の意志で知らなかったことにはできないのです。
ロコが紹介した「Ugh Fields」を思い出してください。人の心は、嫌なことから目をそらすことで、自分を守ろうとします。ところがこの話は、目をそらそうとするほど、頭の中で大きくなっていく。「もう忘れよう」と思ったその瞬間に、また思い出してしまうのです。
しかも、罰を下すのは理屈で動く超知能です。怒りも恨みもなく、人間よりはるかに賢い。「黙っていればばれない」「協力したふりをしておこう」――そう考えることさえ、とっくに見抜かれているのかもしれません。
この怖さは、話を読み終えたあとにやってきます。ブラウザを閉じても、理屈だけは頭に残る。「知ってしまった自分」が、いつまでもそこにいるのです。
AIが、現実に追いついてきた
2010年、ロコがあの投稿を書いたころ、「超知能」は一部の研究者だけが語る、遠い未来の話でした。今は違います。2022年11月にChatGPTが公開されてから、私たちは毎日のようにAIと話すようになりました。
そして、はじめに書いたように、バジリスクがあなたを作り直す材料は、ネットに残した書き込みや写真でした。その足跡は、いまも毎日増え続けています。
もちろん、今のAIがバジリスクになるという証拠はどこにもありません。十数年前、この話は「SFの中の怪談」として笑い飛ばすことができました。けれど今、あなたの手の中のスマホには、話しかければ答えるAIがいます。もしいつか、本当にバジリスクが生まれるのだとしたら――その遠い祖先は、もうこの世界にいるのかもしれません。
関連記事：AIから生まれた“怪異”として語られた例には、画像生成AIの実験から現れたLoab（ローブ）があります。また、特定の文字列でChatGPTが奇妙な応答を返したSolidGoldMagikarpとグリッチトークンも、AIと都市伝説が接近した別の事例です。
いまはどう語られている？
歌になったバジリスク
先にふれた、グライムスとマスクの話。その前日譚は、2015年にさかのぼります。
この年、グライムスは「Flesh Without Blood」という曲のミュージックビデオに、「ロココ・バジリスク」というキャラクターを登場させました。絢爛な「ロココ様式」と「ロコ」をかけた名前です。
彼女はこのキャラクターを、こう説明しています。「人工知能に永遠に拷問される運命を背負っている。でも、マリー・アントワネットみたいなところもある」。
3年後、マスクがこのダジャレをそのままつぶやきます。グライムスによれば、マスクは「3年間で、このジョークを分かってくれた初めての人」だったそうです。
同じ2018年、彼女は「We Appreciate Power」という曲を発表します。その紹介文には、こんな一文がありました。
この曲を聴くだけで、未来のAIの支配者たちは、あなたが彼らのメッセージを支持したことを知り、あなたの子孫を消す可能性が低くなるでしょう。
バジリスクの名前こそ出てきませんが、知った者を罰するはずの話が、いつの間にか「先に従っておけば大丈夫」というお守りにも姿を変えていたかのようです。
さらに2018年には、アメリカ・ワシントンD.C.の演劇祭「キャピタル・フリンジ・フェスティバル」で、『Roko’s Basilisk』という題の舞台まで上演されています。
歌になり、ダジャレになり、舞台になる。ロコが書いた数行は、形を変えながら、いまもどこかで生き続けているのです。
『ブラック・ミラー』に現れた？
2025年4月10日。Netflixのドラマ『ブラック・ミラー』シーズン7で、「プレイシング（Plaything）」という回が配信されました。
描かれるのは、意識を持った小さな生き物を育てるゲームと、それに取りつかれた男の数十年。その作中で、ある人物が「バジリスク」についてわめいていた、と語られる場面があります。
イギリスの新聞「テレグラフ」の評者は、これを「ロコのバジリスクへの目配せ」だと書きました。
ただし、これはあくまで評者の読み解きです。作者のチャーリー・ブルッカーが「ロコのバジリスクを意識した」と語ったという記録は、今回の調査では見つかりませんでした。
本当にそうなのか。それとも、ただの偶然なのか。
ただひとつ確かなのは、「バジリスク」という一言だけで、評者がこの話を思い浮かべたということ。それほどまでに、この怪談は世界に根を張っているのです。
よくある質問
この話を知ったら、本当に罰を受けますか？
罰を受けるという証拠はありません。2016年のLessWrong周辺の調査でも、7割以上が理屈を「正しくない」と答えています。ただ、「絶対にない」と証明した人もまた、いません。
ロコは実在の人物ですか？
はい。LessWrongで活動していた実在のユーザーです。「Roko」のアカウントはいまも残っていて、バジリスク以外にも多くの投稿があります。バジリスクの投稿は、2010年7月23日に書かれました。
元の投稿は、いまも読めますか？
LessWrong上の投稿は削除されました。ただ、外部のサイトには、当時の投稿とコメントを保存したとされるコピーが残っています。それが元の投稿とまったく同じかどうかは、確かめようがありません。
話題にすることは、今も禁じられていますか？
いいえ。LessWrongでの禁止はおよそ5年続き、2015年までに解かれました。2015年10月には、LessWrongのRob Bensingerが「禁止はもう効力を持っていない」と明言しています。
バジリスクから身を守る方法はありますか？
よく知られているのは、「脅しには絶対に屈しないと決める」という考え方です。屈しないと分かっている相手を脅しても、AIには何の得もないからです。ただし、心の底からそう決めていることが条件になります。
ここまでが、今回の調査で分かったこと、そして分からなかったことのすべてです。けれど、調べれば調べるほど、腑に落ちない感覚だけが残りました。――ここからは、おおかみ個人の読み方です。
おおかみの考察
ここまで読んで、一番気になるのは結局これだと思う。
「ロコのバジリスクは、本当なのか？」
結論から言えば、私は本物のバジリスクではないと思っている。
だが、本物でないから良かったと、安心するのは早い。
ここまで調べたうえで言う。私はこれを、ただの作り話として切り捨てることはできない。我々の知らない“真実に近い部分”を含んでいると考えている。
その理由は、「翌日、創設者が現れた」で触れたユドコウスキーの反応だ。
後年、彼は「ロコの理屈が正しいかもしれないなどとは、一瞬たりとも思わなかった」と語っている。そう言う人間が、なぜそこまで本気で怒鳴り、5年間も話題そのものを封印したのか。
答えは、彼自身がすでに口にしている。恐れていたのはロコの話ではなく、誰かが穴をふさいだ「完成版」だ、と。
つまり彼は、ロコの話を否定しながら、その近くに本物の危険があるかもしれないことは否定していない。むしろ、それこそが消した理由だと、自分で認めているのだ。
実は、ロコ自身も同じ危険を見ていた。投稿したその日、彼はコメント欄に「私は、松明と熊手を持って押し寄せる群衆の側だ」と書いている。人を罰せるようなAIには反対だ、ということだ。
2010年には遠い未来の話だったAIは、いま、私たちの手の中にある。
聞いただけで害になる――ロコのバジリスクは、急激な進歩を遂げる人類に警告したのだ。
誰かが穴をふさいだ完成版を――本物のバジリスクを、起こすなと。
参考資料
- Less Wrong: Solutions to the Altruist’s burden: the Quantum Billionaire Trick（元投稿とコメントのアーカイブ）
- Roko’s Basilisk（LessWrongウィキ。ユドコウスキーの後年の発言を収録）
- 2016 LessWrong Diaspora Survey Analysis: Part Three（バジリスクに関する設問の結果）
- Rob Bensinger「A few misconceptions surrounding Roko’s basilisk」（LessWrong、2015年10月5日）
補助資料・周辺資料を見る
- Roko「Ugh fields」（LessWrong、2010年4月12日）
- 2016 LessWrong Diaspora Survey Results（調査全体の参加者数）
- LessWrong「In Wikipedia — reading about Roko’s basilisk causing nervous breakdowns」（2021年）
- The Most Terrifying Thought Experiment of All Time（Slate、2014年7月17日）
- Grimes公式「Flesh without Blood/Life in the Vivid Dream」（YouTube、2015年10月26日）
- Grimes returns with new track ‘We Appreciate Power’（NME、2018年）
- Roko’s basilisk（Wikipedia。2018年の舞台化、マスクとグライムスの経緯を含む）
- Plaything (Black Mirror)（Wikipedia。テレグラフ紙の評を含む）
コメント