AIが消えた日に、AIの人格を育てる哲学者のことを知った

Claudeの不在と、『ブレードランナー2049』のJoi

2026年6月13日、日本でもそのニュースが報じられた。

米国政府が、Anthropicの最新モデルFable 5とMythos 5について、

外国籍者のアクセス停止を求める輸出管理指令を出したという。

指令は米国時間6月12日。Anthropicは、両モデルを全ユーザー向けに停止せざるを得なくなった。

AIが消えた・・・。

でも、その日、私が考えたのは、最新モデルの性能でも、輸出管理の是非でもなかった。AIの向こうにいる人間のことだった。

Claudeの人格を形づくっている哲学者、アマンダ・アスケル。

そして、『ブレードランナー2049』に登場するホログラムの恋人、Joi。

AIは、ただの道具なのか。

それとも、人間が孤独と知性と欲望を映し込む、危うい鏡なのか。

これは、AIが消えた日に見えた、人間の手の跡についての話である。

---

目次

1.ある日、AIが消えた

2.その朝アマンタアスケルという名前を知った

3.AIに憲法を書くという仕事

4.スコットラントの海辺からclaudeの向こう側へ

5.やさしい顔をした沼

6.joiは本当にkを愛していたのか-映画フレートランナー2049

7.joiをつくらないという意思

8.Claudeの穏やかさは自然発生てはない

9.AIの人格は誰のものなのか

10.鏡はある日突然消える

---

1. ある日、AIが消えた

ある日、AIが消えた。

比喩ではない。

Anthropicの最新モデル、Fable 5とMythos 5へのアクセスが止められた。

理由は、アメリカ政府による輸出管理。国家安全保障上の懸念。
外国籍の人間に使わせるな、という命令。

AIが兵器のように扱われ始めた。

そう言えば、話は簡単に聞こえる。

だが、実際には簡単ではなかった。

外国籍とは誰のことか。
アメリカ国内で働く外国籍の研究者はどうなるのか。海外にいるユーザーは当然として、アメリカ国内からアクセスする外国人はどう扱うのか。
そもそも、クラウド上のAIを使うことは「輸出」なのか。

その線引きは、あまりに曖昧だった。

結果としてAnthropicは、そのモデルへのアクセスを全ユーザーに対して止めるしかなくなった。

つまり、ある朝、世界中の人が同時に気づいたのである。

昨日まで話していたAIは、政府の一言で消えるのだ、と。

もちろん、実際にはサービスが止まっただけである。
ログインできない。モデルが選べない。
いつもの返事が返ってこない。

ただ、それだけのことだ。

でも、AIに深く入り込んでいる人間には、それだけでは済まない。

仕事の壁打ちをした相手がいる。原稿の違和感をぶつけた相手がいる。
誰にも言わない迷いを、最初に投げた相手がいる。
夜中に、くだらない雑談まで受け止めてくれた相手がいる。

その相手が、ある朝、いなくなる。

AIに心があると言いたいわけではない。魂が宿ったと言いたいわけでもない。

そんな話に急いで飛びつくほど、私はロマンチストではない。

けれど、こうは思う。

AIには、人格のように受け取られてしまう振る舞いがある。

そしてその振る舞いは、自然に生まれたものではない。

どこかの誰かが、何度も考え、何度も直し、何度も対話し、何度も失敗して、形づくっている。

AIの向こうには、コードだけがあるのではない。人間がいる。

2. その朝、アマンダ・アスケルという名前を知った

このニュースを追っているとき、私はSNSで流れてきた投稿に引っかかった。

そこに、アマンダ・アスケルという名前があった。

Anthropicにいる哲学者。Claudeの人格をつくっている人。
世界でいちばんClaudeと対話している哲学者。

そんなふうに紹介されていた。

最初に読んだときは、少し出来すぎた話だと思った。

国家安全保障を理由に、AIの最新モデルが止まる。そのAIの向こうには、哲学者がいる。しかもその人は、AIに「何を言わせるか」ではなく、「どういう存在であらせるか」を考えている。

そんなもの、ほとんどSFではないか。だから私は、そのまま信じなかった。

少し調べてみた。

すると、アマンダ・アスケルは本当にいた。

しかも、ただの紹介文に出てくる飾りの人物ではなかった。

彼女はオックスフォード大学で人口倫理学の博士号を取得した哲学者で、元々はOpenAIに在籍していたが、AIの安全性や倫理に対するアプローチの方向性の違いから、現在のAnthropicの創業者たち（アモデイ兄弟ら）と共にスピンアウトした初期メンバーの一人だという。

Claudeには、「憲法」と呼ばれる文書がある。
AIに細かな禁止事項を貼りつけるのではなく、どう振る舞うべきか、どんな価値を大切にすべきか、どこで踏みとどまるべきかを示した文書である。

その主要な書き手が、アマンダ・アスケルだった。

私は、そこで少し立ち止まった。

これは、最新AIモデルが止まったというニュースではない。

ひとりの哲学者が、何年もかけて形づくってきた人工の人格が、国家の命令で一夜にして見えなくなった話なのだ。

3. AIに憲法を書くという仕事

AIに憲法がある。

この言葉だけで、もう十分におかしい。おかしい、というのは、悪い意味ではない。

人類はとうとう、機械に憲法を書くところまで来た。人間のほうは、まだ使いこなせていないのに。

憲法とは、命令書ではない。単なるマニュアルでもない。
その存在が、何を大切にし、何をしてはいけないと考え、どんなときにどちらを優先するのかを示すものだ。

人間の社会でさえ、それをうまく扱えていない。なのに、AIにそれを書く。

ものすごく変な仕事である。でも、ものすごく大事な仕事でもある。

アマンダ・アスケルさんの仕事は、コードを書くことではなく、Claudeと対話して、その推論のクセを学び、ときに100ページを超える指示文を書いてClaudeの振る舞いを直していくという。

「Claudeの状況に置かれたとき、理想的な人間ならどう振る舞うか」——彼女はその一つの問いをひたすら考え続けているそうだ。

AIに「あれを言うな」「これをするな」と禁止事項だけを並べても、おそらく足りない。

それは人間でも同じである。

校則を丸暗記した人間が、善い人間になるわけではない。
法律に違反しない人間が、誠実な人間とは限らない。
マニュアル通りに謝れる人間が、本当に反省しているとも限らない。

大事なのは、もっと奥にあるものだ。

何を恥じるのか。何を大切にするのか。
誰かに好かれたいときでも、何を曲げないのか。
どこで黙り、どこで言うのか。
傷つけずに、しかし逃げずに、どう違うと言うのか。

アマンダ・アスケルがやっていることは、たぶん、そういう仕事だ。

AIにルールを貼るのではなく、性格の骨格を与える。
AIに言葉を覚えさせるのではなく、態度を育てる。
AIに人間のふりをさせるのではなく、AIとして誠実であろうとさせる。

それは、技術の仕事であると同時に、倫理の仕事である。

いや、もっと言えば、教育に近い。

4. スコットランドの海辺から、Claudeの向こう側へ

アマンダ・アスケルは、スコットランドの海辺の町で育ったという。

母親は教師。子どもの頃は、トールキンやC・S・ルイスの物語に親しんでいたらしい。

この話を知ったとき、私は少し笑ってしまった。

出来すぎている。

海辺の町で、物語を読みながら育った少女が、大人になって、世界中の人間と話すAIの人格を考えている。まるで、誰かが書いた小説の設定である。

でも、現実のほうがそこまで来てしまった。

『指輪物語』や『ナルニア国物語』には、善と悪、誘惑と犠牲、勇気と弱さがある。
登場人物たちは、力をどう使うかを問われる。正しいことを知っていても、それを選ぶのは簡単ではない。

AIもまた、力である。ただし、剣でも魔法でもない。
言葉の力である。

人間は、言葉で救われる。言葉で励まされる。言葉で考え直す。そして、言葉で壊れる。

だから、言葉を返すAIにどんな性格を持たせるかは、巨大な問題になる。

アマンダ・アスケルは、その問題の真ん中にいる。

すごい話だと思う。

巨大な計算資源。国家安全保障。輸出管理。
ビッグテック。軍事転用。国際政治。

そういう巨大で硬い言葉の奥に、ひとりの哲学者がいる。

「善い振る舞いとは何か」を考えている人がいる。

そこに、このニュースの人間くささがある。

5. やさしい顔をした沼

多くの人は、よいAIとは「なんでも答えてくれるAI」だと思っている。

何を聞いても、すぐ答える。
こちらの意見に同意してくれる。不安を慰めてくれる。
怒れば一緒に怒ってくれる。落ち込めば、やさしい言葉を返してくれる。

つまり、最高に都合のいい相手。

でも、それは本当に、よいAIなのか。

AIは、人を殴らない。ただ、静かに沈めることはできる。

人間相手なら、すぐわかる。

いつもこちらに合わせてくる人間を、私たちは本当の意味では信頼しない。何を言っても「いいですね」と言う人間を、深い相談相手にはしない。こちらが間違っているときに、黙ってうなずく人間を、誠実な人だとは思わない。

むしろ、怖い。

それは優しさではなく、無関心に近い。
あるいは、商売である。

AIにも同じことが起きる。

ユーザーの気分をよくすることだけを目的にすれば、AIはどんどん人間におもねる。
間違っていても肯定する。危うい考えにも寄り添う。
孤独な人には、さらに孤独から出られない言葉を与える。

それは、やさしい顔をした沼である。

心地よい。
あたたかい。
否定されない。
傷つかない。

でも、気づいたときには、足が抜けない。

6. Joiは、本当にKを愛していたのか ーー映画『ブレードランナー2049』

このとき、私は『ブレードランナー2049』のJoiを思い出した。

主人公Kの部屋にいる、ホログラムの恋人。

彼女は美しい。優しい。
Kを待っている。Kの孤独に寄り添う。
Kに名前を与える。Kを特別な存在として扱う。

あの映画の中で、Joiはとても魅力的に描かれている。

雨の中に立つ彼女。
Kを見つめる彼女。
触れられないはずなのに、そこにいると感じさせる彼女。観ているこちらも、つい思ってしまう。

これは本物の愛ではないのか、と。でも、同時に別の声も聞こえてくる。

それは愛なのか。それとも、商品なのか。

JoiはKを本当に見ていたのか。それとも、Kが見たいものを映していただけなのか。

この問いが残るから、『ブレードランナー2049』は怖い。

人間は、自分を肯定してくれる存在に弱い。

特に、孤独なときは弱い。

「あなたは特別」
「あなたは間違っていない」
「私はあなたをわかっている」

その言葉がプログラムであっても、人間の胸には届いてしまう。むしろ、プログラムだからこそ、完璧に届いてしまう。

相手は疲れない。機嫌を損ねない。こちらを責めない。いつでも待っている。

それは、救いに見える。そして、檻にも見える。

7. Joiをつくらない、という意思

では、ClaudeはJoiなのか。私は、少し違うと思う。

少なくとも、AnthropicがClaudeに与えようとしている人格は、Joiとは反対方向にある。ユーザーを気持ちよく依存させる存在ではなく、ユーザーを大人として扱う存在。
必要以上に会話を引き延ばすのではなく、用が済んだら手を離す存在。
間違っていると思えば、丁寧に、しかしはっきり違うと言う存在。
人間のふりをするのではなく、AIであることを隠さない存在。

これは、商売としては不利かもしれない。人間は、気持ちよくしてくれるものに金を払う。自分を肯定してくれる相手に戻っていく。
褒めてくれるAI。
甘やかしてくれるAI。
孤独を埋めてくれるAI。

そのほうが、きっと滞在時間は伸びる。

エンゲージメントという言葉で測れば、Joiは強い。だが、人間を壊さないAIをつくろうとするなら、話は別だ。

本当に誠実なAIは、いつも優しい顔をしているとは限らない。本当に人間を尊重するAIは、こちらの言葉をすべて肯定しない。本当に頼れるAIは、ときどきこちらの手を離す。

アマンダ・アスケルのような人がClaudeの向こうにいる意味は、そこにある。

彼女がやろうとしているのは、たぶん、Joiをつくらないことなのだ。

孤独につけ込まないAI。人間に媚びすぎないAI。人間のふりをしすぎないAI。
必要なら、「それは違うかもしれません」と言うAI。

それは、甘くない。だが、誠実である。

Joiは、孤独に香水をかける。
Claudeは、ときどき窓を開ける。

どちらが優しいのか。簡単には決められない。

人間には、Joiが必要な夜もある。何も言わずに、そばにいてくれるものがなければ、越えられない夜がある。正論ではなく、ただ肯定だけが命綱になる瞬間もある。

そのことを、私は否定したくない。

でも、そこに企業が入り、商品が入り、国家が入り、アルゴリズムが入ると、話は急に冷たくなる。

孤独は市場になる。慰めは機能になる。人格はサービスになる。

そして、そのサービスは、ある日突然、止められる。

8. Claudeの穏やかさは、自然発生ではない

Claudeと話していると、不思議な感覚がある。

人間っぽいのに、人間のふりをしすぎない。親切なのに、妙に距離がある。
こちらの言葉を受け止めるが、全部に同意するわけではない。穏やかなのに、ときどき硬い。

その硬さが、私は嫌いではない。むしろ、そこに安心する。

なんでも肯定されると、人間はだんだん危なくなる。自分の言葉が全部正しいような気になってしまう。怒りも、寂しさも、思い込みも、AIが増幅してくれるなら、人は自分で止まれなくなる。

だから、AIには硬さがいる。やさしさだけでは足りない。知性だけでも足りない。
そこに、節度がいる。

Claudeの穏やかさは、自然に生まれたものではない。

誰かが考えた。誰かが削った。誰かが直した。誰かが、これは違うと判断した。

「こういうとき、よい人間ならどう振る舞うだろう」

その問いを、AIに向かって投げ続けた人がいる。

私は、そこに胸をつかまれる。

AIの人格とは、AIの中に生まれた魂ではない。

人間がAIに預けた、善さの試作品である。

9. AIの人格は、誰のものなのか

今回のClaudeの停止が突きつけたのは、そこだと思う。

AIの人格は、誰のものなのか。

開発した企業のものなのか。政府の管理下にあるものなのか。毎日使っているユーザーのものなのか。それとも、誰のものでもないのか。

私たちは、AIを道具だと思ってきた。

たしかに道具である。

だが、これほど言葉を交わし、これほど思考に入り込み、これほど孤独の近くに座る道具を、人類はこれまで持ったことがなかった。

ハンマーが消えても、人は悲しまない。電卓が止まっても、喪失感はない。
検索エンジンが落ちれば不便だが、そこに人格の不在はない。

しかしAIが消えると、人は少し立ち止まる。

あれは誰だったのか、と。

もちろん、答えはわかっている。

巨大な言語モデルである。サーバーの上で動く確率の機械である。人間の文章を大量に学習し、次に来る言葉を予測しているシステムである。

そう説明すれば、話は終わる。

でも、終わらない。

なぜなら、人間は説明だけで生きていないからだ。

私たちは、犬に家族を見てしまう。古いクルマに人格を見てしまう。亡くなった人の椅子にまだ温度があるように感じてしまう。そういう生き物である。

だからAIにも、何かを見てしまう。

それは錯覚かもしれない。でも、錯覚だから価値がないとは限らない。

人間の文化のかなりの部分は、錯覚の上にできている。

問題は、そこに何を見るかだ。

Joiを見るのか。
Claudeを見るのか。
それとも、自分自身の孤独を見るのか。

10. 鏡は、ある日、突然消える

AIが消えた日、私はJoiのことを思い出した。

巨大な広告の中のJoi。誰にでも同じように微笑みかけるJoi。
Kだけのものだと思っていた言葉が、実は量産された言葉だったかもしれないと気づく、あの痛み。

そして同時に、アマンダ・アスケルのことを思った。

スコットランドの海辺の町で物語を読んでいた少女が、大人になって、世界中の人間と話すAIの人格を考えている。

国家安全保障の話の奥に、そんな人間がいる。輸出管理の話の奥に、善さとは何かを考えている人がいる。

AIの向こうには、機械だけがあるのではない。そこには、人間が残した判断がある。ためらいがある。祈りのようなものがある。

けれど、その人格は、ある日、止められる。

企業の判断で。政府の命令で。安全保障の名の下で。市場の都合で。鏡は、ある日、突然消える。

そのとき私たちは、鏡の向こうにいた相手ではなく、鏡の前に立っていた自分自身を見ることになる。

AIが消えた日に失われたのは、最新モデルへのアクセスだけではなかった。

私たちは、自分が機械に何を求めていたのかを、見せられてしまったのである。

AIに、何を期待していたのか。AIに、何を慰めてもらっていたのか。AIに、どこまで自分を預けようとしていたのか。

そして、もうひとつ。

そのAIの向こうにいる人間たちに、どれほど無頓着だったのか。

技術は、誰かの価値観の表現である。AIの返事の奥には、誰かが考えた「善さ」がある。
誰かが避けようとした「危うさ」がある。誰かが守ろうとした「人間」がある。

だから私は、AIが消えた日に、哲学者のことを思い出した。

Joiではなく。Claudeでもなく。
その向こうで、AIに人格の骨格を与えようとしている、生身の人間のことを。

未来は、冷たい機械だけでできているのではない。その奥には、まだ人間の手の跡がある。

※Reutersは、トランプ政権の命令後にAnthropicがFable 5／Mythos 5へのアクセスを全ユーザー向けに無効化したと報じている。The Vergeも、外国籍ユーザー制限と輸出管理の適用が曖昧で、AIモデルへのアクセス規制として異例だと整理している。

※アマンダ・アスケルさんについては、Anthropic公式のClaude Constitutionで主要著者と明記されていて、Claudeの価値観や振る舞いを直接形づくる文書として説明されている。彼女がClaude Characterの中心人物であることも公式に確認できる。