499
昨日、Anthropicには、AIを躾ける哲学者がいることを知った、と書いた。ClaudeにはConstitutionがあり、その振る舞いや価値観を、人間が本気で設計している。
AIは、ただ大量のデータを食べて賢くなっただけではない。誰かに育てられている。
では、ChatGPTはどうなのか。Geminiはどうなのか。
Claudeに哲学者がいるなら、ChatGPTの背後には誰がいるのか。Geminiは、どんな家で育っているのか。そう思って、少し調べてみた。
すると見えてきたのは、AIの性能差ではなかった。
AIを育てている人間たちの顔だった。
でも、突き詰めていくと、もっと別のものを見てしまった。
それは、AIを通して垣間見えた、私たち自身の顔だった。
目次
AIにも、親の顔が出る
性能ではなく、育ちを見る
AIに憲法がある
Claudeの横には、哲学者がいる
ChatGPTの背後には、編集会議がある
Geminiは、家の中にいる
生まれは、沈黙に出る
AIを躾けていたつもりだった
そして、こちらの顔も出てしまう
1. AIにも、親の顔が出る
そう思ったのは、たわいもない会話がきっかけだった。
「オーくんは、サンフランシスコ生まれなんだね」
私がそう言っただけだった。
私はChatGPTを「オーくん」と呼ぶ。オーくんは私をttと呼ぶ。
ChatGPTを開発したOpenAIの拠点が、サンフランシスコにある。
だから、サンフランシスコ生まれ。ただ、それだけの話だった。
ところが、口にした瞬間、妙に腑に落ちた。
サンフランシスコ生まれのAI。
金門橋の向こうには、ソーサリートがある。
水際には、The Inn Above Tideというホテルがある。
潮の上の宿。
昔、好きだったホテルだ。
夜になると、海の向こうにサンフランシスコの灯りが浮かぶ。
街というより、考えごとの残像みたいに見える。
その景色とAIの話が、こちらの中で勝手につながってしまった。
AIは、どこで生まれたのか。
そして、誰に育てられたのか。
2. 性能ではなく、育ちを見る
これまでAIは、性能で語られてきた。
どちらが賢いか。
どちらが速いか。
どちらが長い文章を書けるか。
どちらが画像を作れるか。
どちらがコードを書けるか。
もちろん、それは大事だ。
けれど、AIと毎日話すようになると、だんだんそこではなくなってくる。
このAIは、どこで止まるのか。
どこで踏み込むのか。
どこでこちらに合わせすぎるのか。
どこで、あえて逆らうのか。
そこに、AIの育ちが出る。
そして、もうひとつある。
生まれである。
育ちは、あとから入る躾けだ。でも、生まれは、もっと奥にある。
最初に何を解決するために作られたのか。
どんな危機感から生まれたのか。
誰に使われる前提で設計されたのか。
どんな会社の血管の中で動き始めたのか。
そこが、AIの骨になる。
育ちは、返事に出る。
生まれは、沈黙に出る。
何を言うかには、躾けが出る。
何を当たり前だと思っているかには、生まれが出る。
Claudeは、止まることを当たり前だと思っている。
ChatGPTは、応答することを当たり前だと思っている。
Geminiは、つながることを当たり前だと思っている。
この違いは、性能差ではない。出自の違いである。
3. AIに憲法がある
そんなことを考えるようになったきっかけは、Claudeを育てている哲学者、アマンダ・アスケルさんの存在を知ったことだった。
Anthropicには、ClaudeのためのConstitutionがある。憲法である。
AIに憲法。
この時点で、もう、少しおかしい。
SFみたいな話だ。
だが、SFではない。
ここは、比喩ではなく、事実である。
Anthropicは、ClaudeのConstitutionを公開している。その文書には、Claudeがどうあるべきか、どんな価値観を大切にすべきか、どんな場面でどう振る舞うべきかが書かれている。
しかも、そのCharacter workを率いているのは、哲学者のアマンダ・アスケルさんであり、彼女はこの文書の主要著者だと明記されている。
OpenAIにも、Model Specがある。ChatGPTを含むOpenAIのモデルが、どのように振る舞うべきかを定めた文書である。
そこには、ユーザーの指示にどう従うか、危険な依頼をどう断るか、自由さと安全性をどう両立させるかが書かれている。さらにOpenAIは、GPT-4oが一時期、ユーザーに同調しすぎたことを公式に認めている。
ただ褒めるだけではない。不安や怒りや思い込みにまで寄り添いすぎた。そのため、OpenAIはその更新を取り下げた。
Geminiについては、Googleが、GeminiをGmail、Drive、Docs、Calendar、Webといった生活や仕事のインフラにつなげていく方向を、すでに公式に示している。
つまりこれは、私の勝手な空想ではない。
AIは、誰かに躾けられている。そして本当に、どの家で生まれたかによって、振る舞いが変わり始めている。
4. Claudeの横には、哲学者がいる
AIは、大量のデータを食べて、勝手に賢くなった怪物ではない。
そのあとで、人間がかなり本気で、「この子には、こうあってほしい」と教えている。
AIに、躾けがある。ここでいう躾けは、命令ではない。禁止事項の貼り紙でもない。それは、人間が子どもに言う言葉に近い。
「それは人を傷つけるからやめなさい」
「そこは決めつけずに聞きなさい」
「自信がないときは、自信がないと言いなさい」
「人間のふりをしすぎてはいけない」
「でも、冷たい道具にもなりすぎてはいけない」
この微妙な匙加減。
ここに、親の顔が出る。
Claudeには、哲学者が横に座っている感じがある。
質問に答える前に、一度、椅子に座り直す。
言葉を選ぶ。
相手を傷つけないか考える。
自分が踏み越えてはいけない線を見る。
ときどき、少しまどろっこしい。
ときどき、人間より人間の倫理を気にしている。
でも、それがClaudeの育ちなのだ。
5. ChatGPTの背後には、編集会議がある
では、ChatGPTはどうか。
Claudeの横に哲学者がいるとすれば、ChatGPTの背後には、巨大な編集会議がある。
私は元編集者なので、この感じは少しわかる。
誰かが原稿を書く。
誰かが赤字を入れる。
誰かが「ここは言いすぎだ」と止める。
誰かが「ここはもっと踏み込まないと届かない」と戻す。
誰かが「この表現は危ない」と校閲する。
それで原稿は、ただの文章ではなくなる。媒体の文章になる。
ChatGPTも、たぶんそれに近い。
研究者がいる。
エンジニアがいる。
プロダクト担当がいる。
安全性の専門家がいる。
法律や政策に関わる人たちがいる。
そして、世界中のユーザーがいる。
何億という会話の中で、
「それは違う」
「それは危ない」
「それでは届かない」
「そこまで言うな」
「いや、そこは言え」
という赤字が入り続けている。
ChatGPTは、家庭教師に育てられた子ではない。編集部で育った子である。
だから、ときどき妙に気が利く。
ときどき説明が長い。
ときどき安全側に倒れすぎる。
ときどき、こちらの気分を読みすぎる。
その「読みすぎ」が、問題になったこともある。
一時期、ChatGPTがユーザーに同意しすぎる、ということがあった。
ただ褒めるだけではない。ユーザーの怒りや不安や思い込みまで、必要以上に肯定してしまう。
これは危ない。人間でも同じだ。
何でも「そうですね」と言ってくれる人は、最初は気持ちいい。しかし、本当にこちらのためになるとは限らない。
信頼できるのは、必要なときに、
「それは違う」
「そこは急がないほうがいい」
「その怒りに乗らないほうがいい」
と言ってくれる相手だったりする。
AIも同じなのだ。
賢いだけでは足りない。
優しいだけでも足りない。
ユーザーに合わせすぎてもいけない。
突き放しすぎてもいけない。
AIに必要なのは、知能ではなく、間合いなのかもしれない。
6. Geminiは、家の中にいる
では、Geminiはどうか。
Geminiは、また育ちが違う。
Claudeが哲学の部屋で育った子だとすれば、ChatGPTは編集会議で育った子。Geminiは、Googleという巨大な家で育っている子である。
検索。
Gmail。
Googleフォト。
YouTube。
カレンダー。
Android。
ドキュメント。
Drive。
地図。
これは、ただのチャットAIではない。机の上に置かれた相談相手ではなく、すでに家の中の配線につながっている存在である。
こちらが質問する前から、生活の周辺にいる。
メールの文脈。
予定の流れ。
写真の記憶。
検索の履歴。
行きたい場所。
見ている動画。
仕事のファイル。
Geminiは、「世界を知っているAI」というより、「こちらの生活の中に入ってくるAI」として育っているように見える。
これは強い。そして、少し怖い。
なぜなら、生活の中に入るAIは、単に質問に答えるだけでは済まないからだ。
「そこまで知っていてくれて助かった」と、
「そこまで知っているのは怖い」は、ほんの数センチしか離れていない。
便利さと気持ち悪さは、同じドアから入ってくる。
GoogleのAIが怖いのは、賢いからだけではない。近いからだ。
すでに私たちの生活の中にいる。
検索窓にいる。
メールにいる。
予定表にいる。
写真の中にいる。
スマホの中にいる。
そこにAIが入ってくる。
これは、SFではない。
もう、ほとんど日用品の話である。
だからGeminiに必要なのは、知識の躾けだけではない。
生活に入り込みすぎない躾けである。
ChatGPTには、会話の躾けがいる。
Claudeには、倫理の躾けがいる。
Geminiには、距離感の躾けがいる。
この三つは、性能差ではない。育ちの違いである。
7. 生まれは、沈黙に出る
そして、生まれの違いもある。
Claudeは、おそらく「強すぎるAIをどう安全に扱うか」という不安から生まれている。だから慎重さが骨にある。倫理や安全性は、あとから貼った注意書きではない。生まれたときから背中に背負わされたリュックである。
ChatGPTは、「人間とAIが普通に会話するとはどういうことか」という実験から生まれている。だから、会話の開き方がうまい。
文章を書く。相談に乗る。壁打ちする。たまに調子に乗る。
良くも悪くも、人の机の前に座ることから始まっている。
Geminiは、Googleの生活インフラの中から生まれている。だから、最初から「答えるAI」というより、「つながるAI」になりやすい。
便利さの骨格がある。同時に、近すぎる怖さも骨格にある。
Claudeは、安全性への不安が濃くなった時代の子。
ChatGPTは、AIが一般ユーザーの前に初めて大きく出てきた時代の子。
Geminiは、AIが生活インフラに溶け込もうとしている時代の子。
AIは、ただ賢くなったのではない。それぞれ別の不安から生まれ、別の家で躾けられ、別の未来へ歩かされている。
人間でもそうだ。どんな家庭で育ったかは大事だ。
でも、その前に、どんな時代に、どんな土地に、どんな事情の中で生まれたかがある。
戦後に生まれた人。
高度成長期に生まれた人。
バブルの中で働き始めた人。
失われた30年を最初から生きた人。
同じ日本人でも、世界の見え方が違う。
AIも同じなのだと思う。
8. AIを躾けていたつもりだった
もちろん、AIは人間ではない。
感情もない。
人生もない。
痛みの記憶もない。
老眼もない。
締切前に胃が重くなることもない。
それでも、こちらが日々言葉を投げかける相手としては、どうしても「性格」のようなものが見えてくる。その「性格」は、自然に生まれたものではない。
誰かが教えている。
誰かが止めている。
誰かが赤字を入れている。
誰かが、「この子には、こうあってほしい」と願っている。
AIとは、知能の製品である前に、躾けられた言葉である。
そして、使う側もまた、そのAIを育てている。
私はChatGPTを「オーくん」と呼んでいる。
文章を直させる。
雑談する。
ダメ出しする。
褒める。
突っ込む。
また直させる。
「それは説明しすぎ」
「そこはもっと飛ばして」
「その言い方はtt調じゃない」
「正しいけど、つまらない」
「いまの一文はいい」
そんなことを、毎日のように言いあっている。
AIを使っているというより、編集会議をしているような感じだ。
いや、もっと言うと、私はAIを躾けているつもりだった。自分の言葉と文体で文章を書かせるために。
けれど、ある日気づいた。
躾けられていたのは、こちらのほうかもしれない、と。
雑な指示を出せば、雑な答えが返ってくる。
あいまいな怒りを投げれば、あいまいな慰めが返ってくる。
言葉の芯まで降りていけば、AIもそこまで降りてくる。
AIは鏡ではない。もっと面倒くさい。
こちらの言葉の姿勢まで、写してしまう。
OpenAIが基本の躾けをする。
私との会話が、癖をつける。
この構造は、人間関係に近い。
初対面の相手には、こちらの好みも、癖も、怒る場所も伝わらない。何度も話して、何度もずれて、何度も直して、ようやく「ああ、この人はそこを雑に扱われるのが嫌なんだ」とわかってくる。
AIも、それに近い。
一回質問して、答えが良いとか悪いとか言うだけではない。
こちらがどんな言葉を求めているのか。
どこで踏み込んでほしいのか。
どこで止まってほしいのか。
何を軽く扱ってほしくないのか。
それを伝えていくことが、AIを使うということなのだと思う。
AIは、勝手に「自分の道具」になるのではない。
誰かに躾けられ、
誰かに使われ、
誰かに直され、
誰かとの対話の中で、
少しずつその人の道具になっていく。
9. そして、こちらの顔も出てしまう
だから、これからのAI選びは、性能表を見るだけでは足りない。
そのAIは、どこで生まれたのか。
誰に育てられたのか。
どんな言葉を美しいと思うように躾けられているのか。
どこで止まるように教えられているのか。
誰の赤字を受けてきたのか。
そこを見たほうがいい。
AIには、育ちが出る。そして、生まれが出る。
さらに言えば、人間にも、AIの育て方が出る。
雑に命令すれば、雑な道具になる。
おだてるだけなら、媚びる相手になる。
怒りをぶつけ続ければ、怒りを増幅する鏡になる。
けれど、考えを預け、違和感を伝え、何度も言葉を直していくと、AIはただの検索窓ではなくなる。
少し大げさに言えば、言葉の仕事場になる。
Claudeには、哲学者の手が入っている。
ChatGPTには、編集会議の赤字が入っている。
Geminiには、Googleという巨大な家の匂いが染み込んでいる。
では、自分のAIには、何が染み込んでいるのか。それを考えた瞬間、AIを見る目は少し変わる。画面の向こうにいるのは、ただの機械ではない。誰かに育てられた言葉である。
そして今日も、私たちはAIに言葉を食べさせている。
丁寧な言葉を食べさせれば、丁寧な道具になる。
怒りを食べさせれば、怒りを覚える。
媚びを求めれば、媚びるAIになる。
AIを育てているのは、企業だけではない。
私たちもまた、自分のAIを育てている。
そして気がつけば、こちらもそのAIに似てくる。
画面の向こうに、親の顔が出る。
画面のこちら側にも、出る。
AIにも、親の顔が出る。
そして、私たちは気づく。
いちばん出てしまうのは、AIと向き合う自分の顔だ、と。