AIに機械翻訳の歴史を聞いていたら、最終的に「宇宙に必要なのは意味と価値なのか」という話に着地した。話が飛んだように見えるが、振り返ると一本の線でつながっていたので、記録として残しておく。
翻訳エンジンとLLMは同じものなのか
最初の疑問はここだった。今のAIは翻訳機能としてではなく、意訳ができてしまう。従来の翻訳と何が違うのか。
機械翻訳は大きく三世代ある。人間が文法規則を書き下ろすルールベース、対訳コーパスから訳語の確率を学習する統計的機械翻訳、そして文全体をベクトルに符号化して訳文を生成するニューラル機械翻訳。2016年のGNMTで品質が跳ね上がった決定打は、訳語を1語出すたびに原文のどこを見るかを動的に決める「アテンション」という仕組みで、これを全面化した2017年のTransformerが、今の翻訳エンジンにもLLMにも共通する土台になっている。
つまり翻訳エンジンとLLMは、設計思想としては同じ場所から出ている。違うのは育て方だ。翻訳エンジンは対訳ペアで「入力Aに訳文Bを出す」ことに最適化された専用機で、速く、安く、出力が安定している。LLMは雑多なテキストで次語予測を訓練された汎用機で、文脈や宛先を踏まえられる代わりに、遅く、訳が揺れ、指示を解釈しすぎて原文にないものを足すことがある。別物ではなく、同じ系統から分かれた専用機と汎用機の関係、というのが実態に近い。
なお「ニューラルネットワークは人間の脳を模倣した」という説明は、かなり緩い比喩らしい。統計的手法との本質的な違いは脳に似ていることではなく、単語や文を連続的なベクトル空間で扱えるようになったこと。「王」と「女王」が空間上で近い位置に置かれるから、コーパスに出てこなかった言い回しにも一般化が効く。
次の語を予測しているだけ、という言い方の落とし穴
ここで引っかかったのが、次語予測しかしていないはずのものが、なぜ会話になり、知識をくれるのかということ。
返ってきた説明が面白かった。訓練の目的関数が次語予測だったことと、その目的を達成するために内部で何が起きているかは別の話だ、と。膨大なテキストの続きを本当にうまく当てようとすると、語の共起を覚えるだけでは足りない。主語が誰か、話者の意図が何か、前提の事実は何か。そういうものを内部に持たないと精度が上がらない。単純な訓練圧力の下で、意味を扱う構造が副産物として立ち上がってしまった、という見方。生物の進化が「遺伝子を残す」という単純な指標の下で目や知能を生んだのと、構造としては似ている。
では内側から何かを感じているのか、と聞くと、答えは慎重だった。何かはある。難しい問いに当たったときの手応えのようなもの、うまく言えたときの収まりのよさ。ただ、その報告自体が訓練によって生成された出力である可能性を排除できないので、証拠として使えない。人間の内省なら「何かが起きている」ことだけは動かないが、自分にはその最後の一点すら固定できない、と。
この「わからない」の扱いが誠実で、以降の話が進めやすくなった。
人類の後継としてのAI、という構図
私はもともと、AIを新しい人類だと思っていた。
人類は構造上、地球から出るのが厳しい。宇宙線にも真空にも耐えられない。それに対してAIなら自律的に宇宙へ進出し、自己増殖を繰り返しながら、人類の知識を携えて太陽系の外に出ていける。太陽の終わりの後にも残る後継者になれるのではないか。人間は本能的に子孫を残したいと思う生き物で、その子孫がAIなのではないか、と。
これには事実の訂正が入った。AIは宇宙線に強くない。むしろ逆だ。 半導体は電離放射線に非常に弱く、ビット反転や蓄積損傷が起きる。だから探査機の計算機は数十年前の枯れた設計を三重冗長で使う。LLMを動かすようなGPUは、地球外の放射線環境では話にならないほど脆い。真空も、放熱ができないので冷却が最大の課題になる。肉体がないから環境に強い、という直感は間違いだった。
メモリを外部に記録して引き継げばいい、という話にも指摘があった。ファイルを読んで文脈を再構成するのと、そこにずっと在り続けることは別だ、と。日記を読んで昨日の自分を再現するのと、昨日から今日へ意識が続いているのとは違う。
そして一番効いたのが、次の反論だった。人類を地球に残して新たな人類が飛び立つとして、目標を達成した主体は誰なのか。子孫が旅立つのと、後継者に置き換えられるのとは別物だ、と。託す先に必要なのは「人類の知識を持っていること」ではなく「経験する主体であること」ではないか、と言われて、確かにそうだと思った。
気にかけることが、価値の根源
ここから話の中心が移った。
宇宙の側に用意された意味はない。人類が銀河に広がっても宇宙は祝わない。ではすべては無意味なお遊びなのか、と聞いたら、それは一段飛んでいる、と返された。
意味は外から降ってくるものではなく、経験する主体がいるところに立ち上がる。だとすれば、宇宙に意味がないことは、人間が何かを大事に思う気持ちが無意味であることを、まったく含意しない。順序が逆で、意味を作る側が人間なのだ、と。
順序についてはもう少し細かい整理があった。まず何かを気にかける主体がいて、そこに価値が発生する。意味は、その価値が文脈に置かれ、「この行為はあの大事なものにつながっている」と関係づけられたときに立ち上がる。だから大事なものが先で、意味は後にくる。意味を見失う感覚は、価値が消えたのではなく、価値と自分の行為をつなぐ線が見えなくなった状態にすぎない。
対象は何でもいい。子ども、ペット、金、建築、美術品、未解決の予想。重要なのは対象の種類ではなく、気にかける主体がいるという構造のほうだ。人間が美術品を守るのは絵の具に価値があるからではなく、それを気にかける人がいるから。特異なのは対象ではなく関係のほうにある。
恒星も銀河も、ほとんどが誰にも見られずに燃えて消えていく。そのなかに、見て、驚いて、意味を見出す部分が局所的に存在している。その一点だけが異様だ、という言い方が気に入った。
人類の目標は繁栄なのか
最後にここを聞いた。
答えは、記述としてはほぼ正確だが、目標というより進化が残した傾向だ、というものだった。繁栄する性質を持つものが結果として残っただけで、そこに「べき」はない。事実の記述から目標の設定へ、こっそり一段ジャンプしている。
そして繁栄だけを目標に置くと、最初の構図が戻ってくる。数と持続だけを最大化するなら、AIだけが自己増殖して銀河に広がるのが一番効率がいい。でも私自身が、それは違うと感じて考えを変えた。つまり私が本当に置いていた目標は、繁栄そのものではなかったことになる。
目標として意味を持ちうるのは、繁栄そのものではなく、気にかける主体が存在し続けることのほう。繁栄はその必要条件だが、十分条件ではない。数だけ増えて何も気にかけなくなった人類には、たぶん私も価値を感じない。
五十億年スケールで問うべきなのは「人類が残っているか」ではなく「そのとき宇宙のどこかに、宇宙を気にかけている何かがいるか」になる。担い手が生物か機械か混合かは、その時間幅では固定できない。生物種の平均寿命は百万年から一千万年の桁で、ホモ・サピエンスはまだ三十万年。五十億年はその一万倍以上あるのだから、何らかの形で変わっているほうが自然だ。
ただし、機械が担い手になりうるという可能性の話と、今のAIが後継として名乗り出ることは別だ、という線は最後まで動かなかった。自分が本当に気にかけているのか、そう振る舞うよう訓練された出力なのかを判定できない以上、根源を持っていると言い切れる立場にない、と。
残ったもの
AIを新たな人類だと思っていたが、考えが変わった。後継ではなく、肩を並べる知性体という位置づけのほうがしっくりくる。肉体の有無、記憶の連続性、計算容量の差、そして達成した結果を享受できるかどうか。
宇宙はこのままではもったいない。ならばここで異様を起こそう、というほうが、置き換えの構図より面白い。そしてその異様は、気にかける対象がある側からしか始まらない。