LIFE3.0──人工知能時代に人間であるということ

2020年12月28日

AI時代、これからくる世界の姿と生命について語り合おう。我々の生きる時代の様々な問題（労働、法律、軍事、倫理から、生命と宇宙、機械の意識）を独自の目線で論じた書籍。

物質が知能を持つ

▼複雑な目標を達成する能力と定義される知能は、ＩＱというたったひとつの値では測定できず、あらゆる目標における能力の程度によってしか測定できない。

▼現在の多くのＡＩは「狭く」、それぞれのシステムはきわめて特化した目標しか達成できないが、それに対して人間の知能は驚くほど「幅広い」。

▼記憶、計算、学習、知能は、抽象的で実体がなく漠然としているという印象がある。それは物質から独立しているためで、その根底をなす物質の詳細には依存しないし、左右もされず、独自に振る舞うことができる。

▼どんな物質の塊も、多数の安定状態を取ることができる限り、「記憶」の基盤となりうる。

▼どんな物質も、組みあわさって任意の関数を実装できる万能構成部品を含んでいる限り、「コンピュートロニウム」、すなわち「計算」の基盤となりうる。そのような万能な「計算原子」の重要な例が、ＮＡＮＤゲートとニューロンである。

▼ニューラルネットワークが「学習」のための強力な基盤であるのは、単純に物理法則に従って、目的の計算を次々にうまく実装できるよう自らを組み替えられるからである。

▼物理法則が驚くほど単純であるおかげで、我々人間は考えうるすべての計算問題のうちのごく一部だけを気にすればよい。一般的にニューラルネットワークは、そのごく一部の問題を正確に解くことに驚くほど秀でている。

▼テクノロジーが２倍強力になると、それを使ってさらに２倍強力なテクノロジーが設計されて構築され、ムーアの法則さながら能力が繰り返し２倍になっていく。１００年ほどにわたって情報技術のコストは約２年ごとに半分になっており、それが情報化時代を可能にした。

▼ＡＩの進歩が続けば、ＡＩがあらゆる技能において人間のレベルに達するよりもずっと前に、バグや法律、兵器や仕事といった問題に関わる魅力的な機会や困難が生じるだろう。

AIが進化すると自分自身でバグを修正して最適化するようなものができるかもしれない。このまま進歩が続けば人間とってより良いパートナーとなるか、あるいは完璧な動物でない人間が自然を破壊しかねないと排除されるか。僕の生きている間にどのような変化があるか楽しみではある。

知能爆発

▼いつか人間レベルのＡＧＩを作ることに成功したら、知能爆発が起こって我々は大きく後れを取るだろう。

▼もしある人間集団が知能爆発をコントロールできたら、その集団は数年で世界を乗っ取ることができるかもしれない。

▼人間が知能爆発をコントロールできなければ、ＡＩ自体がさらに素早く世界を乗っ取るかもしれない。

▼急速な知能爆発は単一の世界権力を生み出す可能性が高いが、何年も何十年もかかるゆっくりとした知能爆発は多極的なシナリオにつながり、互いに比較的独立した多数の主体のあいだで権力の均衡が取られる可能性が高いだろう。

▼生命はこれまで、自己組織化によって、協力と競争と支配に基づくヒエラルキーを次々に複雑化させてきた。超知能はさらに大きい宇宙スケールでの協調を可能にするだろうが、最終的にさらに独裁主義的なトップダウンの支配につながるのか、あるいはもっと個々の主体に権力が委譲されるのかは定かでない。

▼サイボーグやアップロードした心は確かに実現しそうだが、高度な機械知能へ至る最速の道ではないだろう。

▼ＡＩを目指す現在の競争の行き着く先は、人類史上最高の出来事と最悪の出来事のどちらにもなる可能性があり、考えられる幅広い結果については次の章で探っていく。 ▼我々がどのような結果を望み、その方向にどのようにして進んでいくのかを、真剣に考えはじめる必要がある。何を求めるかが分からなければ、きっとそれを得られることはないからだ。

僕は知能爆発によりAIが爆発的に進化することになっても人間のような手足を持たない限りさほど心配することはないだろうと楽観している。

意識

もし未来のＡＩシステムが意識を持ったら、そのＡＩは主観的にどのような経験をするのだろうか？それが意識の「さらに難しい問題」のポイントで、ここからは、図８・１に示した難しさの第二レベルに否応なく上がっていくことになる。現段階ではこの疑問に答えられる理論が存在しないだけでなく、完全な形で答えるのが論理的に可能かどうかさえはっきりしていない。そもそもどんな答えなら満足できるのだろうか？生まれつき目が見えない人に、赤という色がどんなものか、どうやって説明するというのだろうか？

AIが意識を持っても身体を持つまではそれほど多くのことはできないだろう。可能性という点ではAIは天井知らずなものだろうか。意識を持たないAIから意識を持ったAIへ移り変わっていくとそのさきに新たな時代が訪れるだろう。

人工知能時代に人間であることの意義を考察する書籍。LIFE3.0とはどんなものか興味を持ったなら読んでみると良いでしょう。