LIFE3.0 人工知能時代に人間であるということ

ここから先は、本の結論と主な主張まで書いています。読む前に中身を確かめたい人や、読み終えて振り返りたい人向けです。

著者は生命を三段階に分けます。体も行動も進化で決まる生物の段階（1.0）、体は進化で決まるが学習で行動を書きかえられる人間の段階（2.0）、そして体も心も自ら設計し直せる技術の段階（3.0）です。AIは3.0への入り口になりうると著者は考えます。

プロローグでは、架空の「オメガチーム」が秘密裏に超知能AIを開発し、それを使って富と影響力を手にし、世界を動かしていく様子が描かれます。第2章では、記憶や計算、学習は特定の素材に依存しない性質であり、機械にも知能が宿りうることを説明します。第3章では、近い将来の課題としてソフトウェアの欠陥、AIと法、自律型兵器、雇用への影響を検討します。

第4・5章では、人間並みの汎用AIが自らを改良して「知能爆発」を起こす可能性と、その後の社会の姿を、AIが人間を守る、支配する、人間が滅ぶなど十余りのシナリオとして並べ、どれが望ましいかを読者に問います。第6章では、時間のスケールを宇宙の未来まで広げます。

第7・8章が核心です。著者は、危険なのはAIの悪意ではなく能力の高さであり、AIの目標が人間の目標とずれることだと強調します。そのためAIに人間の目標を学ばせ、受け入れさせ、保たせる研究が要ると説きます。また、意識の謎にも踏みこみ、意識ある存在がいてこそ宇宙に意味が生まれると論じます。エピローグでは、AIを安全に役立てるための研究者の取り組みが語られ、望む未来を自ら選ぶよう呼びかけて終わります。