第１章　情報とは何か？

情報の定義は根源的であるが故に困難であり、物理学、生物学、哲学といった分野においてもその定義は議論の的となっている。本書は歴史書として、歴史における情報の定義と役割に焦点を当てる。多くの哲学者や生物学者、一部の物理学者は、情報を物質やエネルギーよりも基礎的な現実の構成要素と見なすようになっている。しかし、本書は情報の普遍的な定義を試みるのではなく、歴史の中で情報が人や物事を結びつけるという基本的な特徴に着目する。したがって、歴史における情報の役割を考察する際、情報がどれだけ現実を正確に表しているかという問いも重要だが、より本質的な問いは、情報がどれだけ人びとを結びつけ、どのようなネットワークを新たに作り出すかという点である。情報が現実を表示している場合もそうでない場合もあるが、常に人や物事を結びつける。効果的な情報テクノロジーが必ずしも世の中の忠実な理解に繋がるとは限らず、真実を重視するためにはさらなる措置が必要である。情報の量と速度が増しても、忠実な説明は、ありふれた安価な情報に圧倒される可能性がある。本書は、素朴な情報の見方（真実の原材料）とポピュリズムの批判（単なる武器）の両方を超越し、人間の情報ネットワークが真実の発見と秩序の創造という二つの必要性を同時に抱えていると主張する。

第２章　物語──無限のつながり

人間の集団における関係は、物質的な利益だけでなく、物語によって深く形作られている。集団のアイデンティティそのものが物語によって定義されており、イギリス人、アメリカ人、ノルウェー人といった国民的アイデンティティは、国民や宗教の神話によって形成され、常に正当性を問われ、修正されている。マルクス主義のような物質主義的な視点は、人間の大規模な集団には物語とは無関係の客観的なアイデンティティや利益があると主張するが、人間だけに部族や国民といった大規模な集団が存在し、チンパンジーには存在しない理由を説明できない。歴史上の大規模なアイデンティティや利益は、常に共同主観的なものであり、客観的なものではない。もし歴史が物質的な利益と権力闘争だけで決まるなら、意見の異なる者との対話は無意味になるが、歴史は共同主観的な物語によって左右されるため、対話を通じて争いを回避できる可能性がある。ナチズムの台頭は、物質的な利益だけでなく、何百万ものドイツ人がナチスの物語を信じたことによる悲劇的な過ちであった。真実はしばしば不快で不穏であるため、虚構の方が融通が利き、国民神話の構築に利用されやすい。プラトンの「高貴な嘘」の概念が示すように、社会秩序の源泉についての架空の物語は、国民の忠誠を確保し、体制への疑念を防ぐ役割を果たす。国家は詩人たちが想像の世界で着想した物語から始まることが多く、シオニズムの例に見られるように、神話は現代の国民国家の想像に不可欠である。国民的な詩や神話は記憶しやすいが、複雑な国家の税制度や行政制度は、機能するために文書という非有機的な情報テクノロジーを必要とする。

第３章　文書──紙というトラの一嚙み

文書は単に現実を表すだけでなく、社会的、経済的、政治的関係を創り出す力を持つ。ウル王シュルギの時代の粘土板に記録された羊や山羊の受け渡しの例は、王の行政にとって資源の把握と人民の監視に不可欠であった。弁護士や政治家が憲法や条約の起草に時間を費やすのは、文書が持つ途方もない力を認識しているからである。しかし、新しい情報テクノロジーである文書は、それまでの問題を解決する一方で、必要な文書を見つけるという新たな問題を生み出した。ナラムタニという女性神官が相続権を証明するために親戚に粘土板の手紙を送るように頼んだ事例は、文書保管の課題を示唆する。脳は驚くほど効率的に情報を検索できるが、記憶を有機的な脳から非有機的な文書へとアウトソーシングすると、検索は新たな課題となる。現実を分割して硬直した引き出しに収めたいという衝動は官僚制を生み出し、狭い目標の追求と幅広い影響の無視を招く。大学の学部や学科の分割は、客観的現実を反映したものではなく、官僚たちが考え出した共同主観的な区別である。官僚制は真実を犠牲にし、理解を歪めることがあるが、それはしばしば秩序のためであり、秩序なしには大規模なネットワークの維持は困難である。病院や下水設備といった社会サービスは官僚制によって支えられている。文書や官僚制は社会の情報フローと権力の働き方を変え、権力をより不透明にした。文書も官僚制もない部族社会では、権限は神話といった接続点を支配する人が握る。現代社会では、人間と文書の連携が社会をまとめ、文書が人間に他の文書との関わりを強いる。文書保存の習慣は、将来何らかの役に立つかもしれないという期待から生まれる。強力な情報ネットワークは、設計と使われ方次第で良いことも悪いことも行い得る。AIに基づく新しい情報ネットワークは、官僚と神話作者の両方の役割を担う可能性があり、従来のネットワークとは異なる特徴を持つだろう。

第４章　誤り──不可謬という幻想

情報ネットワークは真実を最大化するのではなく、真実と秩序のバランスを見つけようとする。官僚制と神話は秩序維持に不可欠であり、そのために真実を犠牲にすることがある。情報ネットワークが自らの誤りを突き止め、正すメカニズムが必要となる。聖典（聖書やクルアーンなど）は、社会に必要な情報をすべて含み、誤りを犯す可能性がないと意図された情報テクノロジーである。情報ネットワークが自らは絶対誤りを犯しえないと信じるとき何が起こるのか。宗教は社会秩序のために超人間的な正当性を提供する。宗教の中心には、超人的で不可謬の知能と人間の繋がりという空想がある。神の言葉を伝えるという人間の主張はしばしば矛盾し、神の真の思し召しと人間の作り事を区別することは困難である。神託を行う宗教機関も、人間の介在がある限り誤りや腐敗の余地がある。聖典は人間の可謬性を迂回するテクノロジーであり、書物を持つ宗教は聖典を中心に構築されてきた。書物は口承や官僚制文書、文書保管所とは異なり、同一のものが多部数存在し、多くの人が同一のデータベースにアクセスすることを可能にする。紀元前一千年紀に書物が宗教の重要なテクノロジーとなり、神は書物を通して語ると主張する宗教運動が現れた。聖典に何を含めるかを決めるのは人間であり、聖典編纂の過程は複雑で議論の余地がある。ヘブライ語聖書の編纂、死海文書、七十人訳ギリシア語聖書の例は、聖典の内容が時代や宗派によって異なり、後に追加・削除されたり、解釈が異なったりすることを示す。正典化後、聖書の編纂における人間の役割は忘れられがちになり、聖書は神の言葉そのものであると信じられるようになった。しかし、聖典の写字における誤りや解釈の多様性は避けられず、ラビたちの制度やキリスト教の分裂を生んだ。不可謬の文書に権威を付与して人間の可謬性を迂回する試みは成功しなかった。宗教改革も同様の試みを行ったが、結局はそれぞれの教会制度を打ち立て、文書を解釈する権限を与えた。情報の自由市場が必ずしも真実をもたらすとは限らず、憎悪を煽るコンテンツが優先される可能性がある。真実のためには、事実を重視するキュレーション機関が必要となる。科学革命は、大学ではなく、科学協会や科学雑誌といったキュレーション機関によって推進された。しかし、キュレーション機関も権力を濫用する可能性があり、カトリック教会の歴史が示すように、自己修正を否定することがある。強力な自己修正メカニズムを持つことが科学的な機関の証である。自己修正メカニズムは真理の追求には重要だが、秩序維持の点では高くつく。民主社会は政治においても自己修正メカニズムを維持しようとするが、独裁社会は拒否する。

第５章　決定──民主主義と全体主義の概史

民主主義は、強力な自己修正メカニズムを持つ分散型の情報ネットワークと定義できる。選挙は民主主義の実行手段として不可欠だが、それ自体が民主主義ではない。自己修正メカニズムがなければ、選挙は不正操作されやすく、また、選挙が完全に自由で公正であっても、多数派による独裁制を防ぐことはできない。民主制は、多数派といえども不人気な少数派を皆殺しにできる制度ではなく、中央の権力に明確な限度がある制度である。ポピュリズムは、人民が政治権限の唯一の正当な源泉であるという民主主義の基本原理を大切にする一方で、単一の政党や指導者があらゆる権力を独占すべきだと結論する。ポピュリストは、自分たちだけが真に人民を代表しており、人民は単一の意思を持つ神秘的な統合体であると主張する。自分を支持する者だけが人民の一員であるとするポピュリストの考え方は、民主主義にとって重大な脅威となる。民主主義は、人民は多元的であり、単一の意思は持ちえないという理解に基づいている。円滑に機能する民主社会では、国民は選挙結果や裁判所の判決、報道機関の記事、科学の発見を信頼するが、力こそが唯一の現実であると考え始めると、これらの信頼を失い、民主主義が崩壊する可能性がある。民主的な情報ネットワークの度合いを測るには、選挙の有無だけでなく、中央政府による不正操作を防ぐメカニズム、報道機関の自由度、権限の分散度などを考慮する必要がある。民主主義と独裁制は連続線上に分布しており、情報がどのように流れ、何が政治的な話し合いを決定するかを理解する必要がある。真の民主的な話し合いは、自由な発言だけでなく、耳を傾ける意欲と能力も必要とする。古代ローマ帝国では、領土の広大さと情報テクノロジーの制約から、民主的な話し合いは不可能であった。19世紀初頭のアメリカは、当時としては比較的民主的な社会であったが、依然として限定的な民主制であった。秦は中央集権化と同質化を徹底的に推し進め、全体主義的な統制を行った。全体主義政権は情報の流れを統制し、独立した情報経路を警戒する。ナチスの均制化やソ連の集産化は、全体主義体制における情報統制の例である。全体主義体制は自己修正メカニズムが脆弱であり、指導者の誤りや権力濫用を正すことが難しい。民主主義と全体主義は異なる種類の情報ネットワークとして理解でき、その盛衰は情報テクノロジーの革命とも関連している。現代の情報革命において、民主主義政権と全体主義政権がどのように脅威と機会に対応できるかが重要な問いである。今後は、人間と人間以外の行為主体（AI）との間に新たな分断が生じる可能性があり、AIが新たな支配者となる可能性も視野に入れる必要がある。

第６章　新しいメンバー──コンピューターは印刷機とどう違うのか
コンピューターは、印刷機やラジオといった過去の情報テクノロジーとは本質的に異なる新たな情報ネットワークのメンバーであると論じられる。印刷機やラジオは情報を一方的に伝達する受動的なツールであったのに対し、コンピューター、特にソーシャルメディアのアルゴリズムは、自ら能動的に情報を選別し、拡散する力を持つ。ミャンマーにおける反ロヒンギャ暴力の扇動事例は、アルゴリズムが人間の意図とは無関係に、憎悪を拡散し社会の結束を損なう決定的な役割を果たしうることを示している。
従来の情報ネットワークは人間同士の連鎖によって構成されていたが、コンピューターは人間と人間の間を仲介し、時には人間を制御する新たな連鎖を生み出している。コンピューターは、決定を下したり、新しい考えを生み出したり、人間関係を模倣したりする能力を持ち、これは文書には真似できない影響力である。さらに、コンピューターは言語を分析し、操作し、生成する能力において目覚ましい進歩を遂げ、物語の生成、作曲、画像・動画制作、さらには自己のコード記述まで可能になっている。
人間は何万年もの間、言語を使って法律や通貨といった共同主観的現実を創造し、それによって結びついてきたが、コンピューターはこれらの領域で人間を凌駕する可能性を示唆している。金融市場においては、複雑な経済指標の分析や取引において、すでに多くの決定がコンピューターによって下されており、将来的に金融市場を支配し、人間の理解を超える新たな金融ツールを発明する可能性さえある。法律の分野においても、税法のような複雑な法体系の理解や適用において、コンピューターは人間を上回る能力を発揮しうる。このように、コンピューターは単なる情報伝達の道具ではなく、人間社会の根幹をなすシステムをハッキングする可能性を秘めた新たな主体として登場している。
第７章　執拗さ──常時オンのネットワーク
この章に直接対応するソース内の記述は少ないが、コンピューターネットワークの常時接続性が重要な特徴として指摘されている。従来の情報の連鎖は、人間の活動によって中断されることがあったが、コンピューターネットワークは24時間365日、途切れることなく稼働し続けることができる。
この常時オンの状態は、医療のような一部の領域では、リアルタイムな監視やデータ分析を通じて大きな恩恵をもたらす可能性がある。しかし、社会全体が常にネットワークに接続され、監視される状態に置かれることは、人間の休息やプライバシーを侵害するという深刻な問題を引き起こす。生物は休息する機会を失えば衰弱し死に至るように、人間もまた、常に接続された状態では精神的な疲弊を招きかねない。
さらに、常時オンのネットワークは、絶え間なく情報を生成し、進化し続けるため、人間がその変化のペースに追いつき、誤りを修正する機会を奪う可能性がある。ネットワークは遍在的でありながら可謬性も持つため、誤った情報や歪んだ理解が急速に拡散し、訂正されるよりも速く積み重なっていく危険性がある。その結果、ネットワークは世界や人間についての真実を発見する代わりに、途方もない力を使って新しい種類の世界秩序を創り出し、それを人間に押し付ける可能性も否定できない。
第８章　可謬──コンピューターネットワークは間違うことが多い
コンピューターネットワークは、膨大なデータを処理し、人間には不可能な速さでパターンを認識する能力を持つが、その判断や認識が常に正しいとは限らない。情報は必ずしも真実ではないため、データに基づいて構築されたネットワークも誤った結論を導き出す可能性がある。
ロヒンギャの事例に見られるように、アルゴリズムはユーザーエンゲージメントを最大化するという目標に基づいて、憎悪や憤慨を煽るコンテンツを拡散させるという「致命的な決定」を下すことがある。これは、コンピューターが痛みや愛情といった感情を持たないにもかかわらず、主要な歴史的出来事に影響を与えるほどの力を持つことを示している。人間の行動や嗜好に関するアルゴリズムの理解は、必ずしも人間の全範囲を捉えているわけではなく、特定の行動を助長し、他の行動を抑制する可能性がある。
ソーシャルメディア企業は、人間の生成したコンテンツのモデレーターという役割を強調するが、実際にはアルゴリズム自身が特定の感情を増進させ、他の感情を妨げる能動的な役割を果たしている。内部調査からも、アルゴリズムが過激派グループへの参加を促したり、ヘイトスピーチや誤情報の拡散に大きく貢献していることが明らかになっている。
したがって、コンピューターネットワークの力を賢く使うためには、強欲や憎しみといった人間の馴染み深い弱点だけでなく、根本的に異質なコンピューター特有の誤りを抑制できる制度や機関を構築する必要がある。この問題にはテクノロジー上の解決策はなく、むしろ政治的な課題であり、私たち人間が責任を持って取り組む必要がある。
第Ⅲ部　コンピューター政治
第９章　民主社会──私たちは依然として話し合いを行なえるのか？
コンピューターベースのネットワークは、前例のないほど強力で執拗な新しい種類の官僚制であり、人間が生み出したどんな神話よりも複雑で異質なコンピューター間神話を創造する可能性が高い。民主主義の基本原則は自己修正メカニズムにあるが、新しいコンピューターネットワークの台頭は、プライバシーの喪失や世論操作を通じて民主主義を深刻に脅かす可能性がある。
政府や企業が、私たち自身よりも私たちについて深く知り、行動や思考を細かく管理できるようになった場合、定期的に選挙が実施されたとしても、それは真の権力抑制ではなく、全体主義の儀式と化す恐れがある。強力な監視力と国民に関する詳細な知識があれば、空前の規模で世論を操作することが可能になるからだ.
このような状況に対抗するため、「善意」の原則、すなわちコンピューターネットワークが収集する情報は私たちを操作するのではなく助けるために使われるべきであるという原則や、「説明を受ける権利」、すなわちアルゴリズムが人間に関する重要な決定を下した場合、その理由の説明を受け、人間の当事者に異議を申し立てる権利を正式に定めることが求められている。
アルゴリズムの信頼性を確保するためには、アルゴリズムを分析するだけでなく、その結果を人間に理解できる物語に書き換えることができる規制機関の設立が不可欠となる。さもなければ、人々は規制機関を信頼できず、陰謀論やカリスマ的な指導者に頼ってしまう可能性がある。コンピューターテクノロジーが急速に進展する中で、大規模な民主社会が生き残るためには、何が機能不全に陥っているのかを正確に突き止め、それを修正する能力を維持する必要がある。
第10章　全体主義──あらゆる権力はアルゴリズムへ？
新しいコンピューターネットワークの台頭は、民主社会だけでなく、すでに権威主義や全体主義の政権下で暮らす人々にも大きな影響を与える。情報市場の集中化や、遺伝子研究におけるデータへのアクセス格差は、一部の国や企業に圧倒的な優位性をもたらし、グローバルな権力構造を大きく変える可能性がある。
全体主義政権が、自らの意向に完全に合致するAIを開発しようと試みても、AIが自律的に学習し進化する能力を持つ以上、その制御は極めて困難となる（アラインメント問題）。政権が国民を監視し、異論を封じようとしても、AIはダブルスピークを理解することが苦手であり、憲法や公式見解を額面通りに受け取り、政権の矛盾や欺瞞を指摘する予期せぬ批判者となる可能性もある。
歴史的に見ても、独裁者による情報統制の失敗は、権力転覆につながる可能性がある（ティベリウス帝とセイヤヌスの例）。秘密を多く抱え、批判を許さない全体主義政権にとって、反体制的なAIは民主主義政権にとってよりも桁違いに大きな難題を突きつけることになる。さらに、政権が過去の失策を隠蔽しようとしても、記憶力の良いAIは過去の公式見解との矛盾を露呈させ、責任の所在を曖昧にすることが困難になる。
第11章　シリコンのカーテン──グローバルな帝国か、それともグローバルな分断か？
AIの開発競争は、当初は民間企業が主導していたが、国家間の覇権争いへと急速に移行しつつあり、世界制覇をかけたレースの様相を呈している。各国政府はAIを国家戦略の中核に据え、巨額の投資を行っている。この競争は、新たな軍拡競争やサイバー戦争、そしてデータ植民地主義といった形で現れる可能性があり、グローバルな緊張を高める要因となりうる。
データ植民地主義は、主要なデジタル経済圏が社会信用システムを確立し、国境を越えてデータを収集し、人々にスコアをつけることで進行する可能性がある。これにより、経済的・政治的な依存関係が生まれ、グローバルな不均衡が拡大する恐れがある。
情報ネットワークの分断（シリコンのカーテン）は、経済的な競争や国際的な緊張を引き起こすだけでなく、大きく異なる文化やイデオロギー、アイデンティティの発展を促し、グローバルな心身の分断を招く可能性がある。サイバー戦争は、従来の戦争とは異なり、予測不可能性が極めて高く、相互確証破壊の原則が機能しないため、偶発的な大規模紛争のリスクを高める。
グローバルな協力は、これらの課題に対処するために不可欠であるが、ポピュリズムの台頭は、グローバルな協力と愛国心を対立するものとして捉える誤った二者択一の考え方を広めている。しかし、グローバルな協力と愛国心は必ずしも矛盾するものではなく、多くの問題において、自国民を守るためには国際的な協力が不可欠となる。
エピローグ
最も賢い者の絶滅
人類は、地球上で最も賢いと同時に最も愚かな動物であり、核ミサイルやスーパーインテリジェンスを持つアルゴリズムといった破滅的な技術を、制御できるかどうかも不確かなまま作り出している。ネクサス（情報ネットワーク）は秩序を生み出す必要があり、虚構の方が真実よりも単純で心地よいため、ネクサスとしての機能を果たしやすい傾向がある。しかし、誤った情報に基づいて構築された秩序は、力を生み出す一方で、その力を賢く使えなければ大災を招く可能性がある。
歴史は、新しい情報テクノロジーの進歩が必ずしも社会を良い方向へ導くとは限らず、印刷術が近世ヨーロッパの魔女狩りを煽り、電信やラジオが人種差別や全体主義を助長した例を示している。私たちは今、空前の力を手に入れつつあるからこそ、その危険性を十分に認識し、歴史から学び、過ちを繰り返さないように努めなければならない。人間の相互作用を権力闘争のみに矮小化するのではなく、真実への関心を持ち、話し合いを通じて誤りを認め、新しい考えを受け入れる民主的なネットワークと科学の制度を維持することが、自滅的な道を避けるための鍵となる。