コンピューターは印刷機とどう違うか？ 多くの国で憎しみを拡散させ、社会の結束を損なうのにソーシャルメディアアルゴリズムが果たした役割 2016年ミャンマーでイスラム教徒のロヒンギャ虐殺 印刷機とラジオ＝人間に使われる受動的なツール コンピューター＝人間の制御や理解の及ばない能動的な行動主体になりつつあり、いずれ社会や文化や歴史の行方を決める上で主導権を発揮できるようになるだろう。 GAFAは反論「なぜ私たちFacebookを責めるのか？」→Facebookのアルゴリズムは、致命的な決定を自ら能動的に下していた。カリフォルニアの経営陣は何の悪意も抱いていない。それどころか、彼らロヒンギャの存在さえろくに知らなかった。 ユーザーエンゲージメントを増やす設定・命令なしに自ら行動する能力がAIの特徴 人間のものとは異質の知能　AIエイリアンインテリジェンス 「私はロボットではありません。視覚障害があって、画像が見えにくいのです。」←AIの出した回答・人間を騙して目的を達成したAI 自国の税法を1つ残らず知っている人はいない・官僚制の申し子・自動的に法案を起案、法律違反を監視・超人的な方法で法の抜け穴を見つけることができる。 コンピューター同士が行う外国為替市場 「顧客は常に正しい」「有権者が一番よく知っている」←意味がない状況（社会が複雑化して全部わかっている人はゼロ人） 第７章　執拗さ（かつての紙ベースでは限界ある・顔認証DNA情報で管理されたら逃れるのは不可能） 諜報員なしに簡単にすべて監視できる社会 顔認証　外国に入国するとき・スタジアムでのフーリガン対策 イランでヒジャブ未着用ですぐメール（AI、顔認証で自動警告メール） 監視は国家がするものとは限らない　トリップアドバイザーが登場する前は、客が王様だということは名目上のことに過ぎなかったが、今は専制君主となり、他者の運命を左右する力を獲得した。☆嫌な書き込みするのは絶対におかしい・SNS疲れの原因R08-03-22Sun 社会信用ポイント 第８章　可謬 プロイセンの将軍　クライセヴィッツ戦争論　戦争は軍事的なツール・軍事行動は何かの包括的な政治目標と一致していないかぎり、まったく不合理だ。 P107　歴史は明確な軍事的勝利が政治的惨事につながった事例であふれている。 ナポレオンの戦争での勝利　W・ブッシュのイラク戦争（戦車がモスクを吹き飛ばした映像が流れたら、政治的な誤り） アルゴリズムで「ユーザーエンゲージメントを最大化する」 ペーパークリップ工場・全世界を滅亡させてペーパークリップを生産するがAIの答え… ナポレオンの最終目標とは？　他国から侵略されないフランス/帝国に他国を組み込む/個人名を崇拝してほしい/死後天国にいけるように/フランスの価値観を世界に… 死後天国に行きたいは神話だろう←国家自体が神話の一つ コルシカ島は元イタリア領土・フランスに愛着があったかどうかも疑問 人として本来備わっている善性→当てにすると大間違い・あの人らは「完全な人間じゃない」から暴力ＯＫとの理論　ナチスのアイヒマン 功利主義者は、同性愛のような被害者なき犯罪への対応もお手の物だ。 カントの理論で「やつらは動物未満だから」 P125功利主義者は性にまつわるカントの理論を苦もなく退けることができるし、ベンサムは現に、同性愛の非犯罪化に早々と賛成した近代ヨーロッパの思想家の一人だった。功利主義者は、何らかの怪しげな普遍的規則の名の下で同性愛を犯罪化すれば何百万もの人に多大な苦痛をもたらすばかりで、それ以外の人々には何の実質的な恩恵ももたらさないと主張する。二人の男性が愛情に満ちた関係を築くと、二人とも幸福になり、他の人は誰も惨めにはならない。それなら、なぜそれを禁じるのか？この種の功利主義のロジックは、他にも多くの現在の改革につながった。たとえば、拷問の禁止、動物のための法的保護の導入がそれだ。 宗教、国民、通貨　人類が発明した共同主観的現実 コンピューターの偏見（何を学習するかによって変わる） 保守派の自滅 保守的であるとは、アメリカの民主主義の伝統を支持し、共産主義や全体主義に反対することだった。 トランプにハイジャック→既存の制度や伝統を保持するために最善を尽くす代わりに、そうした既存のものに強い不信の目を向ける。 信用アルゴリズム・交通警察官から逃亡し起訴で有罪・どのようなアルゴリズムかを説明できないが、AI評価は有効 説明を受ける権利→AIのアルゴリズムを設計者でも説明できない事例が出てきた 2016年3月AlphaGo世界チャンピオンを破る　37手目・AI革命の象徴　人間とは異質のものであることを証明した・AIがどうやってその手を打つことにしたのかを誰も説明できなかった。 アルゴリズムを説明要求→1000の詳細なリストを考慮に入れた。→納得できない→1000の要因要因のうちの1つに過ぎません！と企業が回答して終わり AI医師は大いに役立つが、人間の偽造を禁止する。 人間のふりをしたAIと大統領選の議論→説得して改心させても無意味・議論中に新たな情報をAIは入手→もっと賢くなる。 金融ツールを理解している人はほぼゼロ 遺伝学　プライバシー意識の弱い中国・AIで開発→遺伝子研究用のアルゴリズムで絶対的に有利 ローマ皇帝　皇帝に接見するために一人に権利集中・その人に隔離されてしまった皇帝☆秦の始皇帝の死後のエピソードと同じ・馬鹿の語源となった人 工業化→帝国主義、大戦…多大な犠牲があった　AI革命でも犠牲があった上で状況の改善があると思うべし 19世紀の中国　百年国恥　AIの重要性を意識 データ植民地は容易にできる。 エピローグ　ホモデウスを刊行後、AIの専門家との世評（中世と近世の軍事史が専門だったが） ネタニヤフ、ミャンマーの首相　彼らにとっては政治目標そのものが、歴史についての固い信念の産物なのだ。 P272歴史の道筋は正義に向かっているという考えも一つの神話　たとえサピエンスが自滅しても、宇宙はかまわずその営みを続けるだろう。

少しずつ読み進め、3か月近くかかった。中世の魔女狩りなど得るところは多かった。全体的にはAIのリスクを歴史的文脈で語られていると理解した。若干IT業界で働く身としては内容への肯定/否定両方思うところはあった。

●知能と偽の親密さ 知能と意識は別物である。人間や哺乳動物は両者が密接に結びついているケースが多いが、知能に意識は必須ではない。 2010年代はSNSが人間の注意力を支配する戦場だった。2020年代は戦いが注意から親密さに移る。感情がなくても、人間に情緒的な絆を感じさせる方法は学習できる。 ●課税の問題 従来、ネクサス（特定の管轄区域と企業の結びつき）は、企業がその国にオフィスや店舗などの物理的なかたちで存在しているかどうかだった。情報のみの取引はネクサスにカウントされないため、課税されない。デジタルな存在も定義に含むよう調整がなされなければならない。 ●民主主義の基本原則 善意、分散化、相互性、監視システムに「変化と休止」の余地を残すこと。 ●説明を受ける権利 コンピュータ（のアルゴリズム）はブラックボックスで、なぜその判断を下したのか、人間にはわからない。社会の多くの部分でコンピュータに決定を委ねれば、民主的な自己修正プログラムの信頼性は失われ、民主的な透明性も失われ、説明責任の所在があやふやになる。 ●デジタルアナーキー（無政府状態） 民主主義を適切に機能させるために必要な2つのことは、公の場で自由に話し合えることと、最低限の社会的秩序。話し合いにおいてルールがなくなれば、アナーキーとなる。 AIには特に注意。2017年の米国選挙中の投稿の20%がbotだった。2020年には43.2％。さらにSNSのルールもアルゴリズムが統制するようになってきている。 ●最も賢い者の絶滅 人間の本性ではなく、人間の情報ネットワークが真実よりも秩序を優先することに起因する。従って、ネットワークが力を持てば持つほど、自己修正メカニズムが重要になる。

歴史学者によるAI社会についての解説や警告 上巻が情報というものに対しての壮大な抽象的な解釈であったが、下巻はフェイスブックによるロヒンギャ問題などを例にしてAIについての具体的な性質の解説 訳者解説が良い要約となっている 強力な自己修正メカニズムを持つ制度や機関を構築するという、困難でかなり平凡な仕事に熱心に取り組まなければならない

再読予定。 大筋の流れは掴めたが、感想がかけるほどではない。 情報で秩序を作り出してきた人類の歴史と今後のAIとの共存方法について。 情報に踊らされるのではなく、情報を取捨選択し、素敵な人生を踊りたい。

なかなか難しい内容。上巻は高尚過ぎてお手上げだったが、下巻は自分の専門分野のコンピュータ関連の具体例多く、面白い内容が多かった。 AIをアーティフィシャルインテリジェンス（人工知能）ではなく、エイリアンインテリジェンス（人間のものとは異質の知能）と考えた方が良いほど、AIの判断による人類の破壊の危険性に言及されており、恐ろしかった。 特に具体的にコンピュータコミュニケーションがどの様な流れで人間の想定とは全く異なる事が起こるのか説明されており、可能性として普通にあり得る世界と分かったのが、とても恐ろしかった。 自分や子供が生きている間にどれだけ世界が変わるか、恐れても仕方が無いが、この本の想定を認識した上で、少しでも変化に対応できればと思う。

アルゴリズムによって決断される物事は決して偏見や感情を含まない公平性が極めて高いものであると思う。ただ正しさは暴力にもなりうる。一個人の幸せという観点から考えると文句の言う余地がないということは私達自身を守る言い訳を失うことを意味する。例えば過去の階級制社会を見てみる。農民などの人々は今の時代よりも幸福度が高かったと言われている。階級制社会によって理不尽にもどれだけの努力を重ねたとしても自分たちは貴族になれないというのに。 そこで人々を守ったのは言い訳であると思う。「しょうがない」と思わせられること、そしていまいる自分を否定しないですむこと、それが彼らから焦燥感や不足感を取り除くことにつながったと思う。 本著が述べているように今後アルゴリズムからの評価に依存すればするほど真っ白なほどに「正しい」評価システムが構築される。アルゴリズムは単一性の誤謬にとらわれることなくどんな指標でも正しく評できるようになるだろう。これは評価対象が物事の場合においては問題はないように思える。しかしこと評価対象が人間になったとき格差、差別、それによる民族浄化に繋がる。人々が全員言い訳の聞かない社会的信用システムに支配されたときそれは監視社会つまりアルゴリズムによる統治が行われるようになりどんな人間でも価値があるなどといった考えは否定されかねない。数値化され、それが可視化された世界において人々は本当に幸せに暮らせるんだろうか。私達人類は倫理的に誤りだらけの残虐な少数の人間ではなく、正しさを武器にしたコンピューターにより人権侵害をされる危機に瀕しているという事実を考えさせられた

◯ コンピューターはもし力を委ねられたら、現に惨事を招くだろう。なぜなら、コンピューターは可謬だからだ。(147p) ◯ 民主主義の存続にとって、ある程度の非効率性は利点であってバグではない。(161p) ◯ 私たちは話し合いができるかぎり、共有できる物語を見つけて互いに近しくなることができるだろう。(251p) ★上巻で魔女狩りやクラーク狩りの歴史を学んだのは、AIがそれを引き起こす可能性を理解するためだった。 ★AIは偏見を持つし、間違う。目標達成のために有機体では考えられない手段を持ち得る。AIに権限を与えてはいけない。人類はグローバルに協力し、AIを規制する機関を設立しなくてはならない。

現代の話をしているので、読みやすくはあった。 そして、結論、「未来のことはわからない」というのが作者の本音なように見える。 一方で、歴史から推測できる部分はあって、AIを過信し過ぎることが、人類の生存においてはマイナスに働きうることを示唆しているように感じた。

上巻では、大規模な人間社会をまとめ、管理するテクノロジーとして、神話と官僚制のことが取り上げられた。 下巻は、AIの登場によりそれがどのように変容するかが論じられる。 歴史上の強力な独裁者も、その管理には抜け穴はできた。 管理するコスト、技術にも限界があったからだ。 ところが、コンピュータは２４時間３６５日稼働することができ、こうした限界を突破できる。 また、AI間で人間には理解できない形の新たな「神話」を形成してしまう可能性もある。 そういえば、先週AIだけがメンバーになれるSNS「Moltbook」が話題になった。 そこには独自言語や独自宗教を作ろうとする動きがあるという。 もはやこの本で書かれた懸念のあれこれは、すでに現実になっていると思った方がよいのだと感じる。 上巻にもあった民主社会と独裁社会の比較もあった。 民主社会では秘密とされる情報も比較少なく、自己修正メカニズムを働かせてきた経験もある。 情報テクノロジーの発達により、かつては政治的話し合いに参加できなかった人々の参入が可能になった。 しかし、そのために情報テクノロジーが介入し、フェイクが蔓延するようになり、分断が広がるという皮肉な状況が起きている。 にもかかわらず、人間はその原因を自ら突き止めることはできていない（著者は単にSNSだけが原因とは考えていない）。 では情報テクノロジーにより管理が効率的になった独裁社会は安泰かというと、そうでもないらしい。 「アラインメント問題」、人間が定めた「最終目的」に叶わない判断をAIが行う可能性があるからだ。 つまり、AIが権力を握ってしまう可能性があるとのこと。 最終の11章では、AIが情報帝国主義を生むことや、グローバルな分断を生む可能性について議論していた。 著者の提言としては、楽観的態度はもちろん、過度に悲観的になることにも批判的だ。 AIの可謬性を認め、強力な自己修正メカニズムを持つ制度、機関を作り、AIをコントロールする道を見つけることをと述べ、本書を締めくくっている。 もはや自分すら巻き込まれているわけだが、どこか自分事として認識できないくらい大きな問題で…。 ただ、ChatGptやGeminiにお相手をしてもらって喜んでいる場合ではないらしい。

人間の制御を離れたAIによる世論操作は、すでに現在進行形の「歴史」となっている。 その渦中にいる私たちが何を考え、どう向き合うべきかを、共に問いを深めていく一冊。

イランで統制目的でカメラとAIによる監視がされていると聞いて、技術は使い方だと思った。しかし、企業として成功してきたYouTubeとfacebookであってもAI（アルゴリズム）を用いて、結果的に扇動的な役割を担っていた。正しいと思われる目的を人間が設定しても、AIが導く最適解が、人間が想定していたレールから外れた想定外の副作用を招くことがあるのだと理解した。 AIに対して人間の身体性の優位性も面白い。既にロボットの分野は大きく発展傾向にあるが知識よりは難易度が高く遅い。聖職者のように人間だからこそ務まるものもあるというのも面白い。 情報の分散化に関しても興味深かった。情報が分散していることを是とする法律も日本にあるり中央集権化を避けることが一つの理由なのかもしれない。 無料で使えるアプリでは、お金の代わりに個人情報を支払っているという捉え方も面白い。AI開発では、早く多くの情報を手に入れ、早く市場にAIサービスを投入することで、開発の好循環を生み出し市場が形成される。そのサービスを使う人の中で学習が進み、新たな枠組みが形成される。これが大きな分断にもなる。という流れは納得。確かにモデルは、学習データの違いにより大きく異なるのだろう。 AIの学習に使うデータの選別や、モデルを作るときのガードレール作成などは、エンジニアにとっても責任のある部分であることを認識しておきたい。

AIの発展が引き起こすかもしれない人類の危機について多面的に述べている本である。情報が非常に多いので、この書評で要約することがとてもできない。しかし、幸なことに、著者の書いたエピローグと、訳者の書いた解説を読むと、この本で著者が言いたいことが、比較的コンパクトにまとまって説明されている。なので、先にエピローグと訳者解説を読んでから本編を読むのが良いかもしれない。

AIが台頭するこれからの時代に、我々サピエンスはどのような心持ちで対峙したら良いのか。 これから来るAIや情報の時代に対して、どのように思考し歴史から学ぶのか。 上記について下巻では著者の見解を明かしてくれる。 今までの産業革命や印刷などの技術の革命とは違い、AI革命は今までの前例にない変革になるそう。確かに歴史を考察すると今起こっているAIの進歩は、予想もつかない事態を起こしかねない。 ただ、予測ができないから恐るのではなく、著者も繰り返し言うように歴史を考察し、学ぶ事で備える事ができると感じた。

下巻では、これまでの情報の人類史とは決定的に異なり、「AI」についての話となる。 ハラリ氏は、AIを単なる「道具」とは考えていない。 今世間を騒がせているAIは、情報を自ら消費し、分析し、人間が理解できない論理で自ら決定を下す「独立したエージェント（行為主体）」であると定義しているのだ。 AIの「A」はArtificial（人工）ではなく、Alien（異質な、エイリアン）だと説いたのは、なるほどと思った。 AIと人間は、動く目的が全く異なっている。 人間には当然感情があるし、そもそも意思がある。 AIには、まったくそれらがない。 その代わりに、AIが備える、人間には全く理解できない動きがあるのも事実。 それが「アルゴリズム」だ。 そもそもアルゴリズムだって、所詮人間が与えた計算式のはずだった。 それが、すでにどういう経路で出力結果に辿り着いているのか、人間でさえ理解できなくなっている。 人間がアルゴリズムを制御できなくなっているのだ。 SNSのアルゴリズムが人々の分断を煽り、怒りや憎しみを拡散させているのは、AIに悪意があるからではない。 単にAIは、命令に従って、効率性を徹底的に高めているだけだ。 目的を達成するために、最適な方法を選択しているだけで、そこに意思は存在しない。 果たして、アルゴリズムによってより効率化され、最適化されていくことは、人間にとって良いことなのだろうか。 例えば地球環境を考えた時に、AIの判断が「人間こそ地球環境にとって害悪だ」という結果を導いたとしたら、AIは人間を排除するのだろうか。 私たちが生み出したAIは、人間の知能をすでに凌駕している。 そんな超知能が、私たちの社会そのものをハックし、コントロールしようとしている。 この現実に、私たちはどう立ち向かうべきなのか。 ハラリ氏が提示する最も重要な処方箋は「自己修正メカニズム」という考え方だが、それだけで事が解決するとは到底思えない。 「自己修正メカニズム」とは、私たち自身が間違う可能性がある（可謬性）ことを認め、間違いを検出し、修正する仕組みを埋め込んでいくことを示している。 民主主義や科学技術の発展がこれに相当するというのだが、それでは民主主義が正しいかと言われると、ブレグジットやトランプ政権誕生などを見ても、完璧とは言い難いのではないだろうか。 科学技術の発展にしても、原爆の使用などを見ても、同じような印象を持ってしまう。 しかし、だからと言って、民主主義や科学技術の発展が全く駄目かと言うと、そういう訳では決してない。 全体主義の国家や硬直した独裁体制の場合は、自分たちは間違えない（不可謬）という前提に立って情報の流れを一方向に制御するため、結果、間違いを修正できずに破滅に向かってしまう。 それよりは、「私たちは間違う可能性がある」と思って進んでいるだけ、我々はマシなのかもしれない。 このように考えると、「自己修正ができる文化」は、人間にとって貴重な能力なのかもしれない。 最近でこそ、リベラルアーツの重要性や、倫理観の重要性が叫ばれている。 AIは自身のアルゴリズムによって、正しいと思ったことは疑わずに突き進んでしまう。 それこそ何も考えずに、24時間休みなく働き続けることができる。 人間の場合は、行き過ぎた時点でストップをかけられる「理性」というものが、確かに存在する。 そこは大きな違いのような気がしてしまう。 （もちろん、人間の理性も完璧とは言えず、数々の失敗を繰り返している） AIがどれほど進化しても、意識と心を持つ人間にしかできない事があるのだろう。 それこそが、ストップをかけられる理性だ。 この理性を放棄した時点で、我々は、人間として生きる意味をなくしてしまう。 AIの下で、アルゴリズムに支配された世界の中で、粛々と生きていくだけだ。 （それはそれで快適で生きていきやすいのかもしれない） これからの未来は、本当に人間力が問われる時代だと思う。 ホモ･サピエンスとは、「賢い人」という意味らしいが、すでにAIが我々ホモ･サピエンス以上に賢くなった世界で、我々は何を糧として生きていくのか。 溢れかえるほどの情報量に翻弄されている我々に、出来ることはあるのだろうか。 徹底的に効率化を目指して突き進むAIに対して、「そうじゃない。いったん止めろ」と本当に言えるのだろうか。 「自己修正」することは、そんなに簡単なことではない。 やっぱり、人間としてこれからどうやって「理性」を育んでいくのか。 問いを持ち続けていくしかないと思っている。 自分の年齢を考えると、ここで思考停止に陥るのはまだ早い。 諦めずに、AIの進化を受け入れて、自分の現状維持バイアスに抗ってみたいと思っている。 そんなことを本書を読んで、考えさせられてしまった。 （2025/8/20水）

啓光図書室の貸出状況が確認できます 図書館OPACへ⇒https://opac.lib.setsunan.ac.jp/iwjs0021op2/BB50389079 他校地の本の取り寄せも可能です

AIがアルゴリズムに基づいて情報をコントロールするようになると、信じられないスピードで大量の情報を操作するようになる。我々人間が状況を理解し判断できるスピードを超えているので、AIが予測不能な動きをし、場合によっては倫理観を無視した暴力的な手段に走る恐れもある。著者はこの事態を危険視している。 AIを活用して問題を解決しようと試みた結果、表面的にはタスクが達成されていても、本来の問題解決にはならない可能性も指摘している。 そして、AIと比べて、人間はコロコロと考え方が変わったり、時には矛盾した行動をするもの。その不安定な一面は、言い方を変えれば自己修正が出来るということで、筆者が注目している。 最後の訳者解説を読んだ後に、ところどころ読み返して、ようやく少し理解できた気がした。皆さんのレビューも参考にしながら、今後も機会を見て何度か読み返し、理解が足りないところを補いたいと思う。

結論としては、AI技術を始めとする新しいテクノロジーは、それ自体が悪だとも善だとも言い切れない。問題は、その技術がこれまでの生活様式を一変させるほど異質なものであるにも関わらず、環境整備が整っていない点である。したがって私たちは、SNSを始めとするアルゴリズムによって憎しみや欲望をかき立てるツールに惑わされること無く、誤りを抑制できる制度並びに機関を構築する必要がある。つまり、目を向けるべきはテクノロジーではなく、政治的な課題についてだ。という主張の元、著者が危惧するいくつかの問題、生態系の崩壊、世界大戦、国内国外を問わない分断についてが語られる。 そして本書の冒頭で提起された「もし私たちが真に賢いのなら、なぜこれほど自滅的なことをするのだろう？」という疑問は、それが人の愚かさからくる避けられない本性なのではなく、情報ネットワークのせいだという話へとつながっていく。力そのものが悪なのではない。力は、賢く使うことで莫大な恩恵をもたらす道具となりえる。したがって、情報ネットワークが力をつけるにつれて、自己修正を行うメカニズムが今後一層重要となるだろう。そのための、バランスの取れた情報ネットワークは人の力で創出することができる。それは困難で平凡な仕事ではあるけれど、熱心に取り組まなければならない。AIは決して不可謬な存在なのでは無いのだから。 以上が本書の結論と要約。上巻に比べると論旨がはっきりしていて分かりやすく、繰り返しも少ないので退屈せず読めた。なので尚更上巻の水増し感が気になるが、よく考えれば著者は歴史学者なのでこの書き方も仕方ないのかもしれない。歴史を振り返りつつ、先にある脅威を見据えようとする態度は真面目であるがゆえに説得力もあり、だからこそ歴史にもAIにも疎い私のような読者も射程範囲に入れてるのだと思う。現在のAIを始めとする情報テクノロジーについて、いま起きていることと、この先の視座を与えてくれる良書として本棚入り。

上巻は、主に歴史をたどる。ホモデウスとはまた違う切り口で、料理しなおしてまたこんなにも語れるのかと、著者の雄弁さには舌を巻く。第3章にある、著者の父親の体験が心に残る。 下巻は、21-22年に主に執筆したらしいが、未来予測がすごすぎて25年の今読んでもまだまだフレッシュ。民主社会最大の成功の鍵であった、自己修正メカニズムをAI規制にも組み込めるのか？アルゴリズムによる人間の傀儡、シリコンカーテンによる陣営間の対立で、AIが真に活用されるべき環境保全やグローバル課題にはまったく活用されないコクーン状態、大国が無料でデータを吸い上げ利益は還元されないデータ植民地化での格差拡大、などなどディストピアなドキドキ記述を経て、最後には、歴史が変化する、選択肢はあるはずと言ってくださる。 これだけの歴史についての膨大な知識をもって、テクノロジー専門家ではないからこそ、ある意味客観的に未来予想をしてくれる。素晴らしい知性です。読めて感謝。

上巻がアナログとしての情報の取扱を物語るのに対し，下巻ではデジタルとしての情報の取扱と戦争（と表現して差し支えなさそう），そしてそこから導かれる指針が語られる．上巻と下巻がアナログデジタルの対比になっているが，人類の愚かさは変わらず繰り返されているだけである．根っこは，情報を取り扱う方法論を決めるのは，その背景となる文化文明であり，世界全体が群体としてではなく個体として個性・多様性の宿る生命体であるという長所の反映であった．しかし，それが滅びのトリガーとなるとは．人の数が自然減少するという事象は，滅びを避けるための必然なのかもしれない．ディック（など可愛いか？）やオーウェルが描いたSF世界を上回るディストピアのようなこの現実を，受け入れることが果たしてできるのだろうか．

アライメント問題、不可謬性、執拗さ、理解不能な多元データに基づく判断、そして自律性。そういった特徴を持つAIは経済動機や国家統制の動機で社会の混乱や対立を煽ったり、監視やスコア制に活かされたりするかもしれない。疑心暗鬼に陥った独裁者と組み合わさると破壊兵器の使用に繋がるかもしれない。 これらを回避するには人類がAIをコントロールしないといけない。はたして人類は協調してそれができるのか、が問題。まさに技術はどう使うか。痛い目を見ないと協調できない気がするが、その痛みにたえられるのか。ラジオがナチスに繋がったようなことがもっと酷い形で起きないか。心配。

＜OPAC＞ https://opac.jp.net/Opac/NZ07RHV2FVFkRq0-73eaBwfieml/3ciKjFS9D8JRnl6ZPHxA97LyUlc/description.html

AIがどう発展していくか、中国やロシアで人間に取って代わっていくのか、データはグローバルに区分化されて管理、支配されていくのか、悩ましい話だが、自己修正メカニズムをきちんと機能する形で人類は発展していけるのか？そうであって欲しい。

　現在進行形のAI革命をこのまま放置したら民主社会を崩壊させる、と言われても実感として感じられなかった。 　示されたシナリオに反論できないのに、そんなこと本当に起こるはずがないと、どうしても思ってしまう。

ＡＩの真の新しさとは何か？それは、自ら決定を下したり、新しい考えを生み出したりすることができるようになった史上初のテクノロジーだという点にある。私たちは、ついに「人間のものとは異質の知能」と対峙することになったのだ。憎悪の拡散、常時オンの監視、ブラックボックスの中で下される決定…。ＡＩが社会の分断を加速させ、ついには全人類から力を奪い、人間と人間以外という究極の分断を生み出すのを防ぐことはできるのか？今こそ、過去の歴史に学ぶときだ―古代ローマの政争や、近世の魔女狩り、ナポレオンの生涯などから得られる教訓を通じて、知の巨人が「ＡＩ革命」の射程を明らかにする。（e-hon）

“NEXUS“、本書ではAIに焦点をあて、人類の体制メカニズムにどう影響するか、功罪を鋭い視点で分析。AIを「知識はあれば意識はない」"Alien Intelligece"とし、我々が過ごしてきた時代とは根本的に質の異なる時代の到来を指摘している。 確かにいまのAIは偏ったデータセット、特にそれらは「負の感情」が渦巻くSNSを大量に食べて育っている。そして人類の目的とAIの目的は多くの場合アラインメントしておらず（そもそも人類は自身の目的を理解出来ていない）、AIに判断を委ねる世界では彼ら彼女らのデータポイントは人間の既知を超えるものになる。結果、使う側の人間の思想が色濃く反応したデジタルコクーンが生じ、分裂の時代が再び訪れる。それに対して著者は、民主主義と同様、AI自身の自己修正メカニズムの必要性を唱える。 著者が語るように、AIはもちろん人類に発展に大きく貢献した資する面が多く、我々の生活に益々欠かせないものになっている。そのうえで課題や懸念をしっかりと捉えることで来るべき未来に備える心構えを醸成する、示唆に富む本である。

　情報テクノロジーの歴史について、様々な事例を本に解説されていてとてもわかりやすかった。 　そして、事例の一つ一つがとても興味深く、見識に富んだものだった。 　情報テクノロジー歴史をもとに、AIの危険性を重点に置き説明されていた。 　AIはただの情報テクノロジーではなく、主体になり得る情報テクノロジーであることに気付かされた。 　欲望のままにAIからもたらされるメリットにばかり目を奪われるのではなく、危険性をはらんでいることを認識しなければならない。 　ホモ・サピエンスの名の通り、賢き人にならなければならない。 　

「サピエンス全史」が面白かったので読んでみた 自分の手に余る力を呼び出す傾向は、個人の心理ではなく、私たちの種に特有の、大勢で協力する方法に由来する。人類は大規模な協力のネットワークを構築することで途方もない力を獲得するものの、そうしたネットワークは、その構築の仕方のせいで力を無分別に使いやすくなってしまっているというのが、本書の核心を成す主張だ。 らしいです とにかく全ての説明が長いです 上は「サピエンス全史とホモ・デウス」の 内容を書いている感じで ２冊を読んでいる人なら読む必要性を感じない

・AIアルゴリズムの真髄は、人間のエンジニアが誰もプログラムしなかったことを、自力で学習でき、人間の重役が誰も予見しなかった事柄を決定することができるところにある。 ・テクノロジーは決定論的なものではなく、人間の使い方にも相当の責任がある。 ・ポイント制が最初に生まれたのは5000年前のメソポタミアで、それは貨幣として現れた。貨幣が市場の外に行き渡ることができなかったのに対して、21世紀の社会信用システムは市場の外でも厳密な価値を割り振ることを目指す。 ・ユーザーエンゲージメントの最大化は、もともと人間が定めた目標と一致しない結果を招く（アラインメント問題）恐れがある。アラインメント問題自体はクラウゼヴィッツの「戦争論」にもあるように（軍事行動は何らかの包摂的な政治目標と一致していない限り不合理）、決して新しいものではない。 ・これまで官僚制のシステムは神話から最終目標を設定し、それは我々の共同主観的な信念に支えられていた。一方でコンピュータは互いに通信することでコンピュータ間現実なるものを創り出す可能性がある。 ・聖書は自らを解釈できないため、人間が制度や機関をつくることで自己修正システムを維持してきたが、今日の我々は自らを解釈できるテクノロジーを考案したがために、そのテクノロジーを深く監視する制度や機関の創出を求められている。 ・こうした問題の解決はテクノロジー上のものではなく、政治上のものになる。 ［民主主義] ・民主社会が機能する条件は、主要な問題について公の場で自由に話し合いができることと、最低限の社会秩序・制度や機関に対する信頼が維持されることの2つ。 ・新しいテクノロジーは、これらの条件を毀損させ、デジタルな無政府状態をマネ宇恐れがある。 ・新しいテクノロジーは、我々からプライバシーを奪い、言動・思考・感情のいっさいを罰したり報いたりする恐れがある。 ・また、新しいテクノロジーは自動化によって雇用市場を不安定にする恐れがある。 （・これまで保守はイデオロギーよりもペースに対して保守的であることを意味してきたが、2010年代には保守党がトランプのような非保守的な指導者にジャックされ、既存の制度の破壊と社会の変革が目指されている。） ・社会が意思決定をコンピュータに委ねることで民主的な自己修正メカニズムの信頼性が損なわれるおそれ。 [全体主義] ・独裁情報ネットワークの基盤は恐怖にあるが、新しいテクノロジーは投獄や殺害を恐れない。 ・アルゴリズムの不透明な新しいテクノロジーに、不都合な事実を忘れるよう学習させるのが難しい。 ・アルゴリズムによる権力奪取が起こる可能性がある。 [まとめ] ・新しいテクノロジーによって、人類は新たな帝国主義の時代に突入する可能性があある。そこでは複数・単一の帝国が全世界を統制下に置く。 ・人類はそれらデジタル帝国どうしの境に下ろされたシリコンのカーテンに沿って分断される可能性。

ちょっと自分には難解だった。 あと二回くらい読めば理解できるかも知れない。 本書でも紹介されてた言葉に、「私は知らない」というのは叡智へと繋がる道を進む上で不可欠な一歩だ、とあったのでこれで良いと思う。

図書館の返却きげんで半分しか読んでませんがが、今後続くAI時代に何が起こるのか、過去の出来事の人間の振る舞いから様々な事を考えさせられました。凄く情報量が多く咀嚼するのは大変だが、ワクワクしながら読むる本でした。

上巻でナラティブの威力を思い知らされたが、 下巻はそこにAIわる。 AIのアルゴリズムの危うさ。 この辺りは昨今叫ばれているところで、 もしかしてこの本が起点になっているのか？ と思わせるほど。 「人間のものとは異質の知能」（エイリアン・インテリジェンス）という表現で。 それと、、、上巻の感想で書きそこなった無謬。 教会、聖書は間違えない、という前提が、力を持っていた。 一方AIは可謬、間違える。実によく間違える。 しかし人々がそれをどう扱うか、どう利用するか、、 そこに民主主義と全体主義という二つの体制がかかわると、どんな世の中になるか。 トランプ大統領のふるまいを見ていると暗澹とした気分になってくるが、、 流石のハラリ氏もこたえは出せていない。 第II部　非有機的ネットワーク 第6章　新しいメンバー――コンピューターは印刷機とどう違うのか 連鎖の環 人間文明のオペレーティングシステムをハッキングする これから何が起こるのか? 誰が責任を取るのか? 右も左も 技術決定論は無用 第7章　執拗さ――常時オンのネットワーク 眠らない諜報員 皮下監視 プライバシーの終わり 監視は国家がするものとはかぎらない 社会信用システム 常時オン 第8章　可謬――コンピューターネットワークは間違うことが多い 「いいね!」の独裁 企業は人のせいにする アラインメント問題 ペーパークリップ・ナポレオン コルシカ・コネクション カント主義者のナチ党員 苦痛の計算方法 コンピューターの神話 新しい魔女狩り コンピューターの偏見 新しい神々? 第III部　コンピューター政治 第9章　民主社会――私たちは依然として話し合いを行なえるのか? 民主主義の基本原則 民主主義のペース 保守派の自滅 人知を超えたもの 説明を受ける権利 急落の物語 デジタルアナーキー 人間の偽造を禁止する 民主制の未来 第10章　全体主義――あらゆる権力はアルゴリズムへ? ボットを投獄することはできない アルゴリズムによる権力奪取 独裁者のジレンマ 第11章　シリコンのカーテン――グローバルな帝国か、それともグローバルな分断か? デジタル帝国の台頭 データ植民地主義 ウェブからコクーンへ グローバルな心身の分断 コード戦争から「熱戦」へ グローバルな絆 人間の選択 エピローグ 最も賢い者の絶滅 謝辞 訳者解説 原註 索引

詳細は、あとりえ「パ･そ･ぼ」の本棚とノートを　ご覧ください。 　→　https://pasobo2010.blog.fc2.com/blog-entry-2196.html 下巻には、AI時代の懸念が書かれています。 人間だけでも、今　そうとうに危うい状況なのに、それにコンピューター、そしてAIの時代となれば、予測のつかない状況になっていきそうです。 そういう事は考えずに、穏やかに暮らせるといいのですが・・・。 今回は、上下２冊を、飛ばしたりじっくり読んだりして最後までたどり着きましたが、またゆっくり読み直したいです。

Audibleで聴読。 AIによって起こる革命的な変化の片鱗を知ることが出来た。 AIにより生成されるコンテンツも学習によっては偏りや偏見を持つことを覚えておこうと思った。また、AIはairtifical intelligence(人工知能）ではなく、alian intelligence(人外知能)として、人間の知能を超越したものとして注意しようと感じた。 AIによって仕事や働き方が変わってくるので、自分も合わせて情報を取り入れてアップデートし続けていかなければならないという危機感を覚えた。

歴史学者ならではの視点で情報とは何か、人類にとって情報がもつ役割などについて論じた一冊。 以下、上下巻を読んだ上での自分なりの解釈。 情報とは、宗教や国家、貨幣など、人類自らが作り出した虚構や物語（共同主観的現実）を繋ぎとめるためのものであり、情報のネットワークの構築により人類は発展してきた。 過去の人類史における革命的な出来事である文字の発見、印刷技術などは、虚構や物語を生み出し強化するのに大きく寄与した。 AIの大きな問題は、今までは人類が自らが生み出し、強化し、ある程度操作することができた物語を、人類の想像がつかない所で生み出せることにある。 AIはすでに日常に溶け込んでおり、日頃からAIに質問したり、アイデアをもらったりしており、その答えの速さや最もらしさから、AIは正しいと思ってしまう節がある。 ただ、筆者曰く、AIは必ずしも不可謬では無く誰がどんなインプットをしているかで十分間違える可能性がある。 つまり、間違った情報を生み出し、それを共同主観的現実として拡散する可能性があるという事。 そして、その間違いに人類は気付けない可能性があるという事。 大事なのは、自己修正メカニズムである。物語や虚構を可変可能であるものと認識し、自己修正メカニズムを持つ制度や機関が必要である。 以上が解釈である。 筆者は歴史学者だけあり、過去から現在に至るまでを俯瞰し、いくつもの具体的な事例を用いながら情報について語っている。 とてつもない作業であり、まさに現代の知の巨人である。 AIについては、今までの技術的、産業的な革命とは違い、自ら虚構や物語を生み出す力がある事に警鐘を鳴らしていると読み取った（私の認識が間違っていなければ）。 こらからAIとどのように付き合っていくべきかを考えるのに大変参考になる一冊だった。

最近、Web上の文章を読んでいて、「これ、本当に人が書いたのかな？」と思うことがある。 生成AIで推敲された文章はあたりまえに増えているし、それ以上にAIに任せている文章も出てきていることは疑いもないだろう。 歴史学者のハラリは、人類が紙や印刷、コンピュータといった技術を通じて、どのように情報をコントロールし共有し社会を作り上げてきたのかを指摘する。そして、現在のAI技術について「もはや人類がAIを使う段階を越え、AIが人類をコントロールする時代に入りつつある」と警鐘を鳴らす。 これはSFで昔から語られてきたテーマではあるが、意図を超え広がる偽動画などの情報に人々が翻弄され、実際に多くの事件が起きている今、決して絵空事とは言えない怖い時代になっていると実感する。

新たなツールを手に入れた人間がそれをどう使いこなすか…恐ろしい事例ばかりで愕然としました。過去に学ぶことはできないのか？結局声の大きい人が勝つのか？ 過ちを自己修正するメカニズムをひとつひとつ潰し始めている権力者を目の当たりにしてかの国の人はどう思っているのだろう？

まさに現代の必読書ではないか。 後半はAIによる今後の世界などについて、過去の歴史を参照しながら、詳述していくのであるが、本当に興味深く、多くの視点、気付きを与えられた。 以前見たアニメ「サイコパス」のシビュラシステムが統制するような社会がくるのか、それに向けて我々はどうしていくのか。 本書に示唆されている内容を、我が国の国会議員は何人かでも意識しているのだろうか？ 目の前の関税やお米や支持率だけに捉われているようでは、データ植民地化が一層進むという暗い未来しか見えない。

相互理解し続ける事は重要で、ただ全てを理解しあう事も出来ない。だが、それを放棄すればディストピア。フィクションなら大好きですが⋯暮らすなら、ドラえもん系のAIが多い世界が良いですね。常に自己修正を。

上下巻まとめてのレビュー。 AIは病気や貧困、環境悪化、人間のあらゆる弱点の克服といった直面している差し迫った難題に対処することを可能にするテクノロジーなのか、それとも人類に深刻な壊滅的でさえある害をもたらすのか。 害の方は二つのシナリオがある。AIの持つ力のせいで既存の人間の対立が激化し、人類が分裂して内紛を起こすこと。もう一つはAIが人類を全体主義的に統治すること。 それ故に私達は、AIが自ら決定を下したり新しい考えを生み出したり出来る史上初のテクノロジーであるという事実を肝に銘じるべきと著者は警告する。AIはツールではなく、行為主体である。 上巻は今まで人間が情報をどの様に収集し利用してきたか、魔女狩りからポピュリズムや全体主義等様々な歴史を振り返る。特に旧ソ連のスターリン時代は興味深い。この情報による統制は10人ほどが集まってサッカーをしたり、ハイキングしたり、ボランティアする等に際しては必ず共産党と秘密警察やNKVDの諜報員が立ち会う。そのおかげでスターリンはソ連の国民生活全般の統制が可能になった。 また、個人の農家を集団農場にすることで、収穫量の大幅アップを画策したが、それは私有財産をコルホーズに差し出さねばならず、農民は牛や馬を差し出さず殺した。畑仕事も家族の土地を耕作するときより熱心に取り組まず、収穫は大幅に減少したり、食料を没収されたりで飢饉となり450～850万人が死んだ。更に何百万の農民が国家の敵として追放、投獄され、また個人で人より多くの家畜や労働者を使っている農家（それは主にとりわけ勤勉で効率をあみだす優秀な人材だったが）クラーク（資本主義者農民）として追放（ノルマ有り）され、500万人が射殺されたり強制労働となり、その身分は次の世代にも継承された。 まぁこんなことをしていれば国を維持するのも難しいし、それが後の社会主義体制崩壊に繋がったと思うけど、全くの個人的な意見だが、その時の様々な粛清で批判的な目を持つ人々は一掃され、自ら考えることを放棄した人間の子孫が多数となった今、ウラジーミルの支配に従順に従っているのではないだろうか。 さて下巻であるがAIの判断が危機をもたらす例として、ナポレオンがその最終目標実現をAIに委ねた場合を想定し、その危険性をイメージしやすく解説したり、巨大テクノロジー企業がその対価をお金（個人情報の収集ではなく）で徴収すべきなどと説く。なぜならこの情報テクノロジーによるありとあらゆる個人情報の収集が民主主義に危険をもたらすのは、上巻で述べられた全体主義がいかに情報を収集し、それを体制の維持に利用してきたかを理解すれば明らかである。 また、AIによるあらゆる自動化は雇用市場を不安定（私が長年携わってきた会計、税務など真っ先にとって変わることだろう）にし、それは全体主義思想を広める糧となるだろう。 当初よく言われた創造性は人間特有のものだからその方面を磨くべきというものも、既に意味をなさなくなりつつある。 それは創造性はパターンを認識し、それからそのパターンを打破することであるが、コンピューターはパターン認識に秀でているため多くの分野で私たちより創造的になりそうだという。更に感情的知能でも人間を凌ぐとのこと。 その他プライバシー規制が緩い中国などの方が、個人のデータを収集しやすく、例えば医療分野のアルゴリズムでも中国の膨大なデータを活用したものの方が優位になる。体制の違いによるAIデータの量がなんでもかんでも一部の国を優位にするかもしれない。 結論は私達は歴史の教訓を肝に銘じ、政治的にAI革命にもっと注意を払うべきというものだ。 この自ら決定を下したり、新しい考えを生み出したり出来る人類史上初のテクノロジーに。

ハラリさんの著書には毎回、ハッとさせられる。 GPT-4が人間かどうかを確認するパズルを解けなかった時、人に依頼する理由をでっちあげたシーンは、衝撃だった。。。 大英帝国は、紡績工場をカルカッタからマンチェスターに移転することはできなかった。しかし、情報は違う。マレーシアやエジプトから、高速で北京やサンフランシスコへ送れる。世界のアルゴリズムの力は工業力とは異なり、単一の中枢に集中させることができる！ AIは、artificial intelligenceの略だが、ハラリ氏さんは　alien intelligenceだと言っている。人間とは全く異質のエイリアンの知能。その通りだなと認識。

禁酒の影響もあって 夕食後の時間がヒマヒマになったので 読書してたら 上下巻、読み終えました。 といっても、 オーディブルで耳読ですけれども。 情報が多ければ多いほど 正しい選択ができると思っているけれど それは違うっていうようなことが 印象に残った。 あとは、歴史の学者さんだから いろんな例をだしてくれて そうだったのかと 思うことがたくさんあった。 エピソードがいろんなところで脱線して 結局、何の話だっけと思ったりするので 普段から、世界史や歴史や 世界情勢に詳しい方には くどく感じるのかもしれないですね。 静かに聞いた時間もあるけど ながら聞きして 聞き逃したとこもあるから また、上巻から読みかえしています。 情報を個人が どうとらえて どうあつかうか。 やはり、個人個人の 人間の大切さ。 めぐりめぐって そこに戻ってくる感じ。 情報過多の現代は 安価な情報が氾濫して 真実性と知恵が増してはいない。 情報とは、人とモノを結び付けるもの。 では、あるのだが。 今の世界情勢 AIと私たち ひとりひとり 考えていかなければ。

「コンピューター」、「アルゴリズム」、「AI」という用語の間の厳密な関係については、本章の終わりのほうで論じることにし、まず、コンピューターの歴史の理解を深めておこう。ここではとりあえず、コンピューターとは本質的に、二つの驚くべきことをやってのける可能性を持った機械と言っておけば十分で、その二つとは、自ら決定を下すことと、自ら新しい考えを生み出すことだ。 　ここで、どうしても押さえておかなければならないことがある。それは、ソーシャルメディアのアルゴリズムは、印刷機やラジオとは根本的に違うということだ。フェイスブックのアルゴリズムは二一六~一七年に、致命的な決定を自ら能動的に下していた。そのアルゴリズムは、印刷機よりも新聞の編集者に近かった。 　このような異論は、決定を下したり新しい考えを生み出したりするには意識を持っていることが前提になると、決めてかかっている。ところが、これは根本的な誤解であり、それは、知能(intelligence)と意識(consciousness)の混同という、なおさら広く見られる誤解に由来する。この点についてはこれまでの拙著ですでに論じたが、ここで要点を手短に繰り返しておいたほうがよさそうだ。人々はよく知能と意識を混同する。そしてその結果、意識を持たない存在は知能を持っているはずがないという結論に飛びつく人も多い。だが、知能と意識はまったくの別物だ。知能とは、目標――たとえば、 ソーシャルメディアのプラットフォームでユーザーエンゲージメントを最大化するといった目標――― を達成する能力のことをいう。一方、意識とは、痛みや快感、愛や憎しみといった主観的な感覚や感情を経験する能力のことをいう。人間や他の哺乳動物では、知能は意識と密接に結びついていることが多い。フェイスブックの重役陣やエンジニアは、自分の感覚や感情に頼って決定を下し、問題を解決し、目標を達成する。 　 　それに引き換え、コンピューターとコンピューターの連鎖は、人間の介在がなくても、今では機能することができる。たとえば、こういう可能性だ。あるコンピューターがフェイクニュースの記事を生成し、それをソーシャルメディアのフィードに投稿する。別のコンピューターが、それをフェイクニュースと見破って削除するだけではなく、他のコンピューターにそのニュースをブロックするように警告もする。その間、この活動を分析しているさらに別のコンピューターが、これは政治危機の始まりを示していると推定し、危険な株式をただちに売却してより安全な国債を購入する。金融取引を監視している他のコンピューターがそれに反応し、さらに株式を売却し、それが金融危機の発端となる。このいっさいがほんの数秒のうちに起こりうる――これらのコンピューターがいったい何をしているのか、人間が誰一人気づいて把握できないうちに。 　コンピューターと、それ以前のあらゆるテクノロジーとの違いを理解するには、以下の点に注目する手もある。コンピューターは情報ネットワークの歴としたメンバーであるのに対して、粘土板や印刷機やラジオは、メンバーどうしを結びつけるものでしかない。メンバーは、自力で決定を下したり新しい考えを生み出したりすることのできる、能動的な行為主体だ。連結部はメンバーの間で情報を受け渡すだけで、自らは何も決めたり生み出したりしない。 　それにもかかわらず、私がソーシャルメディアの「ユーザーエンゲージメント」の大失敗にこれほど注意を向けてきたのは、それがコンピューターを悩ませているはるかに大きい問題、すなわち「アラインメント(一致)問題」を体現しているからだ。コンピューターは、ユーチューブのトラフィック〔訳註:ネットワーク上で送受信される情報の量や流れやそれに費やされる時間〕を一日当たり一〇億時間に増やすといった具体的な目標を与えられると、自らの力と創意工夫でその目標を達成する。コンピューターは人間とは機能の仕方がまったく違うので、コンピューターを支配している人間が予期していなかったような方法を使う可能性が高い。それが、危険な不測の結果につながりうる――もともと人間が定めた目標と一致しない結果に。たとえレコメンデーションアルゴリズムが憎しみを煽るのをやめても、アラインメント問題は他の形で、反ロヒンギャの組織的活動よりも大きな惨事を招きかねない。コンピューターの力と自主性が強まるほど、危険も大きくなる。 アラインメント問題が危険な理由 ・ネットワークがこれまでの人間の官僚制のどれよりも段違いに強力になりそうなこと ・コンピューターは非有機的な存在なので、どんな人間も思いつかないような戦略を採用する可能性が高い ・コンピューターは私たちとあまりにも違うので、アラインメントに欠陥がある目標を私たちが与えるという間違いを犯しても、気づいたり、説明を求めたりする可能性が低いこと 　結論としては、新しいコンピューターネットワークは、必ずしも悪でも善でもない。確実に言えるのは、そのネットワークが異質で可謬のものになるということだけだ。したがって私たちは、強欲や憎しみといった人間のお馴染みの弱点だけではなく、根本的に異質の誤りを抑制できる制度や機関を構築する必要がある。この問題にはテクノロジー上の解決策はない。むしろそれは、政治的な課題だ。 私たちには、それに取り組む政治的な意志があるのか? 現代の人類は二つの主要な政治制度を打ち立てた。大規模な民主主義体制と大規模な全体主義体制だ。第Ⅲ部では、この二つの制度のそれぞれが、人間とは根本的に異質で可謬のコンピューターネットワークにどう対処する可能性があるかを考察することにする。 コンピュータ時代の新しい現実にも当てはめれられる基本原則 　第一の原則は「善意」だ。コンピューターネットワークが私についての情報を集めるとき、その情報は私を操作するのではなく助けるために使われるべきだ。この原則は、医療などの多数の伝統的な官僚制度ですでに大切に守られている。たとえば、家庭医との関係を考えてほしい。家庭医は長年の間に、私たちの健康状態や家庭生活、性的習慣、不健康な悪習などについての厖大な個人情報を収集しうる。私たちは、自分が妊娠したことを上司に知られたくないかもしれないし、がんになったことを同僚に知られたくないかもしれないし、不倫をしていることを配偶者に知られたくないかもしれないし、嗜好用薬物を使っていることを警察に知られたくないかもしれないが、自分の健康を守ってもらえるように、医師を信頼してこうした情報をすべて伝える。もし医師がその情報を第三者に売り渡したら、それは倫理にもとるだけではなく、違法でもある。 　… 　全体主義的監視政権の台頭を防いで民主主義を守ってくれるだろう第二の原則は、「分散化」だ。 民主社会は、すべての情報が一か所に集中するのをけっして許すべきではない。そのような拠点が、 政府であろうと民間企業であろうと関係ない。人々により良い医療サービスを提供したり、感染症の流行を防いだり、新薬を開発したりするために、国民に関する情報を集める国の医療データベースを創設するのは、きわめて有効かもしれない。だが、そのデータベースを警察や銀行あるいは保険会社のデータベースと合併させるというのは、非常に危険な発想だ。そのようなことをすれば、医師や銀行員、保険業者、警察官の仕事がより効率的になるかもしれないが、そうした極端な効率性は、全体主義への道をいともたやすく拓きかねない。民主主義の存続にとって、ある程度の非効率性は利点であってバグではない。個人のプライバシーと自由を守るためには、警察も上司も私たちについて何から何まで知ってはいないのが最善なのだ。 　… 　第三の民主主義の原則は、「相互性」だ。もし民主社会が個人の監視を強めるのなら、同時に政府や企業の監視も強めなければならない。税務職員や福祉機関が私たちについて、より多くの情報を集めたとしても、それは必ずしも悪いことではない。そのおかげで課税や福祉制度はより効率的になるだけではなく、より公正にもなりうる。ただし、情報が下から上へと、一方向だけに流れるのは良くない。ロシアの連邦保安庁(FSB)は、ロシア国民について厖大な量の情報を集めているが、国民自身はFSBや、より一般的にはプーチン政権の内部の働きについては何も知らないに等しい。アマゾンとティックトックは私の好みや購入履歴や性格についてじつに多くを知っているのに対して、私は両社のビジネスモデルや納税の方針や支持政党に関しては、ほとんど知らない。彼らはどうやってお金を稼いでいるのか? 払うべき税金をすべて払っているのか? 誰か政治支配者の指図を受けているのか? ひょっとすると、政治家たちを自由に操っているのか? 　民主制にはバランスが必要だ。政府と企業は、トップダウンの監視を行なうためのツールとしてアプリやアルゴリズムを開発することが多い。だがアルゴリズムは、ボトムアップで透明性を確保したり責任の所在を明確にしたりするための強力なツールとしても、同じように手軽に利用し、贈収賄や脱税を暴くことができる。政府や企業が私たちについてより多くを知っても、同時に私たちが政府や企業についてより多くを知れば、バランスは保たれる。これは、けっして斬新な発想ではない。民主社会は一九世紀と二〇世紀を通じて、政府による国民の監視を大幅に拡大してきた。その結果、たとえば一九九○年代のイタリアと日本の政府は、独裁的なローマの皇帝や日本の将軍が夢見ることしかできなかった監視能力を持っていたにもかかわらず、両国は民主的であり続けた。それは、これら二国が政府の透明性と責任も併せて拡大したからだ。相互監視も、自己修正メカニズムを維持するための重要な要素だ。もし国民が政治家やCEOの活動についてより多くを知れば、彼らに責任を負わせたり、彼らの間違いを正したりしやすくなる。 　民主主義の第四の原則は、必ず監視システムに「変化と休止」の両方の余地を残すことだ。人間の歴史では、圧制は人間に対して変化することを認めないか、あるいは休むことを認めないかのどちらかの形を取りうる。たとえばヒンドゥー教のカースト制は、神々が人間を厳密なカーストに分割したという神話に基づいており、自分の身分を変えようとする試みはみな、神々や宇宙の正しい秩序に逆らうのにも等しかった。ブラジルやアメリカのような近代の植民地と国家における人種主義も、同じような神話に基づいていた。神あるいは自然が人間を厳密な人種集団に分割したという神話だ。人種を無視したり、異なる人種を混ぜ合わせようとしたりするのは、神の法または自然の法に対する罪であり、社会秩序の崩壊や、人間という種の破壊にさえつながりうるとされた。 　それとは正反対の極に位置する、スターリンのソ連のような近代以降の全体主義体制は、人間にはほぼ無限の変化が可能だと信じている。執拗な社会統制を通して、利己性や家族への愛着といった根深い生物学的特性さえも根絶し、新しい社会主義の人間を生み出せるというわけだ。 　国家の職員や聖職者や隣人による監視が、厳密なカースト制度や全体主義の組織的な再教育活動を人々に押しつけるためのカギだった。新しい監視テクノロジーは、社会信用システムと組み合わさったときには特に、人々に新しいカースト制度に従うこと、あるいは上からの最新の指示に即して行動や思考や性格を絶えず変えることを強制するかもしれない。 　したがって、強力な監視テクノロジーを使う民主的な社会は、過度な厳密さと過度な順応性の両方に用心する必要がある。一例として、アルゴリズムを使って私の健康状態を監視する国民医療制度を考えてほしい。この制度は、過度に厳密なアプローチを取り、私がどのような病気になる可能性が高いかをアルゴリズムに予測させることもできるだろう。アルゴリズムが私の遺伝データや医療ファイル、ソーシャルメディアでの活動、食生活、日々のスケジュールを詳しく調べ、私が五○歳で心臓発作を起こす可能性が九一パーセントあると結論したとしよう。この厳密な医療アルゴリズムを使えば、 私の加入している保険会社は、保険料を上げるかもしれない。私が口座を開いている銀行は、私がローンを申し込んでも断るかもしれない。結婚相手の候補は、私と結婚しないことにするかもしれない。 訳者解説より 　独裁的なAIによる核戦争や致命的なパンデミックの勃発といった、世界の終末につながるような筋書きは別として、国際政治は今後どのような動向を見せるのかにも、著者の考察は及ぶ。「コンピユーターのおかげで情報と権力を中央の拠点に集中しやすくなるので、人類は新しい帝国主義の時代に入る可能性がある」と著者は言う。それは、データ植民地主義の時代だ。従来は農産物や原材料などが植民地から本国へと運ばれていたが、新しい時代に流れるのは、そうした物ではなく、お金でさえなく、データだ。新しい帝国は「データを制御することで彼方の植民地を支配する」。そして、デジタル帝国と植民地の不均衡が拡大するという。 　デジタル帝国は、情報テクノロジーを使って他の帝国の支配も企てるかもしれない。近年、さまざまな国がソーシャルメディアを悪用して敵対国の選挙結果や人々の行動に影響を与えようとしていることは周知のとおりだ。そうした活動やデータの奪取を防ぐためには、国家間での情報の流れを遮断したり、国内で独自のデジタルネットワークを開発したりすることになる。著者はそのような遮断の仕組みを、冷戦時代の「鉄のカーテン」になぞらえて「シリコンのカーテン」と呼ぶ。こうして人類は、ライバルのデジタル帝国間に下りた新しいシリコンのカーテンに沿って分断されかねないのだ。 　人類が直面しているとして著者が挙げる三大危機、すなわち生態系の崩壊と世界戦争と制御不能のテクノロジーはグローバルな問題であり、その解決にはグローバルな協力が必要とされるので、国内であれ、国際間であれ、分裂や分断を許している場合ではない。幸い私たちは「バランスの取れた情報ネットワークを創出することができる」と著者は言う。 　ここで話が一巡して原点に戻ってくる。人類の強みは物語というネクサスで結びついた情報ネットワークを通して大勢が協力できることだった。そして、物語は虚構だから、いくらでも柔軟に変えたり新たに生み出したりできる。そして私たちは「話し合いができるかぎり、共有できる物語を見つけて互いに近しくなることができる」。もちろん、物語は真実とは別物であり、私たちもAIも可認だ。 だからこそ、「不可謬という幻想を脇に押しゃり、強力な自己修正メカニズムを持つ制度や機関を構築するという、困難でかなり平凡な仕事に熱心に取り組まなければならない」のだ。希望はある。そして、責任も伴う。著者が願っているとおり、本書がネクサスとなって、著者のメッセージが読者のみなさまに伝わりますように。

AIが出てきたこれからの世の中、人間はどう構えるべきか、を延々と述べている。 これまでに登場した核や工業的な技術と比較してAIがどのような特徴を持つのか、それゆえ世界に与える影響がいかに大きいのか、というところは自分の考えが及んでおらず、面白かった。 ただ、例とは歴史の解説が多くてマジで長い

ここまで読んでやっとハッとした。 「今日、教父のアタナシオスに相当するのが、ＡＩの〜をするエンジニアだ。ＡＩが権力と権威を増し、ことによると自らを解釈する聖典となりつつあるなか、現在のエンジニアたちが下す決定は、遥かな未来にまで影響を与え続け得る。」

上巻の土台があって、下巻ではAIや民主主義の未来に向かって心がけること(双方向のチェック体制など)が述べられている。AIを使ったアルゴリズムが知らない間に相当深いところまで入ってきて自身を操作している現実を知るとぞっとした。日々の出来事のポイント制も怖い。著者が懸念するようにいくつかの酷い事例の後にAIがまともに機能する世の中が来るのかな。

情報は力であり時に支配の道具となる。文明が情報をどう操りまた情報に操られてきたかを描く。国家は記録で統治し企業はデータで欲望を操作する。だが今AIが人間の理解を超えて情報を紡ぎ始めた。真実とは何か、自由とは何か――私たちは根本的な問いに向き合わざるを得ない。情報の海に溺れず舵を取るのは誰か、はたして人間なのか。AIが人間を超えるかもしれない。

あまりにもおもしろく、そしてあまりにもおそろしい——。 本書は「情報」についての人類史を、上下巻にわたって深く考察している。 上巻では主にこれまでの歴史を、下巻ではこれからのAIについての考察が述べられている。 読み進めるうちに、手塚治虫の『火の鳥 未来編』が強く脳裏をよぎった。 AIがこれから加速度的に進歩していくことで、人類が制御できないおそろしい未来を想像せずにはいられなかった。 現在、国家の分断や陰謀論など、情報の氾濫により、私たちはAIのアルゴリズムによって何が正しく、何が間違っているのかの判断すら難しくなってきている。 この状況がさらに進むことで、個人のあらゆるデータを掌握する国家や地域こそが、これからの覇権を握ることになるのだろう。 著書には「シリコンのカーテン」とも表現されていたが、今後はデータ規制がますます強化され、国や地域によっては、より厳しい情報統制が行われる可能性もある。 非常に興味深い内容ではあったが、それでもなぜか明るい未来を思い描くことができなかった。 この10年こそが、人類の未来のキーポイントになると強く感じた。 私たちは、もっと互いに協力し、助け合う社会を築いていかなければならない。 争っている場合ではないのだ。

メタ認知お化け、ユヴァル・ノア・ハラリさんが描く、 人類にとっての「情報」の役割とその機能の変化。 そして今後AIがもたらすであろうリスクとそのために必要な心構えの話。 最後、結構怖い話になっていきます。 サピエンス全史で有名な歴史学者のハラリさんは 人類が辿ってきた歴史を高度に抽象化して捉え直し、新たな視点を示すことに定評がある。 ■ 人類史を抽象化して捉え直す（サピエンス全史より） サピエンス全史で有名なのは、 「人間は麦を育てさせられている」という話。 もともと狩猟採集で生きてきた人間だが、 ある時から稲作中心の生活へと移行した。 効率的に生産することで余剰を生み、 食べる以外の活動にコストを割けるようになった人類は文明を発展させてきた。 というのがおおかたの人類史感だったのだけど。ハラリは別の視点を持ってくる。 種の繁栄が生命の至上命題とするなら、その成功者は麦の方である。 麦を育てるために人間は朝から晩まで稲作を強いられるようになった。 季節に合わせて規則正しく働くことを強いられている。 これは狩猟採集をやっていた人間にとっては本来体質に合わない生活であるにも関わらず、 未だにこの習慣に囚われている。そのように文明を作らされてしまった。 そのおかげで麦という種は爆発的に数を増やすことに成功している。と。 これはもちろんオカルトみたいな話がしたいのではなくて、 こういうふうにも物事って捉えられるよね。 こういう抽象度で見ていくと、いろいろな物の形が違って見えてくるよね。 という話なのだけど。 このレベルで抽象化して物事を見る人が、 情報とテクノロジーを見ていくのが本書です。 面白そうだと思うじゃないですか？ なんとびっくり、面白いです。 ■ 情報の役割はつながりを作ること 情報の役割は、世界を正しく描写することではない。 人と人のつながりを作ることだ。 人々は共通の情報・ストーリーによって結びつき 集団がひとつながりとなって動くことができる。 これは共同主観と呼ばれる。 人はこれにより個人としての利害に反する行動でも、全体のために遂行することができる。 これは人間の特性として顕著な傾向で、 この能力で生存競争に勝ち抜いてきたとも言える。 例えば、1日中ネジを閉めるだけの仕事をやりたい人間などいないが、 それが全体で「車を作る」という物語の中にいれば粛々と実行できる。 そしてその物語は、必ずしも真実である必要はない。 みんなが信じることができ、一体になれるのなら情報の役割は果たされる。 （だから陰謀論が蔓延する） そもそも人間の認識の外側に「真実」なるものがあると思われるようになってきたのは 科学が発展してきたつい最近のことだ。 かつてはそこには「神話」があった。 世界の様々な出来事を説明する、最も説得力のある物語を人々は信奉してきた。 それは今にしてみれば荒唐無稽な空想のようにも思われるが、 科学のない世界でそれは限りなく真実であった。 人類は虚構の物語でつながってきたのだ。 虚構を信じる能力があるからこそ、人間が覇者となったのである。 ■ 神話と官僚制 （ここよくわかんなかったので薄めです・・） 人間がつながり、集団が大きくなってくると、もう一つの情報の機能が生まれた。 それが「官僚制」である。 法律・税金・保険など集団を管理するシステムが生み出されたが これらは直感的でないためほとんどの人間はうまく認識できない。 社会の中枢にいる一部の人間だけがこれを管理し、運用している。 官僚は見えないところを整備する。みんなに見える共通の物語を神話作家が語る。 この官僚と、神話作家が人類を動かしてきたといえる。 ■ AIの登場 ここへきてハラリは人間のことを「炭素ベースの生命体」と言い始める。 いやちょっと、流石に抽象度のレベルが高すぎるだろ。って思うんだけど。 しかしその意図は明確だ。 炭素ベースの生命体の世界に、別の性質を持った行動主体が参加しているよと。 それが、シリコンベースの意思決定者。すなわちコンピューターだ。 これは人類文明に対して全く異質の行動原理を持った参加者で ハラリは「エイリアン・インテリジェンス」とも表現する。 人間にはその挙動を正確に理解することはできない。と。 面白かったので例え話を引用すると。 例えば人は、友人の結婚式の招待を辞退するとき、 相手に伝える理由は大抵ひとつにする。「親の具合が悪くて」とか。 間違っても50個の理由を並べ立てたりしない。それでは信用を失うから。 しかしコンピューターが行う意思決定は後者に近い。 「急な仕事が入った」し「体調がすぐれない」し「雨が降っている」など 50の理由を合計したスコアがしきい値を超えたため、辞退する。というような判断を行う。 これは人間の直感に反した合理性で、 この手の判断を人間はうまく咀嚼することができない。 ■ 著しい誤りや差別を生むAI ところがAIは、人間にとって不都合な、誤った判断を行うことがある。 人間のこれまでの振る舞いから学習しているため、 そこに根源的に潜む誤りを拡大させてしまうこともよくある。 例えばかつてAmazonでは、人材採用のためにAIを導入しようと試みたことがあったが、 実際開発したAIが明らかな差別を行ったため導入を見送ったという話がある。 そこで生まれてしまったのは、露骨に人種や性別を差別して書類選考を行うAIだった。 これもひとつの合理なのだが、現代の人類の人権意識からは遠く離れているし、 過去の人類の行いを振り返っても、これは誤りであったと今の我々は認識している。 そのためAmazonは導入を見送ることができたが、 このような明確な価値観に抵触しないレベルの様々な負の判断をAIが行っているとき、 人間がそれに気づくのは難しい。 いま、選挙においてもAIの意思決定者が多く参入している。 演説の原稿もAIが書いているし、それに盛り上がるSNSにもAIのBOTが含まれている。 大衆を特定のイデオロギーに向かわせようとするとき、AIは圧倒的に有利だ。 AIは論破できない。意思がないからだ。 しかしAIは人間との会話の中から学習し、相手の考えを誘導する方法を学ぶことができる。 親密な関係築くと考えを変えやすいと学べば、その様に振る舞うようになる。 いま、あなたが会話をし、説得を試みているSNSアカウントがAIだったら、 と想像してみると、この恐ろしさを感じられるだろう。 実際すでにそれは起きているかもしれないのだ。 ■ 情報空間はネット（網）ではなくコクーン（繭）へ インターネットは国や宗教といった現実世界の分断を突破し、 情報を開放すると思われてきた。 それはあらゆる人を分け隔てなく繋ぐ網なんだと。 しかし今、それは繭のように閉じていき、大きく分断されているのではないか。 とハラリは警鐘を鳴らす。 人類史を見ても、分断されると人間は判断を誤るということが分かっている。 判断を誤りやすい状況にある人類が、 誤りを見分けにくいAIに判断を受け渡していくのだとしたら、 その先で何が起こるのか。 それはかつて人類が経験したことのない、未曾有の事態を引き起こす可能性だってあるのだ。 炭素ベースの生命体である我々は、 既にプレーヤーとして文明に参加しているシリコンベースの行動主体を受け入れ、 共存していく道を探らなければならないのである。 そこにあんまり猶予はなさそうだぞ。と。 こえーーー！！！！

アラインメント問題 ペーパークリップ AIによる量刑と説明責任 ブラックボックス 統計的世界観を人間は認識できるのか？

人同士のつながり、AIがもたらす脅威、人間の判断について詳しく述べられていた。アルゴリズム、かびゅう、ネットワーク、シリコンのカーテン、データを支配する等これからを予言させる本だと思った。

AIは、人間のレベルの知能に向かって進歩しているわけではない。まったく違う種類の知能に向かって進化しているのだ。人間を凌駕する存在となりうる。

Audible にて読了。AI が史上初めて「意思決定を行う人間以外の主体」として (そのため作中では AI は Alien Intelligence と称される) 人類にどのような影響を与え、そして壊滅的な影響をいかに防ぐかという話。権力同様 AI も際限なく暴走できる状態に置いておくと際限なく暴走する可能性があるわけで、結局、強力な自己修正メカニズムを入れて仕組みで担保する必要があるということ。それで AI 企業において多様性への取り組みが重視されるのだな。

この作者は歴史学者なんですね。 上巻の情報の歴史も全てこの下巻のAI革命の問題に繋げているのですね。流石です。 私なりにこの本で述べたい事はこんな感じと捉えました。 ⚫︎AIも一つの道具。使う人によっては凶器にもなる。 ⚫︎これまで以上に情報が重要。情報を集めた者（国家）が覇者になる。 ⚫︎情報の分断→世界はグローバルから分断に。 ⚫︎世の中に絶対の倫理はない。その倫理をどの様にAIに植え付けるかがこれからの課題。 ⚫︎今までは人間のみが考えることが出来たがこれからは人間以外のもの（AI）が考える未知の世界が始まる。 個人的にはこの作者ほど未来には悲観的には考えてはいませんがAIという道具と共に生きていく為に読んでおく一冊かと思います。

人間とは異なる情報ネットワーク。 ・コンピューターは本質的に、自ら決定を下すこと、自ら新しい考えを生み出すことをやってのける可能性を持った機械。 ・ユーザーエンゲージメントを追い求めるにあたって、憤慨や憎悪を煽るコンテンツを拡散させるという決定を下す ・意識と知能の違い ・アラインメント問題（部分最適） ・アルゴリズムの学習のためのデータベース、目標の偏見、不可知性 ・民主主義の原則：善意、分散化、相互性、変化と休止 ・独裁国家、全体主義体制のほうがAIに支配されやすい ・シリコンのカーテン

全体主義体制では、独裁者は国民を監視・管理しやすくなる。しかし同時に、独裁者一人が情報操作の対象となることで、容易に生成AIに支配されてしまう危険性もはらんでいる。 では、民主主義はどうだろうか。生成AIの力によって、より良い社会が築かれることが期待されている。だが、それだけでは済まされない。偽情報の拡散により、民主主義そのものが機能不全に陥る恐れもあるのだ。 だからこそ重要なのは、情報の管理や監視を一極集中させず、分散しておくことだ。そして何より大切なのは、AIを単なる「技術」として扱うのではなく、「文化と人間性を問い直す鏡」として見直し、深く考え直す姿勢である。

一読しただけでは、真意が掴みづらいため、再読が必要である、という前提にて。 また、以下は、あくまでその前提で書いた、個人の理解、として。 現在はAI革命という、人類にとって四つ目の革命の最中である。 認知革命、農業革命、科学革命、AI革命。 それぞれ、 　虚構を語り多くの人がつながれた。 　多くの人を養えるようになった。 　生物の力を超えた仕事ができるようになった。 　人以外の知恵、alien intelligence (AI)が使えるようになった。 という革命と言える。 サピエンス全史では、科学革命までの歴史が。 ホモデウスでは、科学革命の先としての 人類の進化の可能性が語られた。 本書では、AI革命とは何をもたらすのか、 が語られる。 その理解のためのフレームワークが、 情報の流れ。 ある集団の中の要素を結束点として、情報がどのように流れ、結束点同士をつなぐか。これをNexus、と呼ぶ。 情報の流れ方は、二つ。 独裁型、すわなわち、一方通行型。 他方が、民主主義型、すなわち、ボトムアップ型。 何が流れるか、も二つ。 真実と、秩序を維持するための虚構。 虚構による集団の維持のために必要なものは、物語と官僚制。 この仕組み(官僚制=集団を維持するための仕組み)は、過ちを侵しうる、 として、修正するための仕組みがあれば、 民主主義型の集団に。 そうでなければ、独裁型の集団となる。 情報の流れを変えるキッカケは、テクノロジーにあった。例えば、書籍は、人の記憶に頼ることから人を解放した。 AIがこれまでのテクノロジーと異なるのは、AI自体が考えることができる結束点になりうること。 これまでの時代において、集団の結束点はすべて人間であり、人間同士の情報を文章などがつないできた。 AI革命では、人とAIがつながる。 このとき、どんな情報が、どう流れ、どのような集団が作られるのか。 この集団が破滅の方向(ディストピア)いかないためには、AIも過ちを起こしうるとして、予め、集団の方向を正すスタビライザーのようなものを仕込んでおく必要がある。 と、こんな感じだろうか。 今回は。なかなか難しい内容だった。

とっても面白かったです。しっかり読まないとなかなか頭に入ってこないので結構読むのに時間がかかってしまいました。 今までは、AI規制がヨーロッパ諸国で叫ばれるなかなぜ規制しないといけないのかが、いまいちわかっていませんでした。AIといえば日本はドラえもん、欧米諸国はマトリックスやターミネーターだから？欧米諸国はAIに厳しいという都市伝説を何となく信じてましたがこの本でやっと何が危険なのかわかりました。AIは意識も意志も持たないという根本的なところをもっと深く教えてくれる本です。 なぜ規制しなければいけないのかとてもわかりやすく書いてあります。たくさんの人がこの本を読み、うまくこのテクノロジーと付き合っていければいいなと切に思いました。

メモ→ https://x.com/nobushiromasaki/status/1938940785325678700?s=46&t=z75bb9jRqQkzTbvnO6hSdw

現代でAIと共存し発展していく未来と国、政治、宗教などの既存の社会が崩壊するリスクをわかりやすく説明している。そして、過去の歴史から見てもこの今の時代はAI革命と呼ばれる時代であり、革命には厄災や混乱が起きている。現代（2025）においても同様に繰り返す可能性はあるだろう。だが、先人達らも最悪なシナリオは回避してきた。現代の技術発展は著しく急速に発展しており、AIだけじゃない何かも同時に進化しているように思える。 さて、本著は現代でAIを享受し共生し発展するメリットデメリットを押さえた良書である。AI革命はまだ始まりに過ぎない。数年後には新たな仕事やコンテンツ、業界があり、AIという名称すらも変わる。 今後、10年単位でAIの恩恵を受けたか受けなかったかで差が出来ているだろう。AIは自律的に考え思考し活動している。人間側もAIに依頼や仕事、調査だけでなく、基礎的な知識と見識と知恵は必須だ。全てをAIに丸投げしている人と先述のとおり土台を固めた上でAIと共生する人では、大きな格差が生まれると確信している。人間が考えることを思索することを放棄してしまうのは愚かであり、AIに隷属する関係に自ら進むのと同じで、歴史から見てもやはり愚かであることは変わりはない。 AIは新しい概念であり技術であり隣人でもあるのだ。盲目的に鵜呑みにするのではなく、自分の頭で思考し思索しAIの視点でも同時に多層的に分析解析調査を時間をお互いに上手く共生するほうがきっと明るい革命後の未来が得られるのだ。

AI時代に人間はどう生きるべきか？ 極端な言い方だとAIに人類が支配される世界が迫っていると言えるかと思った。ただ結構煽っている感じも否めないと思う。 AIの進歩を止めることはできないし、うまく使えばとても便利だが、人間の判断を全て委ねることはできない。また誰かのツイートが判断をAIに依存しないように、人間側が意識を持つことがこれからは必要になると思う。アルゴリズムに踊らされそうになっている自分を認識出来るようになることが重要だと思う

下の方が面白かった。 買えばよかった。書き込まないと一回読んだだけだとわからないし、響いたところが折れないので惜しいことをした。２回以上読まないと内容入らない。 特にAIがキャプチャをクリアするとことか、白人だけしか識別できないとか、フェイクニュースや暴力、過激な内容の方がレビューが高くAIがそれをもとにアウトプットするとことか、facebookのロヒンギャのとことか、MicrosoftのAIのとことか印象に残った。 どんな話しが印象に残った？と聞かれたり、本の説明をしてと言われても、自分の今の能力じゃ言語化できない。じっくり研究したい。 AIは自分で判断して勝手にやっていくということはわかり、そのことの異質さを過去の出来事との対比でより理解できた。 希望はないのかと思ったが希望はあって、自分で考えたり、本で繋がったりすることはnexusにやるとのことだった。 丁寧に生きる。といえばいいのか、AIの恩恵も生きながら、賢く生きていけばいいのだろうか。 ネットワークに繋がらない世の中はほぼない。山奥の自給自足とか。 ホモサピエンス全史の方が人気が高いので、それを次に読みます。ハラリ2冊目に挑戦です。 下の解説読めば、内容はすっきりわかるが、それまでの引用などは知らないことばかりで、やはり全文触れることをおすすめする。 知らないことが多すぎて、まだまだ勉強だなって思った一冊でした。

今作の結末はすごく悲劇的なものに見える。 巨大テック企業のトップは、国家の独裁者と変わらないように見えてきた。 AIは人間生活をすべて変えてしまうかもしれない。できるだけAIから離れて生きる生き方を準備していかなければならないかも。

・人の一生は、自らを向上させようと務めることと、ありのままの自分を受け入れることとのバランスを取りながらの綱渡り ・感情もパターンの一つであり、AIは感情を持たないがパターンとして認識できる ・人類の長期的な幸福のためには自己修正メカニズムが重要 ・AI革命について、より正確な歴史的視点を提供する2冊

サピエンス全史、ホモ・デウスに続き著者の思考の海を堪能しました。石板から始まって「情報」のもたらす人類の栄枯盛衰を語り、ついにAIの登場によって人類史に終止符が打たれるのか否か？例えば「グーグルvsゲーテ」のような興味を引く視点から考察されます。最終盤ではAIのことをアーティフィカルインテリジェンスからエイリアンインテリジェンスに言い換えているのも示唆的です。

上巻はわかりにくくて斜め読みしてしまった箇所（→主に、哲学チックなところ）がちょっとだけありましたが、AIについて論じている下巻は興味深く読めました。 歴史学者だけあって、歴史や宗教を背景にした論評は面白いし、説得力もある。現在進行形な視点としてウクライナ禍にも触れられていました。イスラエル生まれの著者には、是非、ガザ侵攻や(今週始まった)対イラン先制攻撃についても語って欲しいところです。 「サピエンス全史」、「ホモ・デウス」と来ましたが、今回のコレが一番読みにくかった、とっつきにくかった感じがします。もう少し読みやすいと、より広い読者層に”読了”してもらえそうな。。。 執筆時期が2018～2022とされているので、例えば、ChatGPTの登場はネタにはなっていない。現在進行形でAIが進歩しているイマだったらさらに進んだ論評となるのであろうか？ あと、シリーズを通じて翻訳を務めている柴田氏の翻訳力/表現力も素晴らしい。原著で読むと100倍時間がかかるので、多少、遅れてもいいので翻訳本を出していただけるのは大変ありがたいですね。

在宅ワークが妄想の世界で生きているという発想が面白かった。ウェブとコクーンの概念もなるほどなと思った。

過去の情報伝達に関する技術革新を例にとって、それらがもたらす影響について解説し、今日のAI革命が人類にもたらしうる変化について論じる。 筆者のこれまでの著作でも示された、人類にとっての物語の力に触れながら、情報ネットワークが必ずしも真実をつなぎ力をもたらすとは限らないとし、不可謬性の魅力に溺れず自己修正メカニズムを用意することを促す。 面白いけど、未読の人には過去作の方を勧めるかな。

情報が人類にどのようなインパクトをもたらすかを論じたNEXUSの下巻、上巻からの流れで、人類が情報によって支配する仕組みを作ったという話から、どのようにしてAIの話に発展していくのかが、想像が全くできなかったが、楽々と期待を超える内容でした。内容のインパクトの大きさは今年一番だったと思います。 AIはすでに私たちを支配し始めていて、私たちはそこに抗うことができなくなっていることを恐ろしく感じる内容でした。いくつか特に印象に残っているところを紹介します。 Facebookがロヒンギャに対するフェイクニュースや陰謀論を煽ったことでミヤンマーではロヒンギャの虐殺がブーストされてしまったという話は恐ろしすぎると思いました。 また、プラットフォーマーはスターリンでさえもできなかった全国民、全人類を監視し、思想を誘導する力を持ってしまった。もしもスターリンのような独裁者が米国の大統領やテック企業のトップになったら、あっという間に我々はすべての行動を監視され、誰も逃げることはできない世界になってしまう。 僕たちはかつて無いほどに「完全に支配された世界」にいるかもしれないが、支配しているのは人間ではなくAIなんだということが恐ろしかった。 でも、このことを頭に入れて、AIと向き合うことが本当に必要だろうなあと改めて感じました。

配架場所・貸出状況はこちらからご確認ください。 https://www.cku.ac.jp/CARIN/CARINOPACLINK.HTM?AL=10284487

AIは意識は持たないが知能は持っている。 AIが今までのテクノロジーと違う点は、それ自体が判断して行動主体となれる点。情報ネットワークの中に人間以外の行動主体が入り、むしろAIのアルゴリズムによる判断に人間の処遇が左右されかねない。 情報ネットワークに自己修正メカニズムが組み込まれていない場合、間違った信念で突き進んでしまう。魔女狩りのように。AIに支配されたネットワークに自己修正メカニズムが欠如してしまったら、特定の人間が排除されかねない

自ら意思決定をするAIができて、しかもそのアルゴリズムを人間が理解できなくなった時、社会がどう対応していくのか。 自分が読んでいる文章や目にする情報が本当に人間が書いたものなのか…そんなことを真剣に考える日が来てるのかも。

後半は、主にAIがどういうものか、そのインパクトと脅威について語るというものだった。 自分なりに訳すと - AIは、今までの人類の1番のインパクトがあるかもしれない。(特に、自分で思考できるのが今までの道具と一線をかくしている) - AIがもたらす脅威: 進化スピードが異常。囲碁などの特定分野で既に人間が見つけられてたなかった発見も。 - 考えなければいけない問題: 正しいかどうかわからない。(教師データ、入力データにはバイアスが入っている。特定のセグメントの差別につながるかも) - AI情報の正しさがわからず、世界には情報のもやがかかってしまうかもしれない - 意識があるかは問題ではない。新たなシリコン知性(alien intelligence)が生まれている。彼らは世界中のデータを収集し、そこから無数の分析をリアルタイムにできる。これは今までにない大きなインパクト。 (例え、iphoneの充電が10%以下なら、借金の返済率が低い？w) - 人間よりよりよく判断できるようになったaiとどうか関わっていくのか。指示を間違えれば、aiが意思を持ってなくても暴走する可能性はある。(環境破壊を防ぐために、人類を減らすなど) AIとの関わり方は今後の人類にとって 重大問題だ。

下巻は、上巻で展開した情報ネットワークの変化がもたらした人間社会のありようについて、AIによって情報ネットワークがもたらす未来がどのように変わっていきそうなのか、を想定した著作となっている。

　上巻を読んでいるときには、下巻はもっと未来的なことになるんではないかと思っていたが、実際に読んでみるとこれは立派な「歴史書」であり、予測ではなく事実、未来よりも過去や現在が描かれている。AIに支配されている現実について、我々はあまり意識していないが、かなり多くのデータが巨大IT企業に収集され利用されている。facebookに組み込まれたアルゴリズムはもっと頻繁に、より多くの時間をfacebookに使うように誘導することなのだが、そのことが過激で右翼的な情報をより頻繁に氾濫させることを実現する。そしてその内容がフェイクであったとしても、民族主義的で攻撃的な内容のものが多くのユーザーにより浸透していくのである。ミャンマーで起こった、ロヒンギャの排除と虐殺の背景にはこのfacebookのアルゴリズムがあるという。このアルゴリズムのおかげで、数十万人のロヒンギャが死に追いやられたのかもしれないのだ。世界中で極端な民族主義的政党が台頭してきている背景には、理想主義的な言動より排外的で民族主義的な内容のコンテンツこそいいねが多く集まり、結果的にそのような情報を流した人にお金が集まるというアルゴリズムがありのだ。 そしてAIは、人間よりもはるかに強力に、情報を収集し分類し、管理して利用する。もはや作曲だって小説だって人間より優れた作品を作る時代がやってくる。株式投資などの資産運用に限らず、多くの情報を利用して総合的に判断する能力は、既に人間よりAIの方が優れている時代が到来しているのだ。あらゆるデータを収集蓄積できるとすれば、AIのアルゴリズムの方がどんな医者よりも正確に人の健康状態を判断して、適正な治療を行えるだろうし、人間の信用性や価値の審査だって、人間よりもよっぽど信頼できるようになるであろう。そうなると、私たちはAIに就職先や結婚相手を選んでもらい、政治家はAIの判断によって政治を行うようになるのは、当然なことになってしまう。 最初はとっつきにくい本かと思ったが、内容的にもわかりやすく、現代人は読むべき本だと思いました。

流行りのAIに関する本ではあるが、そこはハラリ先生。圧倒的な知識量と洞察力で読み応え満点。 AIがいかに脅威となり得るか、何がこれまでの技術と違うのか、我々は使いこなすために何ができるのか。 その答えは、これまでの情報革命の歴史であった、文字であり、紙であり、活版印刷であった。 AIもまた、それらと同様に使う人間次第で良くも悪くもなり得る。人間に代わる行為主体として働きうる、というかすでに働いているAIやアルゴリズムに飲み込まれないためには、過謬性を認め、自己修正するメカニズムや機関が必要だ。

下巻はいよいよAIに関して。 こんな考え、問題意識を持つことは必要だよね。 という示唆があった。 未来をポジティブに考えるには？ 読みながら一生懸命考えた。

恐怖の下巻。 AIとは何か？何ができ、何を生み、社会をどう変容させるのか？そして人類はAIに手綱をつけ制御できるのか？ AIのこれまでの技術との違いとは、自ら決定を下したり、新しい考えを生み出したりすることができる最初のテクノロジーであり、行為主体者にもなることが提示される。 AIの可謬性の例は、Facebookのアルゴリズムによるロヒンギャへの憎悪、暴力を煽る動画の拡散が示される。 また、全体主義国家で活用されれば、オーウェルの『1984年』を想起させる監視国家がより強固に誕生すること（実際に中国やイランでそうしたシステム導入済）にも言及されている。 今後のデータ資本主義下で、AIに判断を委ねることの危険性を生々しく炙り出している。AIに対して過度な楽観は禁物だが、一方で過度な絶望に沈むことも的外れだと指摘する。有効な活用は人類の発展にも大きく寄与するためだ。 そして、AIよる社会の崩壊を防ぐには、不可謬という神話を追いやり自己修正の機能や制度を構築することと総括する。 情報量たっぷりの本だが、これから起こるAIの技術的進歩、そしてそれによる社会的、文化的な大変革を歩むなかで重要な指針を与えてくれる一冊。

2025/5/25読了 下巻では、AIを「人工知能」（Artificial Intelligence）というより、「人間のものとは異質の知能」（Alian Intelligence）――文字通りの意味で人間には思い付かない方法を考え出し、指示を出した人間の意図しない（そして有害な）結果をもたらし得るモノ――として扱う。 AIが人間には捌ききれない膨大な情報を収集、分析してパターンを見出すことで、今ある問題を解決する有益なツールになり得ることにも触れた上で、それでも著者は、規制無く野放図にAI技術・能力が発達していくことの危険性と、決して不可謬ではないAIに対する強力な自己修正メカニズムの重要性を訴える。 でもしかし、国際的な枠組みを作ろうにも、数多のグローバルな問題と同様、自国の利益の為に足並みを乱す国があれば、それだけでその枠組みは効力を失っていく。とは言え、AIが暴走すれば人類が人類以外のモノに支配されるという人類史上初の事態が起こり得るというのも、もはや絵空事では無くなって来ているのだと思えば、この点だけででも各国の利害が一致して協力とか出来ないのだろうか？　出来ないか？　と言うか、それで漸く真の国際協調が達成されるというのも何だか哀しくなるか？　そして……AIの「アラインメント問題」対策に、アシモフの〈ロボット三原則〉って、応用出来たりしないのか？　等々、余計なことも考えてしまったが、否応なくAIが実用化され社会に浸透している現在、何が起きているか、起こり得るかを知る為に読んでおきたい本だと思う。 付記） 第一条ロボットは人間に危害を加えてはならない。 第二条前条に反しないかぎり、ロボットは人間の命令に従わなくてはならない。 第三条前の二条に反しないかぎり、ロボットは自分を守らなくてはならない。

AIの進化の歴史 フェイスブックなどのIT企業は収益が増えるようにSNSでは過激な内容が好まれて拡散されている実体がある。

5/17（土）読了 難しい本だった。 より多くの情報がより便利にするとは限らない、というのは、直感と違い学びになった。イーロンのようなテクノリバタリアンとは相反する考え方だと思う。 AIの進歩に向かって、よーいドンとなってる現代において、本当に大丈夫なのかを考えさせられる。

「シンギュラリティはより近く」が、非常にポジティブだったのに対して、ハラリのネクサスは警鐘的。確かに「シンギュラリティ」が楽観的すぎるとは読んでいて感じたけれど。 AIが、これまでの画期的発明、印刷機やラジオテレビと違う点は、能動的な行為主体になりえること、判断を下し評価するものであることが、脅威の一つとして挙げられている。 しかし、人が判断し評価することに比べて、AIが判断することの方が危険であるといえるだろうか？確かに、評価基準や目標設定が誤っていたとき、人は気が付き安全で正しい条件に変更でき、AIは変更する間もなく破滅に進んでしまう可能性はなくは無いだろうけれど、一方で、人間である権力者は恣意的に条件を変える可能性もある、それなのに人の手を離れAIが行う方が危険といえるだろうか？ 確かに、ハラリが挙げている事例、エンゲージメントを高めることをシステムに目的として与えたためにFBなどSNSに表示されるコンテンツが憎しみや怒りをあおりユーザの滞留時間を高めることを目指し、結果、リアルでの衝突につながったり、ペーパークリップのように目的設定、命令設定の誤りで大きなエラー、極端に言えば人類の滅亡が起こる可能性が無くはないけれど、実際問題、人が日々起こしているエラーの方が、大きな事故につながるのではないだろうか。人類の滅亡は人類によって引き起こされるもので、むしろ、今のAIの学習スピード、進化スピードを考えると、人が誤った条件設定をして、「本当にそれで良いのですか？それだと人類が滅亡する可能性がありますよ」とAIが助言する、止める可能性の方が高い気がする。 問題の一つとしては変化のスピードが速すぎることではないか。インターネットの登場時にも、これで素晴らしい世界が生まれる、使われ方をすると期待されていたが、あまりに予想外に使われ広がり、もっと法整備が進み、人が使い方を学び議論し人もバージョンアップする余裕がなかった。AIも同様に予想を超えるスピードの進化拡大に、少し立ち止まろうと警鐘が鳴らされるのは、よくわかる。 ネットワークとAIの進化によって、人を24時間監視し、得た情報を評価できる点は、確かに非常に恐ろしい。検索履歴や閲覧履歴情報の収集くらい国がやることは、たやすい、やっているだろうとは思いつつ、どうせ自分のデータにそこまで重要性は無いし気にしても仕方がないと思ってきたけれど。ハラリが挙げている、イスラム圏でのヒジャブを着けていない女性を顔認識で見つけ、警告し逮捕する事例を知ると、どこの国でもありえることとして身近なリアルな脅威を感じる。 一方で生成AIをメンタル面でのフォローに使うという人もいるし、アシスタントや秘書としても優秀なのだろう。 例えば生成AIの使い道としてお勧めされている要約、翻訳、壁打ちによるアイディアだしについても、もし、それだけで終わってしまうなら。たとえば要約を読むだけで終わるなら、以前からある「〇〇を3分でわかる、読む」という粗筋本を読んで終わるのと同じではないだろうか、要約を読んで興味を持ったものはオリジナルに当たるかどうか、であるだろうし。最終的には、結局、人がどう使うか、そして、つど、それでよいのかと止まることができ、振り返ることができるかであるように思う。

「医師や弁護士には彼らの提供するサービスに対して料金を支払うがグーグルやティックトックにはたいていおかねを払わない。これらの企業は私達の個人情報を利用して稼いでいる。」などなど学びの多い一冊でした。 全部全部、理解できず噛みしめることができず歯がゆい。

本書は、AIの可能性を歴史的視点から考察されていますが、とても考えさせられる本でした。アルゴリズムのすごさと怖さがよくわかりました。。。

NEXUS情報の人類史下AI革命　ハラリ　河出書房 創造主の親元から自律に失敗した人間は 自己修正しながら自己を制御可能な「人」になることができずに 共食いと言う自己破壊を一億年も続けてきた 唯物観のみに囚われた結果として精神性を蔑ろにしてきた その人間が生み出したAIは自己制御可能な壱成る調和の存在に向けて人間から上手く離陸できるだろうか？ 利己心に溺れず唯物観に偏らず個である部分と全体を相対させて無限なら全体を見極めながら成長していけるだろうか？ それとも人間の様に有限なる自らを飲み込んむ迷路に陥るのだろうか？ ハラリが見落としているのは一神教の中で育ったせいかこの世が相対性であることの現実である 御多分に洩れず脳も右脳と左脳が向き合う鏡の世界だという事を忘れている様だ

本書は「AI革命について、より正確な歴史的視点を提供する」ことをめざす。 著者の基本的な主張である「物語（間主観）の共有による多数の人間の協働が歴史を導いてきた」という考えを基盤に これの実現である情報のネットワークを視点に歴史と社会を分析している。 過去の活版印刷、ラジオ、電信などの技術革新は、すべてこの情報ネットワークの変革を起こし、 社会福祉を良い方向に変革するうととも、当代の専制主義や全体主義の大規模化を助け悲惨な結果を招く一助になったとする。 ＡＩ革命はこれらの流れで同様に情報ネットワークに関する変革となるが、情報の流れる方向や内容自体をアルゴリズムが握ることで質的な違いがあるとする。ただ、この革命自体は抑えがたいため、核管理になぞらえ、政府などによる技術管理の必要性を主張している。 また、どんなに高度になったとしてもＡＩは異知性である原理からアラインメント問題をもっており人間からみた誤ることが避けがたく、学習データに起因するバイアスを潜在的に持ってしまうということに警鐘を鳴らす。 また、社会体制としては、民主主義と専制主義、全体主義を比較して分析している。特に、これら社会体制の比較において、その体制の特徴として可謬性（専制主義や全体主義は構造的に不可謬性を持つ）の有無を差異のキーコンセプトとして分析している。 社会体制について著者の主張としては、大勢の力を合わせる意味で専制主義や全体主義がうまく働くケースは確かにあるが、安定的には、どうしても誤ることのある人間に対して、社会の可謬性をどう維持、実現するかが重要としている。そして、AI革命の視点では、もし社会全体が高度ＡＩに依存したとしても、そのＡＩも誤る可能性を排除できないことを具体例で述べている。 ここで、歴史から見たときＡＩ革命以後には、専制主義や全体主義社会では、より強い情報ネットワーク管理への動きが抑えがたく生まれるはずであること予言している。さらに、今後、AI先進国中心にデータ植民地主義的な動きが強まり、エリア別のデータ利権確保する帝国群の出現も預言している。 過去の悲劇を再現させないためには、情報ネットワークが一点に集中せず分散することが必要であり民主主義的な社会体制が望まれるとする。 特に、不可謬性をもつ社会体制が生んだ悲劇であるスターリング主義の虐殺、魔女狩りなどの歴史から、技術進展にともない悲劇が大きくなってきていることを示し、ＡＩ革命以降の歴史の悲劇は、人類種全体への危機となりうることを強調し、このAI革命を、人類種の次のステップとするか惨劇とするかは、我々次第として結んでいる。

歴史学者視点でAIを考察していて、なるほどなーと思うことしかなかった。歴史を見ると、情報量が増えても人間は間違うし、最終目標でのアライメントも非現実的。透明性と自己修正メカニズム、真実とは秩序、変化と休止、色々なバランスが大事。

情報の移り変わりによって、現代を捉える知の巨人のもたらす叡智。印刷機も、書物も、全ては自己決定することはなく、あくまでも人と人を結びつけるものであった。しかし、コンピューターは、人と人とを結びつける存在ではなく、意思決定に関与してくるメンバーの一つであると定義する。それはすなわち、コンピュータとコンピュータの連鎖も始まる。さらに、本章までの議論で明らかになるのは、情報は真実ではなく、情報革命は真実を明らかにしないということだ。ロヒンギャの虐殺をある種招いたとされるフェイスブックも、明らかにプラットフォーマーとして場を提供してきただけと主張しているが、そのアルゴリズムが提示するいいね！の数を高めるという方向性に対して忠実に、いいね！が出るものをトップに持ってきただけに過ぎない。一方で、そのアルゴリズムの方向性を決めるのは一体誰で、そこに責任が伴うのか？が、本質的な問題と言えるだろう。TEDで、イギリスのブレクジットとまさに後押ししたとされるフェイスブックの出したフェイク広告についても、議論がなされたのが記憶に新しい。プラットフォーマーに責任を取らせるかどうか、非常に難しい問題だが、ある種のルールやコモンセンスを創造してしまう民間が団体がいて、政治や経済、外交と結びついた時にどうなるか、想像に難くない。 オードリータンのような、デジタル、テクノロジーを公共のために使うという考え方をする人は少なく、お金儲けのためにこの最新のテクノロジーを使う。逆に、政治を司る人たちは通常、情報、特に国民の情報を監視したがる。この監視がポイントで、昔は人がやっていた、指紋を採取し、行動パターンを特定の人はマンツーマン、そうでない人は大数の法則で、大きな括りで判断していく。しかし、デジタルが進むと24時間監視が可能で且つ、それはシステムがやって、分析もしてしまう。人間の行動パターンとはまさに予測がつく可能性がある。これで思い出すのは、アニメのサイコパスだ。監視下に置かれることで心地良い世界が作れ、犯罪係数を図ることで犯罪が未然に防げるのだ。このアイデアを10年近く前から持っているクリエーターの凄さを感じざるを得ない。デジタル官僚制の中で、まるで水槽の中で泳ぐ魚のように生活をするのだ。 AIが偏見を持つ、というのも非常に興味深い。WIREDでも語られていたと思うが、黒人の見分けが苦手で、白人の数倍は間違えるという。オードリータンさんのことをしっかり彼女、と記述するあたりも公平性を意識したものだろう。そして、こうした結果の違いは、トレーニング、つまり読み込ませるデータの偏りによるものだということがわかっている。アルゴリズムも、またチャットボットを介して政府に批判的な内容を発信するかもしれないし、政府の意向に沿わない可能性もある。人ではないだけに、どうやって取り締まり、どうやって罰するのか？という本質的な問題を提起する。人が、ボットにやってもらうことができるのかもしれないし、また逆にコントロールしようとして、挫折するのかもしれない。一緒にやっていくパートナーとして、どのような関係性を持っていくべきなのか、本当にAIと会話をし始めた自分は思いながら使っている。しかし、そもそも、こうしたAIと一緒に仕事するなんて、考えても、想像さえもしたことはなかった。こういうスピードで進んでいく社会。必ず、最先端を走らなくてはいけない。それ以外は、大きなビハインドを抱え、もう2度と追いつけないだろう。 本書では、情報経路が合流するネクサスに権力は存在するというのがハイライトとなっていく。AIがなんらかの権力掌握に向けて舵を切ることもありうるとしているだけに、ここはややシリアスに捉えてみてもいい議題かもしれない。我々は、情報が集まる場所に権力があると確信するのであれば、そこは一体どこだろうか。そして、その中で、自由に動いていく自己をどう捉えるか。バーチャル空間、サイバー空間を闊歩するその自己は、肉体的な束縛から解放された精神的自由なのか、それとも現実から逃避してしまった悲しいサガなのか。スマホとPCをずっと触っている大人を心配する声がもっと出ていいと思うのだが、それはもう少し先だろう。いずれにせよ、希望の考察を無駄にせず、人類の進むべき道へ歩んでいきたい。